Google rolls out improved SynthID AI content detector, now available globally
Google ha anunciado la disponibilidad global de su mejorado detector de contenido AI, SynthID, que ahora es capaz de identificar marcas de agua de todos sus socios. Este avance permite a los usuarios verificar si un contenido ha sido generado o editado por inteligencia artificial a través de un nuevo sitio web dedicado, SynthID.com.
El sistema SynthID es una señal invisible codificada en los píxeles de imágenes y videos generados por IA, así como en las ondas de audio. Según Google, solo el modelo Gemini ha integrado SynthID en más de 180 mil millones de imágenes y videos, además de 240,000 años de audio. Anteriormente, la verificación de SynthID era un proceso complicado, ya que solo estaba disponible para los probadores de confianza de Google y requería interactuar con el modelo Gemini.
Con el nuevo sitio web, los usuarios pueden verificar directamente cualquier contenido para detectar la presencia de una marca de agua AI, sin depender de Gemini. Esta nueva versión del detector es compatible con las marcas de agua de todos los socios de SynthID, incluyendo OpenAI, Nvidia, Kakao y próximamente Apple. Esto permite a los usuarios verificar la participación de estos sistemas de IA en un solo lugar, en lugar de acceder a los detectores de cada uno por separado.
El uso del detector requiere iniciar sesión con cuentas de Google, OpenAI o Apple, y cada usuario tiene un límite diario de aproximadamente 10 verificaciones de imágenes, videos y audios. Esta restricción busca evitar que se desarrollen herramientas para eliminar SynthID.
Aunque la expansión del acceso a la detección de SynthID es positiva, no es una solución perfecta. Algunos proveedores de modelos utilizan tecnologías de marca de agua diferentes, como Meta, o no emplean marcas de agua en absoluto. Además, existen modelos de peso abierto que permiten a las personas generar contenido de IA sin incluir etiquetas de metadatos. Esto significa que hay mucho contenido de IA que no será identificado como tal por la herramienta SynthID.
Google reconoce que, a pesar de sus esfuerzos, alguien podría encontrar la manera de eliminar SynthID, haciendo que el contenido de IA existente parezca más legítimo. En este sentido, una alternativa podría ser el uso de tecnologías criptográficas como C2PA para etiquetar imágenes, videos y audios reales al momento de su creación. Mientras tanto, SynthID sigue siendo la mejor opción disponible para identificar falsificaciones de IA.