Google abre su detector SynthID a todo el mundo y OpenAI marcará con «huella invisible» el texto de ChatGPT en la UE

Un portal abierto para verificar imágenes, video y audio

Google dio acceso global al portal SynthID Detector (synthid.com), que durante más de un año estuvo disponible solo para un grupo reducido de probadores. La página permite subir una imagen, un video o un audio y comprobar si fue creado o editado con IA. Según Android Authority, también señala qué zonas del archivo contienen la marca.

SynthID funciona mediante marcas de agua invisibles: señales incorporadas en los píxeles de las imágenes y videos, o en la onda sonora del audio, que una persona no percibe pero que un software puede leer. La herramienta ya no se limita a los modelos de Google: también reconoce las marcas de OpenAI, Nvidia y la surcoreana Kakao, y Google dijo que la de Apple llegará pronto. Para usarla se requiere iniciar sesión con una cuenta de Google, Apple u OpenAI.

Google reportó que Gemini ha incorporado SynthID en más de 180.000 millones de imágenes y videos, y que el medio también recogió un límite diario de unas diez verificaciones por usuario, dato que no figura en el reporte de Android Authority.

Una huella estadística en el texto

OpenAI anunció que en las próximas semanas añadirá una marca de agua invisible al texto y al código de ChatGPT y Codex para usuarios elegibles de la Unión Europea. La tecnología, llamada textGrain, no altera visiblemente lo escrito: introduce una señal estadística en la forma en que el modelo elige las palabras, que un detector puede buscar después.

La compañía vincula la medida con el artículo 50 de la Ley de IA de la Unión Europea, que exige que el contenido generado sea identificable por máquinas. Según The Next Web, los proveedores que ya operan en el mercado tienen plazo hasta el 2 de diciembre para cumplir; otros medios consultados no mencionan esa fecha. Fuera de la UE la marca no será la opción por defecto, aunque los clientes de la API en cualquier país pueden activarla en modelos seleccionados. El detector, por ahora, solo estará disponible para investigadores y organizaciones expertas aprobadas.

Lo que la tecnología no puede hacer

OpenAI publicó un informe técnico, elaborado con investigadores de la Universidad de Pensilvania y de Yale, con cifras de su propia evaluación. Con un objetivo de 1% de falsos positivos, la detección ronda el 80% en pasajes de 200 tokens (fragmentos de palabras que procesa el modelo) y el 95% en pasajes de 400 tokens. Sin embargo, si se reemplaza el 10% de las palabras por sinónimos, la detección cae del 92% al 66%, y si se sustituye una cuarta parte, baja al 17%. El rendimiento es menor en textos de matemáticas, donde hay menos libertad para elegir palabras.

La empresa también advirtió que la marca no identifica al usuario, no mide cuánto aportó una persona al texto ni garantiza que el contenido sea correcto. Además, la ausencia de marca no demuestra autoría humana: el texto puede ser corto, estar editado o traducido, o proceder de otro proveedor. OpenAI describió estas técnicas como «tecnologías incipientes con limitaciones significativas».

Los expertos señalan que un resultado negativo en SynthID tampoco prueba que un contenido sea auténtico, pues algunos modelos, como los de Meta, usan otros sistemas de etiquetado y los modelos de código abierto pueden no incluir marca alguna. Como complemento mencionan las firmas criptográficas C2PA, aplicadas en el momento de la captura en dispositivos como los teléfonos Pixel.

Contexto para los usuarios en Colombia

Las herramientas de Google y las opciones de la API de OpenAI pueden usarse desde Colombia, mientras que la marca automática de texto de ChatGPT se aplicará inicialmente solo a usuarios europeos. Según The Next Web, Anthropic marca desde agosto el texto de Claude en todo el mundo, con algunas excepciones.

Preguntas y respuestas de contexto

¿Qué herramientas están lanzando Google y OpenAI para identificar contenido generado por IA?

Google ha abierto globalmente su portal SynthID Detector para verificar imágenes, videos y audio, mientras que OpenAI implementará una "huella invisible" (textGrain) en el texto de ChatGPT y Codex, inicialmente para usuarios en la UE.

¿Cómo funcionan estas tecnologías para detectar el contenido de IA?

SynthID de Google utiliza marcas de agua invisibles incrustadas en los píxeles o en la onda sonora, mientras que textGrain de OpenAI introduce una señal estadística en la forma en que el modelo elige las palabras, sin alterar visiblemente el texto.

¿Cuáles son las limitaciones de estas herramientas de detección de IA?

Ambas empresas reconocen límites técnicos importantes; la detección de OpenAI disminuye si el texto es editado, y la ausencia de marca no garantiza autoría humana. Además, SynthID no prueba la autenticidad si el resultado es negativo y no todos los modelos de IA incluyen marcas.