¿Cómo saber si una imagen, un video o un audio fue creado por una persona, generado con inteligencia artificial o editado después de grabarse? Google está ampliando sus herramientas para responder esa pregunta en Search, Gemini, Chrome, Pixel y Google Cloud.
SynthID ya marca contenido generado por IA
La compañía presentó hace tres años SynthID, una tecnología que inserta señales digitales imperceptibles en contenido creado con IA. Estas marcas no cambian la apariencia ni el sonido de los archivos, pero pueden ayudar a verificar su origen.
Según Google, SynthID ya se ha utilizado para marcar más de 100.000 millones de imágenes y videos, además de unos 60.000 años de audio. La tecnología está integrada en varios modelos y productos de generación de contenido de la empresa.
Google también utiliza C2PA Content Credentials, un estándar que registra cómo se creó y modificó un archivo, incluso cuando no intervino la inteligencia artificial. La idea es ofrecer un historial verificable del contenido, no solo una etiqueta que diga si fue generado por IA.
El papel de los teléfonos Pixel
El Pixel 10 fue el primer teléfono de Google en incluir Content Credentials directamente en la aplicación de cámara nativa. En las próximas semanas, esta función también llegará a los videos grabados con los Pixel 8, 9 y 10.
Esto permite documentar que una imagen o un video fue capturado por una cámara y no alterado desde el momento de la toma. En un entorno donde las imágenes sintéticas son cada vez más realistas, demostrar que un archivo es auténtico puede ser tan importante como identificar una edición hecha con IA.
La transparencia no consiste únicamente en detectar contenido artificial. También implica reconocer cuándo un archivo proviene de una cámara y conserva su origen.
La verificación llega a Search y Chrome
Google ya incorporó la verificación de SynthID para imágenes, videos y audios en la aplicación Gemini. La compañía afirma que esta función se ha utilizado 50 millones de veces en todo el mundo.
Ahora, la verificación de contenido generado por IA comienza a expandirse a Google Search y llegará a Chrome durante las próximas semanas. Los usuarios podrán analizar una imagen mediante herramientas como Lens, AI Mode o Circle to Search, además de Gemini en Chrome.
Bastará con hacer preguntas como “¿Esto fue creado con IA?” o “¿Esta imagen es generada por inteligencia artificial?”. La respuesta dependerá de las señales disponibles en el archivo y no debe interpretarse como una prueba absoluta cuando el contenido no tenga marcas verificables.
Google también está incorporando la comprobación de C2PA Content Credentials en Gemini. Esta opción permitirá saber si un archivo conserva su estado original desde la cámara, si fue modificado y qué herramientas participaron en esos cambios. La función llegará a Search y Chrome en los próximos meses.
Más empresas adoptan marcas de origen
El contenido digital suele pasar por varias plataformas antes de llegar a una persona. Por eso, una herramienta aislada tiene un alcance limitado. Google busca que sus sistemas funcionen con estándares compartidos y sean reconocidos en distintos servicios.
OpenAI, Kakao y ElevenLabs comenzarán a incorporar SynthID en una mayor cantidad de contenido generado por sus propios sistemas. Google también trabaja con NVIDIA para marcar videos creados con los modelos Cosmos y ha publicado parte de su tecnología de marcas de agua para texto.
La empresa participa además en el comité directivo de C2PA, una iniciativa que promueve estándares para registrar la procedencia de los archivos digitales. Meta, que también forma parte del comité, comenzará a etiquetar en Instagram contenido capturado directamente con cámaras y acompañado de Content Credentials.
Eso significa que las fotos y videos tomados de forma nativa con teléfonos Pixel podrían ser reconocidos y etiquetados como contenido capturado por una cámara cuando se compartan en Instagram.
Google Cloud ofrece detección para empresas
Google también anunció una nueva AI Content Detection API dentro de Gemini Enterprise Agent Platform, en Google Cloud. La herramienta permitirá a las organizaciones identificar contenido generado por modelos de Google y por otros sistemas populares.
Sus usos pueden incluir la clasificación automática de publicaciones, la moderación de contenido, la detección de posibles fraudes en seguros y la identificación de material sintético para procesos de verificación.
La API se lanza inicialmente con un grupo de socios de confianza. Google señala que seguirá ajustándola a partir de sus comentarios, algo importante en un área donde los métodos de generación cambian con rapidez.
Ver el origen será cada vez más importante
Las marcas de agua y las credenciales de contenido pueden facilitar la verificación, pero no eliminan todos los riesgos. Un archivo puede perder sus metadatos al ser descargado, comprimido o convertido, y no todo el contenido en internet incluirá señales de origen.
Aun así, estas herramientas apuntan a una necesidad concreta: tener más contexto antes de compartir una imagen, creer un video o tomar una decisión basada en información digital. La IA no solo está cambiando cómo se crea el contenido, también está obligando a mejorar la forma en que comprobamos su historia.
Google apuesta por combinar marcas invisibles, registros de procedencia, buscadores, navegadores y servicios empresariales. Para los usuarios, el resultado esperado es sencillo: más pistas para entender qué están viendo y menos dependencia de la intuición.
Fuente original
https://blog.google/innovation-and-ai/products/identifying-ai-generated-media-online