La Inteligencia Artificial ha llegado para quedarse en nuestras vidas. Es cierto que nos ahorra tiempo en ciertas tareas. Pero también hay ocasiones en que la IA puede utilizarse de forma malintencionada. Por eso nace SynthID.
Google SynthID es la solución que proponen para que el contenido por Inteligencia Artificial (IA) sea más transparente. Sin duda, es un trabajo costoso y difícil. Esto se debe a que los resultados generados por estas aplicaciones son cada vez más realistas. La idea de Google reside en crear un sistema que agregue marcas de agua digitales a las imágenes que hayan sido generadas por algoritmos propios de Inteligencia Artificial. Es un comienzo para acabar con el debate de qué ha sido creado con Inteligencia Artificial y qué no.
El eterno debate con la IA
Uno de los mayores problemas de la IA es que se usa de forma malintencionada. Puede hacer pasar por reales fotografías que nunca han existido comprometiendo a los protagonistas en cuestión. No sólo eso, si no que puede extenderse por internet y desinformar a la población. Es por eso que se van necesitando nuevas herramientas que ayuden a identificar qué es IA y qué no.
Cómo funciona Google SynthID
Google SynthID utiliza una especie de identificador que se incluye directamente en los píxeles de una imagen. Esto no es perceptible por los usuarios de internet pero, a través de un programa informático, es detectable para su identificación.
Esta herramienta utiliza un aprendizaje profundo para aplicarlo en las marcas de agua que incluye en las imágenes y en su identificación. La marca de agua se introduce en los píxeles de la supuesta imagen generada por IA.
En resumen, Google SynthID escanea la imagen en busca de la marca de agua digital e interpreta los resultados en base a tres niveles de confianza. Estos pueden variar entre que sea detectada (en el caso que se identifique que la creación resida en una IA), no detectada, si es una imagen real y fiel y, por último, posiblemente detectada. Este caso es el reservado para cuando la marca de agua no sabe con seguridad su procedencia.
Esta marca de agua tiene la peculiaridad que puede estar fija ante cualquier modificación. Ya sea aplicando filtros, cambio de colores o editarla con diferentes programas.
A pesar de eso, Google sabe que a SynthID le queda mucho camino por recorrer. Son conscientes que no es 100% eficaz. Ante una manipulación muy bien lograda o con los programas adecuados se pueda burlar este programa.
Google continúa persiguiendo el poder perfeccionar su nueva herramienta. Aun así, desde Google han explicado que esta técnica “no compromete la calidad de la imagen”.
Por eso, es importante señalar que tienen la intención de extenderse a otros campos. Para detectar la generación realizada por IA como audio, texto o vídeo.
Actualmente, Google SynthID todavía está en desarrollo y es por eso que han lanzado una versión beta destinada a un número reducido de cliente de Vertex.
