Google ha presentado una nueva herramienta llamada SynthID para ayudar a identificar imágenes generadas por inteligencia artificial (IA). La herramienta incrusta marcas de agua imperceptibles en las imágenes para señalarlas como sintéticas.
Sobre SynthID
SynthID es la respuesta de Google al creciente número de imágenes realistas generadas por IA. El objetivo principal es habilitar un uso responsable de la tecnología de generación de imágenes por IA.
En principio, la herramienta está disponible para clientes selectos de Google Cloud. Representa un paso hacia la identificación de contenido generado por IA.
Cómo funciona SynthID
La herramienta utiliza dos modelos de IA entrenados conjuntamente: uno para añadir las marcas de agua imperceptibles y otro para identificarlas.
SynthID se integra con Imagen, un nuevo modelo de texto a imagen. Google está probando la efectividad de SynthID con clientes selectos de Google Cloud.
Manteniendo la calidad visual
Estos modelos de IA se han optimizado para incrustar marcas de agua que se alineen con el contenido original de la imagen, manteniendo así la calidad visual mientras se permite la detección.
En pruebas internas, SynthID identificó con precisión imágenes generadas por IA incluso después de ediciones significativas, como recortes o cambios de color.
Niveles de confianza
SynthID ofrece tres niveles de confianza que indican la probabilidad de que una imagen contenga la marca de agua de SynthID.
Aunque Google no promete infalibilidad frente a manipulaciones extremas de la imagen, ofrece un enfoque técnico para utilizar contenido generado por IA de manera responsable.
Implicaciones para empresas y profesionales del marketing
La herramienta, aunque aún en su infancia, tiene varias implicaciones para las empresas y los profesionales del marketing.
- Mayor responsabilidad: Las marcas de agua imperceptibles ofrecen una forma de identificar el sistema de IA utilizado para crear la imagen.
- Nuevas consideraciones: Los profesionales del marketing deben considerar si y cómo identificar las imágenes generadas por IA que utilizan en sus campañas. Una atribución adecuada puede generar confianza entre los consumidores.
- Nuevas oportunidades: La tecnología de marcas de agua abre posibilidades creativas para generar imágenes por IA a escala manteniendo la atribución.
En resumen, SynthID podría remodelar la conversación en torno al uso responsable de la IA. Será una tecnología intrigante a seguir a medida que la carrera de la IA se intensifica.
Fuente: https://www.searchenginejournal.com/google-unveils-new-tool-to-detect-ai-generated-images/495082/