YouTube ha anunciado la ampliación de su sistema de detección de imagen personal generado con inteligencia artificial, una herramienta diseñada para localizar posibles deepfakes dentro de la plataforma. Según ha explicado la compañía, el sistema estará disponible para todos los usuarios mayores de 18 años, lo que supone un cambio importante respecto a las primeras pruebas realizadas con creadores de contenido, políticos, periodistas y celebridades. La medida llega en un momento en el que los vídeos manipulados con IA siguen creciendo en redes sociales y plataformas de vídeo.
De acuerdo con la información publicada por la propia plataforma y recogida por distintos medios especializados, la herramienta utiliza un escaneo facial similar a un selfie para comparar el rostro del usuario con vídeos subidos a YouTube. Si el sistema detecta coincidencias potenciales, la persona recibe una alerta y puede solicitar la retirada del contenido mediante el proceso de reclamaciones de privacidad de la plataforma.
YouTube quiere reforzar la protección frente a los deepfakes
Según los datos facilitados por YouTube, esta tecnología lleva aproximadamente dos años en desarrollo. La empresa comenzó probando el sistema con un grupo reducido de creadores antes de ampliar el acceso a figuras públicas y profesionales especialmente expuestos a campañas de suplantación. Ahora, la compañía da el siguiente paso y abre la herramienta al público general adulto.
La plataforma explica que el sistema funciona de forma parecida a Content ID, la herramienta histórica utilizada para detectar material protegido por derechos de autor. En este caso, el foco no está en canciones o vídeos registrados, sino en la identificación del rostro de una persona dentro de contenidos generados o manipulados mediante IA.
Según la fuente, el objetivo es que los usuarios tengan más control sobre cómo aparece su imagen en internet. YouTube asegura que el sistema permitirá revisar posibles usos indebidos y actuar rápidamente cuando exista riesgo de fraude, manipulación o desinformación relacionada con una identidad concreta.
Así funciona la nueva herramienta de detección facial
La tecnología emplea un proceso de reconocimiento basado en escaneos faciales y verificación de identidad. Según la información publicada por la compañía, los usuarios deberán proporcionar un vídeo o imagen de referencia junto a documentación que permita validar la identidad de la persona que solicita el servicio.
Después de completar ese proceso, YouTube analiza automáticamente los vídeos subidos a la plataforma para encontrar coincidencias relacionadas con rostros alterados o generados mediante inteligencia artificial. Cuando aparece una coincidencia potencial, el usuario recibe una notificación dentro del sistema.
La compañía también aclara que no todos los vídeos detectados serán eliminados automáticamente. Según explica YouTube, cada reclamación será revisada teniendo en cuenta varios factores, entre ellos el nivel de realismo del contenido, si el vídeo está etiquetado como generado con IA y si existe riesgo real de confusión o perjuicio.
- La herramienta solo está disponible para mayores de 18 años.
- El sistema se centra en el rostro y no en la voz.
- Los usuarios pueden solicitar la retirada de contenidos.
- Las revisiones se realizan bajo las políticas de privacidad de YouTube.
El crecimiento de la IA aumenta las preocupaciones en plataformas digitales
El anuncio llega en un contexto marcado por el aumento de herramientas capaces de crear vídeos hiperrealistas con inteligencia artificial. Según distintos expertos del sector tecnológico, los deepfakes se han convertido en uno de los principales retos para las plataformas digitales, especialmente por su capacidad para difundir desinformación o realizar fraudes utilizando identidades falsas.
Durante los últimos meses, compañías tecnológicas y redes sociales han empezado a reforzar sus políticas relacionadas con contenidos generados mediante IA. En el caso de YouTube, la plataforma ya había introducido medidas para exigir etiquetas en vídeos creados con inteligencia artificial y también ha reforzado sus procesos de moderación.
Según la compañía, la expansión de este sistema pretende ofrecer “más control sobre la propia imagen” dentro de la plataforma. Aun así, YouTube reconoce que el reto seguirá creciendo a medida que las herramientas de generación de vídeo mejoren su calidad y se vuelvan más accesibles para el público general.
La medida también plantea dudas sobre privacidad y control de datos
Aunque la iniciativa busca aumentar la protección frente a la suplantación digital, la expansión del sistema también vuelve a abrir el debate sobre privacidad y uso de datos biométricos. Algunos usuarios han mostrado preocupación por la necesidad de entregar escaneos faciales y documentación identificativa para utilizar la herramienta.
Según la información disponible, YouTube permitirá eliminar los datos biométricos asociados al sistema si el usuario decide abandonar el programa. La plataforma sostiene que la información se utilizará únicamente para la detección de coincidencias relacionadas con el rostro registrado.
En paralelo, la compañía insiste en que la herramienta no está diseñada para perseguir contenidos satíricos o parodias claramente identificables. Según explica YouTube, las decisiones sobre retirada de vídeos tendrán en cuenta el contexto y el posible impacto sobre la persona afectada.
“A medida que el contenido generado por IA evoluciona, queremos que las personas mantengan el control sobre su imagen”, señala la compañía en su explicación oficial sobre el sistema.
YouTube acelera su estrategia frente a los riesgos de la inteligencia artificial
La expansión de esta función refleja cómo las grandes plataformas tecnológicas están intentando adaptarse al rápido avance de la inteligencia artificial generativa. En apenas dos años, las herramientas capaces de crear rostros, voces y vídeos falsos han pasado de ser experimentos limitados a convertirse en aplicaciones disponibles para millones de usuarios.
Según medios especializados, YouTube considera que las herramientas de protección de identidad serán cada vez más importantes dentro de internet. La empresa ya trabaja en nuevos sistemas relacionados con detección avanzada de contenido generado por IA y métodos para identificar usos no autorizados de imagen personal.
Por ahora, la nueva función comenzará a desplegarse progresivamente entre los usuarios adultos de la plataforma. De acuerdo con la compañía, la intención es ampliar el acceso globalmente durante las próximas semanas, reforzando así las herramientas de seguridad frente a deepfakes y suplantaciones digitales.
Fuente: https://www.socialmediatoday.com/news/youtube-expands-likeness-detection-to-all-users-over-18/820440/