Youtube amplía la caza de deepfakes a políticos y periodistas
La plataforma de vídeos de Google ha extendido su herramienta de detección de imágenes generadas por inteligencia artificial para proteger a figuras públicas de suplantaciones no autorizadas. Ahora, políticos, periodistas y funcionarios gubernamentales podrán verificar si su imagen se está utilizando en vídeos deepfake sin su consentimiento.
La medida, en pruebas piloto, busca combatir la desinformación
Inicialmente lanzada en octubre de 2024, la herramienta, similar a Content ID, ya protegía a creadores de contenido. Ahora, se amplía a un grupo de alto perfil. La iniciativa responde a la creciente preocupación por la manipulación de la información a través de vídeos falsos que pueden dañar la reputación y la credibilidad de individuos.
El sistema funciona identificando rostros en vídeos y comparándolos con los de las personas inscritas en el programa. Si se detecta una coincidencia, el afectado puede solicitar la eliminación del contenido, aunque YouTube, basándose en sus políticas de privacidad y protegiendo la libertad de expresión, reserva el derecho a no eliminar material que se considere parodia o sátira.
Para acceder al programa, los políticos y periodistas deben verificar su identidad mediante la presentación de un vídeo suyo y una identificación oficial. Esta información se utilizará únicamente para la verificación y no para entrenar modelos de IA.
La cifra habla por sí sola: la proliferación de deepfakes ha aumentado exponencialmente en los últimos meses, convirtiéndose en una amenaza real para la democracia y la confianza en los medios de comunicación. YouTube se enfrenta así a un desafío complejo: equilibrar la protección de los derechos individuales con el derecho a la libertad de expresión. La batalla contra la desinformación acaba de ganar un nuevo aliado.