YouTube prueba la detección de deepfakes para políticos y periodistas

El martes, YouTube anunció la expansión de su tecnología de detección de similitud a un grupo piloto de funcionarios gubernamentales, candidatos políticos y periodistas. La herramienta permite a estas figuras públicas identificar contenido no autorizado generado por IA que los represente y solicitar su eliminación si consideran que infringe la política de la plataforma. Para usar la nueva herramienta, los evaluadores piloto elegibles deben primero probar su identidad subiendo una selfie y una identificación oficial. Este programa piloto sigue a un despliegue más amplio el año pasado para aproximadamente 4 millones de creadores en el YouTube Partner Program, el programa de monetización de la plataforma para creadores.

La función de detección de similitud funciona de manera similar a Content ID, el sistema de detección de derechos de autor existente de YouTube. En lugar de escanear audio o video con derechos de autor, esta tecnología escanea las cargas en busca de rostros simulados creados con inteligencia artificial. Estas herramientas de IA a veces se utilizan para intentar difundir desinformación y manipular la percepción de la realidad de las personas al aprovechar personajes creados mediante deepfakes de figuras notables para hacer que digan o hagan cosas que no hicieron en la vida real.

YouTube presenta el programa piloto como una medida de protección para el discurso público. Leslie Miller, vicepresidenta de Asuntos Gubernamentales y Políticas Públicas de YouTube, declaró: “Sabemos que los riesgos de la suplantación de identidad mediante IA son particularmente altos para aquellos en el espacio cívico. Pero aunque estamos proporcionando este nuevo escudo, también estamos siendo cuidadosos sobre cómo lo usamos”. Miller señaló que la expansión tiene como objetivo proteger la integridad de la conversación pública, aunque la plataforma evaluará cada solicitud de eliminación bajo sus pautas de privacidad para proteger la parodia y la crítica política. Más allá de las reglas de su plataforma, YouTube está abogando por estas protecciones a nivel federal, apoyando la ley NO FAKES Act en D.C., que es una legislación federal propuesta sobre la IA que regularía las recreaciones no autorizadas de la voz y la apariencia visual de un individuo.

Si bien la tecnología ha estado activa para los creadores, el volumen real de solicitudes de eliminación ha sido bajo. Amjad Hanif, vicepresidente de Productos para Creadores de YouTube, señaló que para muchos creadores, la herramienta simplemente proporciona conciencia de lo que se está creando, y la mayor parte del contenido resulta ser benigno o complementario para sus negocios. Hanif también señaló que, si bien hay mucho contenido producido con IA, esa distinción no siempre es material para el contenido en sí, como una caricatura generada con IA, lo que requiere juicio sobre si merece un descargo de responsabilidad visible. Mirando hacia el futuro, YouTube planea eventualmente dar a las personas la capacidad de evitar cargas de contenido infractor antes de que se publiquen, o posiblemente permitirles monetizar esos videos.

Por qué importa

YouTube está equilibrando la libre expresión con los riesgos de los deepfakes generados por IA al dar a las figuras públicas herramientas para gestionar su imagen, un movimiento que refleja su defensa legislativa más amplia a nivel federal.