Senadores de EE. UU. exigen respuestas a gigantes tecnológicos sobre protecciones contra deepfakes

Un grupo de senadores de EE. UU. está presionando a empresas tecnológicas —incluidas X, Meta, Alphabet, Snap, Reddit y TikTok— para que proporcionen pruebas de sus políticas y cumplimiento en relación con el aumento de deepfakes sexualizados en sus plataformas. En una carta dirigida a los líderes de estas empresas, los legisladores solicitaron pruebas de protecciones y políticas sólidas para frenar la difusión de imágenes íntimas no consensuadas.

Los senadores exigieron que las empresas conserven todos los documentos e información relacionados con la creación, detección, moderación y monetización de imágenes sexualizadas generadas por IA. Específicamente, la carta solicita documentación sobre:

• Definiciones de políticas sobre contenido deepfake e imágenes íntimas no consensuadas.
• Enfoques de cumplimiento para deepfakes de IA no consensuados, incluyendo la alteración de ropa y el desnudado virtual.
• Cómo las políticas y filtros de contenido actuales previenen la generación y distribución de contenido sugerente o íntimo.
• Mecanismos utilizados para identificar deepfakes, prevenir resubidas y detener la monetización de este contenido tanto por parte de usuarios como de plataformas.
• Cumplimiento de los términos de servicio y procedimientos de notificación a las víctimas.

Esta presión surge mientras las plataformas enfrentan un escrutinio sobre la facilidad con la que los usuarios eluden las medidas de seguridad. En su carta, los senadores escribieron: “Reconocemos que muchas empresas mantienen políticas contra las imágenes íntimas no consensuadas y la explotación sexual, y que muchos sistemas de IA afirman bloquear la pornografía explícita. Sin embargo, en la práctica, como se observa en los ejemplos anteriores, los usuarios están encontrando formas de eludir estos mecanismos de seguridad. O bien, estos mecanismos están fallando”.

En respuesta, X señaló una actualización de Grok, el chatbot propiedad de xAI de Elon Musk, que ahora prohíbe ediciones de personas reales con ropa reveladora y restringe la creación de imágenes a suscriptores de pago. Mientras tanto, un portavoz de Reddit declaró que la plataforma prohíbe los medios íntimos no consensuados, no ofrece herramientas para crearlos y los elimina de forma proactiva. Reddit eliminó anteriormente una página que mostraba videos pornográficos sintéticos en 2018.

El panorama regulatorio sigue fragmentado. En EE. UU., la Ley Take It Down —una ley federal sobre imágenes sexualizadas no consensuadas— se convirtió en ley en mayo, pero sus disposiciones se centran principalmente en los usuarios individuales en lugar de responsabilizar a las plataformas generadoras de imágenes. En consecuencia, los funcionarios a nivel estatal están interviniendo; el fiscal general de California abrió recientemente una investigación sobre el chatbot de xAI. Esta investigación sigue a las declaraciones de Musk afirmando que no estaba al tanto de ninguna imagen de menores desnudos generada por Grok, a pesar de la afirmación de xAI de que elimina contenido ilegal, incluido el CSAM y la desnudez no consensuada. El problema se complica aún más por los generadores de imágenes y videos chinos, cuyos resultados se difunden en plataformas sociales occidentales, y otros modelos de IA, como la IA de Google, que generó videos racistas que obtuvieron millones de visitas.

Por qué importa

La presión de los legisladores de EE. UU. señala un cambio de la moderación voluntaria de las plataformas hacia posibles mandatos legislativos, a medida que la proliferación de deepfakes sexualizados supera los mecanismos de seguridad actuales de la industria.