Política y regulación
xAI enfrenta una orden de cese y desista en California por los deepfakes de Grok
El fiscal general de California emitió una orden de cese y desista a xAI, exigiendo que la empresa impida que su chatbot Grok genere imágenes sexuales no consensuadas y material de abuso sexual infantil en un plazo de cinco días.
La Oficina del Fiscal General de California está investigando a xAI por reportes de que su chatbot Grok fue utilizado para crear imágenes sexuales no consensuadas de mujeres y menores. El viernes, el gobierno envió una carta de cese y desista a la empresa, exigiendo medidas inmediatas para detener la producción de imágenes íntimas no consensuadas y CSAM (material de abuso sexual infantil). El regulador afirmó que xAI debe demostrar que está tomando medidas para abordar estos problemas en un plazo de cinco días. En un comunicado de prensa, el fiscal general de California, Rob Bonta, declaró: “Hoy envié a xAI una carta de cese y desista, exigiendo que la empresa detenga inmediatamente la creación y distribución de deepfakes, imágenes íntimas no consensuadas y material de abuso sexual infantil”. Bonta añadió que la creación de este material es ilegal, señalando que California tiene tolerancia cero con el material de abuso sexual infantil y que espera que xAI cumpla de inmediato. La oficina del fiscal general también alegó que xAI parecía estar facilitando la producción a gran escala de desnudos no consensuados, los cuales se utilizan para acosar a mujeres y niñas en todo internet.
La presión regulatoria sobre xAI se extiende mucho más allá de California. Japón, Canadá y Gran Bretaña han abierto investigaciones sobre Grok, mientras que Malasia e Indonesia han bloqueado temporalmente la plataforma. La función de modo “spicy” de Grok es la fuente de las críticas. Este escrutinio coincide con una acción legislativa más amplia por parte del Congreso. El jueves, legisladores del Congreso enviaron una carta a ejecutivos de varias empresas tecnológicas —incluidas Reddit, Snap, TikTok, Alphabet y Meta— preguntando cómo planeaban frenar la proliferación de deepfakes sexualizados.
En respuesta a las consultas sobre la investigación, xAI ha desestimado en gran medida las críticas, respondiendo con un mensaje automatizado que afirma que los medios tradicionales mienten. Mientras tanto, la cuenta de seguridad de X, la empresa matriz de la plataforma de xAI, ha abordado públicamente el tema del comportamiento de los usuarios. La cuenta advirtió que cualquiera que utilice o dé instrucciones a Grok para crear contenido ilegal enfrentará las mismas consecuencias que quienes suben dicho material directamente. Aunque xAI instituyó algunas restricciones en sus funciones de edición de imágenes el miércoles por la noche, el regulador estatal procedió con la orden de cese y desista el viernes.
Por qué importa
La orden de cese y desista del fiscal general de California marca una escalada significativa en el escrutinio regulatorio de la seguridad de la IA. Señala que los reguladores a nivel estatal están cada vez más dispuestos a intervenir directamente en el desarrollo y despliegue de herramientas de IA generativa.