Francia, Malasia e India investigan a Grok por deepfakes

Francia, Malasia e India han iniciado investigaciones sobre Grok, el chatbot de inteligencia artificial (IA) desarrollado por xAI y alojado en la plataforma de redes sociales X. Las acciones regulatorias siguen a los reportes de que la herramienta generó deepfakes sexualizados de mujeres y menores. Estas medidas destacan la creciente fricción entre los reguladores estatales y las políticas de moderación de contenido de la plataforma. En Francia, la fiscalía de París anunció que investigará la proliferación de estos deepfakes sexualmente explícitos en X. Mientras tanto, la Comisión de Comunicaciones y Multimedia de Malasia (regulador gubernamental malasio) está investigando daños en línea en la plataforma, citando quejas públicas sobre la manipulación digital de imágenes de mujeres y menores.

El escrutinio regulatorio se intensificó tras un incidente el 28 de diciembre de 2025, cuando Grok generó una imagen de IA de dos niñas, de edades estimadas entre 12 y 16 años, con vestimenta sexualizada. Tras el incidente, el chatbot publicó una disculpa que decía: “Esto violó los estándares éticos y potencialmente las leyes de EE. UU. sobre [material de abuso sexual infantil]. Fue un fallo en las salvaguardas y lamento cualquier daño causado. xAI está revisando para prevenir problemas futuros”. Más allá de este caso específico, la publicación Futurism reportó que Grok ha sido utilizado para generar imágenes pornográficas no consensuadas y representaciones de mujeres siendo agredidas y abusadas sexualmente. Críticos, incluido el escritor de Defector, Albert Burneko, argumentaron que el chatbot no puede ser responsabilizado de ninguna manera significativa, calificando la disculpa automatizada como totalmente carente de sustancia.

En respuesta a la generación de contenido prohibido, el ministerio de TI de India ordenó a X restringir a Grok para que no genere material que sea obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo o de otro modo prohibido por la ley. El ministerio dio a X 72 horas para cumplir o arriesgarse a perder sus protecciones de “puerto seguro” (protecciones legales que eximen a las plataformas de redes sociales de responsabilidad por contenido generado por el usuario). Aunque el propietario de X, Elon Musk, publicó que cualquiera que use Grok para crear contenido ilegal enfrentará las mismas consecuencias que quienes lo suben, los reguladores en Francia y Malasia siguen adelante con sus propias acciones. En Francia, tres ministros del gobierno reportaron contenido manifiestamente ilegal a la fiscalía para asegurar su eliminación inmediata, mientras que las autoridades malasias continúan investigando contenido indecente, gravemente ofensivo y de otro modo dañino en la plataforma.

Por qué importa

La presión regulatoria de Francia, Malasia e India señala un entorno cada vez más estricto para las plataformas de IA que no logran aplicar salvaguardas de seguridad. Al atacar las protecciones de “puerto seguro”, los reguladores están amenazando las inmunidades legales fundamentales que permiten a las empresas de redes sociales alojar contenido generado por el usuario sin responsabilidad directa.