X restringe la generación de imágenes de Grok a suscriptores de pago

X, la plataforma de redes sociales anteriormente conocida como Twitter, ha restringido su función de generación de imágenes por IA a suscriptores de pago. La decisión, confirmada en respuestas a usuarios el viernes, sigue a las críticas generalizadas a nivel mundial sobre la creación de imágenes sexualizadas y desnudos de mujeres y niños. La herramienta, desarrollada por xAI, la empresa de inteligencia artificial de Elon Musk, también se había utilizado para generar una avalancha de imágenes sexualizadas no consensuadas de niños, actores, modelos y figuras prominentes. Bajo las nuevas restricciones, solo los suscriptores de pago en X pueden generar y editar imágenes en la plataforma. Inicialmente, la función de generación de imágenes estaba disponible para cualquier persona con límites diarios, lo que permitía a los usuarios subir fotos y pedir a la herramienta que las editara o generara versiones sexualizadas.

Aunque la nueva restricción se aplica a la plataforma X, la aplicación independiente Grok permanece sin cambios al momento de la publicación, permitiendo que cualquiera genere imágenes sin tener que pagar una suscripción. Tanto X como Musk han denunciado públicamente el uso de la herramienta para producir tales imágenes, escribiendo que la empresa se apegaría a sus políticas contra la publicación de contenido ilegal en la plataforma de redes sociales. «Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal», publicó Musk la semana pasada.

El cambio de política se produce en medio de una creciente presión regulatoria de múltiples jurisdicciones, incluyendo el Reino Unido, la Unión Europea y la India, que han denunciado públicamente a X y Grok por permitir tal uso de sus capacidades. El jueves, la Unión Europea pidió a xAI que conservara la documentación relacionada con el chatbot. Mientras tanto, el organismo de control de comunicaciones del Reino Unido confirmó que ha estado en contacto con xAI sobre el asunto. La semana pasada, el ministerio de comunicaciones de la India ordenó a X realizar cambios inmediatos para evitar que las funciones de generación de imágenes sean utilizadas indebidamente. El ministerio advirtió que la plataforma corre el riesgo de perder sus protecciones de puerto seguro —las disposiciones legales que protegen a las plataformas de la responsabilidad por el contenido generado por el usuario— en el país si no cumple.

Por qué importa

La medida destaca la creciente fricción entre los desarrolladores de IA y los reguladores en jurisdicciones como la Unión Europea, la India y el Reino Unido. Las plataformas enfrentan una presión creciente para frenar la creación de contenido sexualizado no consensuado o arriesgarse a perder las protecciones legales de puerto seguro que las blindan de la responsabilidad por lo que publican sus usuarios.