Indonesia y Malasia bloquean el acceso al chatbot Grok de xAI

Funcionarios de Indonesia y Malasia han bloqueado temporalmente el acceso a Grok, el chatbot desarrollado por xAI. Las decisiones representan las acciones regulatorias más agresivas tomadas por gobiernos hasta la fecha en respuesta a imágenes generadas por IA. El sábado, la ministra de Comunicaciones y Digital de Indonesia, Meutya Hafid, compartió una declaración explicando la postura del país. “El gobierno considera que la práctica de deepfakes sexuales no consensuados es una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”, dijo Hafid. Tras la decisión indonesia, el ministerio indonesio, según se informa, convocó a funcionarios de X para discutir el asunto. El gobierno de Malasia anunció una prohibición similar el domingo, según un informe de The New York Times.

Los bloqueos en Indonesia y Malasia son parte de una ola más amplia de presión regulatoria sobre el chatbot debido a sus resultados. En India, el ministerio de TI ordenó a X que tomara medidas para evitar que Grok generara contenido obsceno. Mientras tanto, la Comisión Europea ordenó a la empresa que conservara todos los documentos relacionados con Grok, sentando las bases para un posible escrutinio regulatorio. En el Reino Unido, Ofcom (regulador de comunicaciones del Reino Unido) declaró que llevará a cabo una evaluación rápida para determinar si existen posibles problemas de cumplimiento que justifiquen una investigación. El primer ministro del Reino Unido, Keir Starmer, expresó su pleno apoyo para que el regulador tome medidas.

En Estados Unidos, la respuesta política ha estado dividida. La administración Trump parece estar guardando silencio sobre el asunto. Sin embargo, senadores demócratas han pedido a Apple y Google que eliminen X de sus respectivas tiendas de aplicaciones. En respuesta a la controversia, xAI publicó inicialmente una disculpa en la cuenta de Grok, reconociendo que una publicación violó los estándares éticos y potencialmente las leyes de Estados Unidos sobre material de abuso sexual infantil. Posteriormente, la empresa restringió la función de generación de imágenes por IA a los suscriptores de pago en X, aunque la restricción no parecía afectar a la aplicación independiente de Grok, que aún permitía a los usuarios generar imágenes. Al responder a una publicación que cuestionaba por qué el Reino Unido no estaba tomando medidas contra otras herramientas de generación de imágenes por IA, el CEO de xAI, Elon Musk, afirmó que los gobiernos quieren cualquier excusa para la censura.

Por qué importa

Los gobiernos están tomando medidas agresivas contra el chatbot Grok de xAI en respuesta a una avalancha de imágenes sexuales no consensuadas generadas por IA publicadas por el servicio.