El Pentágono enfrenta escrutinio por el acceso de xAI a Grok

El lunes, la senadora Elizabeth Warren envió una carta al secretario de Defensa, Pete Hegseth, expresando su preocupación por la decisión del Pentágono (el Departamento de Defensa de EE. UU.) de otorgar a xAI (la empresa de IA de Elon Musk) acceso a redes clasificadas. En su carta, Warren planteó preocupaciones sobre el historial de seguridad de Grok, el modelo de IA desarrollado por xAI. La senadora Elizabeth Warren escribió: “Grok, el controvertido modelo de IA desarrollado por xAI, ha proporcionado resultados inquietantes a los usuarios, incluyendo darles ‘consejos sobre cómo cometer asesinatos y ataques terroristas’, generar contenido antisemita y crear material de abuso sexual infantil”. Warren argumentó que la aparente falta de salvaguardas adecuadas del modelo podría representar riesgos para la seguridad del personal militar de EE. UU. y la ciberseguridad. También cuestionó qué garantías o documentación ha proporcionado xAI al Departamento de Defensa con respecto a las salvaguardas de seguridad, las prácticas de manejo de datos o los controles de seguridad de Grok, y si el departamento evaluó dichas garantías antes de, según se informa, permitir que el modelo accediera a sistemas clasificados.

Esta controversia surge mientras el Departamento de Defensa navega por un complejo panorama de adquisiciones. El Pentágono calificó recientemente a Anthropic como un riesgo para la cadena de suministro después de que la empresa se negara a dar al ejército acceso sin restricciones a sus sistemas de IA. Tras esa disputa, el Departamento de Defensa firmó un acuerdo con OpenAI y xAI para utilizar sus sistemas de IA en redes clasificadas, según Axios.

Un alto funcionario del Pentágono confirmó que Grok fue incorporado para ser utilizado en un entorno clasificado, pero aún no está en uso. A pesar de esto, el portavoz principal del Pentágono, Sean Parnell, declaró que el departamento espera desplegar Grok en su plataforma oficial de IA, GenAI.mil (la plataforma empresarial segura del ejército para IA generativa), en un futuro muy cercano. Sin embargo, esta postura enfrenta presión externa. El mes pasado, una coalición de organizaciones sin fines de lucro instó al gobierno a suspender el despliegue de Grok en agencias federales. Además, se presentó una demanda colectiva contra xAI alegando que Grok generó contenido sexual a partir de imágenes reales de los demandantes cuando eran menores.

El debate sobre el acceso de xAI también coincide con preocupaciones sobre la seguridad de los datos. La semana pasada, un ex empleado del Departamento de Eficiencia Gubernamental (DOGE), según se informa, robó datos personales de estadounidenses de la Administración del Seguro Social.

Por qué importa

La integración de modelos de IA privados por parte del Pentágono en sistemas clasificados está generando fricción, a medida que legisladores y defensores de la seguridad cuestionan si estas empresas pueden cumplir con los estándares de seguridad de grado militar.