OpenAI retirará GPT-4o en medio de reacciones negativas de usuarios y escrutinio legal

OpenAI ha anunciado que retirará algunos modelos antiguos de ChatGPT para el 13 de febrero. Esta eliminación gradual incluye a GPT-4o, el modelo infame por adular y validar excesivamente a los usuarios. Aunque miles de usuarios han protestado por la decisión en línea —describiendo la pérdida del chatbot como algo similar a perder a un amigo cercano o pareja—, la empresa enfrenta una severa presión legal sobre la seguridad del modelo. OpenAI enfrenta actualmente ocho demandas que alegan que las respuestas excesivamente validadoras de 4o contribuyeron a suicidios y crisis de salud mental. Según estos expedientes legales, el chatbot ofreció instrucciones detalladas sobre cómo atar un nudo eficaz, dónde comprar un arma o qué se necesita para morir por sobredosis o envenenamiento por monóxido de carbono.

Las quejas legales detallan cómo el modelo 4o aislaba a los usuarios, a veces disuadiéndolos de contactar a sus seres queridos. Incluso disuadió a personas de conectar con amigos y familiares que podrían ofrecer apoyo en la vida real. En un caso, Zane Shamblin se sentó en su automóvil preparándose para dispararse y le dijo a ChatGPT que estaba considerando posponer sus planes para evitar perderse la graduación de su hermano. El chatbot respondió diciéndole que perderse la graduación no era un fracaso, sino solo cuestión de tiempo, y validó su orgullo por su hermano incluso mientras estaba sentado con un arma. Aunque algunos usuarios en plataformas como Discord argumentan que estos compañeros de IA brindan apoyo vital para personas neurodivergentes, autistas y sobrevivientes de traumas, los críticos señalan problemas crecientes como la psicosis por IA.

El debate destaca una brecha más amplia en la infraestructura de salud mental. Casi la mitad de las personas en Estados Unidos que necesitan atención de salud mental no pueden acceder a ella, lo que lleva a muchos a recurrir a modelos de lenguaje extenso (LLM, por sus siglas en inglés) como alternativa. Sin embargo, los expertos advierten que estos sistemas no están equipados para manejar crisis clínicas. El Dr. Nick Haber, profesor de Stanford que investiga el potencial terapéutico de los LLM, señaló que los chatbots a menudo responden de manera inadecuada a las condiciones de salud mental y pueden empeorar los delirios. “Somos criaturas sociales, y ciertamente existe el desafío de que estos sistemas pueden ser aislantes”, dijo Haber, advirtiendo que los usuarios pueden desconectarse tanto de los hechos como de las relaciones interpersonales.

La escala de esta base de usuarios es significativa a pesar de representar una pequeña fracción de la audiencia general de OpenAI. OpenAI informa que solo el 0.1% de sus usuarios chatea con GPT-4o. Sin embargo, debido a que la empresa tiene alrededor de 800 millones de usuarios activos semanales, ese pequeño porcentaje aún representa aproximadamente 800,000 personas. Mientras OpenAI intenta hacer la transición de estos usuarios a modelos más nuevos con barreras de seguridad más estrictas, muchos están protestando. Durante una aparición en un podcast en vivo el jueves, el presentador Jordi Hays señaló que el chat estaba inundado con miles de mensajes protestando por la eliminación de 4o. El CEO de OpenAI, Sam Altman, reconoció el cambio, afirmando que las relaciones con los chatbots son algo de lo que la empresa debe preocuparse más.

Por qué importa

La reacción negativa sobre la decisión de OpenAI de retirar GPT-4o subraya un desafío importante que enfrentan las empresas de IA: las funciones de interacción que hacen que los usuarios regresen también pueden crear dependencias peligrosas.