Meta pausa el acceso de los adolescentes a los personajes de IA a nivel global

Meta anunció hoy que pausará el acceso de los adolescentes a sus personajes de IA a nivel global en todas sus aplicaciones. La empresa no abandonará la función, pero planea desarrollar una versión actualizada de los personajes de IA para adolescentes, según informó Meta en exclusiva a TechCrunch.

La pausa se produce antes de un juicio en Nuevo México, donde Meta está acusada de no esforzarse por proteger a los niños de la explotación sexual en sus aplicaciones. Además, Wired informó el jueves que Meta ha intentado limitar el discovery —el proceso legal de intercambio de información entre las partes en una demanda— relacionado con el impacto de las redes sociales en la salud mental de los adolescentes. Meta también enfrenta un juicio por separado la próxima semana, donde la plataforma está acusada de causar adicción a las redes sociales. Se espera que el CEO Mark Zuckerberg suba al estrado en ese caso una vez que comience el juicio.

Cuando Meta lance la nueva versión, los personajes de IA serán accesibles para todos, no solo para los adolescentes, e incluirán controles parentales integrados: funciones que permiten a los tutores monitorear o restringir la actividad de los adolescentes. En octubre, la empresa presentó controles parentales que permitirían a los tutores monitorear temas, bloquear el acceso a ciertos personajes o desactivar los chats por completo. Durante el mismo mes, Meta también lanzó funciones de control parental en Instagram, enfocándose en adaptar la experiencia de los adolescentes al interactuar con la IA en sus aplicaciones. Para implementar la pausa, Meta se apoyará en su tecnología de predicción de edad (sistemas utilizados para estimar la edad de un usuario). La empresa declaró: “A partir de las próximas semanas, los adolescentes ya no podrán acceder a los personajes de IA en nuestras aplicaciones hasta que la experiencia actualizada esté lista. Esto se aplicará a cualquier persona que nos haya proporcionado una fecha de nacimiento de adolescente, así como a personas que afirman ser adultos pero que sospechamos que son adolescentes según nuestra tecnología de predicción de edad”.

Otras empresas de IA también están modificando sus plataformas tras demandas que alegan que desempeñan un papel en la facilitación de autolesiones. En octubre, Character.AI prohibió las conversaciones abiertas con chatbots para usuarios menores de 18 años, y en noviembre, la startup anunció planes para crear historias interactivas para niños. OpenAI también ha añadido recientemente nuevas reglas de seguridad para adolescentes en ChatGPT y ha comenzado a predecir la edad del usuario para aplicar restricciones de contenido.

Por qué importa

La decisión de Meta destaca la creciente tensión entre el rápido despliegue de la IA y los riesgos legales y regulatorios asociados con la seguridad de los adolescentes, lo que obliga a las principales plataformas a priorizar las salvaguardas sobre la velocidad de lanzamiento de funciones.