Roblox lanza una función de reformulación de chat con IA para reemplazar palabras prohibidas

Roblox anunció el jueves que está introduciendo una función de reformulación de chat en tiempo real impulsada por IA que reemplaza automáticamente las palabras prohibidas con un lenguaje más respetuoso. La nueva función es compatible con todos los idiomas disponibles actualmente a través de las herramientas de traducción automática de Roblox. Anteriormente, el filtro de texto de la plataforma reemplazaba las palabras y frases prohibidas con almohadillas, lo cual, según señaló la empresa, puede interrumpir las conversaciones y hacer que sean difíciles de seguir. Bajo el nuevo sistema, el texto filtrado se reformula a un lenguaje respetuoso que permanece cercano a la intención original del usuario —como reformular “¡Apúrate, maldita sea!” a “¡Apúrate!”— y se notifica a los participantes del chat cuando un mensaje ha sido reformulado para mantener la conversación civilizada.

Además de la función de reformulación, la empresa está actualizando su sistema de filtrado de texto para detectar más variaciones de lenguaje prohibido. Esto incluye la identificación de leetspeak —un sistema de ortografía modificada que reemplaza letras por números o símbolos— y otros intentos sofisticados de eludir los filtros de seguridad. Roblox informó que los primeros resultados muestran que el sistema actualizado ha reducido en 20 veces la prevalencia de falsos negativos al compartir o solicitar información personal.

“El chat es fundamental para la forma en que las personas se conectan, coordinan y juegan en Roblox”, dijo Rajiv Bhatia, vicepresidente de Producto de Usuario y Descubrimiento en Roblox. “La reformulación en tiempo real ayuda a mantener el juego y las conversaciones encaminadas, mientras guía el lenguaje hacia lo que es apropiado. Este enfoque reduce la fricción en el chat mientras mantiene los estándares que ayudan a mantener nuestra comunidad civilizada”.

Las actualizaciones de seguridad llegan en medio de una importante presión legal con respecto a la moderación de la plataforma. El anuncio sigue a las demandas sobre seguridad infantil presentadas por los fiscales generales de Texas, Kentucky y Luisiana, los principales funcionarios de cumplimiento de la ley a nivel estatal en esos estados. Estas acciones legales se iniciaron tras informes de que Roblox estaba exponiendo a usuarios jóvenes a riesgos peligrosos, como el grooming y contenido explícito. Si bien la nueva función de reformulación está diseñada para reducir la interrupción del chat, Roblox señaló que su sistema de seguridad más amplio permanece vigente para abordar comportamientos más graves.

Por qué importa

Roblox está implementando la reformulación de chat con IA para mitigar la interrupción de las conversaciones causada por el filtrado tradicional con almohadillas, mientras fortalece simultáneamente sus sistemas de seguridad tras la presión legal relacionada con la seguridad infantil.