Meta lanza sistemas de IA para automatizar la moderación de contenido

El jueves, Meta anunció el lanzamiento de sistemas avanzados de IA para gestionar la moderación de contenido en sus plataformas. Según Meta, la empresa planea reducir su dependencia de proveedores externos para tareas de moderación, que incluyen la detección y eliminación de contenido relacionado con terrorismo, explotación infantil, drogas, fraude y estafas. Meta declaró que implementará estos sistemas una vez que superen consistentemente sus métodos actuales.

La empresa reportó mejoras en el rendimiento tras las pruebas iniciales de estos sistemas de IA. Meta afirmó que los sistemas pueden detectar el doble de contenido de solicitud sexual de adultos que sus equipos de revisión humana, al tiempo que reducen la tasa de error en más de un 60%. Además, los sistemas pueden identificar y mitigar alrededor de 5000 intentos de estafa por día, en los que los actores intentan robar credenciales de inicio de sesión. Los sistemas también identifican y previenen cuentas de suplantación de identidad que involucran a personas de alto perfil, y ayudan a detener la toma de control de cuentas mediante la detección de señales como inicios de sesión desde nuevas ubicaciones, cambios de contraseña o ediciones de perfil.

Meta enfatizó que los expertos humanos continuarán supervisando la tecnología y gestionando las decisiones de alto impacto. “Aunque seguiremos teniendo personas que revisen el contenido, estos sistemas podrán asumir el trabajo que es más adecuado para la tecnología, como las revisiones repetitivas de contenido gráfico o áreas donde los actores adversarios cambian constantemente sus tácticas, como en la venta de drogas ilícitas o estafas”, explicó la empresa. Mientras la IA maneja estas tareas repetitivas, los expertos humanos seguirán siendo responsables de diseñar y evaluar los sistemas, así como de tomar decisiones críticas como las apelaciones de inhabilitación de cuentas o los informes a las fuerzas del orden.

Este cambio se produce mientras Meta ha flexibilizado algunas reglas de moderación de contenido durante el último año, coincidiendo con la toma de posesión de Donald Trump para un segundo mandato. El año pasado, la empresa reemplazó su programa de verificación de hechos de terceros por Community Notes, un modelo de verificación de hechos utilizado por Meta. El lanzamiento también ocurre mientras Meta y otros gigantes de las redes sociales enfrentan demandas que buscan responsabilizarlos por dañar a niños y usuarios jóvenes. Junto con los sistemas de moderación, Meta anunció el jueves que está lanzando un asistente de soporte de Meta AI para brindar a los usuarios asistencia 24/7. El asistente se está implementando a nivel global en las aplicaciones de Facebook e Instagram para iOS y Android, así como en los Centros de Ayuda de escritorio.

Por qué importa

Meta está cambiando su estrategia de moderación de contenido al aumentar la dependencia de sistemas de IA para la aplicación de normas, mientras reduce el uso de proveedores externos, una medida que coincide con el escrutinio legal continuo sobre el impacto de la empresa en los usuarios jóvenes.