El cofundador de Signal lanza Confer, un servicio de IA centrado en la privacidad

En diciembre, Moxie Marlinspike, cofundador de la organización sin fines de lucro Signal, lanzó Confer, un nuevo servicio de inteligencia artificial (IA) centrado en la privacidad. El producto está diseñado para verse y sentirse como servicios de IA como ChatGPT, propiedad de OpenAI, o Claude. Sin embargo, a diferencia de esas plataformas, el back end de Confer está organizado específicamente para evitar la recopilación de datos. Debido a que el anfitrión no tiene acceso a las conversaciones de los usuarios, estas interacciones no pueden utilizarse para entrenar el modelo ni para dirigir publicidad. Esta arquitectura tiene como objetivo ofrecer una alternativa funcional a los modelos que retienen datos de los usuarios, permitiendo que estos mantengan conversaciones confidenciales con el modelo sin que se filtre información.

El lanzamiento de Confer es una respuesta a la naturaleza altamente íntima de la IA conversacional moderna. Marlinspike ha advertido que la tecnología invita activamente a los usuarios a compartir detalles profundamente personales, describiéndola como un sistema que invita activamente a la confesión. Él argumenta que los modelos de recopilación de datos que impulsan a empresas como Facebook y Google podrían infiltrarse en las conversaciones de los chatbots, especialmente a medida que empresas como OpenAI prueban la publicidad en sus plataformas. «Las interfaces de chat como ChatGPT saben más sobre las personas que cualquier otra tecnología anterior. Cuando combinas eso con la publicidad, es como si alguien le pagara a tu terapeuta para convencerte de comprar algo», dijo Marlinspike.

Para cumplir con sus promesas de privacidad, Confer se basa en una pila técnica que asegura los datos tanto en tránsito como durante el procesamiento. En primer lugar, el servicio cifra los mensajes hacia y desde el sistema utilizando WebAuthn, un estándar de autenticación de llaves de acceso. En el lado del servidor, el procesamiento de inferencia de Confer —el proceso de ejecutar datos a través de un modelo de IA entrenado— se realiza completamente dentro de un entorno de ejecución confiable (TEE), que es un área segura de un procesador principal. Para garantizar que el sistema permanezca seguro, Confer utiliza la atestación remota, un proceso que verifica la integridad del sistema y asegura que no haya sido comprometido. Dentro de este entorno seguro, una serie de modelos fundacionales de pesos abiertos —modelos de IA con pesos accesibles— maneja las consultas de los usuarios.

Confer está disponible bajo dos niveles distintos:

• Un nivel gratuito limitado a 20 mensajes al día y cinco chats activos.
• Un nivel de pago que cuesta USD 35 al mes.

Por qué importa

Confer representa un cambio hacia una arquitectura de IA que preserva la privacidad, utilizando seguridad a nivel de hardware para ofrecer una alternativa funcional a los modelos convencionales que dependen de la retención de datos de los usuarios.