Moxie Marlinspike, el defensor de la privacidad que creó la aplicación de comunicación segura Signal y su protocolo de cifrado de código abierto ampliamente utilizado, anunció esta semana que su plataforma de IA centrada en la privacidad, Confer, comenzará a incorporar su tecnología en los sistemas de Meta AI.
Cada día, miles de millones de mensajes de chat enviados a través de Signal, WhatsApp de Meta y Mensajes de Apple están protegidos por un cifrado de extremo a extremo. Esta función, que impide a las empresas tecnológicas y a cualquier otra persona que no sea el remitente y el destinatario husmear en los mensajes, se ha generalizado en la última década. Sin embargo, a medida que las plataformas de IA generativa ganan popularidad, la gente también intercambia miles de millones de mensajes al día con chatbots de IA que no ofrecen la protección del cifrado de extremo a extremo, lo que facilita a las empresas el acceso a lo que hablas.
Esto es así porque las plataformas a menudo quieren entrenar sus modelos de IA con la mayor cantidad posible de datos de los usuarios y han dificultado la opción de que tu información no se utilice como datos de entrenamiento. Pero a medida que los chatbots y los agentes de IA se han vuelto más capaces, algunos tecnólogos y empresas están presionando para crear sistemas más restringidos y centrados en la privacidad.
«A medida que los grandes modelos de lenguaje (LLM) continúan siendo capaces de hacer más, deberíamos esperar que fluyan aún más datos hacia ellos», escribió Marlinspike en una breve entrada de blog sobre su colaboración con Meta publicada el martes. Añadió: «Ahora mismo, ninguno de esos datos es privado. Se comparten con empresas de IA, sus empleados, hackers, citaciones y gobiernos». Como siempre ocurre con los datos sin cifrar, inevitablemente acabarán en las manos equivocadas».
Marlinspike escribió que «trabajará para integrar la tecnología de privacidad de Confer para que sea la base de Meta AI». También subrayó que Confer, que debutó a principios de este año, seguirá funcionando independientemente de Meta. El objetivo del proyecto, añadió Marlinspike, es ofrecer una tecnología que «permita a todo el mundo obtener toda la potencia de la IA junto con toda la privacidad de una conversación cifrada».
En 2016, Marlinspike trabajó con WhatsApp, que es propiedad de Meta, para desplegar el cifrado de extremo a extremo a más de mil millones de cuentas simultáneamente. En el último año, WhatsApp ha introducido un chatbot de IA de Meta en su app, que no está blindado para la compañía de la misma manera que los chats individuales.
«La gente utiliza la IA de un modo profundamente personal y requiere acceso a información confidencial. Es importante que construyamos esa tecnología de una manera que le dé a la gente el poder de hacerlo de forma privada«, escribió el miércoles Will Cathcart, director de WhatsApp, en la plataforma de la red social X sobre la colaboración con Confer.
El protocolo Signal de encriptación se volvió un estándar del sector, por eso te será útil comprender qué lo diferencia de otras formas de mensajería cifrada de extremo a extremo.
La adopción de la IA cifrada está aún en pañales
Los esquemas criptográficos utilizados en el cifrado de extremo a extremo para la comunicación digital tradicional no son fáciles o directamente trasladables a la protección de datos para la IA generativa. Por su parte, Confer sigue siendo un proyecto nuevo, y la entrada del blog de Marlinspike no ofrece detalles concretos sobre cómo funcionará exactamente la colaboración con Meta o cuáles son los objetivos específicos de la integración.
Ni Marlinspike ni Meta proporcionaron a WIRED comentarios adicionales antes de la publicación.