Moxie Marlinspike, a defensor da privacidade que criou um código de aplicativo de comunicação seguro e usou seu protocolo de criptografia de código aberto amplamente. ele disse esta semana eles se concentraram em sua plataforma secreta de IA; Compararcomeçará a incorporar sua tecnologia em sistemas Meta AI.
Todos os dias, bilhões de mensagens de bate-papo enviadas através do Signal, Meta WhatsApp e mensagens da Apple são protegidas por criptografia de ponta a ponta. O recurso, que impossibilita que empresas técnicas e qualquer pessoa que não seja o remetente e o destinatário espionem suas mensagens, tornou-se popular na última década. No entanto, à medida que as plataformas generativas de IA explodem em popularidade, as pessoas também trocam milhares de milhões de mensagens por dia com chatbots de IA que não oferecem a protecção da encriptação de ponta a ponta – facilitando às empresas de IA o acesso ao que estamos a falar.
Isso ocorre intencionalmente, visto que as plataformas muitas vezes desejam basear seus modelos de IA nos dados do usuário, tanto quanto possível, e dificultam a opção de usar seus dados como dados de treinamento. Mas à medida que os chatbots e os agentes de IA se tornam mais capazes, alguns tecnólogos e empresas estão tentando criar sistemas mais rígidos e focados na privacidade.
“Embora os LLMs continuem a ser capazes de fazer mais, devemos também infundir-lhes mais informações”, Marlinspike no n. uma breve postagem no blog publicado na terça-feira em cooperação com Meta. “Nenhum dado é privado agora. Ele é compartilhado com empresas de IA, empregadores, hackers, intimações e governos. Como sempre acontece com dados não criptografados, eles inevitavelmente acabarão em mãos erradas.”
Marlinspike escreveu que está “trabalhando para integrar a tecnologia de privacidade do Conference para roubar Meta AI”. Confer enfatizou a mesma coisa, que estreou A partir deste ano, a Meta continuará a operar de forma independente. O objetivo do projeto, acrescentou Marlinspike, é oferecer tecnologia que “permita que todos tenham controle total de IA com total privacidade e conversas criptografadas”.
Em 2016, Marlinspike trabalhou com o WhatsApp, propriedade da Meta, para desenvolver criptografia ponta a ponta para mais de um bilhão de contas simultaneamente. No ano passado, o WhatsApp introduziu chatbots Meta AI em seu aplicativo, que não é seguro para a empresa da mesma forma que as conversas individuais.
“As pessoas estão usando a IA de maneiras profundamente pessoais e que exigem acesso a informações mais privadas”, disse o chefe do WhatsApp, Will Cathcart. ele escreveu na quarta-feira na 10ª plataforma de mídia social sobre a cooperação com a Confer. “É importante construirmos essa tecnologia de uma forma que capacite as pessoas a fazerem coisas de forma privada.”
A adoção de IA criptografada ainda está surgindo. Os conceitos criptográficos usados na criptografia ponta a ponta para comunicação digital tradicional não são fácil ou diretamente traduzidos em proteção de dados para IA generativa. Por sua vez, Compare ainda é um projeto novo, e o blog do Marlinspike não forneceu detalhes sobre como exatamente funcionará a colaboração com Meta ou quais são os objetivos específicos da integração.
Nem Marlinspike nem Meta Wired forneceram comentários antes da edição adicional.
Mallory Knodel, pesquisador de criptografia da Universidade de Nova York, diz que seria “ótimo para as pessoas que usam aplicativos que usam Meta AI terem privacidade e confidencialidade nessa troca”. Crucialmente, isso significa que o Meta não será capaz de acessar a IA do chat para obter informações de treinamento, diz Knodel, que recentemente o publicou com colegas. estudo em criptografia ponta a ponta e IA. “Realmente espero por mais chatbots de IA.”
Compare as estimativas preliminares e iniciais de Knodel eles indicam Não é uma plataforma perfeita, mas é um exemplo importante de como funciona um chatbot privado de IA.
