No OpenAI DevDay deste ano, o CEO Sam Altman revelou o novo agente de IA da empresa, Dots, e disse ao público que a empresa queria “estabelecer um novo padrão de privacidade na vanguarda da IA”. A OpenAI passou o dia criticando implicitamente seu principal concorrente, Meta’s Muse, acusando-o de não manter os dados dos usuários seguros. No entanto, o próprio Muse foi lançado há alguns meses como uma alternativa mais segura ao seu antecessor OpenClaw – CEO Mark Zuckerberg promissor É “construído desde o início para privacidade e segurança”.
Numa era em que as empresas acumulam dados pessoais dos clientes e os ataques cibernéticos são comuns, os laboratórios de IA estão a tentar convencer os utilizadores a partilhar mais informações com os seus agentes. A sua mais recente estratégia vencedora é tornarem-se mais competitivos, prometendo que, ao contrário dos seus concorrentes, garantirão que os dados dos utilizadores estarão protegidos de olhares indiscretos. A questão é se as empresas conseguirão cumprir essas promessas.
Nat Friedman, Diretor de Produto, Meta Superintelligence Labs, escreveu Na empresa explicar Grande parte do esforço na construção do Muse estava relacionado ao “projeto e engenharia cuidadosos para uma operação mais segura”. A postagem no blog da Meta continua: “O Muse pode e ainda cometerá erros, mas graças aos nossos sistemas de segurança integrados, esperamos que eles sejam muito menos frequentes e causem muito menos danos”.
Mas embora o Muse tenha liderado as paradas da App Store e crescido em 600.000 usuários ativos diários nos EUA em questão de semanas, de acordo com a Apptopia, a promessa da Meta parecia não cumprida. Embora os dados estejam isolados de outros usuários, e plano da empresa Um método para “bloquear de forma criptográfica e verificável o Meta de acessar dados em uma máquina virtual” será introduzido ainda este ano, mas o próprio Meta ainda será capaz de acessar os dados. Um pesquisador de segurança logo expôs uma vulnerabilidade de dia zero que poderia ter permitido que alguém assumisse o controle do Muse (a vulnerabilidade já foi corrigida), levantando preocupações sobre ataques externos. Vários problemas sérios de segurança foram relatados no último momento antes do lançamentoum dos quais poderia permitir aos usuários acessar o próprio banco de dados interno do Meta, de acordo com mídia 404.
Muse também parece ser generoso na coleta (e, em alguns casos, na distribuição) de dados. Ele permite que o Meta treine modelos com base na entrada do usuário por padrão, mas você pode cancelar. um empresa Jornalistas reclamaram do upload do Muse e leia suas mensagens privadas O YouTuber disse que deu seu endereço para estranhos por meio do Marketplace sem que ele pedisse – em ambos os casos, o Muse aparentemente funcionou conforme o esperado, mas os usuários não perceberam até onde isso iria. plataforma criar “Detalhes de todos os seus amigos e familiares”, por exemplo. com fio dizia o relatório. Nada disso é necessariamente inesperado do Meta, mas certamente não apóia a ideia de que o Muse seja exclusivamente consciente da privacidade ou da segurança.
A OpenAI aproveitou esse fato e anunciou o Dots no final de setembro. O líder de produto Codex da OpenAI, Alexander Embiricos, disse no palco do DevDay que a OpenAI está focada em ter “o assistente mais confiável e seguro”, enquanto o CEO Sam Altman mostrou maneiras pelas quais as pessoas podem controlar seus pontos pessoais, como estabelecer uma regra que proíbe compras acima de um determinado valor. “Acho que estamos em uma posição diferente da Meta, pois eles não possuem um produto de IA com 1,2 bilhão de usuários”, disse Glen Coates, chefe da plataforma de aplicativos da OpenAI. “Tentamos evitar lançar produtos que cometam esse tipo de erro”, acrescentou.
O próprio Altman também levantou a questão da privacidade no DevDay. Para atrair clientes empresariais, os executivos propuseram uma estrutura que permitiria às empresas ter “um controlo mais forte” sobre os seus dados, com a opção de uma política de retenção zero de dados (o que significa que nenhum dado é armazenado em servidores OpenAI). Na verdade, Dots não teve muitos escândalos de privacidade até agora – embora, como só está disponível no nível de assinatura ChatGPT de US$ 100 ou mais, provavelmente menos pessoas o estejam usando.
As pessoas ainda podem relutar em fornecer dados pessoais à OpenAI, em parte porque os agentes de IA requerem grandes quantidades de dados. Por exemplo, bordaAllison Johnson se sentiu desconfortável quando o bot solicitou suas informações bancárias como parte de uma tarefa relacionada (o Muse tem uma integração com o Stripe para lidar com isso).
É claro que nem todas as empresas fazem promessas de privacidade. Instinto é crítica pública Seus termos de serviço eram excessivamente amplos, dando-lhe acesso irrestrito aos dados; a empresa desde então Parece haver Ajustes foram feitos. Por enquanto, os laboratórios de IA parecem estar contando com uma abordagem de três partes para educar o público sobre o uso de agentes de IA: torná-los úteis, torná-los fofos e desarmantes para ajudar a compensar o arrepio e fazer promessas sobre privacidade – e esperar que cumpram.
