O gerente de IA foi desonesto na Meta, expondo dados confidenciais da empresa e do usuário a funcionários aos quais ele não tinha permissão para acessar.
Através do relatório do incidente, que foi observado e relatado InformaçãoUm metafuncionário postou em um fórum interno pedindo ajuda com uma questão técnica – que é uma atividade de medição. No entanto, outro engenheiro pediu ajuda ao agente de IA para resolver o problema, e o agente projetou uma resposta sem pedir ao engenheiro que compartilhasse essa capacidade. Meta confirmou o incidente em Informações.
Acontece que o agente de IA não deu bons conselhos. o funcionário que fez a pergunta acabou tomando medidas do agente de gerenciamento porque, inadvertidamente, tinha enormes quantidades de dados da empresa e dos usuários disponíveis para engenheiros que não tiveram permissão de acessá-los por duas horas.
O incidente é considerado “Sev 1”, que é o segundo nível de gravidade mais alto no sistema interno da empresa para medir problemas de segurança.
Agentes de IA desonestos já representaram um problema no Meta. Summer Yue, diretora noturna e de segurança da Meta Superinteligência, enviado em 10 no mês passado contando como a agente OpenClaw acabou deletando tudo em sua caixa de correio, mesmo tendo dito para ela confirmar com ela antes de fazer qualquer coisa.
O objetivo, no entanto, parece resumir-se ao potencial do agente AI. Na semana passada, a Meta comprou o Moltbook, um site de aluguel de mídia social para que os agentes do OpenClaw se comuniquem entre si.
