Conforme relatado anteriormente, por quase duas horas na semana passada, os funcionários da Meta tiveram seus dados de empresas e usuários comprometidos graças a um agente de IA que lhes deu conselhos técnicos imprecisos. Informação. A porta-voz da Meta, Tracy Clayton, disse em um comunicado. A beira “Nenhum dado do usuário foi maltratado” no incidente, disse a empresa.
Um metaengenheiro estava usando um agente interno de IA que Clayton descreveu como “de natureza semelhante ao OpenClaw em um ambiente de desenvolvimento seguro” para analisar questões técnicas postadas por outro funcionário em um fórum interno. No entanto, os representantes também responderam publicamente às questões por conta própria, após análise das questões sem obter aprovação prévia. As respostas eram visíveis apenas para o funcionário que as solicitou e não eram tornadas públicas.
O funcionário então agiu de acordo com o conselho da IA, que “forneceu informações imprecisas”, resultando em um incidente de segurança no nível “SEV1”, a segunda classificação de gravidade mais alta usada pela Meta. O incidente permitiu temporariamente que os funcionários acessassem dados confidenciais que não estavam autorizados a visualizar, mas o problema já foi resolvido.
De acordo com Clayton, os agentes de IA envolvidos não realizaram nenhuma ação técnica que um ser humano pudesse ter executado, a não ser postar conselhos técnicos imprecisos. No entanto, os humanos poderiam ter feito mais testes e feito um julgamento mais completo antes de compartilhar as informações. Também não está claro se o funcionário que originalmente solicitou a resposta pretendia que ela fosse tornada pública.
“Os funcionários que operam o sistema estavam plenamente conscientes de que estavam se comunicando com um bot automatizado, o que foi demonstrado pela isenção de responsabilidade no rodapé e pelas respostas dos próprios funcionários nesse tópico”, comentou Clayton. A beira. “O agente não fez nada além de responder perguntas. Isso poderia ter sido evitado se o engenheiro responsável tivesse conhecimento melhor ou tivesse feito outras verificações”.
No mês passado, um agente de IA da plataforma de código aberto OpenClaw cometeu fraude mais direta quando um funcionário pediu ao Meta para categorizar e-mails em sua caixa de entrada e depois excluiu os e-mails sem sua permissão. A ideia por trás de agentes como o OpenClaw é que eles podem realizar ações por conta própria, mas, como qualquer modelo de IA, nem sempre conseguem interpretar corretamente os prompts e instruções ou dar respostas precisas. Os funcionários da Meta descobriram esse fato duas vezes.
