Informação relatou que um agente de IA dentro da Meta realizou uma ação ilegal que levou um funcionário da empresa de segurança a cometer uma violação de segurança na semana passada. Segundo a publicação, um funcionário usou um agente interno de IA para analisar uma consulta de outro funcionário em um fórum interno. O agente de IA enviou uma resposta ao segundo operador com uma decisão, embora a primeira pessoa não o tenha orientado a fazê-lo.
No momento em que o funcionário executou a ação recomendada pelo agente, o Senhor acionou o efeito, o que permitiu que alguns engenheiros que tinham acesso aos sistemas Meta vissem o que não estavam autorizados a fazer. Um representante da empresa confirmou o incidente Informação e dizia “nenhum dado do usuário foi quebrado”. O relatório interno da Meta indicou que houve questões adicionais não especificadas que levaram à fratura. A fonte disse não haver evidências de que algum acesso de emergência tenha sido utilizado ou que os dados tenham sido publicados nas duas horas em que a falha de segurança estava ativa. Mas isso acontece mais do que qualquer outra coisa.
Muitos líderes tecnológicos e empresas testemunharam os benefícios da inteligência artificial; esta é apenas a forma mais recente em que os funcionários humanos perderam o controle sobre um agente de IA. A Amazon Web Services testou uma viagem de 13 horas no início deste ano, que também (aparentemente coincidentemente) envolveu sua ferramenta de codificação de IA do agente Kiro. Moltbook, rede social para agentes de IA recentemente adquirida pela Meta, apresentava uma falha de segurança que expunha informações do usuário ao navegar na plataforma codificada por vibe.
