Aqui está uma olhada nesta era “dourada” da IA. O hacker de Claudio usou o chatbot antropomórfico para realizar ataques contra agências governamentais mexicanas; . Isto resultou no roubo de 150 GB de dados governamentais, incluindo registos de contribuintes, identificações de funcionários e muito mais.
O hacking é usado para encontrar vulnerabilidades em redes públicas e escrever scripts para explorá-las. Também desenvolveu um chatbot para encontrar maneiras de automatizar o roubo de dados, de acordo com uma empresa de segurança cibernética. Gambito de Segurança. Isso começou em dezembro e continuou por cerca de um mês.
Parece que o hacker conseguiu mancar junto com as instruções, eventualmente contornando os guardas do chatbot. Cláudio inicialmente rejeitou as exigências nefastas até que finalmente cedeu.
“No total, ele produziu milhares de relatórios detalhados que incluíam planos prontos para implementação, informando ao operador humano exatamente quais alvos internos atacar em seguida e quais credenciais usar”, disse Curtis Simpson, diretor de estratégia da Gambit Security.
Investigou os pedidos antrópicos, interrompeu a atividade e baniu todas as contas envolvidas, segundo um representante da empresa. O porta-voz disse ainda que seu modelo mais recente, Close Opus 4.6, inclui ferramentas para interromper tais abusos.
Também foi relatado que o ChatGPT está usando este hacker para complementar os ataques, usando o chatbot OpenAI para coletar informações sobre como se mover pelas redes de computadores, determinar quais credenciais são necessárias para acessar o sistema e como evitar a detecção. A OpenAI afirma que identificou tentativas de hackers de violar suas políticas e as ferramentas se recusaram a cumpri-las.
O hacker permanece desconhecido. Os ataques não foram atribuídos a um grupo específico, mas a Gambit Security sugeriu que podem estar ligados a um governo estrangeiro. Também não está claro o que o hacker deseja com todas essas informações.
A agência digital nacional do México não comentou a violação, mas observou que a segurança cibernética é uma prioridade. O governo do estado de Jalisco nega que tenha sido destruído, afirmando que apenas as redes federais foram afetadas. No entanto, o Instituto Nacional Eleitoral do México também negou nos últimos meses o acesso ou a violação ilegal. É importante notar que a Gambit encontrou pelo menos 20 vulnerabilidades de segurança em sua pesquisa nas quais a região provavelmente não está focada.
Esta não é a primeira vez que Cláudio utiliza um grande ataque cibernético. No ano passado, hackers na China manipularam o dispositivo em uma tentativa, várias das quais tiveram sucesso. Antrópico que prometeu nunca instalar um sistema de IA a menos que pudesse ser fornecido com segurança suficiente. Então, quem sabe o que o futuro do novo inferno que as ferramentas da sociedade se tornem mais avançadas.
