De acordo com um novo relatório do New York Times, um drone russo totalmente controlado por IA e equipado com tecnologia Nvidia matou três civis na cidade ucraniana de Zaporizhia no mês passado.
O ataque ocorreu em 6 de julho, quando um drone russo inicialmente teve como alvo tanques de propano em um posto de gasolina e explodiu antes de atingir uma parede e atingir seu alvo, matando três civis: a estudante universitária Tetyana Bubinets, de 19 anos, Oleksii Zvirin, de 41 anos, e Roman Karby, de 48 anos.
Embora a guerra tenha ceifado a vida de milhares de civis ucranianos nos últimos quatro anos, as mortes de Bupinets, Zvirin e Karby podem ser as primeiras mortes de civis às mãos de um sistema totalmente orientado pela IA na guerra entre a Rússia e a Ucrânia.
Tanto a Ucrânia como a Rússia usaram tecnologia de inteligência artificial em ataques aéreos, um campo de batalha frequentemente citado como campo de testes em tempo real para guerras assistidas por IA. O drone russo responsável pelo ataque do mês passado era um sistema experimental de IA, dizem vários especialistas citados pelo NYT, e é diferente dos sistemas utilizados anteriormente porque a decisão final do ataque não é tomada por um comandante humano, mas por um sistema de IA.
A inteligência artificial está cada vez mais a entrar e a consolidar o seu lugar na guerra global, aumentando a mortalidade nos campos de batalha e ameaçando profundamente os sistemas humanitários. Há muito medo nas organizações que excluem os humanos do processo final de tomada de decisão. Mísseis e drones totalmente autônomos podem selecionar alvos com base em seus dados de treinamento. Alguns argumentam que a IA pode tornar os ataques militares mais precisos, enquanto outros argumentam que a tecnologia é demasiado falha para tomar decisões sobre quem vive e quem morre. Estes sistemas são também notoriamente opacos, tornando difícil atribuir responsabilidades morais e legais se algo correr catastroficamente errado.
Independentemente das taxas de erro, as organizações humanitárias temem que os sistemas de IA acelerem o número de vítimas.
“As nossas preocupações não são apenas sobre os potenciais erros causados pelo mau funcionamento de tais sistemas, mas também como estes sistemas estão a mudar as operações militares”, afirmaram a Amnistia Internacional e a Access Now numa recente declaração conjunta apelando aos governos e às empresas tecnológicas para que parem a proliferação de sistemas militares de IA. “Estamos profundamente preocupados com o facto de a utilização de LLM para a geração de alvos e a definição de prioridades estar a empurrar o pessoal militar para uma forma de guerra em que os princípios básicos do direito humanitário internacional – incluindo os princípios da distinção, da proporcionalidade e da precaução – não podem ser adequadamente respeitados.
A ofensiva russa marcou uma mudança assustadora na natureza da guerra. A Rússia não está sozinha nos seus planos de incorporar os chamados sistemas de IA de autodirecionamento; Mykhailo Fedorov, ex-ministro da Defesa da Ucrânia, disse que a Ucrânia testou recentemente tais sistemas na Crimeia, embora não tenha havido vítimas civis. Os ataques de Israel aos palestinos em Gaza, ONU O equivalente genocida da comissão é frequentemente referido como um “laboratório humano de IA”, onde futuras armas de IA são testadas em humanos reais. No início deste ano, o Departamento de Defesa sob a administração Trump desentendeu-se mais publicamente com a Antrópico depois de esta ter recusado permitir que os seus sistemas de IA fossem usados em armas totalmente autónomas, excluindo os humanos da selecção final de alvos, presumivelmente nos recentes ataques dos EUA ao Irão.
As autoridades russas não reconheceram publicamente o incidente, mas as autoridades locais ucranianas conseguiram descobrir a natureza totalmente autónoma do computador Nvidia quando o recuperaram dos destroços deixados pelo drone. A empresa de tecnologia americana identificou posteriormente os minicomputadores como módulos Jetson Orin, que não foram vendidos na Rússia, mas podem ter sido adquiridos através de revendedores. O New York Times informou que a placa de circuito que carrega o chip Nvidia estava marcada como “Made in China”. A Nvidia afirma que seus minicomputadores Jetson “não se destinam ao uso militar”.
“Nossos módulos Jetson Or são vendidos como produtos de consumo para uma ampla gama de aplicações benéficas para estudantes, desenvolvedores e startups”, disse um porta-voz da Nvidia ao Gizmodo. “Embora não possamos rastrear os produtos depois de vendidos, tomaremos as medidas apropriadas se descobrirmos que algum cliente está violando as restrições de exportação dos EUA”.
