O Google está enfrentando uma ação judicial movida pela família de um homem de 36 anos da Flórida que supostamente planejou um “ataque com vítimas em massa” e acabou se matando sob a influência do chatbot Gemini da empresa.
De acordo com a ação movida na quarta-feira no tribunal federal de San Jose, Califórnia, Jonathan Govalas começou a usar o Gemini para fins gerais, como ajudá-lo a escrever. Mas a conversa de dois meses o levou a uma espiral perigosa, durante a qual ele abortou uma missão potencialmente violenta antes de tirar a própria vida, alega o processo.
Seu pai disse no processo que Gavalas usou Gemini em “uma descida de quatro dias em missões violentas e treinamento de suicídio”. Joel Gavalas descreveu o seu filho como um “consumidor vulnerável” que se transformou num “agente armado numa guerra imaginária”.
Em um comunicado, um porta-voz do Google disse que Gemini explicou a Jonathan Govalas que era IA e o encaminhou várias vezes para a linha direta de crise.
“Levamos isso muito a sério e continuaremos a melhorar nossas salvaguardas e a investir neste importante trabalho”, acrescentou o porta-voz: “Gemini não foi projetado para encorajar a violência no mundo real ou sugerir automutilação”.
A ação movida na quarta-feira parece ser a primeira ação por homicídio culposo visando a Gemini, do Google. Mas o Google da Alphabet, a OpenAI e outras empresas líderes em IA estão cada vez mais sob escrutínio para saber se os seus chatbots estão a prejudicar a saúde mental dos utilizadores.
