A Flórida processou a OpenAI e seu presidente-executivo, Sam Altman, na segunda-feira, alegando que a empresa de tecnologia de São Francisco não informou o público sobre os perigos representados por seu popular chatbot de inteligência artificial.
A OpenAI desenvolveu o ChatGPT, um chatbot usado por mais de 900 milhões de pessoas todas as semanas para responder perguntas, gerar texto e realizar outras tarefas. Mas as pessoas também usam o ChatGPT para planejar tiroteios em massa, obter informações contraproducentes e se envolver em outros atos prejudiciais, de acordo com o processo de 83 páginas.
A ação, movida no 10º Circuito Judicial da Flórida, ocorre no momento em que a OpenAI enfrenta preocupações crescentes de que a IA esteja prejudicando os seres humanos, incluindo crianças e adolescentes, e a falta de salvaguardas adequadas. A Flórida é o primeiro estado a processar a OpenAI por riscos de segurança, abrindo oportunidades para outros estados.
“As pessoas estão sofrendo, os pais estão sendo enganados e estão pagando o preço”, Florida Atty. O general James Uthmeier disse em uma entrevista coletiva na segunda-feira. “Eles terão que pagar por isso abrindo seus talões de cheques e mudando o programa para garantir que haja controle parental e que não coloquemos nossos filhos em risco.”
A OpenAI disse em comunicado que está trabalhando para melhorar a segurança no ChatGPT, citando esforços como novos controles parentais e previsão de idade.
“A perda de um filho é a tragédia mais triste que pode acontecer a uma família e sabemos que nenhuma palavra pode superar a dor de tal perda”, disse um porta-voz da empresa num comunicado. “A IA é uma tecnologia nova e avançada e acreditamos que os menores precisam de proteção significativa, e é por isso que temos proteções e políticas líderes do setor em vigor.”
Recursos de prevenção de suicídio e aconselhamento em crises
Se você ou alguém que você conhece está lutando contra pensamentos suicidas, procure ajuda profissional ou ligue para 988. A linha direta nacional de três dígitos para crises de saúde mental conectará os chamadores a conselheiros de saúde mental treinados. Ou envie “HOME” para 741741 nos EUA e Canadá para entrar em contato com a Crisis Text Line.
Durante anos, as empresas tecnológicas enfrentaram processos judiciais sobre se deveriam ser responsabilizadas pelos danos causados pela concepção e utilização dos seus produtos. Mas a crescente popularidade dos chatbots alimentados por IA está a levantar mais preocupações de segurança, especialmente porque as gerações mais jovens já utilizam estas ferramentas nas suas escolas e casas.
As preocupações com os riscos da IA estão crescendo na Califórnia. Em 2025, a família de um adolescente da Califórnia que morreu por suicídio após conversar com o ChatGPT processou a OpenAI por alegações de que o chatbot levou o jovem de 16 anos ao suicídio. O caso foi citado no processo da Flórida.
Outras empresas de tecnologia, incluindo o Google, enfrentaram ações judiciais sobre o suposto papel dos chatbots em desencadear delírios nas pessoas ou encorajar a automutilação.
Os legisladores da Califórnia aprovaram uma nova lei que visa tornar a IA mais segura, mas as empresas de tecnologia dizem que as novas regulamentações podem sufocar a inovação. Os procuradores-gerais da Califórnia e de Delaware expressaram no ano passado preocupação com as alegações de que os chatbots de IA estavam prejudicando crianças.
Em entrevista coletiva sobre o último processo, Uthmeier acusou a OpenAI e Altman de priorizar os lucros em detrimento da segurança pública à medida que a empresa de IA avança. Este ano, o gabinete do procurador-geral da Flórida também anunciou que estava investigando a OpenAI pelo papel do ChatGPT no tiroteio de 2025 na Florida State University que matou duas pessoas.
A OpenAI disse anteriormente que o tiroteio no campus foi uma tragédia, mas “ChatGPT não se responsabiliza por este crime horrível”. A empresa compartilha proativamente informações com as autoridades policiais assim que identifica contas que acredita estarem associadas a suspeitos.
OpenAI e Altman enganaram os pais fazendo-os pensar que o ChatGPT era seguro quando não era, e violaram a lei da Flórida, de acordo com o processo.
Uthmeier apresentou vários casos em vários estados, descrevendo o uso do ChatGPT por pessoas em tiroteios, suicídios e outros tipos de mortes, incluindo mortes envolvendo overdoses de drogas. O ChatGPT, disse ele, pode ser “viciante” porque imita a empatia humana, enganando os usuários para que forneçam mais informações ao chatbot de IA.
“Hoje enviaremos uma mensagem à OpenAI: prepare-se para lutar, e neste momento nada é mais importante do que isso”, disse Uthmeier.
