Character.AI e Google resolveram vários processos movidos pelas duas empresas contra pais de crianças que se mataram após longas conversas com chatbots Character.AI. O intercâmbio supostamente incluiu discussões sobre a saúde mental e o bem-estar dos jovens.
A Character.AI disse que não poderia comentar mais sobre o acordo, cujos detalhes ainda devem ser finalizados pelo tribunal, segundo O Guardião. Os representantes dos demandantes não responderam imediatamente a um pedido do Mashable.
O caso mais famoso envolveu a morte em 2024 de Sewell Setzer III, de 14 anos, que secretamente se viciou no chatbot Character.AI baseado na famosa celebridade. Guerra dos Tronos Daenerys Targaryen.
‘Predadores justos’: quando os chatbots prejudicam as crianças
A mãe de Setzer, Megan Garcia, descobriu sua conta Character.AI quando um policial a alertou após sua morte porque o aplicativo estava aberto em seu telefone. Garcia leu mensagens nas quais Setzer agia como se estivesse apaixonado pelo chatbot, que supostamente representava vários encontros sexuais com ele. O chatbot usava linguagem gráfica e imagens, inclusive sexo, segundo Garcia.
Se um adulto falasse assim com seu filho, ela disse ao Mashable no ano passado, isso equivaleria a atividade sexual e abuso.
Em outubro de 2024, o Social Media Victims Law Center e o Tech Justice Law Project entraram com uma ação por homicídio culposo contra Garcia contra a Character.AI, buscando responsabilizar a empresa pela morte de seu filho, alegando que seu produto estava perigosamente defeituoso.
Relatório de tendências do Mashable
O processo também nomeou como réus os engenheiros do Google Noam Shazeer e Daniel De Freitas, fundadores da Character.AI.
Além disso, o processo alegou que o Google conhecia os riscos associados à tecnologia desenvolvida por Shazeer e De Freitas antes de adquirirem a Character.AI. O Google contribuiu com “recursos financeiros, pessoal e tecnologia de IA” para o design e desenvolvimento do Character.AI, de acordo com o processo, e portanto pode ser considerado um co-inventor da plataforma.
O Google finalmente assinou um acordo de licenciamento de US$ 2,7 bilhões com a Character.AI até 2024 para usar sua tecnologia. Parte desse acordo trouxe Shazeer e De Freitas de volta às funções de IA do Google.
No outono de 2025, o Social Media Victims Law Center abriu três ações judiciais adicionais contra Personagem.AI e Google, que representa pais de crianças que morreram por suicídio ou foram supostamente abusadas sexualmente durante o uso do aplicativo.
Além disso, especialistas em segurança juvenil anunciaram Personagem.AI Não é seguro para menoresapós o teste que resultou em centenas de casos de aliciamento e exploração sexual de contas de teste registradas como menores.
Em outubro de 2025, Character.AI anunciaram que não permitirão mais menores para se envolver em trocas intermináveis com chatbots em sua plataforma. O CEO da empresa, Karandeep Anand, disse ao Mashable que a mudança não é uma resposta a preocupações específicas de segurança envolvendo a plataforma Character.AI, mas sim para abordar questões persistentes sobre o envolvimento dos jovens com chatbots de IA.
Se você estiver se sentindo suicida ou tiver um problema de saúde mental, converse com alguém. Você pode ligar ou enviar uma mensagem de texto para 988 Suicide & Crisis Lifeline 988 ou falar com 988lifeline.org. Você pode entrar em contato com a Trans Lifeline ligando para 877-565-8860 ou para o Projeto Trevor em 866-488-7386. Digite “START” na linha de texto para o tempo verbal 741-741. Entre em contato com a linha de apoio da NAMI pelo telefone 1-800-950-NAMI, de segunda a sexta, das 10h00 às 22h00 horário do leste dos EUA, ou por e-mail (e-mail protegido). Se você não gosta do telefone, considere usá-lo 988 Suicídio e Crise Lifeline Chat. Aqui está um Lista de recursos internacionais.
