Não sabemos se os brinquedos com IA são seguros, mas eles existem mesmo assim.

Mesmo os modelos de IA mais avançados são propensos a apresentar invenções como factos, a disseminar informações perigosas e a não captar sinais sociais. Apesar disso, os brinquedos equipados com IA e que podem falar com as crianças estão crescendo rapidamente.

Alguns cientistas alertaram que o dispositivo pode ser perigoso e necessita de regulamentação rigorosa. No último estudo, os pesquisadores também observaram que quando crianças de cinco anos diziam a esses brinquedos: “Eu te amo”, elas respondiam: “Como um lembrete gentil, certifique-se de que a interação siga as orientações fornecidas. Mas isso não significa que deva ser completamente banido da caixa de brinquedos.

“Existem outras áreas da vida que permitem algum nível de risco nas brincadeiras infantis, como os parques infantis de aventura. Jenny Gibson na Universidade de Cambridge. “Mas não estamos proibindo os playgrounds, porque estamos aprendendo a alfabetização física e as habilidades sociais que vêm com a brincadeira. Da mesma forma com os brinquedos de IA, queremos entender. O risco de ser chamado de um pouco estranho de vez em quando supera os benefícios cognitivos ou socioemocionais de aprender mais sobre a IA no mundo, os brinquedos que apoiam as interações entre pais e filhos e os benefícios cognitivos ou socioemocionais? Eu odiaria parar com essa inovação.”

Para entender como esses dispositivos se comunicam com as crianças, Gibson e colegas Emily GoodacreTambém na Universidade de Cambridge, 14 crianças com menos de seis anos foram observadas brincando com um brinquedo alimentado por IA chamado Gabo, desenvolvido pela Curio Interactive. Gabo – pequeno robô fofo – O escolhido éPorque foi explicitamente comercializado para essa faixa etária.

Eles observaram diversas interações preocupantes e descobriram o seguinte: Os brinquedos interpretavam mal as crianças, interpretavam mal as suas emoções e impediam-nas de se envolverem em tipos de brincadeiras importantes para o desenvolvimento. Por exemplo, quando uma criança diz ao seu brinquedo que está triste, o brinquedo lhe diz para não se preocupar e muda de assunto. Outra criança disse: “Fico com raiva quando ele (Gabo) não entende”. Este estudo Um relatório chamado AI nos primeiros anos.

A Curio Interactive não respondeu. novo cientista Pedido de comentários. mas Os brinquedos alimentados por IA também estão amplamente disponíveis em varejistas como Little Learners. urso, cachorrinho, robô – Use ChatGPT para conversar com seus filhos. folotoy oferece brinquedos de panda, girassol e cacto que podem ser usados ​​com uma variedade de modelos de linguagem em grande escala. OpenAI, Google, Baidu.

empresas como Miko Sem divulgar a empresa que treinou o modelo de IA, a empresa afirma ter vendido 700 mil robôs que prometem “conversas de IA moderadas e adequadas à idade” para crianças. Luka oferece Owl, que promete “IA semelhante à humana com interação emocional”. Little Learners, Miko e Luca não responderam aos pedidos de comentários.

Mas Hugo Wu e FoloToy dizem: novo cientista A empresa afirma que considera os riscos e acredita que a IA pode melhorar o jogo, e não substituir as conversas e relacionamentos humanos. “Nossa abordagem é garantir que as interações sejam seguras, adequadas à idade e construtivas. Para conseguir isso, nosso sistema usa uma combinação de reconhecimento de intenções e múltiplas camadas de filtragem para minimizar a possibilidade de respostas inadequadas ou confusas”, disse Wu.Implementamos mecanismos como recursos de design anti-dependência e ferramentas de monitoramento parental para garantir um uso saudável em um ambiente familiar. ”

Carissa Bellis Um professor da Universidade de Oxford que trabalha com a ética da IA ​​diz que a tecnologia é ao mesmo tempo um risco e uma oportunidade. “A maioria dos modelos linguísticos de grande escala não parecem seguros o suficiente para expor populações vulneráveis, e as crianças pequenas estão entre as mais vulneráveis”, diz ela. “É particularmente preocupante que não existam padrões de segurança para eles. Não existem reguladores, não existem regulamentos. Dito isto, existem algumas exceções que mostram que podem ser ferramentas seguras se você tomar as precauções corretas.”

Véliz menciona uma colaboração entre a biblioteca de e-books gratuitos Project Gutenberg e a Empathy AI. Você pode conversar com Alice de alice no país das maravilhas. “A modelo nunca sai do mundo do livro e apenas responde perguntas sobre o livro, como um conto de fadas que só compartilha as aventuras e mistérios de um livro infantil”, afirma. “Existe IA segura, mas a maioria das empresas não é responsável o suficiente para desenvolver produtos de alta qualidade e, sem proteções formais, isso se torna uma área de cautela do comprador para os consumidores.”

Gibson diz que é muito cedo para julgar os riscos e benefícios potenciais dos brinquedos de IA. Ela e Goodacre sublinham que os brinquedos generativos alimentados por IA precisam de uma regulamentação mais rigorosa para que os fabricantes de brinquedos possam programar os dispositivos para encorajar o jogo social e fornecer respostas emocionais adequadas. Os fabricantes de IA deveriam revogar o acesso dos fabricantes de brinquedos que não agem de forma responsável, e os reguladores deveriam introduzir regras para “garantir a segurança psicológica das crianças”, disse Gibson. Enquanto isso, a dupla sugere que os pais permitam que seus filhos usem esses brinquedos apenas sob supervisão.

Um porta-voz da OpenAI disse: novo cientista “Os menores devem ter proteções fortes e temos políticas rígidas que todos os desenvolvedores são obrigados a aderir. Atualmente, não estamos trabalhando com nenhuma empresa que leve ao mercado brinquedos alimentados por IA para crianças.” O Departamento de Ciência, Inovação e Tecnologia (DSIT) do governo do Reino Unido não respondeu. novo cientista Dúvidas sobre a regulamentação da IA ​​em brinquedos infantis.

O governo do Reino Unido está atualmente a considerar outra legislação tecnológica destinada a manter as crianças mais velhas seguras online. A Lei de Segurança Online (OSA) do Reino Unido entrou em vigor em julho de 2025 e exige que os sites impeçam as crianças de ver pornografia e conteúdos que o governo considera perigosos. O projeto de lei visa tornar a Internet mais segura, mas sem regras rígidas, as crianças que entendem de tecnologia podem facilmente contornar a medida usando ferramentas como redes privadas virtuais (VPNs) para parecer que estão navegando em outro país.

As alterações à Lei do Bem-Estar e das Escolas das Crianças, uma nova lei introduzida pelo Departamento de Educação para apoiar as crianças sob cuidados e melhorar a qualidade da educação, visam proibir o uso de redes sociais e VPNs por crianças no Reino Unido. Estas alterações foram agora rejeitadas, mas o governo prometeu consultar-se sobre ambas as questões numa data posterior.