Um novo relatório do Fundo Educacional do Grupo de Pesquisa de Interesse Público dos EUA (PIRG) levantou preocupações sobre o uso de cascatas de inteligência artificial em brinquedos infantis, alertando que alguns desses sistemas não são adequados para usuários jovens. De acordo com o relatóriovários brinquedos alimentados por IA integram tecnologia chatbot que pode gerar respostas semelhantes às utilizadas em serviços de IA para adultos, expondo potencialmente as crianças a conteúdos inadequados ou enganosos.
O estudo examinou uma variedade de brinquedos que incorporam recursos de IA de fala, incluindo bonecos robóticos e dispositivos interativos. Muitos destes produtos permitem que as crianças falem com um brinquedo que responde em linguagem natural, utilizando grandes modelos de linguagem semelhantes aos utilizados nos chatbots de IA disponíveis.
Embora a tecnologia possa tornar os brinquedos mais interactivos e educativos, os investigadores do PIRG argumentam que as salvaguardas incorporadas em alguns produtos podem não ser suficientes para proteger a custódia do público mais jovem. Em particular, o relatório destaca que os sistemas de IA subjacentes muitas vezes provêm de plataformas que se destinam principalmente a utilizadores em geral e não a crianças.
Por causa disso, as respostas de IA geradas por esses brinquedos podem incluir informações ou tópicos de conversação que são mais apropriados para adultos do que para crianças. O relatório também alerta que a IA pode produzir respostas imprecisas ou imprevisíveis, o que pode confundir os jovens utilizadores que tendem a confiar nas informações como artifícios.
Os pesquisadores que analisaram os documentos e planos secretos também descobriram que alguns produtos dependem fortemente de sistemas de IA baseados em nuvem.
Desta forma, a comunicação de voz das crianças pode ser transmitida para servidores externos, onde os dados são processados e utilizados para gerar respostas. Os defensores da privacidade dizem que isto levanta preocupações sobre como as informações das crianças são armazenadas e utilizadas. Alguns brinquedos podem coletar arquivos de áudio, instruções do usuário ou outras informações pessoais durante conversas. Se estes sistemas não forem devidamente concebidos para proteger a privacidade das crianças, os dados poderão ser potencialmente utilizados indevidamente ou armazenados sem salvaguardas claras.
O relatório também mostra que muitos brinquedos alimentados por IA incluem isenções de responsabilidade ocultas em termos de serviço ou documentação do produto. Às vezes, esses detratores argumentam que as respostas da IA nem sempre são precisas ou apropriadas, transferindo efetivamente a responsabilidade para os pais, enquanto o próprio brinquedo é comercializado diretamente para as crianças.
Esta situação é relevante porque a tecnologia de IA está cada vez mais presente nos produtos de consumo diário, acrescentando elementos especificamente concebidos para um público jovem. Fingir que os brinquedos de conversação podem ter um efeito poderoso nas crianças, que muitas vezes os tratam como companheiros ou ferramentas de aprendizagem.
Especialistas dizem que as crianças têm dificuldade em distinguir entre informações confiáveis e respostas geradas por IA que são especulativas, ambíguas ou falsas. À medida que os sistemas de IA continuam a desenvolver-se, estas tecnologias adaptadas à segurança infantil tornar-se-ão cada vez mais importantes.
As conclusões também destacam um desafio mais amplo para os reguladores
Embora muitos países tenham promulgado leis para proteger a privacidade e a privacidade das crianças, como a Lei de Proteção Online das Crianças (COPPA) nos Estados Unidos, essas regulamentações aumentaram antes do surgimento da IA.
Grupos de defesa argumentam que os reguladores podem precisar de atualizar os padrões e diretrizes de segurança sobre como os sistemas de IA interagem com as crianças através de dispositivos conectados.
O relatório do PIRG apela aos fabricantes de jogos para que implementem salvaguardas mais fortes, incluindo uma filtragem de conteúdos mais rigorosa, uma maior abertura em torno da utilização da IA e uma utilização de dados mais transparente. Também recomenda que as empresas projetem sistemas de IA especificamente para crianças, em vez de modelos reprovados originalmente construídos para o público adulto.
Os potenciais investigadores dizem que a cooperação entre empresas de tecnologia, reguladores e especialistas em segurança infantil é necessária para garantir que os brinquedos alimentados por IA continuem populares e seguros.
À medida que a inteligência artificial é cada vez mais integrada nos produtos do dia-a-dia, o desafio será equilibrar os benefícios da tecnologia interactiva com o dever de proteger os utilizadores menores de riscos potenciais.
