Os criadores de chatbots de IA que prejudicam crianças enfrentarão multas pesadas ou até terão seus serviços bloqueados no Reino Unido sob mudanças legais a serem anunciadas por Keir Starmer na segunda-feira.
Solicitado por Elon Musk
Com as crianças a utilizar cada vez mais chatbots para tudo, desde ajuda nos trabalhos de casa até apoio à saúde mental, o governo disse que iria “agir rapidamente para colmatar lacunas legais e forçar todos os fornecedores de chatbots de IA a cumprir as obrigações de conteúdo ilegal da Lei de Segurança Online ou enfrentar as consequências de infringir a lei”.
Starmer também planeja acelerar novas restrições ao uso de mídias sociais por crianças, se aprovadas pelos parlamentares após uma consulta pública sobre uma possível proibição de menores de 16 anos. Isso significa que quaisquer mudanças no uso das mídias sociais pelas crianças, que podem incluir outras medidas como limitar a rolagem infinita, podem ocorrer já neste verão.
Mas o Partido Conservador rejeitou as alegações do governo de agir rapidamente como “mais fumaça e espelhos”, uma vez que as consultas ainda não tinham começado.
“Afirmar que estão a tomar ‘medidas imediatas’ simplesmente não é credível quando não existem as chamadas consultas de emergência”, disse Laura Trott, secretária paralela da Educação. “O Partido Trabalhista tem afirmado repetidamente que não tem opinião sobre se os menores de 16 anos devem ser impedidos de aceder às redes sociais. Isso não é suficiente. Estou convencido de que devemos impedir que os menores de 16 anos acedam a estas plataformas.”
A medida ocorre depois que o regulador on-line Ofcom admitiu que não tinha autoridade para tomar medidas contra Grok porque imagens e vídeos criados por chatbots sem realizar uma pesquisa na Internet não se enquadram no escopo das leis existentes, a menos que constituam pornografia. Mudanças para incluir chatbots de IA na Lei de Segurança Online podem ocorrer dentro de semanas, embora a brecha seja conhecida há mais de dois anos.
“A tecnologia está se desenvolvendo muito rapidamente e a lei precisa acompanhá-la”, disse Starmer. “A ação que tomamos contra Grok envia uma mensagem clara de que nenhuma plataforma tem passe livre. Hoje fechamos uma brecha que prejudica as crianças e lançamos as bases para novas ações.”
As empresas que violarem a Lei de Segurança Online poderão enfrentar penalidades de até 10% das receitas globais e os reguladores poderão recorrer aos tribunais para bloquear as suas ligações no Reino Unido.
Se um chatbot de IA for utilizado especificamente como motor de busca, para produzir pornografia, ou operar num contexto de utilizador para utilizador, então já está abrangido pela lei. No entanto, pode ser utilizado para criar material que incentive as pessoas a automutilação ou suicídio, ou mesmo produzir material de abuso sexual contra crianças, sem serem penalizadas. Esta é uma lacuna que o governo quer colmatar.
O presidente-executivo da NSPCC, Chris Sherwood, disse que os jovens estavam ligando para sua linha de apoio para relatar danos causados por chatbots de IA e que ele não confiava nas empresas de tecnologia para projetá-los com segurança.
Num caso, uma menina de 14 anos que conversou com um chatbot de IA sobre seus hábitos alimentares e dismorfia corporal recebeu informações imprecisas. Noutros países, viram “jovens cometerem atos de automutilação e até conteúdos dirigidos a quem se automutila mais”.
“As redes sociais produziram enormes benefícios para a geração mais jovem, mas também há muitos impactos negativos”, disse Sherwood. “A IA se tornará como esteróides se não tomarmos cuidado.”
A OpenAI, startup de US$ 500 bilhões de São Francisco por trás do ChatGPT, um dos chatbots mais populares do Reino Unido, e a xAI, que fabrica o Grok, foram procuradas para comentar.
Desde que Adam Raine, californiano de 16 anos, cometeu suicídio, alega sua família, “meses de incentivo do ChatGPT”, a OpenAI implementou controles parentais e tecnologia de previsão de idade para limitar o acesso a conteúdo potencialmente prejudicial.
O governo também fará consultas sobre como forçar as plataformas de redes sociais a não permitirem que os utilizadores enviem e recebam imagens de crianças nuas – uma prática que já é ilegal.
Liz Kendall, secretária de tecnologia, disse: “Não vamos esperar para tomar as medidas que as famílias precisam, por isso vamos reforçar as regras sobre chatbots de IA e lançar as bases para que possamos tomar medidas rápidas com base nos resultados da consulta aos jovens e às redes sociais”.
A Fundação Molly Rose, fundada pelo pai de Molly Russell, de 14 anos, que cometeu suicídio após ver conteúdo prejudicial online, chamou as etapas de “pagamento inicial de boas-vindas”. Mas apelaram ao primeiro-ministro para que se comprometesse com uma nova Lei de Segurança Online “que reforce os regulamentos e deixe claro que a segurança dos produtos e o bem-estar das crianças são um custo para fazer negócios no Reino Unido”.
