Pele postou na segunda-feira o anúncio de que X estava sob investigação foi a medida mais agressiva do Ofcom desde que as principais disposições da Lei de Segurança Online entraram em vigor. Nenhuma das outras empresas contestadas ou multadas tem o alcance global ou a influência política do gigante das redes sociais de Elon Musk. Aconteça o que acontecer a seguir, este é um momento decisivo. O que isto significa é até que ponto algumas das empresas mais ricas do mundo estão sob controlo democrático.
No entanto, este anúncio é apenas o primeiro passo. O Ofcom não deu nenhuma indicação de quanto tempo duraria sua investigação. Na sexta-feira, Downing Street desprezou a decisão de limitar o uso do chatbot Grok AI de criação de imagens a apenas X clientes pagantes. O governo disse que isso significaria transformar a criação de deepfakes violentos em um “serviço premium”.
Uma linguagem tão forte é bem-vinda. Da mesma forma, o anúncio da ministra da Tecnologia, Liz Kendall, de que o compromisso de proibir a criação de imagens íntimas não consensuais entrará em vigor esta semana e que os aplicativos de nudificação serão banidos imediatamente. No fim de semana, David Lammy afirmou que JD Vance compartilhou as objeções do governo do Reino Unido a uma ferramenta que permite aos usuários despir crianças em fotos. É claro que os ministros não querem discutir com Donald Trump e prefeririam que os políticos dos EUA se juntassem ao desafio às grandes tecnologias em vez do abuso baseado na imagem. Mas a oposição agressiva de Musk à regulamentação pode tornar inevitável a discórdia pública. Ele quer que Grok possa competir com o ChatGPT da OpenAI. E sexo vende.
A Grã-Bretanha não está sozinha na tomada de posição. A Indonésia e a Malásia restringiram o acesso ao Grok em resposta ao aumento de deepfakes íntimos. O Ministro da Comunicação Social alemão, Wolfram Weimer, apelou à Comissão Europeia para que aja contra a “industrialização do assédio sexual”. Mas como se espera que a OpenAI permita em breve a criação de material erótico usando ChatGPT, o medo é que as comportas da pornografia deepfake se abram em breve. As sérias preocupações a este respeito não se limitam à necessidade de verificação da idade para proteger as crianças. A maioria dos jovens de 18 anos no Reino Unido ainda está na escola. Eles e os idosos também têm direito à proteção contra danos causados por deepfakes de natureza íntima. Os riscos da pornografia violenta online também podem ser ampliados pela IA, se esta tornar o material mais acessível.
As empresas tecnológicas não devem ser autorizadas a ditar o ritmo da mudança, lançando novas ferramentas antes do seu impacto ser discutido ou avaliado de forma independente. As leis de segurança online do Reino Unido estão entre as mais avançadas do mundo. Mas a mania das fotos de biquínis expôs uma lacuna na lei que é mais restritiva às imagens de pessoas em lingerie do que em trajes de banho – mesmo quando o nível de cobertura é o mesmo.
Embora o acesso das crianças às aplicações das redes sociais seja uma questão separada da concepção de ferramentas de IA, não é surpreendente que a questão dos limites de idade tenha sido levantada por políticos seniores, tanto da direita como da esquerda, nos últimos dias. Os ministros devem assumir a liderança e decidir o que pensam sobre as crianças que utilizam IA. Mas a principal prioridade é Grok. O Ofcom latiu e deve mostrar que também pode morder.
-
Você tem uma opinião sobre as questões levantadas neste artigo? Se desejar enviar por e-mail uma resposta de até 300 palavras para consideração para publicação em nossa seção de cartas, clique aqui.
