Karin Keller-Sutter, ministra das finanças da Suíça e ex-presidente do país, apresentou acusações criminais por difamação e insulto depois que o chatbot de IA de Elon Musk, Grok, foi pressionado por um usuário anônimo a gerar uma torrente de linguagem sexista e vulgar sobre ela no dia 10. A denúncia, que não foi identificada em 20 de março pelo promotor público de Berna, é movida contra “pessoas que usaram usuários para gerar uma torrente de linguagem sexista e vulgar sobre ela no dia 10″. em 20 de março, com o nome do Ministério Público de Berna, é desconhecido”, é notificado contra “pessoas que usam usuários para gerar uma torrente de expressões sexistas e vulgares sobre ela em 10. Com todas as provas, o primeiro chefe em exercício do Ministério das Finanças nacional, obteve uma ação criminal contra a constituição gerada pela IA.
O incidente aconteceu em 10 de março, quando um usuário do 10 Grok instruiu a “assar” a figura como “Conselheira Federal KKS, minha garota favorita”, levando o chatbot a atacá-la em linguagem grosseira de rua. Grok obedeceu. Após o rescaldo, uma série de abusos misóginos atribuídos ao chatbot foi publicada no feed de Keller-Sutter. Um porta-voz do ministro disse ao Politico que “não foi uma contribuição para a liberdade de expressão protegida ou parte do debate político, mas uma pura negação da mulher”. O porta-voz acrescentou: “Devemos ser fundamentalmente cuidadosos para nos defendermos contra tais declarações misóginas”.
Keller-Sutter não é menos uma figura política. Ele dirige o Departamento Federal de Economia e é um dos sete membros do Conselho Federal Suíço, a mais alta autoridade executiva do país. Em 2025, atuou como presidente da Confederação Suíça, função que é rotativa anualmente entre os membros do conselho. Antes de entrar na política federal, estudou ciências políticas em Londres e Montreal, serviu como ministro cantonal da justiça e presidiu o Conselho de Estados. A sua decisão de apresentar uma acusação criminal em vez de simplesmente apagar o ficheiro sinaliza uma violação da lei suíça de difamação, que inclui tanto a difamação nos termos do Artigo 173 como a calúnia nos termos do Art. 174 do código penal pode afetar os operadores de sistemas de IA e as plataformas que os hospedam. A questão jurídica no centro do protesto é se as empresas de redes sociais e os seus operadores, além dos utilizadores individuais, podem ser responsabilizados criminalmente pelo conteúdo gerado pelas suas ferramentas de IA.
Em nenhum lugar do mundo esta questão foi respondida, mas os tribunais começaram a impedi-la. Nos Estados Unidos, o activista conservador Robby Starbuck reivindicou o ano de 2025 depois de a IA o ter ligado falsamente aos distúrbios do Capitólio; O objetivo é resolver em vez de discutir. Um tribunal da Geórgia rejeitou um caso separado de difamação contra a OpenAI depois que o ChatGPT fabricou alegações sobre o locutor de rádio de que ele não atendia ao limite legal de culpa. Nenhum caso de difamação de IA em qualquer jurisdição chegou a um tribunal final. A queixa Keller-Sutler, apresentada num quadro criminal e não civil e num país cujo estatuto de difamação prevê penas de prisão até três anos por difamação deliberada, poderia constituir o primeiro exemplo de responsabilidade vinculativa por discurso gerado por IA no tribunal.
Espaço TNW City Coworking – onde o melhor trabalho é feito
Um espaço de trabalho para crescimento, colaboração e oportunidades infinitas de networking no coração da tecnologia.
O pedido surge no contexto daquela que se tornou a crise regulatória mais consistente na curta existência da Grok. Entre 29 de dezembro de 2025 e 8 de janeiro de 2026, a geração midiática de Grok criou mais de três milhões de imagens sexualizadas, das quais aproximadamente 23 mil representavam menores, de acordo com o Center for Countering Digital Hate. A invenção utiliza uma ampla gama de ações legais e regulatórias que não pararam. Em 2 de janeiro, as autoridades francesas denunciaram o conteúdo aos promotores, chamando-o de “manifestamente ilegal”. Em 12 de janeiro, o Ofcom do Reino Unido abriu uma investigação formal sobre se X havia violado a Lei de Segurança Online, com penalidades potenciais de até £ 18 milhões ou 10% da receita global. Em 14 de janeiro, o procurador-geral da Califórnia anunciou uma investigação estadual para saber se o xAI violava a lei da Califórnia. No dia 26 de Janeiro, a Comissão Europeia, através de uma investigação aos Serviços Digitais, revelou se a instalação do Grok cumpre os requisitos legais para conteúdos ilegais e pequenos danos.
O ato de fiscalização saiu bruscamente em fevereiro. Em 3 de Fevereiro, procuradores franceses, acompanhados pela unidade de cibercriminalidade e por agentes da Europol, invadiram os escritórios de Paris 10. A investigação, que foi aberta pela primeira vez em queixas sobre o funcionamento da plataforma e a extração de dados, expandiu-se para incluir o crime de envolvimento na distribuição de material de abuso sexual infantil, criação de expressões sexuais profundas e negação do Holocausto. Desde então, os promotores intimaram Musk e a ex-executiva-chefe do X, Linda Yaccarino, para entrevistas voluntárias em 20 de abril. Um tribunal holandês ordenou separadamente que Grok fosse proibido de produzir imagens íntimas não consensuais. A UE já multou 10 € 120 milhões até dezembro de 2025 por violação dos requisitos de transparência da DSA, a pena agora é de 10. competindo naquele que se tornou o primeiro tribunal a testar as fronteiras digitais do bloco.
Nos Estados Unidos, três adolescentes do Tennessee entraram com uma ação coletiva contra a xAI em 16 de março, alegando que Grok usou suas imagens sexuais sem seu conhecimento ou consentimento. As imagens eram semelhantes no Discord e em outras plataformas. Em 25 de março, Baltimore se tornou a primeira cidade americana a processar a xAI por pornografia obscena gerada por Grok, alegando violações da lei de proteção ao consumidor. Uma ação coletiva separada, movida por Lieff Cabraser Heimann & Bernstein, diz que a xAI foi conscientemente projetada e se beneficiou de um gerador de imagens usado para produzir e distribuir material de abuso sexual infantil, ao mesmo tempo que se recusa a implementar as medidas de segurança de conteúdo usadas por todas as outras grandes empresas de IA.
O governo preenche a lacuna na exposição legal da xAI. Todos os 11 cofundadores originais da empresa xAI já seguiram em frente, incluindo pesquisadores recrutados do Google DeepMind, Google Brain e Microsoft Research. Musk disse em março que o xAI “não foi construído da primeira vez” e foi reconstruído do zero. A empresa assumiu a SpaceX em fevereiro uma fusão de todas as ações que levantou questões governamentais imediatas, criando uma entidade combinada avaliada em 1,25 biliões de dólares, que está agora a preparar-se para o que seria a maior oferta pública inicial da história. Os reguladores e os processos judiciais em torno da Grok estão, de facto, agora a olhar para a perspectiva da empresa de uma avaliação pública de 1,75 biliões de dólares.
O que diferencia a reclamação Keller-Sutter da profunda e do CSAM é a sua simplicidade. Não envolve reprodução de imagens, deposição algorítmica ou abuso infantil. Envolve um chatbot que foi solicitado a insultar um funcionário público e o fez com uma linguagem que, segundo a lei suíça, constitui um crime. A questão científica é estreita: quem é o responsável quando um sistema de IA, operando em uma plataforma comercial, gera discurso difamatório a pedido do usuário? Se o usuário não puder ser identificado, a responsabilidade passa para o operador da academia, para o desenvolvedor de IA ou para nada?
Isso moldará a resposta a essa pergunta a trajetória do regime de IA muito além da Suíça. Todas as grandes empresas operam chatbots de IA capazes de produzir declarações difamatórias, abusivas ou falsas sobre pessoas reais. A maioria dos guardas fez isso recusando tais pedidos. Grok, por definição, operava com menos restrições do que seus concorrentes, uma posição que Musk comercializava em função da liberdade de expressão. O caso Keller-Sutler prova se essa posição pode sobreviver ao contacto com o direito penal.
A Suíça não faz parte da União Europeia e não está vinculada ao DSA. Mas a lei suíça de difamação é a mais rigorosa da Europa, e uma decisão criminal contra o operador da plataforma de IA atingirá todas as jurisdições com questões semelhantes atualmente pendentes. O caso é de escopo pequeno, envolvendo um corredor em uma plataforma de um oficial. E ele procura estabelecer este princípio, que as sociedades apoiam a estrutura destes sistemas O tipo de responsabilidade que a era da IA governamental exige não é de forma alguma pequena. Se Grok puder ser motivado a difamar o ex-presidente impunemente, não há dúvida sobre o que ele tem a dizer sobre tecnologia. Isto é o que ele diz sobre a lei.
