O procurador-geral da Califórnia, Rob Bonta, lançou uma investigação sobre a xAI, a empresa por trás do modelo de IA Grok, devido a preocupações de que a ferramenta estivesse sendo usada para criar e disseminar material sexualmente explícito não consensual online.
A investigação segue relatos de que Grok foi usado para criar imagens falsas retratando mulheres e meninas em cenários sexualmente explícitos sem o seu consentimento, conteúdo que teria sido usado para assediar indivíduos online, inclusive na plataforma de mídia social X.
“A grande quantidade de relatórios detalhando material sexualmente explícito e não consensual que a xAI produziu e publicou on-line nas últimas semanas é chocante. Este material, que retrata mulheres e crianças em posições nuas e sexualmente explícitas, tem sido usado para assediar pessoas on-line. Peço à xAI que tome medidas imediatas para garantir que isso não vá adiante”, disse Bonta. Temos tolerância zero com a criação e disseminação de imagens íntimas não consensuais ou material de abuso sexual infantil usando inteligência artificial.”
“Hoje, o meu escritório anuncia formalmente uma investigação sobre a XAI para determinar se e como a XAI violou a lei. Como principal responsável pela aplicação da lei da Califórnia encarregado de proteger os nossos residentes, estou profundamente preocupado com este desenvolvimento na inteligência artificial e utilizarei todas as ferramentas à minha disposição para manter os californianos seguros”, acrescentou.
O Procurador-Geral Bonta reiterou a sua preocupação sobre os riscos mais amplos representados pelas ferramentas de IA e disse que o seu gabinete continua focado na segurança da IA, especialmente na proteção das crianças. Anteriormente, ele apoiou legislação estadual para proteger crianças de chatbots de IA e esteve diretamente envolvido com empresas de IA em questões de segurança.
Recentemente, a Indonésia se tornou o primeiro país a suspender completamente o acesso ao Grok, o chatbot de IA desenvolvido pela empresa xAI de Elon Musk, em meio a crescentes preocupações globais sobre o uso indevido de IA para criar imagens sexuais sem consentimento, informou a CBS News.
Na Índia, o Ministério da Eletrônica e Tecnologia da Informação (MeitY) também tomou medidas, escrevendo para
Na semana passada, Elon Musk respondeu às críticas em torno de Grok, alertando os usuários sobre atividades ilegais. Ele disse que qualquer pessoa que use um chatbot “para criar conteúdo ilegal sofrerá as mesmas consequências que se carregasse conteúdo ilegal”.
Esta história foi obtida de agências terceirizadas. A Mid-day não assume qualquer responsabilidade por sua confiabilidade, confiabilidade, confiabilidade e dados de texto. Mid-day Management/mid-day.com reserva-se o direito exclusivo de alterar, excluir ou remover Conteúdo (sem aviso prévio) a seu exclusivo critério, por qualquer motivo.
