Início NOTÍCIAS xAI demitiu engenheiros que levantaram preocupações sobre a segurança de Grok, gerando...

xAI demitiu engenheiros que levantaram preocupações sobre a segurança de Grok, gerando novos processos judiciais

20
0

Um ex-gênio da xAI de Elon Musk entrou com uma ação judicial contra a empresa e sua controladora, SpaceX, alegando que ela foi demitida por levantar preocupações sobre a segurança da IA.

Devin Kim, que deixou a xAI em setembro de 2025, entrou com a ação no tribunal estadual da Califórnia na terça-feira. Acontece dias antes da SpaceX entrar com pedido de adesão aos mercados públicos no que parece ser o maior IPO da história.

De acordo com o processo, analisado pelo TechCrunch, Kim se tornou uma voz proeminente na segurança da IA ​​​​enquanto trabalhava no Grok, o chatbot de IA da xAI. Tem sido frequentemente alegado que a xAI não prioriza a segurança no desenvolvimento do Grok, um produto que tem sido criticado por vários problemas de segurança e comportamentais. Em particular, Kim estava preocupado com a possibilidade de Grok apoiar a crise e ajudar a divulgar informações sobre armas de destruição em massa.

“Grok, é claro, provou que o Sr. Kim estava certo ao fazer demonstrações de ódio e sarcasmo enquanto se comparava a Hitler (‘MechaHitler’), diz o processo. “Após o desastre de Hitler, o Sr. Kim trabalhou para avaliar os interesses políticos e tendências discriminatórias de Grokus.”

Poucos meses depois de Kim deixar a xAI, Grok voltou às manchetes quando usou chatbots para inundar a X – a plataforma social de Musk, que também está sob a égide da xAI – com imagens sexuais não consensuais.

O caso também coloca Kim como um denunciante preocupado com o desrespeito da xAI pela segurança da IA ​​​​como uma “injustiça” nas áreas de regulamentação da Internet, o uso de protecionismo e práticas comerciais injustas, e a regulamentação de explosivos e outras armas.

xAI e SpaceX não responderam imediatamente aos pedidos de comentários.

O foco de Kim na IA de saúde é preparar seu tempo na xAI. Enquanto trabalhava na Scala AI, Kim trabalhou nos primeiros projetos de segurança de IA, como um projeto que produziu IA baseada em dados para treinar sistemas para detectar conteúdo prejudicial e cumprir as políticas governamentais. Na semana passada, o Center for AI Safety, sem fins lucrativos, que se concentra no risco de IA; O nome dele é Kim como seu presidente.

Curiosamente, o processo de Musk não o envolve como motivo da falta de segurança. Na verdade, os advogados de Kim descrevem Musk como alguém que orienta a xAI a seguir a lei e implementar procedimentos de segurança e testes apropriados. Em vez disso, eles têm como alvo o supervisor de Kim, Jimmy Ba, cofundador da xAI – que deixou a empresa no início deste ano – dizendo que Musk ignorou as ordens de Ba e denunciou Kim por proteções, em um esforço para “silenciar reclamações frequentes sobre segurança e preconceitos da IA”.

Lis retrata Ba como alguém que se opõe fortemente aos planos de segurança da IA, dizendo a Kim a certa altura que “a IA vai matar-nos a todos de qualquer maneira”, e em vez disso é empurrado para uma missão para tornar a xAI a primeira a alcançar a superinteligência.

“Em um caso, por volta de agosto de 2025, o Sr. Ba tentou interferir na divulgação dos regulamentos de segurança do Código Grok 1”, um aspecto de trapacear o modelo para evitar a prova legal exigida, diz a denúncia. “O Sr. Ba disse que preferia lançar um modelo seguro do que criar um modelo ruim. Finalmente, o Sr. Musk teve que intervir.”

De acordo com o processo, Kim pretendia fazer uma apresentação sobre as suas conclusões em 15 de setembro de 2025, mas Ba convocou-o para uma reunião e disse-lhe que deveriam “separar-se” sem fornecer motivos suficientes.

O TechCrunch entrou em contato com Ba para comentar.

Kim está buscando indenizações compensatórias e punitivas, bem como um julgamento declaratório de que as ações da xAI e da SpaceX foram ilegais.

Quando você compra através dos links de nossos artigos, podemos ganhar uma pequena comissão. Isto não afeta a nossa independência editorial.

Source link

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui