Os dois primeiros são OpenAI funcionários e um grupo sem fins lucrativos de segurança de IA alertam que o laboratório de IA de Elon Musk, xAI, pode se tornar um passivo para potenciais investidores na SpaceX, que está se preparando para registrar o que será a maior oferta pública inicial da história de Wall Street.
Em um carta Em comunicado divulgado aos investidores na terça-feira, ex-estrelas destacaram o que descrevem como um “risco sem precedentes” para xAI que poderia complicar os planos anunciados de lançamento da SpaceX US$ 75 bilhões como parte de seu IPO. A avaliação privada da empresa de foguetes disparou para US$ 1 trilhão depois que ela foi adquirida no ano passado xAI. Musk afirmou que sua equipe de foguetes pode enviar centros ao espaço para seu laboratório de IA, mas os autores da carta O registro de segurança do xAI pode complicar a forma como os investidores estão se preparando para ver a multidão combinada enviar os seus próprios. Apresentação de prospecto de IPO.
Um dos signatários da carta e coautor da nova organização sem fins lucrativos, que assinou o AI Standards Guidelight, se opôs à segurança do ex-pesquisador da OpenAI Steven Adler e do ex-conselheiro da OpenAI Page Hedley. O grupo, que é apoiado por doadores privados, visa melhorar as práticas seguras das empresas de IA. Outras organizações sem fins lucrativos de segurança de IA também aderiram, incluindo Legal Advocates for Science and Technology, Encode AI e The Midas Project.
Hedley disse à WIRED em uma entrevista que acredita que xAI tem as piores proteções “quase generalizadas” em comparação com outros desenvolvedores de IA, incluindo OpenAI, Google DeepMind e Anthropic. Como resultado, argumenta ele, a SpaceX pode enfrentar um risco maior de falência e processos judiciais do que outros laboratórios de IA.
Os autores da carta argumentam que a SpaceX deveria investir em mais divulgações, incluindo se a xAI pretende avançar nos modelos da fronteira da IA. SpaceX recentemente fechou um acordo para vender uma parte significativa de sua capacidade de GPU para a Antropologiae a carta de acordo “deixa incerto se a xAI ainda é um concorrente dentro da empresa maior que detém a xAI”. Se a xAI continuar a desenvolver modelos de IA, dizem os autores, será necessário informar a saúde pública e as políticas governamentais.
SpaceX e xAI não responderam imediatamente ao pedido de comentários da WIRED.
A carta também descreve exemplos de como a xAI não cumpriu os padrões de segurança da indústria, a fim de publicar relatórios detalhados para mitigar os riscos que cercam os seus modelos de IA utilizados em ataques cibernéticos. Os autores também descrevem riscos de segurança específicos em xAI que, segundo eles, fornecem um exame minucioso adicional. Entre os mais notáveis estão quando o principal chatbot de IA da xAI, Grok, automaticamente trouxe à tona o genocídio branco em suas respostas. Noutro caso, a xAI permitiu à Grok gerar milhares de imagens sexualizadas de mulheres e crianças, que foram amplamente distribuídas nas plataformas de redes sociais de Musk. 10. Este caso levou pelo menos 37 procuradores-gerais dos EUA a enviar uma carta exigindo que o laboratório de IA de Musk garantisse a proteção de mulheres e crianças na sua plataforma.
ciijus diz que a xAI passou por uma série de incidentes de segurança e recebeu atenção regulatória “muito desproporcional à sua participação no mercado”. À medida que os legisladores ficam cada vez mais alarmados com as capacidades cibernéticas dos modelos avançados de IA, como o antrópico Claude Mythos, novas regulamentações de segurança podem estar no horizonte. A administração Trump já informou considerando a ordem executiva o que daria às agências de inteligência dos EUA mais do que modelos para supervisionar a IA.
“É preciso um investimento sério para controlar os riscos, e parece que o xAI está historicamente posicionado aqui”, diz Adler. Uma reportagem do The Washington Post anunciando xAI disse recentemente: “dois ou três“A questão que os desenvolvedores devem se perguntar é se o xAI permanecesse na fronteira, quão valioso seria realmente gerenciar essas coisas de forma responsável?
