OpenAI está em busca de um novo capítulo em preparação

A OpenAI está procurando contratar novos executivos responsáveis ​​pela investigação de riscos emergentes relacionados à IA em áreas que vão desde segurança de computadores até saúde mental.

Em filtro X *O CEO Sam Altman reconheceu que os modelos de IA estão “começando a apresentar alguns desafios reais”, incluindo “o impacto potencial dos modelos na saúde mental”, bem como modelos que estão “começando a encontrar vulnerabilidades críticas na segurança informática”.

“Se você quiser ajudar o mundo a descobrir como garantir que os defensores da segurança cibernética possam impedir as capacidades da linha de frente enquanto os invasores não podem usá-las para causar danos, é melhor considerar tornar todos os sistemas mais seguros, e da mesma forma que liberamos recursos biológicos e também aplicamos confiança à segurança dos sistemas atuais que podem melhorar a si mesmos”, escreveu Altman.

OpenAI’s qualquer sexo pertence ao Capítulo Parasceves O trabalho é descrito como o responsável pela implementação da estrutura de preparação da empresa: “Nosso avanço é abrir o acesso ao OpenAI para pesquisar e preparar recursos limitados que criam um novo risco de danos graves”.

A empresa anunciou pela primeira vez a criação de uma equipe de preparação em 2023, dizendo que ela seria responsável por investigar potenciais “riscos de desastre”, sejam eles iminentes, como um ataque de hack, ou especulativos, como uma ameaça nuclear.

Menos de um ano depois; OpenAI substituiu o chefe de preparação Aleksander Madry para um trabalho focado no sistema de IA. Outros executivos de segurança da OpenAI também deixaram a empresa novos papéis foram assumidos preparação extra e segurança.

A empresa também atualizou recentemente o seu Quadro de Preparação, afirmando que iria “ajustar” os seus requisitos de segurança se um laboratório de IA concorrente lançasse um modelo de “alto risco” sem salvaguardas semelhantes.

Como Altman aludiu em sua postagem, os chatbots generativos de IA estão sob crescente escrutínio em relação ao seu impacto na saúde mental. Ações judiciais recentes alegam que os truques do ChatGPT da OpenAI fortaleceram os usuários, aumentaram seu isolamento social e até levaram a algumas mortes. (A empresa disse que continua trabalhando para melhorar a capacidade do ChatGPT de reconhecer sinais de dor emocional e conectar os usuários ao suporte do mundo real).