OpenAI é um líder futurista; Joshua Achiam informou a seus colegas na terça-feira que deixará a empresa este mês, após quase nove anos, soube a WIRED. Achiam, que anteriormente liderou uma equipe responsável por proteger a missão sem fins lucrativos da organização, disse à equipe da OpenAI que sua saída não foi motivada por nenhum motivo específico, mas por algo em que ele vinha pensando há algum tempo.
“O mundo está no escuro agora e parece que é possível trabalhar em uma missão fora dos limites do laboratório”, disse Achiam em nota à equipe obtida pela WIRED. “Acredito que podemos alcançar um mundo de paz, prosperidade sem precedentes e recursos inestimáveis, sociais e científicos.” O que quer que eu faça a seguir, trabalharei com você para tornar esta visão uma realidade.
A OpenAI ainda não anunciou se alguém preencherá a função de Achia, que está no centro das equipes de política e segurança de IA da empresa e está envolvida na pesquisa dos possíveis danos e benefícios que surgem da inteligência artificial. Achiam, juntamente com os líderes seniores da empresa, incluindo o executivo-chefe global Chris Lehane, defende a supervisão regulatória da missão da OpenAI: garantir que a AGI beneficie todas as pessoas.
A OpenAI organizou suas equipes de saúde, produtos e pesquisa várias vezes a partir do ChatGPT em 2022, após o que a empresa cresceu rapidamente de um pequeno laboratório de pesquisa para uma grande empresa de tecnologia. Em 2024, a OpenAI anunciou a formação de uma “equipe de alinhamento de missão” liderada por Achiam que foi enviada para apoiar a missão da empresa. OpenAI Ele lançou o grupo Em fevereiro, Achiam anunciou que assumiria um novo papel como principal futurista.
No último ano, a OpenAI trabalhou para colmatar a lacuna entre a investigação em IA e a sua carreira, como parte de um esforço para desenvolver regras e padrões que prevejam o rumo que a sua tecnologia irá tomar. À medida que as duas empresas começaram a colaborar mais estreitamente, vários investigadores da OpenAI, incluindo Boaz Barak, Noam Brown e Adrien Ecoffet, dizem que se envolveram mais no trabalho de design.
Ex-conselheiro de IA da Casa Branca, Dean Ball eu comecei na OpenAI esta semana, já que o futuro chefe da empresa é estratégico e estará brevemente envolvido com Achias. Espera-se também que Ball trabalhe com pesquisadores e líderes em sua função.
Achiam é o mais recente chefe de segurança a deixar a OpenAI, juntando-se a uma lista crescente de problemas enquanto a empresa se prepara para abrir o capital. Jan Leike, que co-liderou a equipe de superalinhamento OpenAI que pesquisa como manter modelos avançados de IA sob controle humano, saiu para ingressar na Anthropic em 2024.
Nesse mesmo ano, o diretor de pesquisa Miles Brundage e Steven Adler, que lideraram a pesquisa sobre as capacidades perigosas dos modelos de IA, deixaram a OpenAI para encontrar patrocinadores sem fins lucrativos para que os laboratórios de IA aderissem aos padrões de segurança e proteção da empresa. Andrea Vallone, que liderou a pesquisa da OpenAI sobre como o ChatGPT deveria responder aos usuários que sofrem de sofrimento mental ou emocional, saiu para se juntar à equipe Leike na Anthropica no final de 2015.
Depois de ingressar internamente na OpenAI em 2017, Achiam tornou-se um cientista pesquisador focado na saúde da IA. Ele é conhecido internamente como um forte defensor da missão focada na segurança da OpenAI, mas também de sua própria controvérsia. às vezes críticas a segurança da comunidade mais ampla de IA.
No início deste ano, ele testemunhou em um tribunal federal que interrompeu a saída de Elon Musk quando ele deixou a OpenAI em 2018, dizendo que o plano do então bilionário de desenvolver AGI na Tesla poderia ocorrer às custas da segurança. Musk afirmou que ao chamar Achia de “burro”, um momento que Dario Amodei (agora CEO da Anthropic) e David Luan (que se tornou chefe do laboratório AGI da Amazon) comemoraram, presenteando Achia com uma estátua da última ponta de um burro dourado com a inscrição: “Nunca pare o burro por segurança”.
