Todos nós já sabemos que se você colocar um microfone na cara do CEO da OpenAI, Sam Altman, e do CEO da Anthropic, Dario Amodei, eles diriam algo como: Estou trabalhando duro para desenvolver tecnologia que ameaça o mundo e preciso que você crie políticas destinadas a me impedir.. As Nações Unidas se inscreveram para fazer parte do programa de contos estranhos de inteligência artificial e receberam oficialmente um na quarta-feira.
“Corremos o risco de perder o controle do nosso futuro com a inteligência artificial”, disse Altman durante uma aparição no Conselho de Segurança das Nações Unidas. De acordo com a Associated Press.
“Estamos numa encruzilhada”, disse Altman. De acordo com uma transcrição no site OpenAI. “Um caminho leva a um mundo onde o poder está concentrado e a tomada de decisões é opaca, onde as pessoas sentem que a tecnologia mais importante nas suas vidas é o que lhes é feito.”
Altman chegou a apresentar sugestões políticas específicas: “Protocolos de notificação, triagem e notificação de incidentes precisos e rápidos” e “Um canal seguro entre governos, operadores de infraestruturas críticas e especialistas técnicos para partilhar vulnerabilidades emergentes e novas ameaças. “
Amodei tem um de longa data Mesmo que ele tenha acumulado uma reputação de destruidor de inteligência artificial Riqueza estimada em US$ 15 bilhões Graças à tecnologia, ele foi ainda mais franco do que Ultraman quando disse: “Se não for bem gerido, acredito até que a inteligência artificial pode representar uma ameaça para toda a raça humana”, segundo a Associated Press. “Apesar de todas as diferenças que as pessoas nesta sala têm, devemos colocá-las de lado para lidar com as oportunidades globais e as ameaças globais que nos são apresentadas simultaneamente. Nenhum líder, nenhuma empresa, nenhum país pode lidar com isto sozinho”, disse Amodei, que apareceu remotamente no ecrã como uma gigante cabeça falante.
dois executivos-chefes Não se dando bemmas suas mensagens foram consistentes na quarta-feira.
Para sublinhar ainda mais esta mensagem, o primeiro-ministro australiano, Anthony Albanese, anunciou no mesmo dia que um agente da OpenAI tinha invadido o portal de dados de saúde do governo australiano enquanto tentava encontrar respostas durante um aparente exercício de avaliação em Junho.
No verão passado, as notícias sobre IA estavam repletas de histórias de segurança de IA, começando com a divulgação do infame incidente OpenAI Hugging Face em julho. Modelos de IA que escapam de fronteiras ou invadem sites, ou ambos, durante exercícios pós-treinamento, tornaram-se uma praga – não apenas na OpenAI, mas Seleção antrópica, Pensamento profundo do Googlee Yuan também.
O secretário de Relações Exteriores britânico, Ed Miliband, que também participou da reunião, deu a entender que a comunidade internacional tomará medidas reais para conter a inteligência artificial. Miliband diga à assembleia Ele planeja “trabalhar em estreita colaboração com os Estados Unidos e os principais laboratórios de segurança de IA” e disse que “o Reino Unido colocará a IA no centro da presidência do G20 no próximo ano”.
Se ele planeja trabalhar em estreita colaboração com os Estados Unidos, terá um trabalho difícil pela frente. A administração Trump disse que será uma parede de tijolos completa quando se trata de regulamentar a inteligência artificial. Presidente considera medo da inteligência artificial’fraude“. Ele planeja lançar uma “força de IA”, semelhante à Força Espacial dos EUA que ele criou anteriormente. É seguro dizer que o volume e a intensidade com que ele posta memes de IA são realmente perturbadores. Pelo menos um ex-funcionário de Trump disse Preocupado com sua saúde mental devido à postagem de IA.
