Nos últimos anos, a única coisa sobre a qual o Vale do Silício pode falar parece ser quão brilhante será o futuro da humanidade com a ajuda da inteligência artificial. Educação personalizada, médicos-terapeutas de plantão 24 horas por dia, 7 dias por semana, cura para todas as doenças e erradicação da pobreza – quase tudo o que poderíamos desejar está ao alcance de apenas algumas dicas. Mas houve uma mudança definitiva na atmosfera nas últimas duas semanas. De repente, o clima parece ser menos de expectativa ansiosa por uma nova era de ouro e mais de medo.
Desde o Dia do Trabalho, vários membros da indústria da IA têm falado sobre o que consideram uma ameaça existencial para a humanidade, impulsionada pela corrida da indústria para construir sistemas que possam construir versões mais avançadas sem supervisão humana, uma técnica conhecida como “auto-aperfeiçoamento recursivo” (RSI). Observe que ninguém sabe ao certo como Essa futura superinteligência artificial poderia exterminar a humanidade, embora muitos cenários sombrios e se foi sugerido.
Do lado de fora, essas previsões parecem um momento incrível para a indústria de IA, como se a tecnologia tivesse subitamente ultrapassado um limite crítico de capacidade e as pessoas que a desenvolveram – que até agora acreditavam estar mexendo em algo completamente inofensivo – de repente acordassem e percebessem Oh meu Deus, o que estamos fazendo? Mas só porque estas previsões do Juízo Final dominaram as manchetes nas últimas duas semanas, isso não significa que sejam um fenómeno novo. Na verdade, remontam às origens da moderna indústria da IA (e mais além), afetando profundamente toda a sua base ideológica.
Na sua essência estão duas ideias impulsionadoras e perigosas: (1) A chegada de sistemas de inteligência artificial superinteligentes é uma necessidade histórica, um próximo passo inevitável e completamente natural na história da evolução da Terra; e (2) tais sistemas, com o seu poder absoluto, não só libertarão a humanidade de alguns dos seus problemas mais desafiantes, mas potencialmente eliminar-nos-ão.
Sam Altman
“Acho que a inteligência artificial provavelmente causará o fim do mundo.”
Essa frase é publicar Em uma conferência de tecnologia em junho de 2015, Altman, que abandonou a ciência da computação na Universidade de Stanford, co-fundou a OpenAI cerca de seis meses depois. Mas não se preocupe, porque ele fez um aviso: “Mas, enquanto isso, algumas grandes empresas serão criadas por meio de aprendizado de máquina sério”. (Sente-se melhor?) Em 2023, OpenAI escreveu em um post postagem no blog A superinteligência pode ser “extremamente perigosa” e “levar à perda do poder humano ou mesmo à extinção da raça humana”.
Elon Musk
“Através da inteligência artificial, estamos convocando o diabo.”
Em 2014, nove anos antes de Musk fundar a sua própria empresa de inteligência artificial, a xAI, para competir com a OpenAI, a Anthropic e a Google, ele tinha Comparar Vale do Silício busca inteligência artificial para invocar o mal Os humanos não podem compreender nem controlar. Este aviso prenuncia muitos dos argumentos que ressurgiram hoje: a inteligência artificial está a avançar mais rapidamente do que a nossa capacidade de garantir que estes sistemas estão alinhados com os interesses e valores humanos.
Dario Amodei
A inteligência artificial “pode representar algum tipo de ameaça à humanidade”.
Amodei, que era vice-presidente de pesquisa da OpenAI, se separou da empresa em dezembro de 2020 e foi cofundador da Anthropic com sua irmã Daniela. Promovem a empresa como a voz da responsabilidade e da segurança numa indústria que consideram imprudentemente dar prioridade ao domínio do mercado em detrimento da coordenação. Esta oferta é para entrega na primavera de 2022 entrevista Uma colaboração com o Future of Life Institute, mais de um ano após a fundação da Anthropic, fornece uma janela para o seu pensamento da época.
Ele reconhece que os futuros sistemas de inteligência artificial Pode É concebível que isto represente uma ameaça existencial para a humanidade – “A longo prazo”, continuou ele, este argumento “parece pelo menos potencialmente razoável para nós” – e desde então posicionou a Antthropic como a única empresa em que se pode confiar para inaugurar com segurança a chegada da superinteligência. Recentemente, ele explicar A chance de um “erro verdadeiramente catastrófico” com a inteligência artificial está entre 10% e 25%. No entanto, é importante lembrar que estes números, muitas vezes chamados de “p(doom)” (abreviação de “probability of doom”), são Suposição totalmente pessoale não se baseia em nenhum tipo de cálculo objetivo.
Larry Page
“A vida digital é o próximo passo natural e desejável na ‘evolução do universo’.
2014, Google Aquisição da pioneira em inteligência artificial DeepMind Cerca de US$ 650 milhões. Em 2015, o cofundador e ex-CEO do Google, Larry Page Citação dada O que foi dito acima é o que o professor do MIT Max Tegmark disse durante uma discussão em uma festa. Os comentários de Page levam-nos a um território transumanista bastante vasto, mas sugerem as profundas correntes ideológicas que permeiam a moderna indústria tecnológica. Ou seja, os humanos em breve precisarão abrir caminho para nossas sucessoras mecânicas, e essa passagem evolutiva da tocha é ao mesmo tempo “natural e desejável”.
Isto ecoa a filosofia expressa pelo pioneiro da robótica Hans Moravec, que escreveu Em 1999, um ano após a fundação do Google, as máquinas poderiam eventualmente “substituir[os humanos]e nós nos tornaríamos sábios”Dê-lhes todas as vantagens e desista quando não pudermos mais contribuir. “
