Depois que o ChatGPT OpenAI entrou em cena no final de 2022, não demorou muito para que a grande maioria dos Estados Unidos começasse a ouvir avisos. Os resultados no topo das empresas de IA nos disseram que elas estavam construindo novas tecnologias radicais que representavam ameaças à sociedade. E não apenas sobre segurança digital. ele tinha o poder de destruir o mundo inteiro.
Desde o início, ficou claro que esses avisos eram tanto um discurso de vendas quanto uma forte previsão de como a IA se comportaria e criaria efeitos em cascata. Os executivos da IA até testemunharam no Congresso para nos dizer como tudo era assustador, quase pedindo um limite, enquanto entregavam os seus salários ao governo. Já existem aqueles executivos que tornam todo mundo humilde.
Chris Lehane, diretor global de políticas da OpenAI, sentou-se para uma entrevista com a revista Padrão de São Francisco Esta semana, o caso conta com pelo menos um ataque à casa do CEO Sam Altman.
“Algo da conversa não é necessariamente responsável”, disse Lehane em latim. “E quando você expõe alguns pensamentos e ideias, eles têm consequências.”
Lehane estava se referindo ao homem que supostamente jogou um coquetel molotov na casa de Altman há uma semana. Daniel Moreno-Gama, de 20 anos, do Texas, é acusado de disparar uma metralhadora contra a casa de Altman antes de ir para a sede da OpenAI, onde quebrou as portas de vidro com uma cadeira.
Moreno-Gama carregava um “documentário” anti-IA, segundo a polícia, sugerindo que seus motivos estavam relacionados a preocupações com inteligência artificial e ameaças existenciais. O Wall Street Journal entrega ele se autodenominou “CEO de tecnologia Luigi’ing” para Luigi Mangione, que é acusado do assassinato do CEO da UnitedHealth.
Um segundo incidente, apenas dois dias depois, em que dois homens supostamente dispararam uma arma perto da casa de Altman, ainda está sendo investigado, embora se suspeite que as iniciais tenham sido. liberado de títulos.
Lehane divide o mundo em dois grupos de pessoas: aqueles que pensam que a IA é a melhor coisa de sempre e que conduzirá inevitavelmente a um mundo de abundância e desemprego; e aqueles a quem ele chama de guardiões, que têm uma “perspectiva, uma visão muito negativa e sombria da humanidade”.
Os chamados transportadores de IA simplesmente não podem ser devidamente vendidos com base nos benefícios de uma nova tecnologia, argumenta Lehane. “Nosso trabalho na OpenAI e no espaço da IA – e precisamos fazer muito melhor – é explicar às pessoas por que… isso será bom para elas, para a família e para a grande sociedade”, disse Lehane a Latin.
Mas é difícil levar esse argumento a sério depois de todos os caras como Altman terem dito. Isso também pode não começar tão tarde quanto 2022. Em 2015, Altman ele disse“Acho que a IA provavelmente será o líder até o fim do mundo. Mas, enquanto isso, as grandes empresas criaram um grande aprendizado de máquina.”
Como você ouve algo assim sobre um homem poderoso e justo? Há duas coisas boas para você: você pode descartar Altman como insidioso e presumir que a humanidade não deveria ser nada. Ou você pode acreditar na palavra de um CEO de tecnologia de que a tecnologia que eles estão construindo pode acabar com o mundo. Isso deixa você com a questão do que você pode fazer a respeito.
Não é estranho, mas o que fazemos
Sabemos o que acontece na ficção distópica. Em Terminator 2: Dia do JulgamentoSarah Connor acredita que precisa matar o investigador mais sério da Skynet e da ascensão das máquinas. Ele não consegue fazer acontecer, mas ao explicar o que vai acontecer, o pesquisador ajuda a acessar a tecnologia para que ela seja destruída.
Altman alertou que também poderia ser IA para * “planejaram novos patógenos biológicos” e assinaram uma carta sobre o “perigo de extinção” se a IA não fosse domesticada. Mas também tentou afirmar que os EUA precisam de desenvolver estas tecnologias potencialmente catastróficas, porque deixá-las assim representaria um risco para os adversários geopolíticos.
“Uma AGI superinteligente desalinhada poderia causar sérios danos ao mundo, um governo autocrático com uma liderança decisiva na superinteligência poderia fazer o mesmo”, Altman escreveu em 2013.
Recorri ao produto de Altman, ChatGPT, para perguntar sobre seus comentários sobre ameaças existenciais à humanidade. Perguntei especificamente se Altman havia falado sobre IA desonesta ou o fim do mundo no podcast de Joe Rogan. Hilariamente, ChatGPT disse que não encontrou Rogan. Altman, de fato, eles pareciam Episódio 2044 The Joe Rogan Experience, lançado pela primeira vez em 6 de outubro de 2023.
Corrigi o ChatGPT e agora ele fez o clichê: ‘Você quer estar certo, etc.’ e assim por diante. As autoridades me deram;
- “Existem riscos… se esta tecnologia der errado, pode dar errado.”
- “O que me preocupa é que estamos perdendo o controle dos sistemas.”
- “Isso pode ficar muito, muito ruim… como apagar as luzes”.
Essa última palavra não é precisa, pelo que posso dizer. Não está na transcrição do episódio no YouTube. Mas Altman disse algo próximo a ele entrevista com o podcast StrictlyVC. “Causas ruins – e acho que é importante que todos nós digamos isso – são como luzes”, explicou Altman para uma sala cheia de pessoas. Perto, mas não exigente, o que talvez mostre como os sistemas de IA estão a falhar nas vidas das pessoas.
O CEO da Anthropic, Dario Amodei, fez palavras semelhantes, dizendo Eixos antes deste ano, que; “É dado à humanidade um poder quase incalculável e é completamente incerto se os nossos sistemas sociais, políticos e tecnológicos possuem a maturidade para exercê-lo.” Amodei afirma que “o autoritarismo possibilitado pela IA me assusta”.
Amodei também informou que qualquer pessoa com diploma STEM poderia para fazer uma arma biológica com a ajuda de modelos de IA, e ele mesmo chamou os porteiros. Alguns desses guardas antrópicos escaparam em apuros quando o Pentágono notou a empresa e estava no processo de expurgar Claudius dos seus sistemas. Amodeus recusou-se a abandonar as defesas que cercavam o uso de granéis domésticos e sistemas de armas autônomos por Cláudio.
Se alguém testemunhasse que criou um instrumento que poderia acabar com o poder do mundo, você acreditaria que a pessoa seria imediatamente levada algemada. Essa ideia me ocorreu há três anos e gostaria de saber quem a disse primeiro. Mas essa é a lei.
Pense em outro lugar. Alguém diz que construiu uma arma que pode se tornar desonesta e literalmente acabar com a vida na Terra. Ou o governo federal vai simplesmente agir como se a única solução fossem regulamentações frágeis que mexem nas bordas? Os executores dessa empresa são presos e presos por fazerem ameaças terroristas?
A ameaça de evitar totalmente a vida é uma ameaça à vida humana
Além da ascensão da Skynet, está claro que o assunto é uma tarefa urgente. Muitas empresas de IA no ano passado citaram o programa como leigos, embora por vezes tenham um incentivo para usá-lo como uma desculpa conveniente. Mas não vamos negar que a IA é agora suficiente na escrita e noutros empregos de colarinho branco para causar alguma perturbação no mercado de trabalho.
Os CEOs da IA estão ansiosos para dizer a todos que essas perturbações estão chegando, acreditando que o governo deveria fazer algo a respeito, ao mesmo tempo que pressionam o mesmo governo para mantê-los fora de seu alcance. Talvez ninguém imite melhor esse comportamento do que Elon Musk, cuja empresa xAI fabrica o chatbot Grok AI.
“O alto rendimento universal por meio de trens emitidos pelo Governo Federal é a melhor maneira de lidar com o desemprego por meio da IA”, escreveu Musk em Sexta-feira. “Bens e serviços de IA/robótica produzirão um aumento enormemente desnecessário na oferta monetária, portanto não haverá inflação.”
Antes que Musk seja ridículo de dizer, teremos um mundo de abundância utópica fornecido pelo governo. Durante o tempo de Musk como confidente do Presidente Trump, no ano passado, o bilionário apoiou a destruição completa da USAID, cortou o financiamento para programas vitais e criticou as pessoas que ele afirmava que o sistema estava a explorar.
O chamado Departamento de Eficiência Governamental (DOGE) ajudou a expurgar cerca de 300 mil funcionários federais e assumiu como missão dizer que pessoas indignas não mereciam estar no poder. Agora aqui está quem fala sobre IA porque o governo vai dar dinheiro de graça, você não deveria se preocupar? Absurdo.
Por que alguém tentaria vender um serviço público sobre qual será o seu trabalho? Porque o pitch é destinado a investidores, governo e pessoas que compram empresas de software. Você deve tentar ser um avatar Ghibli na produção do filme.
Eleito para governar a corrida para decidir por todos
Todas as elites da IA estão vendendo seus produtos porque são inevitáveis. Faz parte da venda, não há nada que você possa fazer para impedi-lo. E só precisa se tornar público enquanto se encontra maneiras de trabalhar em um sistema onde a IA está causando perda de empregos. Esses oligarcas – e são muito oligarcas que, quando favorecem membros do governo – são eleitos. Mas independentemente disso, eles ditarão como será sua vida no próximo ano, cinco anos ou 20 anos, se você tiver sorte o suficiente para sobreviver à revolta dos robôs.
O próprio Altman escreveu um postagem no blog há oito dias eles voltaram para casa após o ataque. Ela compartilhou uma foto do marido e do filho, “esperando que isso dissuada a próxima pessoa de jogar um coquetel molotov em nossa casa, não importa o que pensem de mim”. E Altman parece estar fazendo o possível para se dissuadir do ataque do poder.
Aconteça o que acontecer, parece que os executivos da IA se encurralaram. Eles disseram que cada um dos seus produtos tem o potencial de destruir tudo. Eles estavam lá se quiséssemos ligar ou quando fosse necessário. E agora parece que estamos a entrar num outro período em que as mesmas pessoas que nos falaram sobre os perigos da IA estão a tentar fazer-nos olhar apenas para o que afirmam ser enormes benefícios para a sociedade; tanto quanto mostrar.
Não está claro como você colocou aquele gênio dos fãs de volta na garrafa.
