Leah Feig: OK. Foi muito útil para mim dividi-lo nessas três categorias.
Zoe Schiffer: Eu gosto de baldes.
Leah Feig: Eu gosto de baldes. Quero examinar cada um deles detalhadamente. Acho que minha primeira pergunta é: onde os códigos nucleares estão sendo pressionados e em que balde eles caem?
Brian Barrett: Na verdade, isso é algo com que não precisamos nos preocupar, certo?
Zoe Schiffer: Sim.
Leah Feig: Conte-me mais.
Zoe Schiffer: Você conversa com pesquisadores de IA e, se realmente pressioná-los, poderá obter os três baldes que acabei de listar. Mas se você continuar conversando com eles, eles dirão: “Bem, existem alguns outros cenários em que a IA está no robô e o robô anda por aí e então o robô pode interagir com o mundo físico de uma forma muito, muito assustadora”. Mas isso é um pouco rebuscado, e eles admitirão que é um pouco rebuscado.
Brian Barrett: Então eu acho, Zoe, em termos de seu barril, eu gostaria de ter um sub-barril ou um pequeno barril cortado do barril.
Zoe Schiffer: Uau, um balde.
Brian Barrett: Não, porque você disse que a IA criou armas biológicas, a IA hackeou alguma coisa, a IA e outras coisas, tudo isso: é verdade. Mas acho que há uma diferença entre o que os humanos dirigem e o que a IA faz por si só. Acho que muitas pessoas estão pensando: “Ah, como a inteligência artificial poderia liberar armas biológicas? Isso é loucura.” Sim, claro, isso é ótimo. Mas também existem maus atores no mundo que podem usar a IA para criar uma arma biológica e depois liberá-la, certo?
Zoe Schiffer: Ah, bem, quero dizer, acho que a situação é completamente válida. Para mim, se você diz para dar às pessoas acesso a informações sobre como fabricar armas biológicas, deve haver alguém estúpido e imprudente o suficiente para realmente fazer isso. Eu pensei, não, totalmente. As pessoas fazem todo tipo de coisas horríveis, perigosas e maliciosas o tempo todo.
Leah Feig: Inspirado na internet.
Zoe Schiffer: Correto. Eu acho que isso é muito, muito perigoso. A IA faz isso sozinha, um cenário que discutiremos novamente, mas na minha opinião é um pouco rebuscado.
Brian Barrett:Posso ser ridicularizado por isso, mas quero nos levar de volta ao filme de 1983, jogos de guerra.
Leah Feig: Não, é exatamente isso que acho que deveríamos discutir. Isto é meu… sim. jogos de guerra Sim… sim.
Brian Barrett: Porque é o seguinte, a IA não aperta um botão, nem gira uma chave, nem nada; jogos de guerraBasicamente, trata-se de inteligência artificial, um computador que quase provoca uma guerra nuclear e, mais importante, faz os Estados Unidos pensarem que estão sob ataque de armas nucleares soviéticas. Bem, eu acho, e espero, e não sou um especialista aqui, existe o risco de termos salvaguardas suficientes em vigor para que isso realmente não aconteça, e de termos tecnologia de satélite suficiente para podermos confirmar todo tipo de coisas. Não importa. Mas acho que o vetor ao qual valeria a pena prestar atenção é a inteligência artificial disparando algum tipo de alarme, levando a uma série de eventos catastróficos.
