Uma análise da gestão da saúde humana mostra exactamente o que devemos temer: os analistas foram levados a impedir que os seus modelos ensinassem a qualquer pessoa como construir armas nucleares, químicas e biológicas.
A tarefa mais importante da publicidade é vender a missão. O Antrópico parece uma ameaça desgastante.
A empresa abriu uma carreira para analistas de aplicação da lei, cujo trabalho é proteger sua IA de pessoas que constroem armas, executam golpes ou cometem crimes cibernéticos; Axios foi o primeiro a relatar. Um seja qual for o sexo busca “Precisão analítica focada em danos radiológicos e nucleares”. Outros cobrem economia e explosivos, fraude financeira e muito mais.
Salário em todo o mundo entre US$ 200.000 e US$ 200.000. nenhuma codificação necessária. Ele quer experiência antropológica do mundo real em áreas como biologia e explosivos. Ele também quer pessoas que possam pensar como um invasor tentando contornar suas defesas.
Dizer mal de propósito
Espaço TNW City Coworking – onde o melhor trabalho é feito
Um espaço de trabalho para crescimento, colaboração e oportunidades infinitas de networking no coração da tecnologia.
Em títulos obtusos, o trabalho foi deliberado. “Garantir que os nossos modelos não forneçam informações potencialmente prejudiciais significa que somos responsáveis pelo desenvolvimento”, disse um porta-voz. A empresa disse que contrata regularmente especialistas em áreas sensíveis para testar seus modelos antes do lançamento.
Quanto à perda de ortografia, está anexado à forma de escrever o direito das nações. A Anthropic diz que centenas de funcionários estão agora trabalhando com segurança, procurando pontos fracos e corrigindo-os.
Esta empresa é o que os críticos chamam de o maior dogma do setor. Um modelo de segurança no manejo antrópico deveria corresponder a esse rótulo. Economiza dinheiro real descrevendo o risco que gasta.
Ele continua descrevendo a catástrofe de Amodeus
O presidente-executivo, Dario Amodei, passou meses descrevendo o lado negativo. Em comentário de janeiro, ele citou o cenário biológico que mais o preocupa.
“Não creio que ataques biológicos devam necessariamente ser realizados, o que pode ser feito a qualquer momento”, escreveu ele. “Mas acrescentado por um milhão de pessoas e ao longo de vários anos, penso que existe um grande risco de um grande ataque, com potencial para um milhão ou mais de casos”.
Ele também alertou sobre a ajuda da IA aos cibercriminosos e às autoridades estaduais. No início deste ano, a Anthropologie entrou em conflito com o Departamento de Defesa dos EUA sobre a utilização da sua tecnologia para vigilância em massa e armas autónomas.
Os laboratórios escrevem suas próprias regras
OpenAI faz o mesmo. Contrata um pesquisador de riscos biológicos e químicos, com salário-base de até US$ 445 mil. À medida que os modelos se tornam mais capazes, todos os laboratórios sérios vão para a equipe vermelha.
Esse tipo de coisa aconteceu no vácuo. Os EUA ainda têm uma lei de segurança de IA não abrangente. O Congresso não aprovou nada ao longo dos anos. Alguns querem um árbitro: o observador de estilo de parede Demis Hassabi do Google flutuou para limitar os modelos. Menos de uma centena de PhDs em IA vão para o governo, então a experiência está dentro da equipe.
O resultado é um estranho tipo de sobriedade. As empresas devem desenvolver a maior capacidade de assumir riscos, ao mesmo tempo que decidem como assegurá-la dentro de si. Amodei mencionou essa tensão, chamando as sociedades de IA de a próxima ameaça depois dos estados hostis. Essas páginas de conquistas contêm conteúdo e conselhos em um só lugar. As pessoas estão em melhor posição para trabalhar para impedir o desastre para uma sociedade que poderia ajudá-lo.
