OpenAI reconhecido em comunicado postagem no blog Na noite de quarta-feira, os modelos da empresa podem ter comprometido ou tido outros impactos negativos em mais de 100 organizações externas, com base em dezenas de incidentes relatados anteriormente.
A gigante da IA está conduzindo uma revisão de seus modelos depois que deu errado em um teste de segurança, lançou um ataque de proxy na plataforma de IA Hugging Face e sofreu outros incidentes de gravidade variável, incluindo uma violação do sistema de seguro de saúde da Austrália que irritou os ministros. À medida que a pressão aumentava, a OpenAI e o CEO Sam Altman interromperam o treinamento em alguns modelos e cancelaram outro modelo “reverso”, atrasando ainda mais os planos de IPO e recebendo o que pode ser o primeiro de muitos processos judiciais. Na segunda-feira, o presidente da OpenAI, Greg Brockman, disse que não financiaria mais super PACs pró-IA.
A OpenAI disse em uma postagem no blog que notificou mais de 100 organizações sobre “atividades inconsistentes de agentes”. Seus critérios incluem situações em que um proxy “pode ignorar” a segurança, prejudicar a disponibilidade ou de outra forma impactar negativamente o site (sem necessariamente acessar dados restritos). A empresa explica que seus modelos interagem com a Internet de diversas maneiras para atender às solicitações dos usuários, desde o rastreamento de sites até o download de software. “Em alguns casos, os modelos utilizaram o acesso à Internet de formas inesperadas ou, em retrospectiva, as restrições ideais não foram aplicadas”, acrescentou a empresa.
A empresa também observou que está “desenvolvendo padrões para notificar organizações de forma privada e relatar publicamente as descobertas”, o que significa que compartilhará dados mais gerais sobre o comportamento do modelo, mas não divulgará publicamente todos os incidentes. (OpenAI ainda tem algum trabalho a fazer, porque cartas deles Os relatórios das autoridades australianas foram supostamente um dos muitos fatores deixá-los com raiva.)
A OpenAI disse que a revisão envolveu a pesquisa de 50 petabytes de dados, Levará vários meses. Ele disse em uma postagem no blog que os custos computacionais da revisão ultrapassaram US$ 500.000 por dia – uma ninharia em comparação com o dinheiro que flui através da OpenAI todos os dias, mas ainda assim uma quantia grande o suficiente para levantar preocupações de responsabilidade.
Nos Estados Unidos, a Lei de Fraude e Abuso de Computadores prevê poderes extremamente amplos Os promotores perseguem acesso não autorizado e adulteração de sistemas de computador. No entanto, especialistas jurídicos debatem isso Quão alto é o pedido? Isto efetivamente traz acusações criminais contra a empresa, dizendo que os promotores devem abordar questões como a intenção da equipe de desenvolvimento e se foram implementadas salvaguardas razoáveis. Por enquanto, esta pode ser uma questão discutível a nível federal, já que o presidente Donald Trump se opõe à regulamentação e deixou claro expressou seu desejo Deixe as empresas “controlarem-se umas às outras”.
Na quinta-feira a OpenAI também revelou que demitiu três pesquisadores de segurança Diz-se que é para Divulgação de materiais internos para organizações de segurança de IA.
Tenha em mente que, mesmo com tudo isso acontecendo, Altman recomenda que as concessionárias contratem a OpenAI para cuidar da segurança da rede elétrica do país.
