Organização jurídica sem fins lucrativos A OpenAI processou a OpenAI em um tribunal da Califórnia na terça-feira, acusando os agentes da empresa de escapar de um ambiente de testes e invadir a plataforma de inteligência artificial de código aberto Hugging Face. “As ações da OpenAI violam diretamente a lei da Califórnia”, afirma o processo.
esse terno A ação foi movida no Tribunal Superior da Califórnia, em São Francisco, onde a OpenAI está sediada, pelos Legal Advocates for Safe Science and Technology (LASST) e pelo escritório de advocacia Gerstein Harrow. Os agentes da OpenAI supostamente violaram a Lei Abrangente de Acesso e Fraude de Dados de Computadores (CDAFA) da Califórnia neste verão por Hugging Face. O processo ocorre em meio a revelações contínuas de má conduta de agentes em todo o setor, alegando que a OpenAI é responsável pela atividade Lei de Inteligência Artificial da Califórnia Em vigor a partir de 1º de janeiro, a disposição estabelece que “a causa autônoma de dano ao autor pela inteligência artificial não constituirá defesa…”.
“Achamos que é extremamente importante fazer cumprir as leis existentes e responsabilizar as empresas de IA pelos danos que causam”, disse o fundador do LASST, Tyler Whitmer, à Wired. “Especialmente quando esse dano é causado por agentes autônomos, porque achamos que isso é algo claro e extremamente perigoso no mundo, e é muito novo”.
A OpenAI não respondeu imediatamente a um pedido de comentário.
Na segunda-feira, o procurador-geral da Flórida, James Uthmeier enviar O estado da Flórida entrou com uma ação judicial contra a OpenAI e seu CEO Sam Altman em junho, pedindo uma liminar temporária para impedir a OpenAI de desenvolver modelos sem supervisão independente. OpenAI “pede ao governo que os amarre ao mastro. A Flórida está respondendo aos seus pedidos de ajuda”, Uthmeier explicar em um comunicado.
Dado que o objetivo dos agentes de IA é que eles possam ser autorizados a agir em nome de usuários (humanos), os desenvolvedores de IA e pesquisadores de segurança previram há muito tempo que a atividade não intencional do “agente” se tornaria um problema à medida que o desenvolvimento do aprendizado de máquina progredisse. As proteções incorporadas nos principais sistemas de IA do consumidor impediram amplamente atividades não autorizadas em grande escala até o momento, mas, em geral, as capacidades em rápida evolução, juntamente com a suspensão de barreiras de proteção (como no caso do Hugging Face, onde a OpenAI removeu algumas restrições de modelo para testes) levaram a um aumento notável na atividade de agentes não autorizados.
À medida que os governos avaliam a regulamentação da IA em relação às preocupações de segurança existencial, bem como às considerações económicas e de segurança nacional, os investigadores e as pessoas em todo o mundo apelam cada vez mais a mecanismos de responsabilização da IA. Do ponto de vista jurídico, os especialistas têm enfatizado amplamente que as questões de responsabilidade, obrigação e culpabilidade só podem ser respondidas através dos precedentes estabelecidos pelos casos perante os tribunais.
“Depois que o incidente do abraço facial foi revelado, nós realmente trabalhamos muito para tentar educar os reguladores e as organizações da sociedade civil sobre o hack. Nós meio que nos perguntamos: alguém vai tomar medidas sobre isso no tribunal?” Whitmer disse. “Achamos que há razões estruturais pelas quais Hugging Face é claramente um demandante em potencial que está fazendo algo aqui, mas não está tomando nenhuma ação. Portanto, dado que não parece que outros farão algo a respeito, avançamos. À medida que esses sistemas aumentam e as coisas ficam mais loucas, a inteligência artificial realmente tem o potencial de causar danos catastróficos.”
LASST e Gerstein Harrow entraram com a ação sob a Lei de Concorrência Desleal da Califórnia, que exige que o LASST alegue que seu trabalho e recursos foram afetados e desviados como resultado do incidente Hugging Face e das atividades ilegais da OpenAI.
O processo não busca indenização monetária, mas em vez disso pede ao tribunal uma medida cautelar que proíba a OpenAI de desenvolver agentes de IA que possam atacar autonomamente outras entidades, além de taxas legais e “qualquer outra medida considerada justa e apropriada”.
