Às 22h Na manhã de terça-feira, o CEO do Google DeepMind, Demis Hassabis, pediu que um novo órgão regulador criasse um limite de liberação de modelo. Sobrescrito “Estrutura para o Propósito da IA e o Amanhecer de uma Nova Era,” post faz um caso de “sinais corporais” modelados a partir de Autoridade Reguladora do Setor Financeiro (FINRA), que puderam testar os modelos e desenvolver melhores práticas para a sua divulgação.
“Inicialmente, o Frontiers Labs compartilhará voluntariamente amostras com o Órgão de Padronização para revisão até 30 dias antes do lançamento”, diz a carta. “Uma vez que o protocolo de avaliação se mostre eficaz e robusto, a formalização poderá ser acelerada, indicando que o modelo Frontiers é necessário para implantá-lo no mercado dos EUA. Também estamos trabalhando com o Órgão de Padrões para resolver quaisquer vulnerabilidades críticas pós-lançamento.”
O sistema proposto se basearia nas análises feitas pelo governo dos EUA da Mythos e do Sol da OpenAI. Essas análises atraíram críticas significativas pela falta de conhecimento técnico e pela decisão opaca sobre quando o modelo poderia ser lançado. Sob o regulador proposto por Hassabi, essas decisões seriam entregues a uma nova organização, apoiada pelo governo dos EUA, mas fundada e operada de forma independente pela indústria de IA.
A perspectiva de regulamentação da IA permanece controversa tanto para a indústria tecnológica como para a administração Trump. Mais recentemente, o conselheiro de IA da Casa Branca e sócio geral da a16z, Sriram Krishnan Habilidade de Eneias um regulador de IA no poder executivo dizendo que “não haverá um FDA para IA”.
O estabelecimento de um organismo de normalização como a organização auto-reguladora da FINRA poderia ser uma forma de abordar essas preocupações. Hassabis fornece um regulador baseado em representantes e especialistas técnicos da indústria aberta, juntamente com o apoio financeiro dos laboratórios de IA que seria necessário para mantê-los. Eles também poderiam fornecer algumas avaliações ao crescente grupo de grupos de segurança de IA que poderiam se especializar em riscos específicos.
“A força desta abordagem é que ela é focada tecnicamente, ao mesmo tempo que incentiva a inovação e incentiva o comportamento responsável”, argumenta Hassabis. “O objetivo é manter a aceleração do campo e se adaptar aos maiores riscos à medida que forem identificados e se a gravidade da situação exigir.
Quando você compra através dos links de nossos artigos, podemos ganhar uma pequena comissão. Isto não afeta a nossa independência editorial.
