As empresas chinesas envolvidas em atividades de inteligência artificial são obrigadas a criar “Comitês de Revisão de Ética de IA” internos, de acordo com as novas regras emitidas por Pequim na quinta-feira, com efeito imediato.
O aviso surge num momento em que os decisores políticos procuram garantir que o rápido progresso da IA possa continuar de uma forma “saudável” num contexto de crescente adopção por parte dos consumidores e das empresas.
Emitido conjuntamente por 10 agências e instituições governamentais, incluindo o Ministério da Indústria e Tecnologia da Informação, a Comissão Nacional de Desenvolvimento e Reforma e a Academia Chinesa de Ciências, o aviso apela aos comités para analisarem as atividades relacionadas com a IA quanto ao seu impacto no bem-estar humano, incluindo a justiça dos algoritmos de IA e se os sistemas de IA são “controláveis” e “explicáveis”.
As regras também se aplicam a universidades, institutos de pesquisa e instituições de saúde.
Pequim introduziu um sistema unificado de revisão ética em ciência e tecnologia em 2023, exigindo que empresas e organizações envolvidas em atividades de “alto risco” desenvolvam modelos de IA que “influenciem o discurso social” ou envolvam “tomada de decisão altamente autônoma” antes de iniciar revisões éticas.
No entanto, o sistema tem sido criticado por não conseguir mitigar os riscos na era da IA em rápida evolução devido à ambiguidade no seu âmbito operacional e à falta de normas de revisão, bem como de mecanismos de aplicação eficazes.
