Um artigo no PLA Daily na terça-feira disse que a tendência dos modelos de IA de atender às preferências do usuário – até mesmo endossando erros flagrantes em fatos objetivos – representa uma “séria ameaça” num momento em que os militares dependem cada vez mais de sistemas automatizados.
De acordo com o artigo, “Os riscos da bajulação da IA no domínio militar são maiores do que os da vida quotidiana, levando a uma erosão sistémica das cadeias de conhecimento operacional, da qualidade das decisões de comando e da resiliência da colaboração homem-máquina”.
Mas Pequim também disse repetidamente que a IA não deveria substituir os humanos na tomada de decisões no campo de batalha.
De acordo com o artigo do PLA Daily, a bajulação da IA – impulsionada por mecanismos de treino algorítmico e ciclos de feedback humano – pode reforçar os preconceitos dos utilizadores para criar “casulos de informação” e validar escolhas padrão, distorcendo avaliações e ignorando alternativas.
Afirmou que à medida que a IA generativa fosse cada vez mais incorporada na tomada de decisões militares – incluindo comando e controlo, avaliação de inteligência e jogos de guerra operacionais – estes preconceitos comportamentais aumentariam o potencial de erros de cálculo tácticos e tácticos, bem como de baixas e danos colaterais.
