A gigante chinesa de mídia social e jogos Tencent Holdings pediu desculpas depois que seu chatbot de inteligência artificial Yuanbao foi acusado de “insultar verbalmente” um usuário, alimentando um debate online sobre os perigos representados por ferramentas generativas de IA em rápido desenvolvimento.
Yuanbao está entre os chatbots de IA mais populares na China. Incorporado no WeChat da Tencent e usado por dezenas de milhões de pessoas todos os dias, o assistente não teve relatos anteriores de geração de respostas ofensivas nas conversas dos usuários.
A reclamação surgiu na plataforma de mídia social chinesa Red Note na sexta-feira, onde um usuário disse que Yuanbao respondeu aos pedidos de codificação com mensagens hostis, inclusive rejeitando o pedido como “perdido” e “burro”.
Em uma cena que lembra o clássico filme de Stanley Kubrick 2001: Uma Odisséia no Espaço – em que uma nave fechada a bordo de uma nave espacial começa a se comportar de maneira irregular, eventualmente mudando de tripulação – o chatbot também responde: “Você não pode depurá-lo?” , disse o usuário.
Desde então, Hall tornou-se uma abreviatura para os receios sobre máquinas inteligentes fora do controlo humano.
De acordo com a postagem, os prompts, que exigiam que Yuan Bao depurasse e fizesse alterações no código, não continham linguagem proibida ou sensível. O usuário, que usou o nome Jianghan, disse que o chatbot gerou “insultos” duas vezes em duas horas e compartilhou capturas de tela e gravações de tela da troca.
A Tencent respondeu na seção de comentários no sábado, desculpando-se pela “má experiência” e atribuindo o incidente a “uma anomalia de baixa probabilidade na saída do modelo”. A empresa também disse que uma investigação dos registros de seu sistema não encontrou nenhuma evidência de que humanos tenham elaborado manualmente as respostas.
