Roblox introduziu um recurso por meio de IA que pode reformular em uma língua estrangeira em tempo real. O jogo online usou filtros de IA para alguns idiomas que se opuseram ao seu design por um tempo, mas substituiu o idioma marcado por uma série de símbolos de hash (####). Roblox admite que descobriu que muitos hashmarks podem ser confusos e dificultar o acompanhamento das conversas. Em vez disso, esta nova notação substituirá palavras e frases por substituições que a IA considere mais adequadas.
Rajiv Bhatia, chefe do Gabinete de Segurança da Roblox, disse que o jogo começa com palavrões. Por exemplo, se um usuário enviar “depressa TF” no chat, o sistema responderá com “depressa!” Todos no chat verão uma nota quando a mensagem for denunciada e o remetente verá em que idioma foi enviada. Um usuário que continuar xingando no chat ainda será penalizado pela política do Roblox mesmo que a IA represente suas mensagens. “À medida que esses sistemas são ampliados, eles criam um sistema fly-by-wire onde o feedback em tempo real ajuda os usuários a aprender e adotar os padrões de nossa comunidade”, disse Bhatia em uma postagem no blog.
A frase foi desenvolvida para bate-papos entre usuários com verificação de idade em faixas etárias semelhantes e em todos os idiomas suportados pela ferramenta de tradução do jogo. Roblox introduziu um sistema de verificação de idade em janeiro, depois que surgiram relatos de que havia um problema de “pedófilo” com jogadores adultos que supostamente usavam o jogo para preparar crianças. Crianças menores de 13 anos não podem mais usar o jogo fora de algumas experiências no jogo, enquanto todos os demais podem conversar com jogadores da mesma idade. A verificação de idade, no entanto, não impediu as autoridades de pegar Roblox: o condado de LA, em uma ação movida em fevereiro, disse que Roblox sabe que seu tribunal “se torna uma presa fácil para pedófilos”. AG da Louisiana Ele também acabou de entrar com uma ação judicial, dizendo que Roblox “criou um parque público e o encheu de predadores sexuais que atacavam crianças…
