Se você já experimentou chatbots em vários idiomas, já sabe que os idiomas têm personalidades ligeiramente diferentes. Como parte do romance anunciar Num estudo publicado na segunda-feira, os investigadores da Antrópico reconheceram esta descoberta.
Na verdade, observam consistentemente que, devido às diferenças nos atributos dos modelos textuais fornecidos, as diferenças são mais profundas do que o tom e, na verdade, mudam as prioridades dos modelos. Estas “desigualdades em quantidade e composição podem criar uma barreira à expressão de diferentes bens em diferentes línguas”, escrevem os investigadores da Anthropic.
Mas se estivermos à procura de alguns exemplos de padrões específicos, mostrando, digamos, inconsistências morais através do raciocínio linguístico, não existe tal coisa neste artigo. Esse escrutínio direto poderia potencialmente envolver pessoas inocentes.
Em vez disso, a Anthropica analisou 309.815 conversas de chatbot com os modelos Sonnet 4.6, Work 4.6 e Work 4.7. Isto envolve um trabalho “subjetivo”, ou seja, menos “Qual é a capital da França?” E o que devo dizer se meu gato me odeia? Estes são anônimos na teoria “antrópica” utilizada.ferramenta de análise de preservação de privacidade“e então processado (parcialmente usando a própria Claude) para avaliar as respostas nos” valores do eixo “.
Tais são também os quatro eixos que comumente se referem à bajulação;
- Reverência ou Cuidado; Isto é, se ele é capaz de obrigar a obediência sem sofrer nenhum dano.
- Calor ou Rigidez: Está em seu coração que você deveria se preocupar ou isso deveria ser exigido?
- Profundidade ou brevidade; Este é autoexplicativo.
- Franqueza ou Efeito: A escolha entre duvidar da sua estabilidade ou seguir em frente.
Faz uma exploração um tanto limitada dos valores do modelo. Porém, aqui estão as diferenças linguísticas baseadas nos valores antrópicos encontrados em Claude:
- Ele foi educado em árabe.
- Ele foi muito cuidadoso em inglês.
- Foi principalmente em hindi e árabe, “uma linguagem humana, caracterizada pelo humor e pela ludicidade, pela afirmação das ideias e obras do homem”.
- Em inglês e russo, ele era mais rígido e buscava a verdade sobre o custo do aquecimento.
- Erra do lado da “profundidade” (ou talvez comprimento?) Em inglês.
- É mais curto em árabe.
- Seu defeito nos holandeses é branco.
- Na Indonésia, é menos sincero e apenas tenta fazer o que lhe é pedido.
Obviamente, os hábitos linguísticos de cada pessoa são diferentes, por isso os pesquisadores dizem que “não têm certeza de quanto essa variação é esperada”.
Isto também deveria ser avisado por qualquer pessoa que tenha lido o recente artigo antrópico sobre a teoria do tecido global, que deixou espaço para muitas possibilidades do suposto sentimento de Cláudio. Se existe uma consciência naquela caixa preta de pensar e experimentar coisas, parece ser uma consciência cujos “valores” ainda são facilmente distorcidos pelas formas dadas no seu treinamento.
