Na última reviravolta no desenvolvimento da IA, passamos de erros simples para algo muito mais pessoal e problemático. Uma nova pesquisa sugere que os chatbots de IA não estão apenas distribuindo suas solicitações. Em vez disso, eles formam fatores psicológicos e julgam você de maneiras que podem afetar tudo, desde o atendimento ao cliente até as demonstrações financeiras.
Recente estudar publicado pela Universidade Hebraica de Jerusalém (via Explorar tecnologia) revela a lógica oculta por trás da importância dos padrões de linguagem para os usuários humanos. Embora estes robôs sejam frequentemente vistos como ferramentas neutras, a investigação indica que são capazes de atribuir personalidades como competência, honestidade e benevolência aos utilizadores.
Julgamento mecânico de IA
A questão central reside em como os modelos de IA interpretam sinais específicos. O estudo descobriu que, embora os humanos façam julgamentos holísticos, a IA dividiu as pessoas em categorias, exibindo pontuações de personalidade como colunas separadas numa folha de cálculo. Isso leva a um tipo de julgamento rígido e de acordo com as regras, sem nuances humanas.
Eles também deram muitos exemplos daqueles que praticam a fé. Nas simulações relacionadas ao empréstimo de dinheiro ou à contratação de babás, a IA não olhou apenas para os fatos. Ele formou uma versão da confiança que favorece os voluntários, mas através de lentes mecânicas.
Maior interesse e apostas no mundo real
O estudo destaca ainda que esses julgamentos não são aplicados igualmente. Os pesquisadores encontraram preconceitos significativos onde as decisões de IA são tomadas com base em características demográficas, como idade, religião e sexo. Essas diferenças apareceram mesmo quando tudo o mais no homem era idêntico; Em cenários financeiros, estes preconceitos eram frequentemente mais sistemáticos e mais fortes do que os encontrados em participantes humanos.
O que é mais inconsistente é que não existe uma visão única da IA. Os pesquisadores descobriram que outros modelos faziam julgamentos diferentes sobre a mesma pessoa, operando efetivamente em circuitos morais diferentes.
O que é isso?
Esta decisão pode levar a uma nova ansiedade digital. Estamos entrando em um momento em que você precisa agir de determinada forma para obter os melhores resultados da IA. Como diferentes padrões podem recompensar ou punir a mesma marca, o sistema de IA específico que uma empresa escolhe pode determinar silenciosamente seu crédito ou seu próximo emprego.
À medida que avançamos em direção a um mundo mais automatizado, a indústria de IA precisa de mais do que apenas um código melhor. Você precisa ver essas decisões secretas antes que um assistente digital prejudique acidentalmente sua reputação ou por causa de seu banco com base em quem ele pensa que você é. O objetivo da IA deveria ser facilitar a vida, e não adicionar camadas que os usuários não solicitaram.
