TL, DR *
Os pesquisadores descobriram que a decisão da IA caiu de 44% para 3%, a precisão de 27% para 9%, enquanto a confiança aumentou de 30% para 76%. As pessoas estavam confiando nas respostas erradas da IA.
Pesquisadores de três universidades francesas e italianas foram encontrados “A abordagem da política de IA baseia-se na vontade do povo”, disse ele.Não sei“de 44% para 3%. A preocupação caiu de 27% para 9%. A confiança, entretanto, aumentou de 30% para 76%. “As pessoas pioraram muito, a precisão era de apenas um terço, mas estavam duas vezes mais confiantes”, disse Valerio Capraro, professor associado da Universidade de Milão-Bicocca.
Estudar; Em coautoria de Capraro com Chiara Marcoccia da École Normale Supérieure e Walter Quattrociocchi da Universidade Sapienza de Roma, as perguntas são usadas deliberadamente onde os modelos de IA normalmente falham: detalhes visuais de filmes, como a cor do uniforme da equipe em Bend It Like Beckham. Os pesquisadores usaram um flash de nível 3.5, um modelo que geralmente errou nessas questões, então claramente nenhuma deficiência no julgamento poderia ser explicada como uma delegação sensata a uma ferramenta específica. Alguns participantes que responderam corretamente sobre si mesmos perguntaram à IA e erraram.
Os incentivos financeiros ajudam, mas não muito. A tendência de admitir ignorância passou de 3% para 8% e a precisão de 9% para 16%, mas ambas ficaram bem abaixo das linhas de base não relacionadas à IA de 44% e 27%. Os pesquisadores da Wharton cunharam o termo “falha cognitiva” no início deste ano para descrever o mesmo fenômeno: as pessoas respondem mal à IA em 80% das vezes, embora relatem maior confiança do que aquelas que trabalham sem IA. O novo estudo acrescenta um ponto mais nítido aos dados. Não é apenas porque eles confiam na IA para respostas ruins. A IA por si só suprime o hábito cognitivo de saber o que você não sabe.
Tecnologia da UE
As últimas notícias sobre o cenário tecnológico da UE, uma história sobre os sábios do autor Boris e alguma arte questionável de IA. É grátis, toda semana, na sua caixa de entrada. Cadastre-se agora!
“Para os humanos, a capacidade de dizer “não sei” é importante porque representa o reconhecimento dos limites do nosso conhecimento;” Disse Capraro. Ele está mais preocupado com as crianças que crescem com esses sistemas antes de desenvolverem habilidades de pensamento crítico. Os links de pesquisa de IA do Google para resumos gerados por IA confiáveis em resumos de pesquisa, e a Common Sense Media esta semana chamou o que eles projetam “o risco é inaceitável“Para estudantes. A razão é clara: os produtos de IA são projetados para responder, nunca diga nunca”Não sei.“As pessoas que os usam aprendem a fazer a mesma coisa.
