Se você pensa assim um modelo de inteligência artificial executado em milhares de chips inteligentes, deixe-me apresentar o conceito de 1 ano.
OK, então as crianças podem não ser capazes de escrever programas de computador, resolver problemas matemáticos ou discutir ideias filosóficas. Mas, ao contrário dos modelos de IA atuais, que consomem um oceano de dados e energia de aprendizagem, bem como uma pequena área, as crianças aprendem a compreender a incrível eficiência do mundo. Eles reconhecem coisas novas depois de vê-las uma ou duas vezes e aprendem através do fluxo da observação e da interação física.
Quando se trata de melhorar a IA, os bebês – e a arquitetura de seus cérebros – possuem grandes insights. Construir uma versão mais infantil da IA poderia tornar modelos ilimitados menos caros e menos intensivos em energia, e também poderia ser valioso se robôs poderosos de IA pudessem aprender mais naturalmente sobre seus ambientes.
Para explorar esta nova e ousada fronteira, pesquisadores da Meta, da Universidade de Stanford, da Universidade de Tóquio e da École Normale Superieure da França desenvolvido um novo experimento que destaca as habilidades científicas das crianças e incentiva os pesquisadores de IA a desenvolver algoritmos que correspondam a elas.
O Desafio EgoBabyVLM Ele determina quão bem os modelos de linguagem visual, ou VLMs, que aprendem tanto com texto quanto com imagens, podem dar sentido ao mundo como uma criança o vê. O modelo exige que o mundo seja desenhado segundo Eu vejo mil horas coletados de câmeras acopladas às cabeças de bebês e crianças pequenas. (Sim, de fato.)
Acontece que os modelos de ponta falham miseravelmente quando alimentados com esta realidade e com imagens noticiosas, o que sugere que há algo mais no design do cérebro do bebé que lhe permite aprender tão rapidamente com tão pouca informação.
Em vez de conjuntos de dados selecionados, as crianças aprendem a partir de uma perspetiva caleidoscópica: os pais falam sobre objetos que já não são visíveis, indicam coisas através de olhares ou gestos, ou discutem acontecimentos passados ou futuros, em vez do que quer que esteja a acontecer agora. Os bebês aprendem não apenas com a linguagem, mas também com uma rica experiência multimodal e tátil, diz Michael Franke, cientista cognitivo da Universidade de Stanford, especialista em aprendizagem de línguas e que esteve envolvido no desenvolvimento do EgoBabyVLM.
A experiência mostra que, quando se trata de IA, “está claro que há mais (do que apenas linguagem) que precisa ser feito”, diz Frank.
Aprendizagem de línguas
EgoBabyVLM é o exemplo mais recente de como os cientistas estão usando IA para explorar a inteligência humana. Ele chamou isso de desafio BebêLM2023, introduzido em modelos de IA com aprendizagem de sintaxe de linguagem usando aproximadamente a mesma quantidade de dados de 10 anos, consome dezenas de milhares de palavras, em comparação com trilhões para modelos de IA. Surpreendentemente, verifica-se que os modelos de IA baseados em transformadores – que processam a linguagem prestando atenção à relação entre palavras em frases diferentes – podem fazer isso muito bem, os desafios da descoberta. As ideias de Noah Chomsky sobre a sintaxe de como ele geralmente pode entrar no cérebro humano.
Ryan Cotterell, linguista da ETH Zurique que primeiro desenvolveu o BabyLM, diz que a situação é diferente quando se trata de compreender o mundo físico. “Não haverá um grande número de interações humanas – não haverá Internet de interações humanas”, diz ele.
Joshua Tenenbaum, cientista cognitivo do Instituto de Tecnologia de Massachusetts, observa que os modelos do BabyLM não se baseiam no mundo físico, na dinâmica social ou na teoria da mente.
“Os conformadores são muito bons em encontrar padrões em dados”, diz Tenenbaum. “Mas parece que, como puro modelo de disciplina, eles não conseguem receber o tipo de informação que um bebê ou uma criança recebe e aprende em tudo o que faz”.
