Escala de Tim O’Reilly Medir o valor de uma organização, pessoa ou comunidade já existe há muito tempo Crie mais valor do que você captura. O’Reilly, editor, pioneiro da Internet, VC, organizador de conferências e fornecedor de conhecimento técnico, não fica surpreso ao ver que a métrica é usada na maneira como as pessoas projetam e usam a IA. Em particular, ele pressiona por um futuro onde a IA de código aberto seja um elixir para as massas. Ele teme que os hiperscaladores de hoje estejam tentando prender os usuários aos seus produtos, assim como a Microsoft fez na década de 1990. Portanto, ele está defendendo esforços para abrir a tecnologia de IA – não apenas o acesso a detalhes técnicos críticos, como pesos de redes neurais, mas também abrir toda a camada de um sistema de IA, dando controle aos designers e usuários.
O’Reilly vê a IA como um novo meio criativo que ele usa extensivamente – e até tem um blog sobre suas conversas sobre ela. Durante nossa conversa, descobrimos que discordamos sobre o papel da IA na criação de conteúdo original. Adivinhe quem ficou de que lado.
Steven Levy: Todos vocês gostam de IA de código aberto. Faça o seu caso.
Tim O’Reilly: Primeiro, vamos ter certeza de que estamos falando da mesma coisa. Quando a maioria das pessoas fala sobre IA de código aberto, na verdade estão falando sobre modelos de peso aberto. Maior que isso. Nos anos 90, quando todos estavam focados nas licenças de código aberto, eu disse: “Não, não, é uma questão de estrutura do sistema. Isso permite a participação?”
Por que é necessário?
Os grandes laboratórios interpretam mal o futuro. Eles contaram a si mesmos a história de que ter um modelo maior e melhor era a chave para o futuro. Modelos maiores, como o Claude, otimizam casos de uso específicos, mas não são necessariamente os casos de uso que as pessoas desejam. Adoro incorporar meu próprio molho especial. Mais importante ainda, existe uma separação clara entre modelo, chicote e aplicação. Agora não entendemos. Eles criaram uma estrutura de controle em vez de uma estrutura de liberdade e participação, por isso têm a capacidade de monitorar você.
Não é do interesse das grandes corporações abrir mão do controle?
Oh, é completamente contra os interesses deles. Mas isso não significa que estejam tomando a decisão estratégica correta. Por muito tempo, os melhores e mais recentes modelos foram praticamente os melhores de tudo. Agora eles são melhores em algumas coisas e piores em outras. As pessoas falam muito sobre como Fable e Soul são piores escritores do que modelos inferiores. [Note: Anthropic and OpenAI would disagree.] Os avanços que estamos fazendo na chamada IA de fronteira estão, na verdade, nos afastando ainda mais daquilo que as pessoas comuns precisam. Podemos ter um sucesso limítrofe na IA aqui nos EUA, e a China vai dar-nos uma surra porque tem modelos de baixo nível que estão difundidos na sociedade. O objetivo é dar às pessoas a capacidade de inovar livremente, de colorir fora dos limites.
As pessoas temem que o software de código aberto represente um risco à segurança porque os malfeitores podem contornar a segurança do modelo de perímetro.
Todos os incidentes de segurança cibernética que vimos vêm de modelos de limites. Assim, riscos como a segurança cibernética e o potencial de criação de agentes patogénicos são, na verdade, um argumento para abrandar os modelos de fronteira, em vez de um argumento para restringir os modelos de peso aberto.
Então você acha que as forças da IA não dominarão o código aberto?
Eu não prevejo o futuro. Mas direi que o mundo anda como deveria. E se os grandes modelos de fronteira acabarem sendo como mainframes ou supercomputadores – voltados para problemas realmente difíceis que não são realmente de âmbito comunitário? As pessoas fazem coisas como Pi, um código aberto [agentic] Sela. Uma das coisas em que estamos trabalhando no meu projeto sem fins lucrativos AI Disclosures é a ideia de um consórcio de memória aberta. A tese de Mark Zuckerberg é que ele vai prender você porque o meta lhe dará uma IA que você conhece melhor. A visão de código aberto deveria dizer não a isso. O código aberto oferece a capacidade de alterar modelos, alterar provedores e manter todo o ambiente necessário.
