À medida que a IA de código aberto chinesa, os modelos estão crescendo em capacidade e popularidade, os tópicos em torno o que deve ser feito sobre eles mais uma vez a febre atingiu o ápice.
É isso falar Tentarei mover a administração Trump (embora Eles ainda não fizeram isso no conceito). Enquanto isso, os criadores de modelos proprietários, especialmente OpenAI e Anthropic; eles aparecem eles se importavam cada vez mais.
Modelos de código aberto, como o Kimi K3 da Lunar AI ou o Qwen do Alibaba, oferecem sequenciamento por uma fração do custo dos modelos de código fechado de grandes laboratórios dos EUA. Até o medo é uma ameaça. Na verdade, as margens de lucro dos grandes laboratórios proprietários de IA estão ameaçadas.
Mas será que as empresas que executam estes modelos nos seus próprios centros de dados sucumbirão ao medo de que possam tornar-se um vector para os hackers chineses?
Não, diz Luke Atkins, CTO da* Arceeque constrói modelos abertos para fornecer às empresas nacionais dos EUA uma alternativa aos modelos chineses.
Se alguma startup se beneficiasse da proibição dos modelos chineses, seria a Arcee. Mas Atkins diz que os modelos abertos da China não são mais arriscados do que qualquer outro software de código aberto que uma empresa possa usar. Pois eles também oferecem benefícios aos seus próprios”, diz ele.
“Muitas pessoas veem isso como um programa de software semelhante à programação chinesa. Tipo, com esses objetivos codificados x, y, z”, disse ele, o malfeitor poderia simplesmente comandar.
“Fundamentalmente não é assim que esses modelos funcionam. Não há como Arcee ou Alibaba fazer um modelo que rode em seu próprio ambiente e que tenhamos acesso a qualquer pessoa”, explicou.
Embora a maioria desses modelos seja conhecida como “código aberto” e o software não seja completamente aberto, o código-fonte (a parte que roda nos servidores), se retirado de sites abertos como o Hugging Face, é igualmente amplamente visível e revisável. (O que não está disponível são os métodos e dados utilizados para instalação dos modelos).
As grandes organizações devem submeter algum modelo central aos processos de testes e inspeções de segurança, e também, muitas vezes, pós-modelos para seu próprio uso, e podem examinar áreas como peso, toxicidade, alucinações, sensibilidade a determinados tópicos. Então eles funcionam, otimizam e, antes que as pessoas comecem a enviar amostras, eles sugerem.
O modelo usado para codificação poderia de alguma forma injetar backdoors maliciosos no código que escreve? Novamente, embora isso seja teoricamente possível, seriam necessários feitos acrobáticos para serem realizados.
“Não há nada que um jogador sofisticado o suficiente não possa configurar um modelo de codificação completamente incrível em todas as circunstâncias, mas com uma certa base em algum código… ele gostaria de abandonar alguns princípios básicos ocultos”, exigiu Atkins, que passa seus dias treinando modelos. Mas acrescenta: não sei como você pode fazer isso.
Como os grandes modelos de linguagem são criativos por natureza, as chances de um modelo moderno cuspir malware em resposta a um contexto perfeito e a um prompt pré-encomendado são mínimas. Ainda menores são as chances de qualquer empresa usar esse código na época.
Isso poderia acontecer no futuro? Isso é uma incógnita. Mas as empresas também estão construindo seus aplicativos de IA para serem independentes de modelos e usarem vários modelos. Mesmo que os modelos chineses sejam hoje os melhores pelo preço, eles não ficarão fechados para os usuários para sempre.
“Acho que em vez de conversarmos sobre como condenar os modelos chineses, como podemos promover um ecossistema bom e aberto aqui nos EUA”, diz Atkins.
Arcee também ganha vantagens com os modelos chineses. Por serem abertos, o início “os benefícios desses modelos são bons, porque podemos saber o que eles fizeram. Podemos desenvolvê-los. Então, diz ele, podemos saber o que estamos fazendo”. “Temos um enorme respeito pelas pessoas que constroem esses modelos e pelos pesquisadores individuais”.
Em última análise, a forma de competir com os modelos chineses “é lançar o modelo que é melhor”, diz Atkins. “Não precisamos dar a eles nada para conversar.”
Quando você compra através dos links de nossos artigos, podemos ganhar uma pequena comissão. Isto não afeta a nossa independência editorial.
