A Multiverse Computing está levando modelos compactados de IA para o mainstream

Com o padrão da empresa privada em execução mais de 9,2% – o maior em anos – a empresa de capital de risco Lux Capital incentivou recentemente as empresas que dependem de IA a adquirir capacidade computacional confirmado por escrito. Com a instabilidade financeira afetando a cadeia de fornecimento de IA, alertou Light, um aperto de mão consensual não é suficiente.

Mas existe uma opção completamente diferente, que se baseia em uma infraestrutura totalmente externa. Modelos menores de IA executados diretamente no próprio dispositivo do usuário – sem data center, sem provedor de nuvem, sem fator de risco – são considerados muito bons. E Computação Multiverso levantando a mão

A startup espanhola tem até agora mantido um perfil mais discreto do que alguns dos seus pares, mas à medida que a procura pela eficiência da IA ​​cresce, isto está a mudar. Depois de compactar os modelos dos principais laboratórios de IA, incluindo OpenAI, Meta, DeepSeek e Mistral AI, ambos os aplicativos mostram os recursos dos modelos de compressor e o gateway de API – a porta que dá aos desenvolvedores acesso e construção com os modelos que fazem você criar.

O Aplicativo CompactifAIque compartilha o nome da tecnologia de compressão de inspiração quântica do Multiverse, é a atual ferramenta de bate-papo de IA ChatGPT ou Le Chat Mistral. Faça uma pergunta e o modelo responderá. A diferença é que o Multiverse Guild é embarcado, um modelo tão pequeno que pode rodar localmente e offline, segundo a empresa.

Para os usuários finais, o gosto da IA ​​está no limite, com dados que não saem de seus dispositivos e não requerem conexão. Mas há uma ressalva: seus dispositivos móveis devem ter memória RAM e armazenamento suficientes. Caso contrário – e muitos iPhones mais antigos não o fazem – o aplicativo volta para modelos baseados em nuvem via API. A fusão entre o processamento local e a nuvem é feita automaticamente por um sistema Multiverse chamado Ash Nazg, cujo nome tocará uma campainha para os fãs de Tolkien, pois indica que o endereço está escrito em “O Senhor dos Anéis”. Mas quando o aplicativo migra para a nuvem, ele perde sua privacidade principal no processo.

Essas limitações significam que o CompactifAI ainda não está pronto para adoção em massa pelos clientes, embora isso nunca tenha sido o fim. De acordo com os dados da torre de sensores, o aplicativo tinha menos de 5.000 downloads por um mês

O alvo é o verdadeiro desenvolvedor. Hoje o Multiverso é portal de API de autoatendimento que dá aos desenvolvedores e empresas acesso a amostras compactadas, sem a necessidade do AWS Marketplace.

“O portal API CompactifAI (agora) oferece aos desenvolvedores acesso direto a modelos compactados com a transparência e o controle necessários para executá-los em produção”, disse o CEO Enrique Lizaso em comunicado.

O uso em tempo real é um dos principais recursos da API e não há exceções. Além das vantagens potenciais do desenvolvimento marginal, os custos de computação mais baixos são uma das principais razões pelas quais os projetos consideram modelos menores como uma alternativa aos modelos de linguagem grandes (LLMs).

Também ajuda o fato de pequenas amostras serem menos limitadas do que costumavam ser. No início desta semana, Mistral atualizou sua família de modelos pequenos com uma caixa lançamento do Mistral Parvus IVo que diz que é o mesmo para chat comum, codificação, agente e contabilidade. A empresa francesa também lançou o Forge, um sistema que cria modelos personalizados para esforços empresariais, nos pequenos modelos que as empresas podem suportar melhor reunindo os seus próprios casos de utilização.

Os resultados recentes do Multiverse também sugerem uma lacuna cada vez menor com os LLMs. Seu modelo compactado mais recente, o HyperNova 60B 2602, é construído em auim-oss-120b – um modelo OpenAI cujo código subjacente está disponível publicamente. A empresa está reivindicando isso agora eu respondo mais rápido A um custo inferior ao da derivada original, é vantajoso porque é particularmente útil para tarefas de codificação de agentes, onde a IA completa autonomamente uma tarefa complexa de programação multinível.

Tornar modelos pequenos o suficiente para funcionar em dispositivos móveis e, ao mesmo tempo, permanecer úteis é um grande desafio. A Lake Intelligence evitou isso combinando o modelo no dispositivo e o modelo na nuvem. O aplicativo multiuso CompactifAI também pode encaminhar solicitações para o auima 120b via API, mas seu principal objetivo é mostrar que modelos locais como o Gilda e seus futuros complementos apresentam benefícios que vão além da economia de custos.

Para trabalhadores em áreas críticas, um modelo que pode ser executado localmente e sem conexão com a nuvem proporciona privacidade e resiliência. Mas a maior vantagem está nos casos de utilização empresarial que isto pode desbloquear – por exemplo, em drones, satélites e outros campos onde a conectividade não pode ser proporcionada pela IA emblemática.

A empresa já serve mais de 100 clientes globais, incluindo o Bank of Canada, a Bosch e a Iberdrola, mas a expansão da sua base de clientes poderia ajudar a desbloquear mais financiamento. Depois de arrecadar US$ 215 milhões para a Série B no ano passado, agora é Há rumores de que a nova ronda de financiamento de 100 milhões de euros estimado em mais de 1,5 mil milhões de euros.