Executar modelos de IA de alto nível geralmente significa alugar servidores em nuvem caros ou pagar outra taxa de assinatura. Meta quer mudar isso. Propriedade da empresa liberar Pesos do Muse Spark Open, ele foi descrito como o modelo de peso aberto mais poderoso até hoje nos EUA e você pode executá-lo em seu desktop.
No entanto, há um problema. Você precisará de dois Mac Studio equipados com o novo chip M5 Ultra da Apple. Mark Zuckerberg compartilhou a notícia no X, dizendo que o modelo “funciona muito bem no novo Mac Studio graças a uma parceria com John Ternus e Apple”. Ternus parecia igualmente animado, escrevendo: “É ótimo poder executar modelos de nível aberto do Muse Spark em sua mesa e escalá-los com eficiência”.
O que há de tão especial no Muse Spark Open?
O Muse Spark Open contém 816 bilhões de parâmetros, mas apenas 42 bilhões de parâmetros estão ativos por vez. Suas janelas de contexto de token de 1 milhão permitem rastrear grandes quantidades de informações e pode lidar com texto, imagens, vídeo e áudio prontos para uso.
A Meta projetou o modelo com codificação e tarefas autônomas em mente, para que ele possa realizar trabalhos grandes que abrangem várias etapas, como escrever código complexo ou resolver problemas lógicos complicados.
Como dois Mac Studio podem executar um modelo tão grande?
O segredo está na memória unificada da Apple. A GPU em cada M5 Ultra Mac Studio pode aproveitar até 512 GB de memória, portanto, dividir o modelo em duas máquinas é adequado. Com 1,2 TB/s de largura de banda de memória, a dupla se transforma em um computador gigante com 1 TB de memória.
Meta testou a configuração em projetos reais. Com o Muse Code no comando, o modelo eliminou bugs, lançou novos recursos e administrou uma construção completa do aplicativo Mastodon de código aberto Ice Cubes. Ele ainda executa o DaVinci Resolve do início ao fim, vasculhando os clipes, um quadro por vez, e cortando ótimas fotos na tela vertical.
O que isso significa para você?
Se você não possui dois Mac Studio, ainda pode experimentar o Muse Spark Open por meio de plataformas como Groq e OpenRouter, enquanto os desenvolvedores podem baixar pesos do Hugging Face.
Relatórios relacionados:
