Fontes: Projeto SGLang é lançado como RadixArk com avaliação de US$ 400 milhões conforme o mercado de consequências explode

Alguns membros da equipe responsável por manter o SGLang, uma ferramenta popular de código aberto usada por equipes como xAI e Cursor para acelerar modelos de treinamento de IA, fizeram a transição para uma startup comercial lançada recentemente. Essa multidão, por nome RootArka ser anunciado no último sexto.

A RadixArk, que a SGLang fundou em 2023, dentro do laboratório da UC Berkeley do cofundador da Databrick, Ion Stoica, foi recentemente avaliada em cerca de US$ 400 milhões em uma rodada liderada pela Accel, de acordo com duas pessoas familiarizadas com o assunto. O TechCrunch não confirmou o tamanho do financiamento.

A startup já levantou capital de investidores anjos, incluindo o CEO da Intel, Lip-Bu Tan, disseram as pessoas.

Ying Sheng, um contribuidor importante da SGLang e ex-engenheiro da xAI, deixou a startup de IA de Elon Musk para se tornar cofundador e CEO da RadixArk, de acordo com um. Anúncio do LinkedIn o que ele fez no mês passado. Sheng foi anteriormente um cientista pesquisador da Databrics.

Ying Sheng, Accel e Lip-Bu Tan da RadixArk não responderam a um pedido de comentário.

Tanto o SGLang quanto o RadixArk se concentram na otimização das suposições de processamento – essencialmente fornecendo modelos para rodar de forma mais rápida e eficiente no mesmo hardware. Juntamente com o treinamento do modelo, a inferência representa uma grande parte dos custos de servidor associados aos serviços de IA. É por isso que ferramentas que otimizam processos podem gerar enormes economias quase que instantaneamente.

vLLM, um design mais antigo para otimização de suposições, também passou de um projeto de código aberto para uma startup. A empresa recém-formada está em negociações para obter mais de US$ 160 milhões em financiamento, avaliado em cerca de US$ 1 bilhão; Forbes relatou mês passado

Três pessoas familiarizadas com o assunto disseram ao TechCrunch que Andreessen Horowitz está liderando o investimento no vLLM, embora os números finais desse investimento possam permanecer. Andreessen Horowitz não quis comentar. O cofundador do vLLM, Simon Mo, descreveu as informações sobre esta rodada como “destino impreciso” em uma declaração ao TechCrunch, embora tenha se recusado a citar quais detalhes estavam incorretos.

Assim como o SGLang, o vLLM foi incubado no laboratório de Ione Stoica na UC Berkeley. Stoica, professor da UC Berkeley, é o famoso fundador da Databricks e de várias outras startups.

Várias grandes empresas de tecnologia já estão executando seus fluxos de trabalho usando vLLM, e o SGLang também ganhou popularidade significativa nos últimos seis meses, disse Britannica Walker, sócia geral da CRV, ao TechCrunch. A empresa também não desistiu.

A RadixArk continua a desenvolver o SGLang como um modelo de mecanismo de IA aberto. A startup também está construindo o Mileon, uma excelente ferramenta projetada para aprendizado complementar que permite às empresas treinar modelos de IA em mais tempo.

Embora a maioria de suas ferramentas permaneça gratuita, a RadixArk começou a oferecer serviços pagos, disse uma pessoa familiarizada com a empresa ao TechCrunch.

A startup, que fornece infraestrutura de adivinhação para desenvolvedores, viu um aumento no financiamento nos últimos meses, uma camada contínua de conquistas para a importância da IA. Baseten obteve recentemente US$ 300 milhões para uma Avaliação de US$ 5 bilhõesO Wall Street Journal noticiou na terça-feira. Isto segue um movimento semelhante ao trabalho dos rivais da IA, que criou US$ 250 milhões em uma avaliação de US$ 4 bilhões em outubro passado.