Início NOTÍCIAS O menor supercomputador de IA do mundo tem o tamanho de um...

O menor supercomputador de IA do mundo tem o tamanho de um banco de potência

21
0

Pequena IA revelado que o Guinness World Records certificou como o menor supercomputador pessoal de IA do mundo. Chama-se Tiiny AI Pocket Lab e, embora seja do tamanho de um banco de potência, promete níveis de desempenho que normalmente exigiriam hardware muito caro. Outros pequenos supercomputadores, como o Project Digits da NVIDIA, que custa cerca de US$ 3 mil, e o Spark DGX, que custa US$ 4 mil, têm preços que os colocam fora do alcance dos usuários mais comuns.

A Tiiny AI argumenta que o verdadeiro gargalo da IA ​​hoje não é o poder computacional, mas nossa dependência da nuvem. O diretor do GTM, Samar Bhoj, diz: “o talento não é para centros, mas para pessoas”. Ao executar grandes modelos localmente, o Bay Lab busca reduzir a dependência da nuvem, melhorar a privacidade e fazer com que o desenvolvimento de IA pareça pessoal, em vez de remoto.

tecnologia que alimenta os supercomputadores da Tiiny AI

O Bay Lab mede apenas 14,2 x 8 x 2,53 cm e pesa apenas 300 libras, mas a empresa afirma que pode lidar com grandes modelos de linguagem com até 120 bilhões de parâmetros. Modelos desse tamanho são normalmente associados a computadores desktop ou GPUs profissionais, mas a Tiiny AI quer trazer esse recurso de tecnologia amigável para suas mãos.

Pocket Lab é construído na mais recente CPU ARM v9.2 de 12 núcleos e suporta modelos populares de código aberto, como GPT-OSS, Llama, Qwen, DeepSeek, Mistral e Phi. No dispositivo cardíaco há uma unidade de processamento neural discreta, capaz de fornecer 190 TOPS. Ele também inclui 80 gigabytes de memória LPDDR5X, que pode executar uma quantidade agressiva desses modelos de grande escala sem depender da infraestrutura.

Tiiny AI também possui duas tecnologias principais integradas ao sistema. TurboSparse é um método de ativação esparsa em nível de neurônio que aumenta a eficiência de inferência sem reduzir a inteligência do modelo. PowerInfer é um mecanismo de inferência heterogêneo que divide os gargalos de IA na CPU e NPU, proporcionando desempenho no nível do servidor e exigindo baixo consumo de energia. Essa combinação torna o Pocket Lab uma opção atraente para qualquer experimento local de IA, seja para pesquisa, robótica ou tarefas de computação avançada.

A Tiiny AI planeja exibir o dispositivo na CES 2026. Os detalhes de preço e lançamento ainda estão em segredo, mas a indústria estará de olho para ver como o supercomputador executa essa pequena tarefa quando chegar aos usuários reais.

Source link

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui