- Mas a GPU externa Lightning 5 aproxima o hardware da área da estação de trabalho
- IA local, que está ganhando força à medida que os custos da nuvem continuam a aumentar
- É mais provável que os desenvolvedores explorem os modelos de linguagem atuais diretamente em seus computadores pessoais
Os gabinetes de GPU externos já existem há algum tempo – normalmente associados a laptops para jogos e tarefas de aceleração gráfica que excedem as capacidades dos processadores móveis.
O recentemente lançado TBT5-AI da Plugable pertence a esta categoria, mas o projeto se concentra em conectar hardware gráfico de desktop a laptops para tarefas locais de IA.
O gabinete oferece um slot Plu x16 completo que permite aos usuários instalar uma placa gráfica de vídeo no meio do chassi externo.
Artigo abaixo
Hardware tipo desktop em gabinetes externos
Uma fonte de alimentação integrada de 850 watts fornece a energia necessária para um funcionamento de alto desempenho GPUs que normalmente funcionariam apenas em aplicativos de desktop.
Para conectividade, este dispositivo vem com um único cabo de 5 pinos, que permite uma conexão direta com o laptop, e suporta banda bidirecional de até 80 Gbps, enquanto o modo boost pode aumentar a taxa de transferência para 120 Gbps para determinadas tarefas.
Dentro do gabinete, essa largura de banda se conecta à GPU instalada por meio de pistas PCIe 4.0 x4, reduzindo os gargalos de transferência que anteriormente limitavam os designs de GPU externos.
Além de abrigar a placa gráfica, o sistema funciona como um hub que expande a conectividade para laptops conectados.
Ele oferece 96 watts de potência de carregamento, além de uma conexão de rede de 2,5 gigabits e diversas portas USB de alta velocidade.
De acordo com Plugable, cada vez mais engenheiros desejam manter o modelo de processo e o tratamento de dados em seus sistemas, e o TBT5-AI oferece exatamente isso, pois foi projetado para que os desenvolvedores experimentem um ambiente local de simulação de IA.
Ele foi projetado para permitir que os desenvolvedores executem grandes exemplos de linguagens diretamente no hardware local para enviar cargas de trabalho para a infraestrutura em nuvem.
Ele oferece suporte a estruturas de IA locais comuns, incluindo llama.cpp, modelos Face Hugging e plataforma de sequenciamento NIM da NVIDIA.
Além disso, o diretor de tecnologia Bernie Thompson disse que as metas da indústria de hardware nas quais a proteção de dados confidenciais continua sendo um requisito estrito de desempenho.
“A privacidade da informação não é uma característica, mas sim um mandato”, disse Thompson, referindo-se aos departamentos de saúde, serviços financeiros e instituições jurídicas.
Também é possível preparar versões empresariais do TBT5-AI16, TBT5-AI32 e TBT5-AI96, que incluirão processadores gráficos.
Essas configurações complementarão o chamado Plugable Chat do software, uma plataforma de orquestração de IA para organizações.
A empresa afirma que esses sistemas de IA mudarão o processo de serviços em nuvem baseados em assinatura para infraestrutura de computação controlada localmente.
Custando US$ 599,95 como unidade independente, o gabinete Plugable TBT5-AI foi lançado oficialmente há alguns dias e agora está disponível na Amazon e Plugable.com.
O caminho Fontes Mac
Siga o TechRadar no Google Notícias e adicione-nos para encomendar a primavera para obter notícias, análises e opiniões de especialistas em seu feed. Certifique-se de clicar no botão Seguir!
E é claro que você também pode Siga o TechRadar no TikTok Receba notícias, análises, unboxings em formato de vídeo e atualizações regulares nossas whatsapp também
