Início APOSTAS Os racks de chips AI são muito pesados

Os racks de chips AI são muito pesados

67
0

Na década e meia entre 2010 e o final de 2024, o número de data centers nos Estados Unidos quadruplicou. de As tendências são semelhantes em todo o mundo: Mais data centers, maiores, agora ou em breve. Número de projetos de construção De acordo com o Uptime Institute, uma organização de certificação e inspeção de data centers, um total de 377 centros com mais de 100 megawatts foram anunciados nos últimos quatro anos.

Mas antes de permitirmos que a Big Tech corra solta numa corrida frenética para expandir a computação que os ambientalistas não querem que permitamos, vamos fazer uma pausa e considerar outras opções. Significa contentar-se com o que temos. Você pode modernizar seu data center atual para atender às necessidades da tecnologia mais recente? Talvez o frenesi arquitetônico não valha a pena. Você provavelmente tem todo o equipamento necessário. Algumas atualizações aqui, alguns servidores novos ali, um pouco de tinta e você tem um data center de IA construído a partir da estrutura de um data center legado.

“Na maioria dos casos, isso significa demolir o prédio e recomeçar.”

Quando discutimos essa ideia com especialistas em data centers, nos disseram em muitas palavras: “Não, você não pode simplesmente converter seu data center atual em uma supercasa de IA”. O problema é tão físico quanto o chão em que você pisa. Os data centers tradicionais não conseguem suportar o peso da tecnologia moderna de IA. Racks que abrigam computadores e chips de IA seriam pesados ​​demais para o chão e quebrariam com o peso.

Chris Brown, diretor de tecnologia do Uptime Institute, resumiu a situação desta forma: “É possível modernizar os antigos até certo ponto, mas não na medida que muitas fábricas de IA precisam”. Por exemplo, uma pequena seção de um pequeno data center poderia acomodar uma pequena carga de trabalho focada em IA em uma empresa Fortune 500, disse ele. “Mas na maioria dos casos, isso significa demolir o edifício e começar do zero”, disse Brown.

Racks de IA, gabinetes de metal nos quais caixas de metal chamadas servidores são empilhadas, abrigam computadores e chips que realizam processamento generativo de IA, mas pesam muito. Trinta anos atrás, quando Brown iniciou sua carreira em data center, o peso médio do rack era de cerca de 400 a 600 libras. Pense no peso de tudo, desde a geladeira de sua casa até o piano de cauda do seu bebê. Atualmente, o peso dos racks varia de 1.250 libras a 2.500 libras, variando de um urso pardo a um Toyota Prius. No entanto, os racks dedicados a equipamentos de IA estão na extremidade superior do espectro. Brown disse que espera-se que o rack AI tenha um peso histórico de 5.000 libras.

Brown disse que o peso extra se deve à quantidade de equipamentos eletrônicos amontoados nas prateleiras de metal. As lacunas entre as GPUs retardam a transferência de dados e o treinamento de modelos de IA, desperdiçando valioso poder de computação e, em última análise, custos. Os racks modernos de alta densidade estão repletos de chips de memória (levando à diminuição do suprimento global de RAM) e de algumas centenas a até 1.000 GPUs. Embora as cargas de trabalho tradicionais de chips de computador, há uma década, tivessem em média cerca de 10 quilowatts por rack, as cargas de trabalho de IA são agora 35 vezes maiores, até 350 quilowatts por rack. “Eles estão colocando o máximo possível de coisas em cada rack e colocando-os o mais próximos possível para maximizar sua capacidade”, disse ele.

Mais energia também gera mais calor, que deve ser dissipado antes que um incêndio comece ou o chip derreta. O ar soprado sobre o chip é substituído ou complementado por uma placa de resfriamento cheia de um líquido (geralmente uma mistura aquosa de refrigerantes tóxicos). A água pesa pouco mais de 8 libras por galão. Não se esqueça dos cabos também. Dentro de um data center, geralmente há de 10 a 35 racks dispostos em fila. Para fornecer energia suficiente, o diâmetro do cabo, ou placa de cobre semelhante a um cabo chamada barramento, deve ser aumentado. (Imagine apagar um incêndio em uma casa com uma torneira de pia de cozinha; seria melhor borrifar água com uma mangueira de incêndio de grande diâmetro.) Brown disse que as estradas de ônibus modernas pesam 37 libras por pé linear.

“Esse é o peso de todos os processadores, toda a memória, todos os chips que você precisa para poder operar seu dispositivo de TI, todo o hardware de refrigeração que você precisa dentro”, disse ele. As estruturas tradicionais de data center não estão à altura da tarefa, disse Brown. Muitos estão sobre palafitas e podem custar até cerca de 1.250 libras por pé quadrado. estático É desgastante, observou ele. Cargas dinâmicas, como racks empurrados pelo chão, exigem capacidades de carga maiores, disse ele.

Chris MacLean, presidente da empresa de construção de data centers Critical Facilities Group, disse que mesmo que os pisos do antigo centro fossem reforçados, outras questões geométricas ainda permaneceriam. A beira. Ele projeta data centers há quase 20 anos, durante os quais a altura dos racks aumentou em 3 pés, de 6 pés para 9 pés. (A área ocupada aumentou apenas de 2 x 2 pés para 2 x 3 pés.) A nova altura é mais alta do que as molduras de portas industriais de alguns anos atrás. Os elevadores de carga também não suportam o peso de enormes racks, os equipamentos nos quais são colocados durante o movimento e o peso das pessoas que os empurram. “De repente, você está em um elevador bastante robusto em um andar alto”, disse MacLean.

“A razão para o enorme crescimento nos últimos dois anos é simplesmente o facto de a inteligência artificial estar a consumir tudo.”

As grandes empresas tecnológicas estão claramente a construir novos centros de dados para acomodar o seu crescente domínio da IA. E quando a OpenAI, a Microsoft e outras empresas ficam sem espaço nos seus complexos de data centers construídos por IA, alugam espaço em instalações de colocation de propriedade de empresas como CoreWeave, Digital Realty e Compass, que por sua vez estão construindo novos data centers focados em IA. “O enorme crescimento nos últimos dois anos deve-se simplesmente ao facto de a inteligência artificial estar a consumir tudo”, disse Brown da Uptime.

A IA generativa não é o único tipo de computação, lembrando que, apesar do hype, ainda existem cargas de trabalho típicas de computador. Na verdade, as cargas de trabalho de dados não relacionadas à IA estão aumentando, diz Brown. Portanto, os data centers tradicionais são tão importantes como sempre. MacLean disse que universidades, hospitais, pequenas empresas e governos locais deveriam continuar a armazenar arquivos de dados que não sejam de IA, assim como fotos borradas são armazenadas em servidores de provedores de nuvem. “Todas essas pessoas ainda precisam de um ambiente de data center tradicional”, disse ele. “Isso nunca vai embora.”

Siga tópicos e autores Veja mais histórias como esta no feed da sua página inicial personalizada e receba atualizações por e-mail.


Source link