Yapay zeka sunucusu için Nvidia'nın sıvı soğutma devrimi
Son teknoloji AI çiplerinin güç tüketimi sürekli artıyor ve bu, yeni nesil DGX AI sunucularının sıvı soğutmaya geçişinde katalizör haline geldi. Nvidia'nın amiral gemisi H100 GPU'nun mevcut TDP'si (termal tasarım gücü) 700W olup, geleneksel hava soğutma sınırını aşmıştır. Nvidia'nın bu yılın sonlarında yaklaşık 1000W TDP'ye sahip Blackwell mimarili B100 GPU'yu piyasaya sürmesi bekleniyor ve o dönemde sıvı soğutmaya kesinlikle ihtiyaç duyulacak.
Yüksek performanslı bilgi işlem sistemleri için sıvı soğutmanın hava soğutmaya göre birçok önemli avantajı vardır:
Mükemmel ısı transfer verimliliği, daha yüksek TDP'ye sahip bileşenlerin tamamen soğutulmasını sağlar
Yüksek hızlı fanlara olan talebin azalması nedeniyle çalışma daha sessizdir
Sistem tasarımı daha yoğundur ve büyük ısı emiciler ve fanlar daha az yer kaplar
Sıvı-sıvı ısı eşanjörlerinde atık ısının yakalanması ve yeniden kullanılması potansiyeli
Sıvı soğutmayı kullanarak Nvidia, soğutma sistemi tarafından sınırlandırılmadan AI hızlandırıcıların performans sınırlarını aşmaya devam edebilir. Yapay zeka eğitim yükünün karmaşıklığı artmaya devam ettikçe ve buna karşılık gelen donanım güç tüketimi arttıkça bu durum hayati önem taşıyor. Nvidia'nın DGX AI sunucusu, birden fazla GPU'yu, büyük ölçekli kuruluşlar tarafından hızla benimsenen, AI iş yükleri için optimize edilmiş bir sistemde paketliyor. Google Cloud, Meta ve Microsoft gibi büyük bulut hizmet sağlayıcıları, veri merkezlerinde DGX sistemlerini konuşlandırdı. Son yıllarda giderek daha fazla kuruluş yapay zekanın dönüştürücü gücünden yararlanmaya çalışırken, Nvidia DGX yapay zeka sistemlerinin benimsenmesi de katlanarak arttı.
Nvidia DGX sistemi, dielektrik sıvıları kullanan gelişmiş daldırmalı soğutma tasarımlarını kullanabilir. Doğrudan çip soğutma, dielektrik sıvıları soğuk plakalara ihtiyaç duymadan doğrudan GPU çipleri ve diğer termal bileşenler üzerine pompalayarak daha doğrudan ısı transferi sağlar. Tek bir çip üzerinde çok yüksek TDP seviyelerini (500W+) destekleyerek daha yoğun sistemler elde edebilir.
Yapay zeka baş döndürücü bir hızla gelişmeye devam ederken, desteklenen donanım altyapısının da eş zamanlı olarak gelişmesi gerekiyor. Sıvı soğutma, hızlandırıcıların benzeri görülmemiş performans seviyelerine ölçeklenmesini sağlayacak önemli bir teknolojidir. Bu dönüşüm zorluklardan muaf değildir. Veri merkezleri sıvı soğutma altyapısının dönüştürülmesini ve yeni bakım programlarının geliştirilmesini gerektirdiğinden enerji verimliliği, yoğunluk ve performansın faydaları önemlidir ve göz ardı edilemez.
