AI çip termal yönetimi
Şu anda Microsoft, Google ve Meta gibi diğer teknoloji devleri de yapay zeka modellerini eğitmek ve çalıştırmak için veri merkezlerini genişletiyor. Raporlara göre Microsoft ve OpenAI, milyonlarca özel sunucu yongasına sahip bir süper bilgisayarı içerecek bir veri merkezi projesi inşa etmeyi planlıyor ve mevcut proje, 2028'de piyasaya sürülmesi beklenen Stargate adlı yapay zeka süper bilgisayarı da dahil olmak üzere 115 milyar dolara mal olabilir. Meta CEO'su Mark Zuckerberg de bu yılın Ocak ayında şirketin bilgi işlem altyapısının 2024 yılı sonuna kadar 30.000 adet H100 ekran kartını içereceğini belirtmişti. Ayrıca şunu ekledi: 'Diğer GPU'lar da dahil edilirse yaklaşık 600.000 H100 eşdeğeri hesaplama var.'.
AIGC büyük modellere ve büyük verilere dayanmaktadır. Büyük model, büyük ölçekli ve geniş veriler üzerinde eğitim alındıktan sonra alt görevlere uyum sağlayabilen bir modeli ifade eder. Büyük bir modelin ortaya çıkmasından sonra, (1) model parametrelerinin büyüklüğü artar; (2) Çeşitlendirilmiş talep, bilgi işlem gücünün çeşitlendirilmiş yükseltmesini hızlandırır: Bilgi işlem gücü, talep eşleşmesine göre temel bilgi işlem gücü, akıllı bilgi işlem gücü ve süper bilgi işlem gücü olarak bölünebilir. 2021 yılında küresel bilgi işlem cihazlarının toplam bilgi işlem gücü %44 büyüme oranıyla 615 EFlop'a ulaştı. 2030 yılına gelindiğinde bu rakamın %65'lik bir CAGR ile 56ZFlop'a çıkması bekleniyor. Akıllı bilgi işlem gücü, %80'i aşan bir CAGR ile 232EFlops'tan 52,5ZFlops'a yükselecek; Büyük modelin ortaya çıkmasının ardından, bilgi işlem gücünde ortalama 9,9 aylık ikiye katlama süresiyle yeni bir bilgi işlem gücü artışı trendi ortaya çıktı.
Bilgi işlem gücünün artmasının arkasında çiplerin daha yüksek bilgi işlem verimliliğine sahip olması ve daha fazla hesaplamayı daha kısa sürede tamamlaması gerekiyor, bu da kaçınılmaz olarak çip enerji tüketiminin artmasına neden oluyor. Süper bilgi işlem merkezlerindeki veri merkezlerinin yüksek yoğunluk ve yüksek güç tüketimi özellikleri, ısı dağıtımı sorunlarını giderek daha fazla ön plana çıkarmaktadır. Modern veri merkezleri, özellikle de süper bilgi işlem merkezleri, genellikle çalışma sırasında önemli miktarda ısı üreten çok sayıda yüksek güçlü cihaz içerir. Isının zamanında ve etkili bir şekilde dağıtılamaması cihazın performansını etkilemekle kalmayıp donanım arızalarına da yol açabilir. IDC'nin raporuna göre veri merkezlerindeki enerji tüketiminin yaklaşık %40'ı soğutma sistemleri için kullanılıyor. Bu da etkili soğutma çözümlerinin veri merkezlerinin işleyişi için hayati önem taşıdığını gösteriyor.
Geleneksel hava soğutma sistemleri artık mevcut süper bilgisayarların soğutma ihtiyaçlarını karşılayamıyor, bu nedenle sıvı soğutma teknolojisi yavaş yavaş sektörde ana tercih haline geldi. Sıvı soğutma teknolojisinin uygulanması, veri merkezlerinin aynı alanda daha fazla bilgi işlem cihazını barındırabilmesini sağlarken, soğutma sisteminin enerji tüketimini de azaltır. Sıvı soğutma teknolojisinin uygulanması yalnızca hesaplama verimliliğini artırmakla kalmaz, aynı zamanda enerji tüketimini ve işletme maliyetlerini de önemli ölçüde azaltır. Sıvı soğutma teknolojisi, daha verimli ısı iletimi sayesinde aynı enerji tüketimiyle daha fazla bilgi işlem görevinin üstesinden gelebilir.
Yapay zeka eğitimine ve yüksek performanslı bilgi işlem talebinin artmasıyla birlikte sıvı soğutma teknolojisi, geleceğin süper bilgi işlem merkezlerinde daha önemli bir rol oynayacak. Artan bilgi işlem taleplerini ve ısı dağıtımı zorluklarını karşılamak için sıvı soğutma teknolojisinin önümüzdeki yıllarda süper bilgi işlem merkezlerinde ve büyük veri merkezlerinde standart bir konfigürasyon haline gelmesi bekleniyor.
