Yapay Zeka Sunucularında Sıvı Soğutma Neden Zorunlu Hale Geldi?

Yapay Zeka Sunucularında Sıvı Soğutma Neden Zorunlu Hale Geldi?

Teknoloji Haberleri - Yapay zeka sunucularında sıvı soğutma, artan GPU güç tüketimi ve hızla yükselen rack yoğunluğu nedeniyle artık bir tercih değil, zorunlu bir altyapı standardı haline geldi. Geleneksel hava soğutma mimarisi, yeni nesil yapay zeka sistemlerinin oluşturduğu ısı yükünü taşıyamıyor.

Hava soğutmanın sınırı aşıldı

Veri merkezlerinde rack başına güç tüketimi 1980’lerde 2-3 kW seviyesindeydi. 2000’li yıllarda bu değer 5-8 kW bandına yükseldi. Gelişmiş fan sistemleri, hava akışı optimizasyonu ve sıcak/soğuk koridor mimarisi sayesinde hava soğutma uzun süre yeterli oldu.

Ancak modern GPU mimarileri bu dengeyi bozdu. NVIDIA A100 (400W), H100 (700W) ve yeni nesil B200 (1000W) gibi işlemciler, tek başına bile geçmiş sistemlerin toplam tüketimine yaklaşıyor. GB200 NVL72 gibi sistemlerde rack başına güç tüketimi 120-130 kW seviyesine çıktı.

Hava soğutma sistemleri ise en iyi koşullarda 8-12 kW için tasarlandı. Bu nedenle yeni nesil yapay zeka rack’lerinde ciddi ısı birikimi ve performans düşüşü kaçınılmaz hale geldi.

Sıvı soğutma neden daha etkili

Sorunun temelinde fiziksel bir gerçek bulunuyor. Hava, ısı transferine karşı yüksek direnç gösterir. Su ve özel soğutma sıvıları ise ısıyı çok daha hızlı iletir.

Standart bir hava soğutma sistemi metre kare başına yaklaşık 50 W ısı transfer edebilir. Sıvı soğutma sistemleri ise bu değeri 15.000 W seviyesine çıkarabilir. Bu fark yaklaşık 300 kat daha yüksek verim anlamına gelir.

Bu nedenle yüksek yoğunluklu yapay zeka sistemlerinde sıvı soğutma, teknik olarak tek uygulanabilir çözüm haline geliyor.

Rack yoğunluğu kontrol edilemez hızda artıyor

Ortalama rack yoğunluğu son birkaç yılda ciddi şekilde yükseldi. 2022 civarında 8 kW olan ortalama değer bugün 15-20 kW seviyesine ulaştı. Yapay zeka eğitim sistemlerinde bu değer 100 kW seviyesini aşıyor.

Yeni nesil sistemlerde bu artışın devam etmesi bekleniyor. Bu durum, mevcut veri merkezi altyapılarının hızla yetersiz kalmasına neden oluyor.

Performans kaybı ve enerji maliyeti büyüyor

Yetersiz soğutma doğrudan performans kaybına yol açar. GPU’lar belirli sıcaklık eşiğini aştığında kendini korumaya alır ve frekans düşürür. Bu durum büyük ölçekli yapay zeka eğitimlerinde ciddi verim kaybı oluşturur.

Ayrıca veri merkezlerinde toplam enerji tüketiminin yüzde 30-40’ı soğutma sistemlerinden kaynaklanır. Sıvı soğutma, bu yükü ciddi şekilde azaltarak operasyonel maliyetleri düşürür.

Sıvı soğutma pazarında hızlı büyüme

Küresel sıvı soğutma pazarı hızla büyüyor. 2025 yılında yaklaşık 3 milyar dolar seviyesine ulaşan pazarın, 2029 yılında 7 milyar doları aşması bekleniyor.

Yapılan araştırmalara göre veri merkezlerinin yalnızca yüzde 45’i tamamen hava soğutma kullanmaya devam ediyor. Kurumların yüzde 59’u ise önümüzdeki beş yıl içinde sıvı soğutmaya geçiş planlıyor.

En yaygın yöntem: direkt çip soğutma

Günümüzde en yaygın kullanılan yöntem direct-to-chip yani doğrudan çipe sıvı soğutma yaklaşımıdır. Bu sistemde sıvı, CPU ve GPU üzerine yerleştirilen mikro kanallı bloklardan geçirilir.

Bu yöntem mevcut veri merkezlerine entegre edilebilir olması nedeniyle hızlı yayılıyor. Pazarın yaklaşık yüzde 47’sini bu teknoloji oluşturuyor.

Gerçek kullanım senaryolarında sistemler tamamen sıvı soğutmalı değildir. Depolama ve ağ ekipmanları genellikle hava soğutmalı kalır. Bu nedenle hibrit yapı yaygındır.

Daldırma soğutma sistemleri yükseliyor

Tek fazlı daldırma soğutma sistemlerinde sunucular tamamen özel sıvı içine yerleştirilir. Fan ihtiyacı ortadan kalkar ve PUE değeri 1.02–1.10 seviyesine kadar düşer.

İki fazlı sistemlerde ise sıvı buharlaşarak ısıyı taşır. Bu yöntem en yüksek verimliliği sağlar ve 250 kW üzeri rack yoğunluklarını destekler.

Ancak bu sistemlerde kullanılan PFAS bazlı sıvılar çevresel risk oluşturur. Bu nedenle regülasyon baskısı artıyor ve alternatif çözümler geliştiriliyor.

Sıcak su soğutma dönemi başlıyor

Yeni nesil işlemciler daha yüksek sıcaklıklarda çalışacak şekilde tasarlanıyor. 45°C seviyesinde çalışan sıvı soğutma sistemleri, veri merkezlerinin dış hava ile ısı atmasına imkan tanıyor.

Bu yaklaşım mekanik chiller kullanımını azaltır ve enerji verimliliğini ciddi şekilde artırır.

Teknoloji devleri geçişi tamamladı

Büyük teknoloji şirketleri sıvı soğutma sistemlerine geçişi büyük ölçüde tamamladı. Google, uzun süredir sıvı soğutmalı TPU sistemleri kullanıyor ve yüksek yoğunluk avantajı sağlıyor.

Microsoft yeni veri merkezlerinde kapalı devre sıvı soğutma sistemlerine geçti. Bu sayede ciddi su tasarrufu elde edildi.

Meta ise yüksek yoğunluklu yapay zeka veri merkezleri için milyar dolarlık yatırımlar yaparak sıvı soğutmayı standart haline getiriyor.

Yeni standart artık belli

Veri merkezi sektöründe tartışma artık değişti. Soru “sıvı soğutma gerekli mi” değil, hangi yöntemin ne hızda uygulanacağı haline geldi.

Kısa vadede doğrudan çipe sıvı soğutma öne çıkarken, uzun vadede daha verimli ve çevre dostu çözümler yaygınlaşacak.

Yapay zeka altyapısının büyüme hızı, veri merkezi teknolojilerini kökten değiştiriyor. Hava soğutma dönemi kapanırken, sıvı soğutma yeni standart olarak konumlanıyor. Teknoloji Haberleri - Teknoloji Medya