Nvidia, en son teknoloji ürünü olan GB200 Grace Blackwell NVL4 Süper Çipini tanıttı. Bu yeni süper çip, dört adet B200 GPU ve iki adet Grace CPU içeriyor. Bu birleşik CPU ve GPU AI işlemcisi, yüksek performanslı hesaplama ve yapay zeka uygulamaları için tasarlandı. GB200, Nvidia’nın AI ve veri merkezi çözümlerine yönelik stratejisinin bir parçası olarak, daha fazla güç ve verimlilik sunmayı hedefliyor. Bu yeni teknoloji, büyük veri işleme, makine öğrenimi ve diğer hesaplama yoğun uygulamalar için önemli bir adım olarak değerlendiriliyor. Nvidia’nın bu yeniliği, ayrıca, yapay zeka sistemlerinin daha hızlı ve daha etkili bir şekilde çalışmasını sağlayarak, araştırma ve geliştirme süreçlerini hızlandırmayı amaçlıyor.

Nvidia’dan Yeni Ürünler: GB200 NVL4 ve H200 NVL

Nvidia, iki yeni ürün tanıttı: GB200 NVL4, olağanüstü bir dört B200 GPU modülü ve H200 NVL PCIe GPU, hava soğutmalı veri merkezlerine yönelik bir çözüm.

GB200 NVL4 Superchip

GB200 Grace Blackwell NVL4 Superchip, standart (NVL4 olmayan) çift GPU versiyonunun çok daha güçlü bir varyantıdır. Bu yeni model, NVLink ile birbirine bağlanan dört B200 Blackwell GPU’su ve tek bir anakarta entegre edilmiş iki Grace ARM tabanlı CPU içermektedir. Çözüm, HPC ve AI-hibrit iş yükleri için tasarlanmış olup, tam 1.3TB koheran bellek kapasitesine sahiptir. Nvidia, GB200 NVL4’ün, önceki nesil Nvidia GH200 NVL4 Grace Hopper Superchip‘ten simülasyon performansında 2.2 kat, eğitimde 1.8 kat ve çıkarımda 1.8 kat daha hızlı olduğunu duyurdu.

Uygunluk ve Performans

Nvidia, GB200 NVL4’ün 2024’ün ikinci yarısında MSI, Asus, Gigabyte, Wistron, Pegatron, ASRock Rack, Lenovo, HP Enterprise gibi çeşitli sağlayıcılardan temin edilebileceğini açıkladı.

H200 NVL: Hava Soğutmalı Seçenek

Nvidia’nın diğer yeni ürünü H200 NVL, hava soğutmalı bir çift yuvalı GPU olup, PCIe 5.0 bağlantısına (128 GB/s) sahiptir. Soğutucu, raf montaj çözümleri için optimize edilmiştir ve sağdan sola doğru hava akışı sağlayan bir tasarıma sahiptir; bu nedenle üfleme tipi fan kullanılmamaktadır.

H200 NVL, Nvidia’nın önceki H200 SXM versiyonuna göre hafif daha düşük bir performansa sahiptir. Bu GPU, 30 TFLOPS FP64 ve 60 TFLOPS FP32 performansı sunmaktadır. Tensor çekirdek performansı ise FP64 için 60 TFLOPS, TF32 için 835 TFLOPS, BFLOAT16 ve FP16 için 1,671 TFLOPS, FP8 ve INT8 için ise 3,341 TFLOPS olarak derecelendirilmiştir.

H200 NVL ile Gelişmiş Performans

Nvidia, H200 NVL’in, yerini aldığı H100 NVL’den çok daha hızlı olduğunu belirtiyor. H200 NVL, %50 daha fazla bellek kapasitesine ve %20 daha fazla bellek bant genişliğine sahip olup, çıkarım performansını 1.7 kat, HPC iş yükleri içinse 1.3 kat artırmaktadır. Ayrıca, H200 NVL, Ampere’ın karşılaştırmalı GPU’larına göre 2.5 kat daha hızlıdır.

H200 NVL PCIe GPU, hava soğutmalı sunucu rafları da dahil olmak üzere birçok veri merkezi konfigürasyonuna uygun olarak tasarlanmıştır. Nvidia’ya göre, anket sonuçları, girişimlerin yaklaşık %70’inin hava soğutma kullandığını ve 20kW güç veya daha az tükettiklerini göstermektedir. PCIe GPU olması sayesinde, veri merkezi sağlayıcıları mevcut raflarını kullanarak yalnızca GPU’larını değiştirip yükseltme maliyetlerini önemli ölçüde azaltabilirler. H200 NVL, NVLink ile donatılmıştır ve sistem sağlayıcılarının bir arada dört GPU bağlayarak performansı artırmasına olanak tanır.

Hava Soğutmanın Avantajları

Nvidia’nın yeni hava soğutmalı GPU’su, Blackwell GPU‘larının aşırı ısınma problemleri ile mücadele eden bir zamanda piyasaya sürüldü. Sistemi entegre eden firmalar, bu GPU’ların yüksek ısı yayılımı nedeniyle sunucu raflarını yeniden tasarlamak zorunda kalmışlardır. H200 NVL, B200 için yakın bir rakip olmasa da, hava soğutmalı GPU’ların düşük güç tüketimi avantajlarını vurgulamaktadır.

H200 NVL, Dell, HP Enterprise, Lenovo ve Supermicro gibi çeşitli sağlayıcılardan temin edilebilecektir. Ayrıca, Aivres, ASRock Rack, Asus, Gigabyte, Ingrasys, Inventec, MSI, Pegatron, QCT, Wistron ve Wiwynn gibi platformlarda da yer alacaktır.