SON DAKİKA

Nvdia

“NVIDIA HGX B200 ile Gövde Karbon Emisyon Yoğunluğunu Azaltma”

NVIDIA HGX B200, hızlandırılmış bilişimde devrim yaratıyor ve bununla birlikte sıfır karbon emisyonu hedefine doğru önemli bir adım atıyor. Bu yazıda, HGX B200’ün, çevresel metriklerde, öncülü olan NVIDIA HGX H100 ile kıyaslandığında, karbondioksit salınımını azaltma konusundaki başarısını ele alacağız. Bu karşılaştırma, her iki ürün için yeni yayımlanan ürün karbon ayak izi (PCF) özetlerine dayanıyor.

Özellikle, yapılan analizler, HGX B200’ün yapay zeka eğitim ve tahmin gibi büyük yükler üzerinde %24 oranında azalmış karbon salınımı gösterdiğini ortaya koyuyor.

HGX B200 ve HGX H100, her biri sekiz adet GPU içeren hızlandırılmış bilişim platformlarıdır. Yüksek hızlı bağlantılarla NVIDIA NVLink ve NVIDIA NVSwitch sistemleri üzerinden, yapay zeka performansını ölçeklendirmeyi hedefliyorlar. Bu iki model de yüksek performanslı bilişim ve veri analitiği yüklerini destekleyecek şekilde tasarlanmıştır.

HGX B200 Nasıl Karbon Emisyonlarını Azaltıyor?

NVIDIA HGX B200, önemli ölçüde geliştirilmiş yapay zeka performansı sunan NVIDIA Blackwell B200 GPU’ları üzerine inşa edilmiştir. Bu GPU’lar, 180 GB HBM3E belleği ile donatılmıştır ve bu, HGX H100’ün belleğinin iki katından fazladır. Ayrıca, FP4 ve FP8 desteği sunan ikinci nesil Transformer Engine gibi çeşitli performans artırıcı özellikler içermektedir. Bunların yanı sıra, beşinci nesil NVLink/NVSwitch (her GPU için 1,8 TB/sn ve toplamda 14,4 TB/sn bant genişliği) ile daha düşük hassasiyetle daha yüksek throughput sağlanmaktadır.

HGX B200, FP16 formatında HGX H100’ün throughput’una göre 2.3 kat daha hızlı işlem yapmaktadır. Bu güncellenmiş işlem gücü, aynı zamanda daha enerji verimlidir. Özellikle yapay zeka tahmininde, HGX B200, %15 oranında daha fazla enerji verimliliği sunabilmektedir. Bu durum, aynı tahmin yükü için %93’lük bir enerji tasarrufu demektir.

HGX B200 ayrıca, FLOPS başına daha az üretimle ilgili emisyon ortaya çıkarır. Özellikle, HGX H100 ile HGX B200 arasındaki hesaplamalar, 0.66 gCO2e/exaflop’tan 0.50 gCO2e/exaflop’a düşmüştür. Bu da, iki nesil arasında %24’lük bir azalma anlamına geliyor. Bu veriler, ürünün ömrü boyunca sunucu ortamında uygulanan toplam FLOPS miktarına ve PCF verilerine dayanmaktadır.

Bar graph showing Hardware Embodied Compute Carbon Intensity in gCO2e/exaflop. HGX H100 produces 0.66 gC02e/exaflop and HGX B200 produces 0.50 gCO2e/exaflop of embodied carbon. A 24% decrease occurred between the generations. This is estimated based on PCF data and the total number of FLOPS at FP16 precision executed over the lifetime of the product.
HGX B200, HGX H100’e kıyasla %24’lük bir azalma ile donanımın görsel karbon yoğunluğunu sunmaktadır.

Ayrıca, HGX B200 ve H100 arasındaki malzeme ve bileşenler arasında önemli ölçüde bir azalma gözlemlenmiştir; en yüksek emisyon üreten kategori olarak bilinen bu kategoride, özellikle termal bileşenler, entegre devreler ve bellek konularında dikkat çekici bir düşüş yaşanmıştır.

Bar graph showing comparison of material breakdown measured in mgCO2e/exaflop (FP-16 precision). For HGX H100 the numbers are memory 276, ICs 164, thermal components 118, electromechanical components 26, PCBs 4.6, common components 5.3, mechanical components 3.9, and interconnects 2.6. For HGX B200 the numbers are memory 245, ICs 140 , thermal components 60, electromechanical components 10, PCBs 5.5, common components 5.0, mechanical components 1.5, interconnects 1.5. This is estimated based on PCF data and the total number of FLOPS executed over the lifetime of the product.
HGX B200, malzeme bileşenleri kategorisinde HGX H100’e kıyasla önemli bir azalma sağlamıştır.

HGX B200’ün sağladığı enerji tasarrufu ve azaltılmış karbon emisyonu yoğunluğu, özellikle büyük yükler için çalıştırıldığında (yapay zeka eğitimi ve çıkışı gibi) genel emisyonları önemli ölçüde azaltabilmektedir.

Operasyonel Karbon Etkileri

HGX B200’ün gömülü karbon yoğunluğu düşük olduğundan, %80 gibi düşük bir çevresel etkisi de bulunmaktadır. Örneğin, HGX B200, DeepSeek-R1 modeli için, %90 oranında operasyonel karbon emisyonlarını azaltma kapasitesine sahip olduğu tahmin edilmektedir. Bu, 1 milyon tahmin tokenı (kullanıcı başına 100 TPS) işleme açısından HGX H100 ile karşılaştırıldığında, operasyonel karbon emisyonunda %90’lik bir azalma sağladığını göstermektedir.

Bu veriler, 2023 IEA emisyon faktörleri esas alınarak, bölgesel veri merkezi enerji tüketimi ile ağırlıklandırılarak hesaplanmıştır. Emisyon faktörleri, elektrik üretimine bağlı yukarı akış emisyonları ve taşıma ve dağıtım kayıplarını kapsamaktadır.

Bar graph showing operational carbon emissions in kgCO2e/million tokens for DeepSeek-R1 inference. HGX H100 produces 16 kgCO2e/million tokens and HGX B200 produces 1.6 kgCO2e.
HGX B200 ile %90’lık bir azalma gözlemlenmiştir.

Veri Toplama Süreci

Her iki ürün için yayımlanan PCF özetleri, malzeme bileşimi ve üretim enerji tüketimi gibi %90’ından fazla ağırlıkla tedarikçilerden toplanan birincil verilere dayanmaktadır.

Bu verilere ek olarak, imec.netzero aracı gibi ikincil kaynaklar kullanılmıştır. Ayrıca, malzemelerin, taşımacılık ve enerjinin modellenmesi için ecoinvent 3.10 ve Sphera LCA veri tabanları da dahil edilmiştir. Bu çalışma, ISO 14040 ve 14044 standartlarına uygun yaşamsal değerlendirmelere dayanmakta ve ISO 14067 standardı çerçevesinde eleştirisel bir değerlendirmeye tabi tutulmuştur.

A visual diagram of the process conducted for both product carbon footprint reports. The summaries were both based on a cradle-to-gate analysis comprising an inventory of the emissions generated for raw material extraction and refinement, component manufacturing, and assembly.
HGX B200’ün cradle-to-gate ürün karbon ayak izi kapsamı.

Gelecekteki Sürdürülebilir Bilişim

NVIDIA, her yeni üründe karbon ayak izini azaltmayı amaçlamaktadır. Aynı zamanda, performansta çığır açan gelişmeler sunmayı da hedefliyor. Detaylı PCF özetleri sayesinde, hızlandırılmış bilişimin çevresel etkileri daha iyi anlaşılacaktır.

NVIDIA, ürünlerinin çevresel etkileri hakkında güvenilir verileri yayımlamaya devam edecektir. Gelecek, sürdürülebilir bilişim ve yapay zeka geliştirme alanında yenilikçi çözümler gerektirmektedir. Bu bağlamda, performanstan ödün vermeden ilerlemeyi amaçlamaktadır.

Daha fazla bilgi edinmek için, NVIDIA HGX B200 Ürün Karbon Ayak İzi Özeti’ni okuyabilirsiniz.

Kaynak

Nvdia Blog

Düşüncenizi Paylaşın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

İlgili Teknoloji Haberleri