Yapay zeka dünyayı yeniden şekillendirirken, ağ yapısı geleceğin veri merkezlerinin kritik bel kemiği haline geliyor. Büyük dil modeli eğitiminin performansı, sadece hesaplama kaynakları ile değil, aynı zamanda temel ağın çevikliği, kapasitesi ve zekası ile belirleniyor. Endüstri, geleneksel CPU merkezli altyapılardan sıkı bağlantılı, GPU odaklı, ağ tanımlı AI fabrikalarına doğru evrim geçiriyor.
NVIDIA, modern AI eğitim ve çıkarımı için gereken hızlı, yüksek bant genişliği ve düşük gecikme taleplerini karşılamak amacıyla kapsamlı bir ağ çözümleri yelpazesi geliştirdi. Bu çözümler arasında Spectrum-X Ethernet, NVIDIA Quantum InfiniBand ve BlueField platformları yer alıyor. Hesaplama ve iletişimi bir arada düzenleyerek, NVIDIA’nın ağ portföyü, ölçeklenebilir, verimli ve sağlam AI veri merkezlerinin temelini oluşturuyor; burada ağ, AI yeniliğinin merkezi sinir sistemi işlevi görüyor.
AI Fabrikası Altyapısının Geleneksel Veri Merkezleri ile Karşılaştırılması
Geleneksel veri merkezlerinde, Tier 1 anahtarları her sunucunun rafına entegre edilmiş durumdadır. Bu yapılar, sunuculara doğrudan bakır bağlantılar kurarak hem güç tüketimini hem de bileşen karmaşıklığını en aza indirir. Bu mimari, CPU merkezli iş yükleri için yeterliydi, çünkü bu tür iş yükleri mütevazı ağ taleplerine sahipti.
Buna karşın, NVIDIA tarafından öncülüğü yapılan modern AI fabrikalarında, tek bir iş üzerinde birlikte çalışan ultra yoğun hesaplama rafları ve binlerce GPU yer alır. Bu sistemler, tüm veri merkezi genelinde maksimum bant genişliği ve minimum gecikme gerektirir, bu da Tier 1 anahtarının rafın sonuna kaydırıldığı yeni topolojilere yol açar. Bu yapı, sunucular ile anahtarlar arasındaki mesafeyi önemli ölçüde artırır; dolayısıyla, optik ağ kullanımı kritik hale gelir. Sonuç olarak, güç tüketimi ve optik bileşenlerin sayısı belirgin şekilde artar; bu durum, hem NIC-anahtar bağlantıları hem de anahtarlar arası bağlantılar için optik bileşenlerin gerekliliğini doğurur.
Ağda Güvenilirlik ve Güç Optimizasyonu
Geleneksel ağ anahtarları, takılabilir verici kullanımıyla birlikte birçok elektrik arayüzüne bağımlıdır. Bu yapılar içinde, veri sinyali anahtar ASIC’inden ana karta, bağlantılara ve nihayetinde harici vericiye kadar uzanan uzun elektrik yollarını kat eder. Bu parçalı yolculuk, 200 gigabit/saniye kanalları için %22’ye kadar elektrik kaybına yol açabilir. Bu durum, karmaşık dijital sinyal işleme ve birden fazla aktif bileşen ihtiyacını artırır.
Sonuç olarak, sistem güç tüketimi yükselir (genellikle her arayüz için 30W’a kadar çıkabilir), ısı çıkışı artar ve potansiyel arıza noktalarının sayısı çoğalır. Yapıdaki fazla modül ve bağlantılar yalnızca sistemin gücünü ve bileşen sayısını artırmakla kalmaz, aynı zamanda bağlantı güvenilirliğini de olumsuz etkileyerek AI uygulamalarının ölçeklenmesi sırasında sürekli operasyonel zorluklar ortaya çıkarır.
Ancak, ko-packaged optics (CPO) kullanarak tasarlanan anahtar sistemleri, elektro-optik dönüşümü doğrudan anahtar paketine entegre eder. Lifler, doğrudan yanındaki optik motorla bağlantı kurar ve bu sayede elektrik kaybı yalnızca ~4 dB’ye düşer ve gücü 9W kadar azaltır. Sinyal yolunu basitleştirerek gereksiz arayüzleri ortadan kaldırmak, sinyal bütünlüğünü, güvenilirliği ve enerji verimliliğini önemli ölçüde artırır. Bu da yüksek yoğunluklu ve yüksek performanslı AI fabrikaları için tam ihtiyaç duyulan bir sistemdir.
Ko-Packaged Optikler ve AI Fabrikaları
NVIDIA, CPO tabanlı sistemleri eşsiz AI fabrika taleplerini karşılamak için tasarladı. Yeni NVIDIA Quantum-X Photonics ve Spectrum-X Photonics sistemleri (Şekil 4’te görülen) eski takılabilir vericileri değiştirecek. Bu yeni çözümler, performans, verimlilik ve güvenilirlik artışı için sinyal yolunu optimize eder. Bu yenilikler, bant genişliği ve port yoğunluğunda yeni rekorlar kırmanın yanı sıra, AI veri merkezlerinin ekonomik ve fiziksel tasarımını da temelden değiştirecek.
NVIDIA Quantum-X InfiniBand Photonics ile InfiniBand anahtar teknolojisi yeni bir seviyeye taşınıyor. Bu platform, 115 Tb/s anahtarlama kapasitesi, 144 portta 800 Gb/s destekleme, 14.4 teraflop in-network hesaplama ve sıvı soğutma gibi özellikler sunuyor. NVIDIA Quantum-X, entegre silikon fotoniklerinden yararlanarak rakipsiz bant genişliği, ultra düşük gecikme ve operasyonel dayanıklılık sağlıyor.
NVIDIA Spectrum-X Photonics anahtarları, generatif AI ve büyük ölçekli LLM eğitim ve çıkarım görevleri için özel olarak tasarlanmıştır. Yeni Spectrum-X Photonics teklifleri arasında Spectrum SN6810 (102.4 Tb/s bant genişliği ve 128 portta 800 Gb/s) ve Spectrum SN6800 yer alıyor (409.6 Tb/s bant genişliği ile 512 portta 800 Gb/s). Bu platformlar, NVDIA silikon fotoniği tarafından desteklenmektedir, bu sayede ayrı bileşen ve elektrik arayüzlerinin sayısı önemli ölçüde azaltılmıştır.
Ko-packaged optics sistemleri, önümüzdeki AI fabrikalarının taleplerine uyacak şekilde tasarlanmış sonunda, bu ağ yapılarını geliştirecek çözümler sunmaktadır. Güç ve güvenilirlik alanında büyük ölçekli AI altyapı dağıtımları için gereken verimliliği ve sağlamlığı sağlamak adına bu sistemler kaçınılmaz hale geliyor.
NVIDIA Quantum-X ve Spectrum-X Photonics anahtarları, modern AI fabrikalarının gereksinimlerine göre oluşturulmuş, yüksek performans ve enerji verimliliği sunan sistemlerdir. Bu yeni teknolojiler, büyük veri merkezlerinin daha hızlı dağıtım ve sağlam güvenilirlik taleplerine cevap verebilecek durumda.
Bu yazının ikinci bölümü için bizi izlemeye devam edin. Bu bölümde, bu yenilikçi platformların iç yapısına daha yakından bakacağız. NVIDIA Quantum-X Photonics ve Spectrum-X Photonics’i güçlendiren silikon fotonik motorlarının mimarisi ve işleyişi hakkında bilgi vereceğiz. Gelecek yazıda, bu fotonik motorlarını AI ağı içinde farklı kılan teknolojileri ortaya çıkaracağız.
Daha fazla bilgi için, NVIDIA Photonics web sayfasını ziyaret edin.
