NVIDIA DOCA, NVIDIA’nın ağ platformlarının yeteneklerini artırarak geliştiricilere donanım hızlandırmasından faydalanma imkanı sunan kapsamlı bir yazılım çerçevesidir. Bu çerçeve, performansı, güvenliği ve verimliliği artırarak veri merkezi altyapısını geliştirmek için API’ler, kütüphaneler ve araçlar içeren bir ekosistem sunar. Modern ve verimli veri merkezlerini desteklemek amacıyla iş yükü devralma, hızlandırma ve izolasyon gibi özellikler sağlar.
Bugün, DOCA birçok büyük Hizmet Sağlayıcısı (CSP) ve NVIDIA Bulut Ortakları (NCP) tarafından kullanılmakta olup, yenilikçi çözümleri hızlı bir şekilde geliştirmek ve dağıtmak için standartlaştırılmış bir platform sunmaktadır. Bu yaklaşım, pazara giriş süresini hızlandırmakta, maliyetleri düşürmekte ve ortakların kendi güçlü yönlerine odaklanmalarını sağlamakta; bu süreçte NVIDIA’nın donanım hızlandırmasını kullanmaktadır.
DOCA’nın oluşturduğu açık ekosistem, işbirliği ve etkileşim ortamı sağlayarak tamamlayıcı çözümlerin çeşitlilik kazanmasına katkıda bulunmaktadır. Ortaklar, yapay zeka destekli ağlar, gelişmiş güvenlik ve yüksek performanslı depolama gibi ortaya çıkan pazarları keşfedebilmekte, kendilerini veri merkezi inovasyonunun ön saflarında konumlandırabilmektedir.
Yeni ve Gelişmiş Hedefler
DOCA 2.9’un en son sürümü, AI hesaplama kumaşları ve bulut bilişim altyapısında önemli bir ilerleme kaydetmektedir. Bu kapsamlı güncelleme, yüksek performanslı bilgi işlem ve ağ alanını dönüştürmek için birçok yeni özellik ve iyileştirme sunmaktadır.
AI Ağlarını Optimize Etmek
DOCA 2.9 sürümündeki en dikkat çekici özellikler arasında, veri merkezindeki ağ trafiğini optimize etmek için önemli bir role sahip gelişmiş tıkanıklık kontrolü ve yeni bir telemetri kütüphanesi bulunmaktadır; bu, daha iyi performans, verimlilik, görünürlük ve kontrol sağlar.
Spectrum-X 1.2 Referans Mimarisi Desteği
Spectrum-X (SPC-X) 1.2 referans mimarisi birkaç iyileştirme alarak doğu-batı Ethernet AI bulut ortamlarını hedef almaktadır. Bu güncelleme, tek bir kumaşta 128,000 GPU’ya kadar ölçeklenebilirlik desteği sunmaktadır. Mimarinin, NVIDIA BlueField-3 SuperNIC ve NVIDIA Spectrum-4 anahtarlarının güçlü kombinasyonu ile NVIDIA DGX H100 ve NVIDIA HGX H100 platformları ile bağlantılı çalışması, AI iş yükleri için eşsiz bir performans ve verimlilik sağlamaktadır.
DOCA 2.9, Spectrum-X için telemetri yeteneklerini ve tıkanıklık kontrol algoritmasını iyileştirmiştir. Bu durum, AI iş yüklerini ölçeklendirme ve uzak mesafelerde optimize etmek için ağ performansının daha ince, gerçek zamanlı izlenmesini ve gelişmiş topoloji tespitini mümkün kılar.
Ağ Performansının İyileştirilmesi
DOCA 2.9, yüksek performanslı bilgi işlem ve AI iş yükleri için geliştirilmiş bir tıkanıklık kontrol algoritması olan NVIDIA Network Congestion Control (NVNCC) ile önemli bir ilerleme kaydetmiştir.
NVNCC Gen2 ve InfiniBand Tıkanıklık Kontrolü (IBCC) genel kullanılabilirliği, önemli bir dönüm noktasıdır. IBCC, InfiniBand üzerindeki AI iş yükleri için optimize edilmişken, NVNCC Spectrum-X tıkanıklık kontrol algoritmasını geliştirmiştir; artık uzun mesafe RoCE’yi desteklemektedir.
DOCA Telemetri Kütüphanesi
Bu sürüme yeni eklenen DOCA telemetri kütüphanesi, AI destekli ortamlardaki ağ izleme faaliyetlerini geliştiren yüksek frekanslı örnekleme yetenekleri sunmaktadır. Bu güncelleme, 0.5-1 saniye aralığından 100 mikro saniye altına kadar sayım okumaları sağlamaktadır.
Temel özellikler arasında sayaçlar, aralıklar ve frekansları belirlemek için yeni API’ler yer almakta; ayrıca RX/TX byte’lar, portlar, tıkanıklık bildirimleri ve PCIe gecikmesi gibi birden fazla performans sayacı desteği sunmaktadır. Bu iyileştirmeler, kümeler geneli anomali tespiti ve uygulama profilleme için kritik kullanımlara hitap etmektedir.
Kuzey-Güney Bulut Bilişim Altyapısının Geliştirilmesi
DOCA 2.9’un kuzey-güney etkinlikleri, bulut kaynakları ile dış ağlar arasındaki bağlantıyı geliştirmeye odaklanmıştır.
DOCA Flow
DOCA 2.9, DOCA Flow için heyecan verici yeni bir özellik olan ‘tune’ performans analiz aracını tanıtmaktadır. Şu anda alfa aşamasında olan bu araç, kullanıcıların ağ akış yapılandırmaları hakkında eşsiz içgörüler sunmakta ve yapılandırılmış boru hatlarının görsel temsiline olanak sağlamaktadır.
OVS-DOCA
OVS-DOCA, yerel aynalama yetenekleri ile birlikte genel kullanıma sunulmuş olup, NVIDIA BlueField DPUs için yazılım tanımlı ağlarda bir atılım sağlamaktadır. Bu uzun vadeli destek (LTS) sürümü, kullanıcılar için verimlilik ve modern ağ ortamları için genişletilmiş özellikler sunarak, eski OVS çözümlerine yüksek performanslı bir alternatif sunmaktadır.
GA sürümü, DOCA’nın yeteneklerini artıran önemli iyileştirmeleri beraberinde getirerek, DOCA Flow API ile bağlantı izleme (CT) özelliği için %100’lük bir ilerleme ve paket başına %50’lik bir artış sağlamaktadır. Ölçeklenebilirlik ve verimlilik, daha esnek ve güçlü ağ yapılandırmaları için 3 NIC’e kadar destek ile geliştirilmiştir.
Donanım Yönetimi ve Geliştirme Araçları
DOCA 2.9, geniş ölçekli dağıtımlar için gerekli olan cihaz yönetimini daha akıcı ve basit hale getirmektedir. Bu sürüm, uygulama ve veri yolu performansına dair yeni optimizasyon ve analiz araçları da sunmaktadır.
DOCA Yönetim Servisi (DMS)
DOCA Yönetim Servisi (DMS), BlueField DPUs ve SuperNIC’leri yönetmek için geliştirilmiş yeteneklerle genel kullanılabilirliğe geçmiştir. Bu güncelleme, karmaşık, çok cihazlı ortamlarda operasyonları kolaylaştırmak için tek bir API uç noktası aracılığıyla birden fazla cihazı yönetme yeteneği sunmaktadır.
Ayrıca, yeni toplu içe/dışa aktarma özellikleri ile birlikte cihaz ayarlarının sistem yeniden başlatıldığında bile korunması sağlanmaktadır.
DOCA Veri Yolu Hızlandırıcısı
Veri yolu hızlandırıcı (DPA) araç setine ilişkin iyileştirmeler, geliştiricilere performans optimizasyonu ve analiz için daha güçlü araçlar sunmaktadır. Öne çıkan özelliklerden biri, DPA performans sayaçlarının yeni Nsight aracıyla entegrasyonudur ve bu, uygulama performansına dair derin içgörüler sunmaktadır.
Beta aşamasındaki DOCA-DPA-Comms kütüphanesi, DPA tabanlı veri yollarının uygulanmasını kolaylaştırmakta ve geliştiriciler için daha yüksek bir soyutlama seviyesi sunmaktadır. Bu, hem BlueField-3 DPUs hem de gelecekteki NVIDIA ConnectX-8 SuperNIC ile geniş uyumluluk sağlamaktadır.
Platform ve DOCA Paketleri
Kullanıcı deneyimini geliştirmek, DOCA’nın evriminde merkezi bir konumdadır. Bu sürüm, RDMA üzerinden Konvergans Ethernet yetenekleri gerektiren ortamlara yönelik DOCA-Host profili DOCA-ROCE gibi birçok dağıtım kolaylığı sağlayan özellikler içermektedir.
NVIDIA ayrıca, BlueField-3 için PLDM firmware güncellemelerini tanıttı. Bu beta sürümü, standart PLDM üzerinden MCTP yapısı aracılığıyla 0 güvenlik özelliği ile birlikte DPU-BMC 1GbE bağlantısına gerek duyulmaksızın sunucuların normal çalışmasını sağlar.
Ayrıca, bu sürüm, MLNX_OFED’in artık ‘DOCA-OFED’ host profili olarak sunulan son uzun vadeli destek (LTS) bağımsız sürümü olarak da önemli bir dönüm noktasıdır.
MLNX_OFED sürümünden DOCA-OFED geçişi, DOCA çerçevesine entegre, birleştirilmiş, ölçeklenebilir ve programlanabilir bir ağ yığınını mümkün kılmaktadır. Detaylar için tıklayın.
Daha Fazla Bilgi İçin
NVIDIA DOCA 2.9, AI hesaplama kumaşları ve bulut bilişim altyapısında önemli ilerlemeler kaydetmektedir. NVIDIA DOCA’yı indirerek tüm bu avantajlardan faydalanmaya başlayabilirsiniz.