Japonya’nın belirlenmiş bir noktasında, devasa bir odada dijital bir devrim yaşanıyor. Sunucu rafları, potansiyelle dolu kablo yığınlarıyla bağlı, dev gibi duruyor.
Geçen yıla kadar bu büyüklükte bir AI fabrikası yoktu. Artık, SoftBank Corporation’ın AI odaklı yenilik vizyonunu desteklemek için hazır hale geldi; bu vizyon, AI ile uyum içinde bir toplum yaratma ve ilerlemeyi sağlamak için gelişmiş altyapılar kullanma üzerine kurulu.
SoftBank için, dağıtım sürelerini kısaltmak sadece teknik bir başarı değil. Her geçen gün, çeşitli rekabet avantajları anlamına geliyor. AI süper bilgisayarları dünyasında hız her şeydir.
SoftBank, Japonya’nın önde gelen teknoloji devlerinden biri olarak, NVIDIA ile bu sistemi hayata geçirmek üzere iş birliği yaptı. Birlikte, dünyadaki en gelişmiş iki hesaplama kümesini oluşturdular—bu kümeler, devasa veri miktarlarını rekor hızlarda işleme kapasitesine sahip ve SoftBank iştiraklerinden SB Intuitions tarafından geliştirilen büyük dil modellerinin (LLM) gelişimini hızlandırmayı hedefliyor.
Ancak bir AI fabrikası kurmak, sadece donanım takmakla ilgili değil. Her bir kablo, bağlantı ve bileşenin mükemmel bir şekilde uyum sağlaması gereken dikkatlice planlanmış bir çaba. İşte bu noktada NVIDIA Altyapı Uzmanları (NVIS) devreye giriyor. NVIS, AI dağıtımlarını hız ve doğrulukla artırma uzmanı bir ekip. Kanıtlanmış bir yöntemle, NVIS, müşterilerin çıplak metalden üretim hazır AI altyapısına hızla geçiş yapmalarına olanak tanıyor.
İş Birliği ile Hız Kazanma
SoftBank, hızlandırılmış bir zaman çizelgesi talep ettiğinde, NVIDIA, iddialı bir hedefi gerçeğe dönüştürmek için hazırdı. SoftBank’ın büyük ölçekli AI platformlarındaki sınırlı tecrübesine rağmen, çevik yapısı—NVIDIA’nın uzmanlığı ve referans mimarisiyle birleşince—başarıyı sağladı.
SoftBank’ın NVIDIA DGX SuperPOD dağıtım süreci özenle planlandı. Her adım, belirlenen hedefler ve zaman çizelgelerine göre haritalandı; proje, ilerlemeyi yönetmek için iki kümeye bölündü.
SoftBank, operasyonun başlangıç tarihinden sadece 10 gün önce daha erken tamamlanmasını talep ettiğinde, NVIS yeni son tarihi karşılamak için yeniden planlama yaptı. Bu tür çevik bir yanıt, dikkatli kaynak yönetimi, hassas lojistik ve günlük koordinasyon gerektirdi.
Karşılaşılan Zorluklarla Baş Etme
Sayılar her şeyi anlatıyor. Binlerce kablo ve yüzlerce ağ anahtarı, DGX SuperPOD’un kalbinde yer alan 510 NVIDIA DGX B200 sistemini birbirine bağlıyor. Her iki küme de olağanüstü FP64 hassasiyet performansına ulaştı; biri 89.78 gigaflops, diğeri ise 91.94 gigaflops değerine ulaştı, bu da veri işleme kapasitesini gösterir.
“Bu sistemlerin 510 NVIDIA DGX sisteminin dağıtımı, uzmanlık ve iş birliği birleştiğinde nelerin mümkün olduğunu gösteriyor,” diyor SoftBank teknoloji biriminin başkan yardımcısı ve veri platformu stratejisi sorumlu Hironobu Tamba. “Bu altyapı sadece hızlı değil—Japonya’da AI geliştirme için yeni bir standart oluşturuyor.”
Japonya’nın en büyük AI hesaplama altyapısına sahip olan SoftBank, ülkenin AI ekosisteminde lider konumda.
Geleceği Şekillendirme Adımları
SoftBank’ın dağıtımı yalnızca teknik bir başarı değil. Bu, bir tür sosyal altyapı inşasına giden önemli bir adım ve şirketin iç projeleri olan LLM geliştirme hızlandırması ve Japonya’daki üretken AI geliştiricileri için daha geniş bir ekosistemin oluşturulmasına katkıda bulunması için kritik öneme sahip.
Bu platform faaliyete geçtiğinde, aynı zamanda dış şirketlere hizmet verecek ve Japonya’nın yerel AI yeteneklerini geliştirmeye katkıda bulunacak.
“SoftBank Corp.’un AI fabrikası, Japonya için ileri bir adım, yeniliği hızlandırıyor ve ülkenin AI ekosisteminin gelişmesini sağlıyor,” diyor Tamba.
NVIS Stratejisi: Hız, Doğruluk ve İş Birliği
SoftBank’ın dağıtımı, NVIS’in hızla ve hassas bir şekilde büyük ölçekli AI projelerini yönetmek için geliştirilmiş bir yöntem olan NVIS oyun kitabını sergiliyor. NVIS ile NVIDIA, günlük olarak binlerce GPU kurulumunu gerçekleştirebiliyor ve büyük AI merkezlerini etkili AI fabrikalarına dönüştürüyor.
SoftBank’ın DGX SuperPOD’unun kalbinde, muazzam veri yüklerini tıkanma olmadan yönetmek için tasarlanmış NVIDIA Quantum-2 InfiniBand ağ platformu yer alıyor. Bu ağ teknolojisi, ön dağıtım testleri ve doğrulama için veri merkezinin sanal bir kopyasını sunan NVIDIA Air gibi dijital ikiz yetenekleriyle birleştiğinde, proje planlamadan uygulamaya kadar akıcı bir şekilde ilerlemesini sağladı.
Hızın Önemi: CEO Hesabı
NVIDIA’nın teknolojisini benimseyen şirketler için hız, yalnızca teknik değil, aynı zamanda stratejik bir değere sahip. Yeni AI fabrikası ne kadar hızlı kurulursa, o kadar çabuk içgörüler elde edebilir, operasyonları kolaylaştırabilir ve yeni AI tabanlı ürünler piyasaya sürebilirler.
NVIDIA’nın iç analizleri, kurulum süresi tipik olarak 6 aydan 3 haftaya hızlandırılırsa, müşterilerin büyük AI sistemlerinin uzun süreli dağıtım duraklarından kaynaklanacak yaklaşık 150 milyon dolarlık maliyetlerden kurtulabileceğini öne sürüyor. Bu hesaplama, NVIDIA’nın büyük ölçekli bir dağıtımın operasyonel maliyetlerini, 8 bin GPU ile 1 bin sunucudan oluşan bir veri merkezi için günlük yaklaşık 1 milyon dolar olarak hesaplaması esas alınarak yapılmıştır.
Daha hızlı dağıtım ayrıca, müşterilerin çalışmaları hızla yürütmesi sayesinde gelir elde etmelerini de destekler. NVIS tarafından sağlanan her ek gün, 1 milyon dolarlık giderden kaçınılmasını ve aksi halde kaybedilecek gelir fırsatlarını yakalamayı sağlar.
DGX SuperPOD ile Hızla İnşa Et
DGX SuperPOD dağıtımınızı hızlandırmak için NVIDIA Altyapı Uzmanları (NVIS) ile çalışın ve ilk eğitim sürenizi normalin bir kısmına indirin. Daha fazla bilgi için AI Altyapı Hizmetleri | NVIDIA NVIS‘e göz atın.
