Elon Musk Şirketleri, AI Donanımına Milyarlarca Dolar Yatırım Yapıyor
Elon Musk’ın şirketleri olan Tesla ve xAI, bu yıl sonuna kadar 10 milyar dolarlık bir eğitim hesaplama kapasitesini çevrimiçi hale getirecek. Sawyer Merritt, TwinBirch’in kurucularından ve Tesla yatırımcısı olan bir isim tarafından bu durum gözlemlendi. Ancak, Elon Musk’ın belirlediği takvimin biraz gerisinde kalacakları tahmin ediliyor.
Elon Musk ve şirketleri son zamanlarda AI süper bilgisayarları hakkında aktif olarak duyurular yapmaktalar, bu yüzden gerçekten de büyük yatırımlardan bahsediyoruz.
xBuster ve Tesla’nın Dev AI Yatırımları
xBuster, Temmuz ayında 100.000 sıvı soğutmalı H100 GPU içeren Memphis Süper Kümesi’ni kullanmaya başladı. Bu sistem en az 150 MW güç çekiyor, çünkü 100.000 H100 GPU yaklaşık olarak 70 MW’ı alıyor. Sistemin toplam maliyeti bilinmiyor ancak sadece GPU’ların maliyeti yaklaşık 2 milyar dolar olabilir (birim başına 20.000 dolardan satın alınırsa) ve genellikle AI GPU’ları bütün sistemin maliyetinin yarısını oluşturuyor.
Tesla ise Ağustos sonlarında Cortex AI kümesini tanıttı; bu kümeste etkileyici bir şekilde 50.000 Nvidia H100 GPU ve 20.000 Tesla’nın kendi Dojo AI wafer-boyutlu çipleri bulunuyor. Dojo kümesinin, Tesla’nın tam özerk sürüş yeteneğini eğiteceği belirtiliyor. Bu nedenle bu makine şirket için stratejik açıdan hayati öneme sahip.
Toplam maliyetler yaklaşık olarak H100 tabanlı makinede 2 milyar dolar ve Dojo süper bilgisayarda en az 1 milyar dolar demek. Bu milyarlık miktarın altında kalması muhtemel çünkü Dojo makineleri tamamen özel tasarlanmış. Her Dojo D1 kabini 200 kW’den fazla tüketiyor ve dolayısıyla tamamen özel soğutma dağıtım ünitesi (CDU) ve güç kaynağı gerektiriyor, bu da maliyetini dramatik olarak arttırıyor.
Eylül başlarında ise xAI, Colossus süper bilgisayarını devreye sokmaya başladı; bu bilgisayar zaten 100.000 H100 GPU içeriyor ve önümüzdeki aylarda 50.000 H100 ve 50.000 H200 GPU ekleyeceği belirtiliyor. Bu dev AI süper bilgisayarın da milyonlarca dolara mal olduğu tahmin ediliyor.
xBuster ve Tesla’nın bu yıl AI donanımlarına toplamda 10 milyar doların üzerinde harcama yapacağını duyurduğu tahmin ediliyor. Ancak, tüm bu AI sunucularının kurulması ve çevrimiçi hale gelmesi biraz zaman alacağından, 2024 yılında iki şirketin kurduğu işlevsel AI donanımlarının toplam maliyetini sadece tahmin edebiliriz.
Ancak, bu devasa harcamaların en ironik yanı, Elon Musk’ın Nisan ayında açıkladığı, sadece Tesla’nın bu yıl AI donanımlarına 10 milyar dolar harcayacağını öngördüğü iddialı plana biraz geride olmaları gibi görünüyor.
“Tesla bu yıl yaklaşık olarak 10 milyar doları eğitim ve çıkarsama AI’sı için harcayacak, çıkarsama çoğunlukla araçlarda olacak,” diyen Musk, “Bu seviyede harcama yapmayan ve bunu verimli bir şekilde yapmayan herhangi bir şirket rekabet edemez.” şeklinde bir açıklama yapmıştı.
Tesla’nın Cortex AI kümesi muhtemelen maliyetli bir girişimdir ve zamanla daha da pahalıya mal olabilir, şirket daha fazla Dojo veya Nvidia tabanlı makine kurmaya karar verirse. Araçlardaki AI çıkarsama donanımının maliyeti ise Tesla’nın bu yıl üreteceği araçlardaki AI hesaplama donanımının 5 milyar doları aşacağını düşünmüyoruz.