FourCastNet3: Yeni Nesil Hava Tahmini Modeli
FourCastNet3 (FCN3), NVIDIA Earth-2 tarafından geliştirilen en son yapay zeka küresel hava tahmin sistemidir. FCN3, tahmin becerisi, hesaplama verimliliği, spektral doğruluk, ansamble kalibrasyonu ve ara sezon zaman dilimlerinde kararlılık açısından eşi benzeri görülmemiş bir kombinasyon sunuyor. Bu modelin orta vadeli tahmin doğruluğu, GenCast gibi önde gelen makine öğrenimi modelleriyle eşit seviyede ve IFS-ENS gibi geleneksel sayısal hava tahmin sistemlerinden daha üst düzeydedir.
Hız ve Verimlilikte Çığır Açıyor
Tek bir 60 günlük FCN3 simülasyonu, 0.25° ve 6 saatlik çözünürlükte, tek bir NVIDIA H100 Tensor Core GPU üzerinde dört dakikadan kısa bir sürede hesaplanmaktadır. Bu, GenCast üzerinde 8 kat ve IFS-ENS üzerinde 60 kat hızlanma sağlamaktadır.
Ayrıca FCN3, olağanüstü kalibrasyonu ve spektral doğruluğuyla dikkat çekiyor. Ansamble üyeleri, 60 gün gibi uzatılmış sürelerde bile gerçekçi spektral özelliklerini koruyor. FCN3, orta vadeden ara sezon zaman dilimlerine kadar olan büyük ansamblerde veri odaklı hava tahmininde önemli bir atılım sergiliyor.
FCN3 Mimarisi ve Yenilikçi Yaklaşımlar
FourCastNet3, yerel küresel konvolüsyonlar ve spektral konvolüsyonlar kullanarak, atmosferik ve yüzey değişkenlerini bir zaman adımında bir sonraki aşamaya dönüştüren tam konvolüsyonlu, küresel bir sinyal işlemci mimarisi kullanıyor. Bu, Spherical Fourier Neural Operator temelli FourCastNet2’den farklıdır.
Ayrıca, bu konvolüsyonlar Morlet dalgaları ile parametrik hale getirilmekte ve kesirli-sürekli grup konvolüsyonlar çerçevesinde formüle edilmektedir. Bu yaklaşım, yerel atmosferik olaylar için uygun, anisotropik, yerelleşmiş filtreler sağlarken, aynı zamanda hesaplama verimliliğini garanti eder.
FCN3, her tahmin adımında bir gizli gürültü değişkeni aracılığıyla stokastisite sunmaktadır. Bu, küre üzerindeki bir difüzyon süreciyle yönetilmektedir. Bu gizli Markov formülasyonu, ansamble üyelerinin etkin bir şekilde tek adımda üretilmesini sağlamaktadır. FCN3, cenaze sırasını sürekli sıralı olasılık skoru (CRPS) ve spektral alanda birleştiren bir kayıp fonksiyonu ile birlikte eğitilmektedir. Bu yaklaşım, FCN3’ün temel atmosferik süreçlerdeki doğru mekansal korelasyonları öğrenmesini sağlıyor.
Modelin Ölçeklenebilirliği
Makine öğrenimi modellerinin ölçeklenmesi, rekabetçi başarı elde etmek için sıklıkla önemlidir. FCN3’ün hesaplama hedefleri oldukça iddialıdır. Bunu gerçekleştirmek için, geleneksel sayısal hava modelleme tekniklerinden esinlenen bir model-paralellik paradigması tanıtılmıştır. Bu, modelin eğitim sırasında VRAM’e daha büyük modellerin sığdırılmasını sağlıyor.
FCN3, 1,024 GPU üzerinde eğitim almakta, aynı anda alan, parti ve ansamble paralelliği kullanmaktadır. Bu teknoloji kullanılarak, FCN3, tek bir NVIDIA H100 üzerinde 6 saatlik zaman çözünürlüğü ve 0.25° mekansal çözünürlükte tek bir 15 günlük tahmin üretmektedir.
Öngörülen ansambların yayılma-yetenek oranları sürekli olarak bir’e yakın seyretmektedir. Bu, tahmin edilen belirsizliğin gözlemlenen atmosferik değişkenlikle oldukça uyumlu olduğu anlamına geliyor. Bunun yanı sıra, FCN3, atmosferik spektral imzaları tüm ölçeklerde koruyarak, gerçek dünya hava olaylarının enerji akışını ve keskinliğini doğru bir şekilde yeniden üretiyor.
FCN3 ile Başlamak
Hepsi eğitilmiş olan FourCastNet3 kontrol noktası, NVIDIA NGC‘de bulunmaktadır. FCN3’in tahmin işlemini gerçekleştirmek için Earth2Studio’yu kullanabilirsiniz. Tek bir 4 üyeli ansamble tahmini gerçekleştirmek için aşağıdaki kodu çalıştırabilirsiniz:
from earth2studio.models.px import FCN3
from earth2studio.data import NCAR_ERA5
from earth2studio.io import NetCDF4Backend
from earth2studio.perturbation import Zero
from earth2studio.run import ensemble as run
import numpy as np
# varsayılan paketi yükle
model = FCN3.load_model(FCN3.load_default_package())
# çıkış değişkenlerini belirle
out_vars = ["u10m", "v10m", "t2m", "msl", "tcwv"]
# veri kaynağı başlangıç koşulu
ds = NCAR_ERA5()
io = NetCDF4Backend("fcn3_ensemble.nc", backend_kwargs={"mode": "w"})
# gizli Markov formülasyonu nedeniyle bozulma gerekmiyor
perturbation = Zero()
# 4 ansamble üyesi ile tahmini çağır
run(time=["2024-09-24"],
nsteps=16,
nensemble=4,
prognostic=model,
data=ds,
io=io,
perturbation=perturbation,
batch_size=1,
output_coords={"variable": np.array(out_vars)},
)
Bu tahminin sonuçları, yukarıdaki şekilde göstermektedir. FCN3’ün optimal performansı için, torch-harmonics‘ın özel CUDA uzantıları etkinleştirilerek yüklenmesini ve tahmin sırasında otomatik karmaşık hassasiyetin bf16 formatında kullanılmasını öneriyoruz. Özelleştirilmiş FCN3 tahminleri yapmak veya kendi başınıza eğitmek isterseniz, kodu makani‘da bulabilirsiniz.
Daha Fazla Bilgi Edin!
FourCastNet3 hakkında daha fazla bilgi edinmek için bu kaynaklara göz atabilirsiniz:
- FourCastNet3 makalesi.
- FourCastNet3 kontrol noktası.
- FCN3 dağıtık eğitim/tahmin kodu GitHub’da.
- Küresel sinyal işleme ile torch-harmonics.
- Earth2Studio tahmin için.
- Physicsnemo
- Spherical Fourier Neural Operator makalesi.
- Dünya’nın Atmosferini Küresel Fourier Sinir Operatörleri ile Modelleme
- FourCastNet2 (SFNO) kontrol noktası.
Yazarlar
Boris Bonev (NVIDIA), Thorsten Kurth (NVIDIA), Ankur Mahesh (LBNL), Mauro Bisson (NVIDIA), Karthik Kashinath (NVIDIA), Anima Anandkumar (Caltech), William D. Collins (LBNL), Mike Pritchard (NVIDIA), Alex Keller (NVIDIA)
