Yapay zeka sistemleri oluşturmak, temel modellerle birlikte kaynakları dikkatli bir şekilde dengelemeyi gerektiriyor. Geliştiricilerin, hız, bellek, depolama ve hesaplama gibi unsurları yönetirken maliyet ve kullanıcı deneyimini dengelemeleri için tek tip bir çözüm yoktur.
Herhangi bir yüke veya kullanım senaryosuna uygun yüksek kaliteli, özelleştirilebilir modellere ihtiyacınız var. Bu modeller, veri merkezlerinden kenar bilişime ve cihaz içi kullanımlara kadar farklı bilişim ortamlarına dağıtılabilir.
Yeni Gemma 3 Modelleri ile Tanışın
Google DeepMind, Gemma 3 adı verilen yeni çok modlu ve çok dilli açık modeller serisini duyurdu. Gemma 3, 1B metin tabanlı küçük dil modeli (SLM) ve 4B, 12B, 27B boyutlarında üç görsel-metin modeli içermektedir. Bu modelleri HuggingFace‘den alabilir ve NVIDIA API Kataloğu‘ndaki 1B modelini deneyimleyebilirsiniz.
Gemma 3 1B modeli, düşük bellek kullanımı gerektiren cihaz uygulamaları veya ortamlarda etkili bir şekilde çalışacak şekilde optimize edilmiştir. Bu model, 32K’a kadar giriş kabul ederken; Gemma 3’ün 4B, 12B ve 27B versiyonları, 128K’ya kadar metin, görüntü ve çoklu görüntü girişlerini desteklemektedir.
Optimizasyon ile Deneyimleme ve Prototipleme
NVIDIA API Kataloğu üzerinden bu modeli keşfederken, kendi verinizle denemeler yapabilir ve maksimum token sayısı gibi parametreleri yapılandırabilirsiniz. Ayrıca, örnekleme değerlerini ayarlayarak, sıcaklık ve top P gibi parametreleri de deneyebilirsiniz.
Deneyimleme aşamasında, modelinizi programınıza veya iş akışınıza entegre etmek için gereken Python, NodeJS ve Bash kodunu otomatik olarak oluşturabilirsiniz. LangChain kullanıyorsanız, NVIDIA LangChain kütüphanesi sayesinde yeniden kullanılabilir bir istemci edinerek, dış verilerle bağlantı kurabilir ve eylemleri zincirleme işlemler gerçekleştirebilirsiniz.
Geleceğin Robotik ve Kenar Çözümleri için Yeni Bir Dönem
Gemma 3 modelleri, robotik ve kenar AI uygulamaları için kullanılan NVIDIA Jetson gömülü bilgisayar kartlarına dağıtılabilir. 1B ve 4B gibi daha küçük modeller, Jetson Nano gibi küçük cihazlarda bile kullanılabilirken, 27B modeli yüksek talepli uygulamalar için Jetson AGX Orin üzerinde sunulmak üzere tasarlanmıştır; bu, 275 TOPS’a kadar destek sağlamaktadır. Jetson Orin Nano Geliştirici Kiti hakkında daha fazla bilgiye ulaşmak için duyuruları takip edebilirsiniz.
NVIDIA ve Google İş Birliği
Google DeepMind ve NVIDIA, Gemma’nın her sürümünde iş birliği yapmışlardır. NVIDIA, GPU’lar için modelleri optimize etme konusunda önemli bir rol oynayarak, JAX, Python makine öğrenimi kütüphanesi, Google’ın XLA derleyici, OpenXLA gibi araçlara katkıda bulunmuştur.
NVIDIA, açık kaynak ekosistemine aktif olarak katkıda bulunmakta ve yüzlerce projeyi açık kaynak lisansları altında yayımlamaktadır. NVIDIA NeMo platformu gibi açık modellere olan bağlılığı, AI şeffaflığını teşvik ederken kullanıcıların AI güvenliği ve dayanıklılık alanlarında çalışmalarını genişletmesine olanak tanımaktadır. Bu açık modeller, her sektördeki AI iş akışlarına uyacak şekilde özelleştirilip ayarlanabilir.
Bugün Başlayın!
Verilerinizi getirerek Gemma’yı NVIDIA hızlandırmalı platformda deneyimlemek için Gemma modellerini NVIDIA API Kataloğu‘ndan inceleyebilirsiniz.
