Agentik AI, özel dil ve görsel modellerin bir arada çalıştığı bir ekosistemdir. Bu sistem, planlama, akıl yürütme, bilgi toplama ve güvenlik kontrolü gibi işlevleri yerine getirir.
Geliştiriciler, alanlarına özel AI acenteleri oluşturarak, belirli iş akışlarını ve uyumluluk gereksinimlerini sağlamaktadır. Uzmanlaşmış AI geliştirmek için dört temel unsura ihtiyaç vardır: ince ayar yapılabilen açık modeller, sağlam veri setleri, optimum model doğruluğu ve verimli büyük ölçekli dağıtım için hesaplama yöntemleri.
NVIDIA GTC DC’de, akıl yürütme, görsel-dil, bilgi toplama artırılmış üretim (RAG) ve güvenlik modellerini, açık veriler ve tariflerle birlikte tanıtıyoruz. Bu yenilikler, doğruluk, hesaplama verimliliği ve açıklık sunuyor.
Bu blogda, yeni Nemotron modellerinin özellikleri, performansı ve çok modlu acenteler, RAG boru hatları ve içerik güvenliği sağlayan AI uygulamaları için kullanım kılavuzları yer alıyor.
Etkin Düşünme Yeteneği: NVIDIA Nemotron Nano 3
NVIDIA Nemotron Nano 3, 32B parametreli verimli ve doğru bir model olup, gelişmiş 3.6B aktif parametre sunmaktadır. Bu model, geliştiricilerin özel agentik AI sistemleri kurmasına olanak tanır. Kısa süre içinde kullanılabilir hale gelecek olan bu model, benzer boyuttaki yoğun modellere kıyasla daha yüksek bir verim sunar. Böylece, daha geniş bir arama alanını keşfadebilir, kendine dönük düşünmeyi artırabilir ve bilimsel akıl yürütme, kodlama, matematik ve araç çağırma benchmark’larında daha yüksek doğruluk sağlar. Ayrıca, MoE mimarisi, hesaplama maliyetlerini ve gecikmeyi azaltır.
Çok Modlu Anlayış: NVIDIA Nemotron Nano 2 VL
NVIDIA Nemotron Nano 2 VL, OCRBenchV2‘de önde gelen bir modeldir. Bu model, belge zekası ve video anlayışı için açık kaynaklı bir 12B çok modlu akıl yürütme modelidir. AI asistanlarının metin, görsel, tablo ve videolar arasında bilgi çıkarma, yorumlama ve hareket etme yeteneği kazandırır. Bu model, veri analizi, belge işleme ve görsel anlayış uygulamalarında büyük önem taşır.
Bu görsel-dil modeli, VLM‘nin temelinde, hiper Mamba-Dönüşüm mimarisi bulunmaktadır. Bu mimari, yüksek doğruluk ve düşük gecikme ile verimli büyük ölçekli akıl yürütme sağlar. Model, Nemotron VLM Veri Seti V2 üzerinde 11 milyondan fazla yüksek kaliteli örnekle eğitilmiştir. Bu eğitim, medya varlık yönetimi ve bilgi geri alma görevlerini içeren birçok görevi kapsamaktadır.
Belgelerin Zekasını Geliştirme: NVIDIA Nemotron Parse 1.1
NVIDIA, belge zekasını artırmak için NVIDIA Nemotron Parse 1.1‘i de sunuyor. Bu, yapılandırılmış metin ve tabloları sınır kutuları ve anlamsal sınıflarla çıkaran 1B parametreli bir belge ayrıştırma modelidir. Bu model, iyileştirilmiş alıcı doğruluğu ve daha zengin büyük dil modeli (LLM) eğitim verisi sağlar.
Nemotron Parse, belgelerde metin, tablolar ve düzen anlayışı sağlar. Bu modelin çıktıları, hem LLM hem de VLM eğitimine katkıda bulunarak, VLM’lerin çalışma zamanındaki doğruluklarını artırır.
Güvenli AI Sistemleri: Llama 3.1 Nemotron Güvenlik Kalkanı
Geliştiricilerin akıl yürütme, bilgi toplama ve bağımsız hareket etme yeteneğine sahip AI sistemleri inşa etmeleri, güvenliği önemli hale getirir. LLM’lerin yanlış kullanımı, güvenli çıktılar vermemesi veya kültürel nüansları göz ardı etmesi gibi sorunlar yaşanabilmektedir. Bu sebeple, güvenilir moderasyon modelleri geliştirmek kritik bir ihtiyaçtır.
Llama 3.1 Nemotron Güvenlik Kalkanı, çok dilli bir içerik güvenliği modelidir ve Nemotron Güvenlik Kalkanı veri seti ile ince ayar yapılmıştır. Bu veri seti, 23 bölgesel güvenlik kategorisini kapsayan 386 binin üzerinde örnek içermektedir.
Bu model, dokuz dilde büyük veya politikalara karşı olan içeriklerin tespit edilmesini sağlıyor. Performans sırasında %84.2’lik bir zararlı içerik sınıflandırma doğruluğu elde edilmiştir. Modelin özellikleri arasında iki yeni teknik öne çıkmaktadır: 1) LLM destekli kültürel adaptasyon, yönlendirme ve yanıtları yerel deyimlere ve hassasiyetlere uyumlu hale getirir. 2) tutarlılık filtreleme, gürültülü veya uyumsuz örnekleri ortadan kaldırarak yüksek kaliteli ince ayar sağlar.
Bu model, tek bir GPU üzerinde veya NVIDIA NIM olarak dağıtılabilir. NeMo Guardrails ile entegre bir şekilde, agentik AI boru hatlarında gerçek zamanlı, çok dilli içerik güvenliği sağlar.
Modellerinizi Değerlendirin ve Optimize Edin
LLM yeteneklerinin güvenilir bir şekilde ölçülmesi için NVIDIA’nın NeMo Değerlendirme SDK’sı yayımlandı. Bu SDK, tekrar edilebilir benchmarking sağlayarak geliştiricilere gerçek dünya performansına güven verir.
NeMo Değerlendirici, şimdi dinamik etkileşimli iş akışlarında modellerin değerlendirilmesine olanak tanımaktadır. Automatic Tuning özelliği ile anahtar hiperparametreleri optimize edebilir, böylece deneme yanılma sürecini azaltarak akış geliştirmeyi hızlandırabilirsiniz.
Nemotron ile AI’ınızı İnşa Etmeye Başlayın
Bu blogda, Nemotron ailesinin en yeni üyelerini tanıttık. Başlamak için, Nemotron modellerini ve veri setlerini Hugging Face’ten indirebilirsiniz.
Nemotron Nano 2 VL, Baseten, Deep Infra, Fireworks, Hyperbolic, Nebius, ve Replicate gibi sağlayıcılar tarafından kullanılmakta olup, agentik AI için etkili bir üretim yolu sunmaktadır.
NVIDIA’nın yeni güncellemeleri ve gelişmeleri hakkında bilgi sahibi olmak içinNemotron‘a abone olmayı veya NVIDIA haberlerini takip etmeyi unutmayın.
