Kurumsal veriler hızla artıyor; petabaytlarca e-posta, rapor, Slack mesajı ve veri tabanı, kimsenin okuyamayacağı kadar hızlı bir şekilde yığılmakta. Çalışanlar, “bir organizasyon içindeki mevcut verilerin %68’inin kullanılmadığı” gerçeği ile baş başa kalarak bilgi denizinde cevap aramak zorunda kalıyor. Bu durum, Gartner tarafından yapılan araştırmalara göre, oldukça yaygın bir sorun.
Bu sorunu çözmek için, AI-Q adındaki açık kaynaklı NVIDIA Blueprint’i sunuyoruz. AI-Q, işletmenizin bilgiye hızlı ve kolay erişimini sağlamak adına tasarlanmış bir referans uygulamasıdır. Bu ücretsiz açık kaynak mimari, yapay genel ajanlar (AGA) oluşturmak için kullanılabilir, çok modlu veri kaynaklarıyla entegre olarak çalışabilir ve güvenli bir şekilde hızlı ve doğru cevaplar sunabilir.
AI-Q ile Yapabilecekleriniz
AI-Q, güçlendirilmiş bir geliştirici iş akışı sunarak aşağıdaki yetenekleri sağlar:
- Farklı kaynaklardan çok modlu veri çıkarımı (metin, PDF, görüntüler, tablolar, veri tabanları)
- Bilgi alma ve anlama (hızlı anlamsal arama, geri alma destekli üretim (RAG) ve Tavily ile web arama)
- Akıl yürütme, planlama ve eyleme geçme gibi gelişmiş ajan iş akışları
- Çalışanlara operasyonel bilgiler sağlama (güvenli ve verimli bir şekilde)
AI-Q Blueprint Bileşenleri
AI-Q Blueprint, üç ana yapı taşına sahiptir: 1) Performans optimize edilmiş NVIDIA NIM, 2) NVIDIA NeMo Retriever mikro hizmetleri ve 3) NVIDIA NeMo Ajan Toolkit. Bu yapı taşları, her alanda güçlü, ölçeklenebilir ve güvenilir AI ajanları oluşturmak için kullanılabilir.
AI-Q Blueprint ile bir AI ajanı oluşturmanın nasıl yapılacağını göstermek amacıyla, AI-Q Araştırma Asistanı Blueprint hazırladık. Bu örnek, bir AI ajanının saatler süren araştırmayı dakikalar içinde nasıl sentezleyebileceğini gösteriyor. AI-Q Blueprint bileşenlerini kullanarak, AI ajanları birçok veri kaynağına bağlanabilir, akıl yürütebilir ve satış, IT, yazılım geliştirme, pazarlama, insan kaynakları ve finans gibi kurumsal iş fonksiyonlarına yardımcı olabilir.
İleri Düzey AI Akıl Yürütme
Bir Llama Nemotron modeli kullanarak, AI-Q Blueprint, dinamik problem ayrıştırma, iteratif iyileştirme ve bağlamsal karar verme gibi gelişmiş akıl yürütme yetenekleri sunar. Bu sürekli yansıtma süreci, oluşturulan çıktının kalitesinin ve güvenilirliğinin artmasına yardımcı olarak, AI ajanlarının farklı veri kaynaklarından daha doğru, daha nüanslı ve eyleme geçirilebilir içgörüler sağlamasını sağlar. NVIDIA Llama Nemotron modelleri, performans ve maliyet verimliliğini dengelemek için akıl yürütmeyi dinamik olarak açıp kapatma yeteneğine sahiptir ve %50’ye kadar daha hızlı bir yanıt süresi sunar.
Kurumsal AI Özelleştirme ve Entegrasyon
AI-Q, geliştiricilere özel kurumsal verilere dayalı na genç özel AI ajanları oluşturma konusunda esneklik sunar. AI-Q, ERP, CRM, veri ambarları, belgeler, görüntüler ve sohbet günlükleri gibi çeşitli veri kaynaklarıyla entegre edilir. Bu, AI ajanlarının organizasyonun özel ihtiyaçları doğrultusunda derinlemesine bağlamsal içgörüler sunmasını sağlar. AI-Q, Python ortamlarının yapılandırılması, Docker ile dağıtım ve hem ön hem arka uç hizmetlerinin yönetimi için adım adım kılavuzlar içerir.
NVIDIA NeMo Ajan toolkit, çerçeve bağımsızdır ve ajans platformları ve araçlarıyla geniş bir entegrasyon yelpazesi sunar. Bu entegrasyonlar, geliştiricilerin araç setinin yeteneklerini ihtiyaçlarına göre genişletmelerine olanak sağlayan modüler eklenti paketleri aracılığıyla yönetilmektedir. Eklenti toolkit açık olduğundan, toplulukta başkaları da existence ve entegrasyonları daha da genişletebilir.
Toolkit, büyük dil modeli (LLM) API’lerine doğrudan bağlantıyı destekler ve NVIDIA NIM ile OpenAI’ı içerir. Aynı zamanda Model Context Protocol (MCP) ile uyumludur, böylece MCP sunucuları tarafından sağlanan araçlarla etkileşimde bulunmayı sağlar. Bu esnek mimari, Ajan setinin, ekiplerin yeniden platform inşa etmelerine gerek kalmadan, çeşitli teknolojik yığınlar arasında karmaşık, çok ajanslı iş akışlarını koordine etmesine ve optimize etmesine olanak tanır.
