Yeni bir araç setini öğrenmenin en etkili yolu, somut bir proje geliştirmektir. İşte, geliştiricilerin NVIDIA NeMo Agent Toolkit Hackathonu’nda tam olarak bunu yaptığı iki haftalık etkinlikte ortaya çıktı. Katılımcılar, öğrenci olanlardan deneyimli profesyonellere kadar çeşitli beceri seviyelerinden gelerek, açık kaynak NeMo Agent toolkit (eski adıyla AIQ toolkit) kullanarak akıllı çoklu ajan yapay zeka iş akışlarını denedi, prototipini oluşturdu ve geliştirdi.
Örnek projelere, teknik belgelere ve NVIDIA mühendisleri ile yapılan danışmanlık saatlerine erişimleri ile katılımcılar, aracın orkestrasyon, bellek ve profilleme özelliklerini keşfetti. Genellikle bu özellikleri diğer NVIDIA teknolojileriyle birleştirerek geliştirme yaptılar.
Başvurular, gerçek dünya uygulanabilirliği, teknik icra ve ajansların işleyişini ne kadar etkili bir şekilde gösterdiği bakımlarından değerlendirildi. Sonuçlar ilham vericiydi: Lojistik, yazılım geliştirme ve kişisel seyahat planlaması gibi alanlarda gerçek sorunları çözen fonksiyonel ve yenilikçi projeler ortaya çıktı.
Birinci Süre: Akıllı FilO Yönetimi için Rota Optimizasyon Ajanı
TCS Akıllı Mobilite Grubu’ndan bir üye tarafından geliştirilen kazanan proje, NVIDIA NeMo Agent toolkit, NVIDIA cuOpt ve NVIDIA Omniverse kütüphanelerinin güçlü bir entegrasyonunu sergiledi. Bu proje, karmaşık lojistik ve tedarik zinciri zorluklarını çözmek için tasarlandı.
Bu akıllı sistem, doğal dil anlama, kısıtlama çıkarma ve rota hesaplama konularında uzmanlaşmış bir grup yapay zeka ajanını yönlendiriyor. Ajanlar, “üç forklift için malzemeyi depodan kamyonlara teslim etmek üzere, her biri sınırlı kapasiteye sahip olacak şekilde optimizasyon planları hazırla” gibi kullanıcı talimatlarını yorumlamak, operasyonel kısıtlamaları çıkarmak ve optimum rota planlarını birkaç saniye içinde hesaplamak için cuOpt‘ı devreye almak için işbirliği yapıyorlar.
TCS, Omniverse Kit SDK üzerinde bir uygulama geliştirdi. Bu uygulama, simülasyon ortamı sağlamakta, senaryoları test etmekte ve ajanları güvenli bir şekilde eğitmektedir. Optimizasyon tamamlandıktan sonra, rotalar NVIDIA Jetson Nano tabanlı otonom mobil robotlara (AMR) entegre edilerek eksiksiz bir simülasyondan uygulamaya geçiş sağlıyor.
Ana özellikler:
- Doğal dil arayüzü: Kullanıcıların lojistik görevlerini sıradan İngilizce ile ifade etmelerini sağlar, böylece teknik komutlara ihtiyaç duymadan sezgisel etkileşim imkanı sunar.
- Dinamik çoklu ajan orkestrasyonu: Dil modelleri, optimizasyon motorları ve veri pipeline’ları ile karmaşık görevlerin otomasyonunu sağlar.
- Gerçek zamanlı optimizasyon: CuOpt’ı kullanarak, dinamik gerçek dünya ortamlarında hızlı ve kısıtlama bilincine sahip rota planları oluşturur.
- Simülasyondan uygulamaya geçiş: Omniverse’i kullanarak, rotaların güvenli ve etkili bir gerçek dünya uygulaması öncesinde simüle edilmesi sağlanır.
Bu proje, ajansik yapay zekanın yüksek performanslı NVIDIA CUDA-X çözücüleriyle birlikte kullanıldığında, filo yönetimini nasıl büyük ölçüde kolaylaştırabileceğini ve hızlı, akıllı operasyonel kararlar alınmasını sağladığını göstermektedir.
İkinci Süre: OpenCodeReview
OpenCodeReview, geliştiricilere güvenlik açıklarını tespit etmek ve kod kalitesini artırmak için otomatik, yapay zeka destekli bir kod analizi sunar. NeMo Agent toolkit kullanılarak geliştirilen sistem, seçilen dosyaları tarar, sorunları vurgular ve düzenlemeler önererek mevcut iş akışlarına entegre olur.
Öne çıkan bir özellik, farklı AI modellerinin konfigürasyon dosyalarını ayarlayarak kolaylıkla değiştirilmesi ve özelleştirilmesidir. Geliştiricilerin herhangi bir ayar yapmasına gerek kalmadan, ajans talimatları önceden yapılandırılmıştır. Ayrıca, geliştiriciler farklı yapay zeka modelleri arasında esnek bir şekilde geçiş yapabilir; bazı modeller belirli programlama dilleri için daha uygun olabilir.
NeMo Agent toolkit’in orkestrasyon ve bellek özelliklerinden yararlanarak, OpenCodeReview, bireysel geliştiricilerden startuplara ve büyük organizasyonlara kadar güvenli kodlama pratiklerini demokratikleştirir. Araç, yeni AI ajanlarının eklenmesini veya mevcutların güncellenmesini konfigürasyon dosyalarıyla oldukça kolay hale getirir.
Üçüncü Süre: AI Destekli Seyahat Planlayıcı ve Deneyim Ajanı
NeMo Agent toolkit’in örnekler klasörüne entegre edilen bu modüler seyahat asistanı, ajansik yapay zekanın parçalı seyahat görevlerini birleştirerek tek bir, sohbet tarzı deneyim yaratabileceğini göstermektedir. Kullanıcıların çeşitli işlevlerle dönüşümlü olarak seyahat planları oluşturmasına olanak tanır:
- Doğal dil sorguları ile uçuş arama ve rezervasyonu yapma.
- Otel, etkinlikler ve haritalar dahil olmak üzere uçtan uca seyahat planlama.
- API kesintisi durumunda yerel bir yedek veritabanıyla güvenilir veri erişimi sağlama.
- Görevler arasında doğal bir şekilde etkileşim kurma, bağlamsal bellek ile akışı koruma.
- Seyahat planlarını gömme haritaları ve destinasyon verileri ile görselleştirme.
Çalışma akışı, sorguları ve API etkileşimlerini kolayca yönlendirmek için DeepSeek LLM kullanılarak gerçekleştirilir ve farklı modellere kolayca geçiş sağlanır. Bu araç, kişisel üretkenlik uygulamalarında çok adımlı, bellek bilinciyle çalışan ajansik etkileşimlerin gücünü sergiler.
Övgüye Değer Proje: Küçük Tehdit Göstergeleri Tespit Eden Siber Ajan
Bu siber savunma aracı, macOS sistemlerinde küçük tehdit göstergelerini (IoC) tespit etmek üzere tasarlandı. Siber tehditlerin giderek daha karmaşık hale gelmesiyle birlikte, çoğu zaman sadece incelikli izler bıraktıkları bilinen bir zorluktur. Bu izler, şüpheli günlük girişleri, alışılmadık ağ bağlantıları veya beklenmedik süreçler gibi, bir ihlali sinyallendiren hafif kalıntılardır.
Ana özellikler:
- Yapay zeka destekli tespit: AI, insanlardan daha hızlı veri işlemesi ve analiz etmesi sağlar. Bu sayede, kalıpları tanımlayabilir, anomali tespiti yapabilir ve yeni tehditlere uyum sağlayabilir.
- Modüler ajan mimarisi: Her bir ajan, özel bir alana odaklanmış uzman AI alt ajanlarından oluşmaktadır. Yeni alt ajanlar eklemek, tehditlerin ya da organizasyonel gereksinimlerin değişmesine bağlı olarak kolayca yapılabilir.
- İşbirlikçi iş akışı: Alt ajanlar, uygun araçları çağırarak ve bulguları paylaşarak koordine bir iş akışında çalışır. Bu, potansiyel tehditlere hızlı ve güvenilir bir yanıt sağlar.
AI’nin hızı ve zekasını, insan analistlerinin uzmanlığı ile birleştiren bu ajans tabanlı yaklaşım, siber savunmada yeni bir paradigma sunuyor. Hem uyumlu hem de işbirlikçi bir yanıt, tehditleri tespit etme, araştırma yapma ve cevap verme süreçlerini daha hızlı ve daha doğru hale getiriyor.
Deneyimlerden Gerçek Dünyaya Çözümler
En iyi projeler, geliştiricilerin, NeMo Agent toolkit’in orkestrasyonu, bağlamsal bellek ve araç entegrasyon özellikleri ile açık API’ler, Omniverse’in endüstriyel yapay zeka ve veri etkileşimi kütüphanelerini birleştirerek nasıl hızlı bir şekilde işlevsel, gerçek dünya yapay zeka iş akışları geliştirebileceklerini örneklemektedir.
İster forklift kapasitesini değerlendiren lojistik ajanları yönlendirmek, ister kod inceleyen veya tatil planlayan üretkenlik ajanları oluşturmak olsun, bu projeler büyük bir ekip veya bütçeye sahip olmadan yaratıcı çözümler üretmenin mümkün olduğunu gösteriyor.
Eğer ajans tabanlı yapay zeka ile ilgileniyorsanız, hemen bu konuya dalmanın tam zamanı. NeMo Agent toolkit açık kaynak kodlu, iyi belgelenmiş ve deneyim için tasarlanmıştır. Örnekleri deneyin, ajanları karıştırın ve fikirlerinizin sınırlarını zorlayın.
