Amazon Web Services (AWS), Amazon’un bulut bilişim kolu, yapay zeka modellerindeki “hallüsinasyonları” azaltmak için yeni bir araç piyasaya sürdüğünü duyurdu. Hallüsinasyonlar, bir yapay zeka modelinin güvenilir olmayan davranışlar sergilediği durumları ifade ediyor.
Yeni Araç: Otomatik Akıllı Kontroller
Bu araç, AWS’in re:Invent 2024 konferansında tanıtıldı. Otomatik Akıllı Kontrol, bir modelin yanıtlarını doğrulamak için müşteriler tarafından sağlanan verileri çapraz referansla kontrol ediyor. AWS, bu yeni özelliğin hallüsinasyonlar için “ilk” ve “tek” güvenlik önlemi olduğunu iddia ediyor.
Eleştiriler ve Benzerlikler
Ancak bu ifadeler oldukça abartılı. Otomatik Akıllı Kontrol, bu yaz yazında Microsoft’un bu yaz çıkardığı Düzeltme özelliğine oldukça benziyor; bu özellik de yapay zeka tarafından üretilen metinlerde olası hataları işaretliyor. Ayrıca, Google da kendi Vertex AI platformunda müşterilere model temellendirmesi yapma imkanı veriyor.
AWS’in Otomatik Akıllı Kontrol aracı, müşterilerin sağladığı verileri kullanarak modelin cevaplarına ulaşma yöntemini anlamaya çalışıyor. Müşteriler, bir tür gerçeklik sağlamak için bilgiler yüklüyor ve bu özelliği uygulamak için kuralları oluşturuyor.
Otomatik Akıllı Kontrol Süreci
Model yanıtları oluştururken, Otomatik Akıllı Kontrol bunları doğruluyor ve olası bir hallüsinasyon durumunda gerçeklerle karşılaştırarak doğru cevaba ulaşıyor. Bu doğru cevap, yanıltıcı bilgiyle birlikte müşterilere sunuluyor, böylece modelin ne kadar yanlış olabileceği görülebiliyor.
AWS, PwC’nin bu aracı müşterileri için yapay zeka asistanları tasarlamak üzere kullandığını belirtiyor. AWS’te AI ve veri başkan yardımcısı Swami Sivasubramanian, bu yeni özelliklerin, müşterileri Bedrock’a çekme konusunda son derece etkili olduğunu ifade etti.
Sivasubramanian, “Bu yeni yeteneklerle birlikte, gelişen yapay zeka uygulamalarını üretim aşamasına taşırken sektördeki en büyük zorlukları çözmek adına yenilikler yapıyoruz” dedi. Bedrock’un müşteri sayısı son bir yılda 4.7 kat artarak on binlerce müşteriye ulaşmış.
Hallüsinasyonların Üstesinden Gelmek
Ancak, bir uzmanın bu yaz söylediği gibi, yapay zeka hallüsinasyonlarını ortadan kaldırmaya çalışmak, suyun içindeki hidrojenin tamamen çıkarılmasına çalışmaya benziyor.
Yapay zeka modelleri, gerçekte “hiçbir şey bilmediği” için hallüsinasyon yapar. Bunlar, belirli bir veri kümesindeki örüntüleri tanımlayan istatistiksel sistemlerdir ve daha önce gördüklerine dayanarak hangi verilerin sonraki veriler olacağını tahmin ederler. Dolayısıyla bir modelin yanıtları, gerçek yanıtlar değil, soruların nasıl yanıtlanması gerektiğine dair öngörülerdir.
Gelecek İyileştirmeleri ve Modellerin Damıtılması
AWS, Otomatik Akıllı Kontrol’ün “mantıksal olarak doğru” ve “doğrulanabilir akıl yürütme” kullandığını iddia ediyor. Ancak şirket, bu aracın ne kadar güvenilir olduğuna dair herhangi bir veri sunmamış.
Bedrock hakkında diğer bir yenilik, AWS’in sabah saatlerinde duyurduğu Model Damıtma. Bu araç, büyük bir modelin (örneğin, Llama 405B) yeteneklerini daha küçük bir modele (örneğin, Llama 8B) aktararak maliyetleri düşürüyor. Bu özellik, müşterilere daha ucuz ve hızlı çalışabilecek modeller üzerinde deney yapma imkanı sunuyor.
Ancak, bazı sınırlamalar mevcut. Model Damıtma şimdilik sadece Bedrock tarafından barındırılan Anthropic ve Meta modelleriyle çalışıyor. Müşterilerin, büyük ve küçük modelleri aynı model “ailesinden” seçmeleri gerekiyor. Modelin damıtılması sırasında bir miktar doğruluk kaybı yaşanacak; AWS, bu kaybın “%2’den az” olduğunu iddia ediyor.
Eğer bu sınırlamalar sizi vazgeçirmiyorsa, Model Damıtma artık ön izlemede sunuluyor, aynı zamanda Otomatik Akıllı Kontrol da mevcut.
Multi-agent Collaboration (çoklu ajan işbirliği) adında yeni bir özellik de ön izlemede bulunuyor. Bu özellik, müşterilerin karmaşık projelerdeki alt görevler için yapay zeka atamaları yapmasına olanak tanıyor. Bedrock Agents’ta yer alan bu araç, finansal kayıtları incelemek ve küresel trendleri değerlendirmek gibi görevler için yapay zekayı oluşturma ve ayarlama araçları sunuyor.
Müşteriler ayrıca, görevleri otomatik olarak bölüp yönlendirecek bir “denetleyici ajan” belirleyebiliyor. Denetleyici ajan, “spesifik ajanlara, görevlerini tamamlamak için ihtiyaç duydukları bilgilere erişim verme” yetkisine sahip. Ayrıca, “h hangi görevlerin eş zamanlı işlenebileceğini, hangilerinin ise önce diğer görevlerden bilgi alması gerektiğini belirleyebiliyor,” diyor AWS.
“Uzmanlaşmış yapay zekalar görevlerini tamamladıktan sonra, denetleyici ajan bilgileri bir araya getirerek sonuçları sentezleyebilir,” diyor AWS.
Gelecek uygulamalarda bu özelliklerin ne kadar etkili olacağını görmek heyecan verici. Ancak gerçek dünya uygulamalarıyla birlikte etkisinin gözlemlenmesi gerekecek.
