Sektör lideri AI kapsamındaki en son güncellemeler ve özel içerikler için günlük ve haftalık bültenlerimize katılın. Daha Fazla Bilgi
Bir AI sorgusundan en iyi sonuçları elde etmek için, organizasyonların en iyi verilere sahip olmaları gerekmektedir.
Birçok organizasyonun bu zorluğun üstesinden gelmek için başvurduğu yanıt, retrieval-augmented generation (RAG) sistemidir. RAG ile sonuçlar bir veritabanından alınan verilere dayandırılmaktadır. Ancak, tüm RAG’ler aynı değildir ve en iyi sonuçları verecek şekilde bir veritabanını optimize etmek oldukça zordur.
MongoDB ve RAG Uygulamaları
Veritabanı sağlayıcısı MongoDB, AI ve RAG dünyasına yabancı değildir. Şirketin isim taşıyan veritabanı, RAG için kullanılmakta ve MongoDB, AI uygulama geliştirme girişimleri başlatmıştır. Örneğin, tıbbi dev Novo Nordisk, gen AI ile başarılı sonuçlar elde etmesine rağmen, hala yapılacak çok şey olduğunu belirtmektedir.
Özellikle, halüsinasyon ve doğruluk, bazı organizasyonların gen AI’yi üretime sokmasını zorlaştıran sorunlardır. Bu bağlamda, MongoDB bugün, Voyage AI adlı özel bir şirketi satın aldığını duyurdu. Voyage, gelişmiş gömme ve geri alma modelleri geliştirmekte olup, Ekim 2024’te Snowflake tarafından desteklenen bir turda 20 milyon dolar fon topladı. Bu satın alma, Voyage AI’nın gömme ve yeniden sıralama konusundaki uzmanlığını doğrudan MongoDB’nin veritabanı platformuna aktaracaktır.
Halüsinasyon Sorunları ve RAG Çözümü
RAG’nin temel mantığı, gen AI motorunun yalnızca eğitimli veri kaynaklarına güvenmek yerine veritabanından doğru veriler alabilmesidir.
Yüksek derecede doğru RAG yaratmak oldukça karmaşık bir süreçtir ve hala halüsinasyon riski bulunmaktadır. MongoDB ve kullanıcıları bu zorluklarla karşı karşıyadır. MongoDB CPO’su Sahir Azam, gen AI RAG’nin kullanıcıları başarısız kıldığı spesifik bir örnek vermekten kaçınsa da, doğruluğun her zaman endişe kaynağı olduğunu vurguladı.
Doğruluğu artırmak ve halüsinasyonu azaltmak, bir dizi adım içermektedir. İlk adım, geri alma kalitesinin geliştirilmesidir (RAG’deki ‘R’). Voyage AI’nın kurucusu Tengyu Ma, “Birçok durumda, geri alma kalitesi yeterince iyi değil” diyor. “Geri alma aşamasında geçerli bilgiler çekilmezse, bu geri alma süreçleri pek faydalı olmaz ve büyük dil modelleri (LLM) tahminde bulunmak zorunda kalır.”
MongoDB ve Rekabeti
MongoDB, yüksek optimize edilmiş gömme ve yeniden sıralayıcı teknolojilerin gerekliliğini tanıyan tek firma değildir. Bu nedenle, Snowflake Voyage AI’ya yatırım yaparak bu modelleri kullanmaya başlamıştır. MongoDB’nin bu satın alma ile birlikte Voyage AI’nın modellerini diğer kullanıcılara da sunmaya devam edeceği önemlidir. Ancak, Voyage AI’nın modelleri artık MongoDB’nin veritabanı platformlarına entegre edilecektir.
Advanced embedding modellerinin doğrudan bir veritabanına entegre edilmesi, diğer rakip veritabanı sağlayıcıları tarafından da benimsenen bir yaklaşımdır. Örneğin, DataStax, Haziran 2024’te gelişmiş gömme ve geri alma modellerini bir araya getiren RAGStack teknolojisini tanıttı. Azam, MongoDB’nin farklı olduğunu savunuyor; çünkü, MongoDB bir operasyonel veritabanıdır, analitik bir veritabanı değildir. Ayrıca, MongoDB sadece analiz sağlamakla kalmayıp işlemleri ve gerçek dünya operasyonlarını da güçlendirmektedir.
Voyage AI’nın Önemi
Yüksek doğru gömme ve geri alma modellerine duyulan ihtiyaç, agentik AI ile birlikte daha da artmaktadır. Ma, “Agentik AI’nin geri alma yöntemlerine ihtiyacı var, çünkü bir ajan bağlamdan bağımsız karar veremez” diyor. “Bazen, bir karar üzerinde birden fazla geri alma bileşeni kullanılır.”
Voyage AI, agentik AI use case’leri için özelleştirilmiş modeller üzerinde çalışmaktadır. Gen AI’nin operasyonel kullanım alanlarına giderek girmesiyle, halüsinasyon riskini ortadan kaldırmak büyük bir önem kazanmaktadır. MongoDB, Voyage AI’nın entegrasyonunun yeni kritik kullanım durumları açacağını öngörüyor.
Azam, “Eğer şimdi uygulamalarınız için %90’ın üzerinde doğruluk verebileceğimizi söylersek, bazıları şu an yalnızca %30 veya %60 doğrulukla sonuç alıyorsa, fırsatların çeşitliliği artar” şeklinde konuştu.
