Günlük ve haftalık bültenlerimize katılarak, sektör lideri AI haberlerini takip etmek için en son güncellemeleri ve özel içerikleri alın. Daha fazla bilgi için tıklayın.
Bir büyük dil modelinin (LLM) çıktısının eğitim verileriyle nasıl örtüştüğünü anlamak, uzun süredir bir gizem ve kurumsal bilişim için bir zorluk teşkil ediyordu.
Bu hafta, Allen Institute for AI (Ai2) tarafından başlatılan yeni bir açık kaynak çabası, bu zorluğu çözmeye yardımcı olmayı amaçlıyor. OLMoTrace aracı, kullanıcıların dil modeli çıktısını doğrudan orijinal eğitim verilerine izlemelerine olanak tanıyor. Bu, yapay zeka sistemlerinin karar verme süreçlerinde şeffaflık eksikliğini gidermeye yardımcı olarak, kurumsal AI benimsemedeki en büyük engellerden birini aşmayı hedefliyor.
OLMo Nedir ve OLMoTrace Nasıl Çalışır?
OLMo, Açık Dil Modeli anlamına gelir ve Ai2’nin kendi açık kaynak LLM ailesinin de adı. Kullanıcılar, Ai2’nin Ai2 Playground sitesinde yeni yayınlanan OLMo 2 32B modelini deneyebilir. Açık kaynak kodu ise GitHub‘da mevcuttur ve herkesin kullanımına açıktır.
Mevcut yaklaşımlar genellikle güven puanlarına veya bilgi edinme tabanlı üretime odaklanırken, OLMoTrace, model çıktıları ile çok sayıda token içeren eğitim veri setleri arasındaki ilişkiye doğrudan bir bakış sağlar.
Güven Puanlarının Ötesinde: Şeffaflık ve Kanıt
LLM’ler, çıktıların doğruluğunu sağlamak için model ağırlıkları kullanarak güven puanları üretir. Ancak, Jiacheng Liu, Ai2 araştırmacısı, güven puanlarının temelde hatalı olduğunu belirtiyor. Liu, “Modeller, ürettikleri bilgiler konusunda fazla güven duyarlar ve güven puanı kendilerine sorulduğunda genellikle şişirilmiş olur,” diyor. Bunun sonucunda, OLMoTrace, kullanıcıların kendi kararlarını verebilmeleri için doğrudan modelin öğrenme kaynağını gösterir.
Kurumsal Yapay Zeka Uygulamaları: Şeffaflık ve Güven
Hizmetlerini düzenleyen sektörlerde, OLMoTrace mevcut karanlık kutu sistemlerine kıyasla önemli avantajlar sunuyor. Liu, “OLMoTrace, kurumsal ve iş kullanıcılarının, modellerin eğitiminde ne kullanıldığını daha iyi anlamalarına yardımcı olacak, böylece daha yüksek bir güvenle bu modeller üzerine inşa etmelerine olanak tanıyacak,” diyerek teknolojinin önemini vurguluyor.
Bu teknoloji, kurumsal AI ekiplerine aşağıdaki kritik yetenekleri kazandırıyor:
- Model çıktılarının orijinal kaynaklarla karşılaştırılması
- Hallerin kökenlerinin anlaşılması
- Model hata ayıklamasının iyileştirilmesi
- Veri izlenebilirliği ile düzenleyici uyumun artırılması
- Artan şeffaflık ile paydaşlarla güven sağlamak
OLMoTrace, zaten mevcut OLMo 2 modeli üzerinde sorunları tanımlayıp düzeltmek için kullanılıyor. Liu, “OLMo 2’yi inşa ederken, OLMoTrace sayesinde bazı post-eğitim verilerinin iyi olmadığını fark ettik,” diyor.
Kurumsal AI Benimsemesi İçin Yeni Bir Adım
OLMoTrace, hesap verebilir kurumsal AI sistemleri için önemli bir adım temsil ediyor. Bu teknoloji, Apache 2.0 açık kaynak lisansı altında mevcut olup, modelin eğitim verilerine erişimi olan herhangi bir kuruluş tarafından benzer izleme yeteneklerinin uygulanmasına imkan tanıyor.
Liu, “OLMoTrace, her modelle çalışabilir, yeter ki modelin eğitim verilerine sahip olunsun,” diyerek teknolojinin yaygın kullanılabilirliğini vurguluyor. AI yönetişim çerçeveleri gelişmeye devam ederken, OLMoTrace gibi araçlar, özellikle düzenlemelerin zorunlu olduğu sektörlerde, şeffaflığın artırılmasında önemli bir yer edinmeye aday.
