Günlük ve haftalık haber bültenlerimize katılarak sektördeki AI gelişmeleri hakkında en son güncellemeleri ve özel içerikleri öğrenin. Daha Fazla Bilgi
Diffbot, Silikon Vadisi’nde bulunan küçük bir şirket, web bilgisi konusunda dünyanın en büyük indekslerinden birini sürdürmesiyle biliniyor. Şirket, bugün, alandaki en büyük zorluklardan birini çözmeyi vaat eden yeni bir yapay zeka modelini tanıttı: doğruluk.
Yeni model, Meta’nın LLama 3.3 modelinin ince ayarlanmış bir versiyonudur ve Graph Retrieval-Augmented Generation (GraphRAG) sistemi için açık kaynaklı ilk uygulamadır.
Modelin Çalışma Prensibi
Diffbot’un Bilgi Grafiği, 2016 yılından bu yana kamu webini tarayan geniş, otomatik bir veritabanıdır. Web sayfalarını insanlar, şirketler, ürünler ve makaleler gibi varlıklara kategorize eder ve yapılandırılmış bilgileri bilgisayarla görme ve doğal dil işleme kombinasyonuyla çıkarır.
Bilgi Grafiği, her dört ila beş günde bir, milyonlarca yeni bilgi eklenerek güncellenir. Diffbot’un AI modeli, bu kaynağı kullanarak gerçek zamanlı bilgi alır; statik eğitim verisi yerine anlık verilerle çalışır.
Doğrulukta Geleneksel AI Modellerini Geride Bırakmak
Benchmark testlerinde, Diffbot’un yaklaşımı olumlu sonuçlar vermektedir. Şirket, modelinin FreshQA isimli Google tarafından oluşturulan gerçek zamanlı bilgi testinde %81 doğruluk sağladığını ve hem ChatGPT hem de Gemini’yi geçtiğini bildirdi. Ayrıca, MMLU-Pro testinde %70.36’lık bir başarı elde etti.
Diffbot, modelini tamamen açık kaynak hale getirerek, şirketlerin kendi donanımlarında çalıştırıp ihtiyaçlarına göre özelleştirebileceği bir çözüm sunuyor. Bu, büyük AI sağlayıcıları ile ilgili veri gizliliği ve tedarikçi bağımlılığı konusundaki endişeleri gidermeye yardımcı oluyor.
Gelecek için Umut Veren Bir Alternatif
Piyasa bu noktada önemli bir dönüm noktasına geliyor. Büyük dil modellerinin “halüsinasyon” ya da yanlış bilgi üretme eğilimi üzerine eleştirilerin arttığı bir dönemdeyiz. Diffbot’un yaklaşımı, yapay zeka sistemlerini doğrulanabilir verilere dayandırmaya odaklanarak alternatif bir yol öneriyor.
Diffbot’un modelinin hemen kullanımda olduğunu belirten Tung, “Bugün sunmuş olduğumuz açık kaynak versiyonunu denemek için diffy.chat‘i ziyaret edebilirsiniz” dedi. Örgütler bu modeli kendi sistemlerinde kullanmak istediklerinde, önerilen 8 milyar parametreli versiyonu tek bir Nvidia A100 GPU üzerinde çalıştırabilirken, tam 70 milyar parametreli versiyonun iki H100 GPU gerektirdiğini belirtti.
Tung, “Gelecek, daha fazla büyütülmek yerine, insan bilgilerini organize etmenin ve erişmenin daha iyi yollarında yatıyor” ifadelerini kullandı. Bu bağlamda, Diffbot’un sunmuş olduğu çözüm, doğru bilgi ve şeffaflık konularında ciddi bir adım atıyor.
