Günlük ve haftalık bültenlerimize katılın, endüstri lideri AI haberlerinden en son güncellemeleri ve özel içerikleri alın. Daha Fazla Bilgi Edinin
Zoom İletişim’den bir grup araştırmacı, yapay zeka sistemlerinin karmaşık akıl yürütme problemlerini çözme maliyetini ve hesaplama kaynaklarını kayda değer şekilde azaltabilecek bir teknik geliştirdi. Bu yöntem, Chain of Draft (CoD) olarak adlandırılmakta ve büyük dil modellerinin, mevcut yöntemlerin gerektirdiğinden %7.6 daha az kelime kullanarak sorunları çözmesini sağlıyor. Ayrıca, bu yeni yaklaşım, doğruluğu artırarak veya mevcut seviyede tutarak elde edilen sonuçları geliştiriyor. Bulgular, geçen hafta araştırma deposu arXiv‘de yayımlandı.
Akıl Yürütmede ‘Kısalık Daha Fazladır’
CoD, insanların karmaşık problemleri nasıl çözdüğünden ilham alıyor. İnsanlar, matematik problemleri veya mantık bulmacaları üzerinde çalışırken genellikle yalnızca kritik bilgileri kısaca not alıyorlar. “Karmaşık görevleri çözerken, genellikle ilerlememizi sağlamak için gereken temel bilgileri yalnızca not alırız,” diyor araştırmacılar, bunu detaylandırırken yayımladıkları makalede ifade ediyorlar. “Bu davranışı taklit eden LLM’ler, karmaşık akıl yürütmelerden kaçınarak çözüme ulaşmaya odaklanabilir.”
Kosut Tasarrufu Potansiyeli
CoD’nin potansiyeli özellikle işletmelere önemli tasarruflar sunabilir. “1 milyon akıl yürütme sorgusu işleyen bir işletme için, CoD, maliyetleri 3.800 $’dan 760 $’a düşürebilir, bu da aylık 3.000 $’dan fazla tasarruf sağlar,” diye açıklıyor AI araştırmacısı Ajith Vallath Prabhakar. Bu araştırma, işletmeler için AI geliştirmelerin giderek daha kritik hale geldiği bir dönemde geldi. Çünkü gelişmiş AI sistemlerinin işletmelere entegrasyonu için hesaplama maliyetleri ve yanıt süreleri önemli engeller yaratıyor.
Hızlı Uygulama ve Etkili Sonuçlar
CoD’nin dikkat çekici bir yönü, uygulama kolaylığıdır. Diğer birçok AI ilerlemesinin aksine, yüksek maliyetli model yeniden eğitimi veya yapısal değişiklikler gerektirmediği için mevcut modellere basit bir komut değişikliği ile entegre edilebiliyor. “CoT kullanan organizasyonlar, CoD’ye basit bir komut değişikliği ile geçiş yapabilir,” diyor Prabhakar. Bu teknik, gerçek zamanlı müşteri destek hizmetleri gibi gecikmenin önem taşıdığı uygulamalar için özellikle değerli olabilir.
Gelişmiş AI akıl yürütmesinin daha erişilebilir ve uygun maliyetli hale gelmesi, şirketler ve kaynak sıkıntısı çeken ortamlar için önemli fırsatlar yaratabilir. AI sistemleri gelişmeye devam ettikçe, Chain of Draft gibi teknikler, verimlilik ve yetenek artışının yanı sıra, işletmeler için kritik öneme sahip hale geliyor.
Araştırma verileri ve kodları, organizasyonların kendi AI sistemlerinde uygulayıp test etmeleri için GitHub’da kamuya açık hale getirildi.
