Günümüzde hızla değişen iş ortamında, olağanüstü müşteri hizmeti sunmak artık opsiyon değil, bir zorunluluk haline geldi. Müşteriler, teknik sorunları, faturalama sorularını çözmeyi veya hizmet güncellemelerini almak istediklerinde, hızlı, doğru ve kişiselleştirilmiş yanıtlar bekliyorlar. Ancak, bu düzeyde bir hizmet sunmak önemli zorluklarla karşı karşıya kalmaktadır.
Geleneksel yöntemler olan sabit senaryolar ve manuel süreçler, kişiselleştirilmiş ve anlık destek sağlama konusunda yetersiz kalmaktadır. Ayrıca, birçok müşteri hizmeti operasyonu, sıkı veri yönetimi ve gizlilik düzenlemelerine tabi olan, duyarlı ve parçalı verilere dayanmak zorundadır. Generatif yapay zeka ile birlikte, şirketler müşteri hizmetlerini devrim niteliğinde değiştirerek, operasyon verimliliğini artırmayı, maliyetleri düşürmeyi ve Yatırım Getirisi (ROI)‘ni maksimize etmeyi hedefliyorlar.
Yapay zekayı mevcut sistemlere entegre etmek, şeffaflık, doğruluk ve güvenlik ile ilgili zorluklar yaratmakta, bu da benimsemeyi engelleyip iş akışlarını bozabilmektedir. Bu engelleri aşmak için şirketler, geniş bir görev yelpazesini yönetmek amacıyla generatif yapay zeka destekli sanal asistanlardan faydalanıyorlar; bu da yanıt sürelerini iyileştiriyor ve kaynakların serbest kalmasını sağlıyor.
Bu yazıda, geliştiricilerin NVIDIA NIM Agent Blueprint ile generatif yapay zeka kullanarak operasyonlarını nasıl ölçeklendirebileceği ele alınacaktır. Bu bilgi ve örnek kodlar sayesinde, işletmeler olağanüstü müşteri hizmetleri sunma konusundaki artan talepleri karşılayabilir ve veri bütünlüğü ile yönetimini sağlayabilir. Mevcut sistemleri iyileştirmek ya da yenilerini oluşturmak için bu makale, takımlara etkili ve anlamlı etkileşimlerle müşteri ihtiyaçlarını karşılama konusunda güç sağlar.
Akıllı Yapay Zeka Sanal Asistanları ve Sorgu Motoru
Yapay zeka sanal asistanı oluştururken, kuruluşun özel kullanım durumu gereksinimleri, kurumsal bilgi ve ihtiyaçlarla uyum sağlamak önemlidir. Ancak geleneksel botlar genellikle katı çerçevelere ve çağın gereksinimlerine uyum sağlayamayan eski yöntemlere dayanıyor. Yapay zeka tabanlı asistanlar her sektörde dönüştürücü bir etkisi olabilir. Örneğin, telekomünikasyon şirketleri ve çoğu perakende ve hizmet sağlayıcıları, müşteri deneyimini geliştirmek için 7/24 destek sunarak, çok sayıda müşteri sorgusunu çeşitli dillerde yanıtlayabilir ve dinamik, kişiselleştirilmiş etkileşimler sağlayarak sorun giderme ve hesap yönetimini kolaylaştırabilirler. Bu, bekleme sürelerini azaltır ve çeşitli müşteri ihtiyaçları karşısında tutarlı hizmet sunar.
Sağlık sigortası sektöründe ise üye deneyimini sağlamak kritik bir öneme sahiptir. Sanal asistanlar, üyelerin taleplerini, kapsama sorgularını, faydaları ve ödeme sorunlarını ele alarak bu deneyimi geliştirmektedir. Bu durum, sağlık çalışanlarının idari yükünü azaltmaktadır.
NVIDIA yapay zeka platformu ile organizasyonlar, retrieval-augmented generation (RAG) kullanarak yapay zeka uygulamalarını kurumsal verilere bağlayan bir yapay zeka sorgu motoru oluşturabilirler. NVIDIA’nın NIM Agent Blueprint uygulaması, geliştiricilerin geliştirecekleri çözümleri hızlı bir şekilde oluşturmalarına olanak tanır.
Üç Temel Bileşen ile Kendi Sanal Asistanınızı Oluşturma
Geliştiriciler olarak, en güncel bilgilere anlık olarak erişen, en iyi yanıtları veren bir yapay zeka sanal asistanı oluşturabilirsiniz. Şekil 1, müşteri hizmetleri sanal asistanı mimari diyagramını göstermektedir.
1. Veri Alımı ve Retrieval Pipeline
Pipeline yöneticileri, alım hattını kullanarak yapılandırılmış ve yapılandırılmamış verileri veritabanlarına yüklemek için kullanır. Yapılandırılmış veriler; müşteri profilleri, sipariş geçmişi ve sipariş durumu gibi verilerdir. Yapılandırılmamış veriler; ürün kılavuzları, ürün kataloğu ve SSS belgeleri gibi destekleyici materyallerdir.
2. Yapay Zeka Ajanı
Yapay zeka sanal asistanı, kullanıcıların sanal asistanla etkileşimde bulunduğu ikinci bileşendir. Bir AI ajanı, karmaşık müşteri sorgularını ele almak ve çözmek için LangGraph ajans LLM programlama çerçevesinde uygulanır. LangGraph ajansı, hem yapılandırılmış hem de yapılandırılmamış veri kaynaklarından bilgi alıp doğru bir yanıt oluşturmak için Llama 3.1 70B Instruct NIM‘in araç çağrısı özelliğini kullanır.
AI ajanı, çok turlu konuşma geçmişi sağlamak için kısa ve uzun vadeli hafıza işlevlerini de kullanmaktadır. Aktif konuşma sorguları ve yanıtları gömülerek, daha sonra daha fazla bağlam olarak yeniden elde edilebilir. Bu, daha insan benzeri etkileşimleri mümkün kılmakta ve müşterilerin daha önce paylaştıkları bilgileri tekrar etmelerini önlemektedir.
Konuşmanın sonunda, AI ajanı tartışmayı özetler ve bir duygu değerlendirmesiyle birlikte konuşma tarihini yapılandırılmış veritabanında saklar. Aynı kullanıcıdan gelen sonraki etkileşimler, gelecek konuşmalarda ek bağlam olarak alınabilir. Çağrı özetleme ve konuşma geçmişi alımı, çağrı süresini azaltıp müşteri deneyimini iyileştirebilir. Duygu analizi, müşteri hizmetleri yöneticisine ajanın etkinliği hakkında değerli bilgiler sağlar.
3. Operasyon Pipeline’ı
Müşteri operasyonları hattı, genel çözümün üçüncü bileşenidir. Bu şebeke, müşteri hizmetleri operatörlerine önemli bilgiler ve içgörüler sağlar. Yöneticiler, operasyon hattını kullanarak sohbet geçmişini, kullanıcı geri bildirimlerini, duygu analizi verilerini ve çağrı özetlerini gözden geçirebilirler. Llama 3.1 70B Instruct NIM’i kullanarak analitikler elde etmek için bir analitik mikroservisi kullanılabilir; bu, ortalama çağrı süresi, çözüm süresi ve müşteri memnuniyeti gibi verileri oluşturur. Analitikler, doğruluğu artırmak için LLM modellerini yeniden eğitme amacıyla kullanıcı geri bildirimi olarak da kullanılmaktadır.
NVIDIA Ortakları ile Üretime Geçin
NVIDIA danışmanlık ortakları, NVIDIA’nın hızlandırılmış bilgiyi ve NVIDIA AI Enterprise yazılımını kullanarak dünya çapında yapay zeka sanal asistanları benimsemesine yardımcı olmaktadır. Bu ürünler arasında NeMo, NIM mikroservisleri ve NIM Agent Blueprint bulunmaktadır.
Accenture
Accenture AI Rafinerisi, NVIDIA AI Foundry üzerinde inşa edilmiştir ve otonom, niyet odaklı müşteri etkileşimleri tasarlamaktadır. Böylece işletmeler, dijital insan veya etkileşim ajanları gibi yenilikçi kanallar aracılığıyla yolculuğu bireye göre özelleştirme imkanı bulmaktadır.
Deloitte
Deloitte Frontline AI, NVIDIA NIM Agent Blueprints kullanarak dijital avatarlar ve LLM ajanları ile müşteri hizmeti deneyimini geliştirmektedir. Bu dijital çözümler, NVIDIA teknolojileriyle hızlandırılmaktadır.
Wipro
Wipro Enterprise Generative AI (WeGA) Stüdyosu, sağlık, finansal hizmetler, perakende gibi sektörlerde çağrı merkezi ajanlarını kapsayan endüstriye özel kullanımları hızlandırmaktadır.
Tech Mahindra
Tech Mahindra, müşteri hizmetleri için çözümler oluşturmak amacıyla NVIDIA dijital insan NIM Agent Blueprint’i kullanmaktadır. RAG ve NVIDIA NeMo kullanarak, çözümleri stajyerlerin bir konuşma sırasında bir el kaldırarak ajana durdurma yeteneği sağlamaktadır.
Infosys
Infosys Cortex, Infosys Topaz aracılığıyla, generatif yapay zeka, konuşma yapay zeka ve dijital insan yetenekleri için NVIDIA NIM Agent Blueprints ile entegre bir müşteri etkileşim platformu sunmaktadır.
Tata Consultancy Services
Tata Consultancy Services (TCS) sanal ajanı, NVIDIA NIM tarafından desteklenmektedir ve ServiceNow’un IT Virtual Agent ile entegre edilmiştir. Bu çözüm, yanıt sürelerini, doğruluğu iyileştirmek amacıyla prompt-tuning ve RAG’ı kullanmaktadır.
Quantiphi
Quantiphi, müşteri hizmetlerini artırmak amacıyla NVIDIA NIM Agent Blueprints’i, gerçekçi dijital avatarlarla birleştirmektedir. Bu avatarlar, mevcut işletme uygulamalarıyla sorunsuz bir şekilde entegre olunarak operasyonları ve müşteri deneyimlerini geliştirmektedir.
SoftServe
SoftServe Dijital Konsiyerji, NVIDIA NIM Agent Blueprints ile hızlandırılarak, son derece gerçekçi sanal asistanlar sunmaktadır.
EXL
EXL’nin Akıllı Ajan Asistanı, NVIDIA Riva, NVIDIA NeMo ve NVIDIA NIM mikroservislerini kullanarak bir iletişim merkezi yapay zeka çözümü sunmaktadır.
Başlayın
Blueprint’i ücretsiz denemek ve sistem gereksinimlerini görmek için Blueprint Kartı‘na gidin. AI sanal asistanı NIM Agent Blueprint indirilmeye hazır olduğunda bildirim almak için kaydolabilirsiniz.
Bu mikroservisleri kullanarak uygulamalar geliştirmeye başlamak için NVIDIA API kataloğu‘nu ziyaret edin.