Modern organizasyonlar, talep yönetim sistemleri, olay raporları, hizmet talepleri ve destek yükseltmeleri gibi yöntemlerle büyük bir operasyonel veri hacmi oluşturuyor. Bu talepler, sistemsel sorunlar, tekrar eden sıkıntılar ve ekip performansı hakkında kritik sinyaller içeriyor. Ancak bu verilerden içgörü çıkarmak zorlu bir görev.
Çoğu talep yönetim platformu, iş akışı yürütme için tasarlanmıştır, analiz için değil. Yapılandırılmış alanlar tutarsızdır, serbest metin açıklamaları gürültü içerir ve talepler arası ilişkiler genellikle yakalanamaz veya sorgulanamaz.
Bu nedenle liderlik, “Örgütümüz genelindeki en sık tekrar eden sorunlar nelerdir?” gibi sorular sorduğunda,
- “Hangi ekipler, aynı kök nedenlerle sürekli karşılaşıyor?”
- “Neden bazı gruplar, talepleri diğerlerine göre daha hızlı ya da daha yavaş çözüyor?”
- “Çözüm kalitesi veya tutarlılığında hangi boşlukları görüyoruz?”
… cevap vermek için kırılgan sorgular, veri dışa aktarma veya tablolar derlemekle kalırsınız – belki de hiç denemeye bileceksiniz.
ITelligence, NVIDIA’nın IT organizasyonu tarafından geliştirilen bir AI ajanıdır. Bu ajanın iki ana amacı vardır: 1) yapılandırılmamış destek talep verileri içerisindeki gizli içgörüleri ortaya çıkarmak için NVIDIA Nemotron açık modellerini etkili bir şekilde kullanarak bağlamsal içgörüler üretmek. 2) Grafik tabanlı sorgulama ile ilişkileri izlemek, anormallikleri tanımlamak ve ölçekli olarak kalıplar keşfetmek.
Bu blog yazısı, deneyimlerimizi paylaşmayı ve diğer organizasyonların benzer, güçlü AI destekli zeka ajanları inşa etmesi için pratik bir kılavuz sağlamayı amaçlamaktadır.
Açıklanan uygulama IT operasyonlarına odaklanmış olsa da, önerilen mimari ve iş akışı, istendik veri kaynaklarında yapılandırılmamış kayıtların yapılandırılmış içgörülere dönüştürülmesi gereken her türlü bilet tabanlı ortama uygulanabilir – bunlar arasında güvenlik olay müdahale, müşteri destek platformları veya tesis yönetim sistemleri de bulunmaktadır.
Temel Yapının Kurulması
Bu sistemin temeli, operasyonel verileri almak, zenginleştirmek ve analiz etmek için kullanılan modüler, ölçeklenebilir bir veri boru hattıdır. Mimari, aşağıdaki ana aşamalardan oluşur:
1. Veri Alımı ve Grafik Modelleme
Programlanmış çıkarma, dönüştürme ve yükleme (ETL) işler ile, IT hizmet yönetimi (ITSM) platformları (örneğin, olay ve talep biletleri), uç nokta envanterleri ve kimlik kaynakları gibi birçok kurumsal sistemden veri çıkarılabilir. Streaming platformu veya olay odaklı alım yerine, toplu işleme yöntemini tercih ediyoruz. Bu karar, kullanımdan kaynaklanıyor çünkü mevcut kullanım senaryomuz sonlu uyum sağlayabilmektedir. Gerçek zamanlı alım, analizimiz için gerekli değildir ve belirli ETL işleri, operasyonel ihtiyaçlarımıza iyi uyum sağlayan daha basit ve sürdürülebilir bir çözüm sunmaktadır.
Her bir veri akışı normalleştirilip, grafik veritabanına yüklenir; burada varlıklar düğüm (örneğin, Kullanıcı, Olay, Cihaz, Grup, HizmetTalebi) şeklinde, ilişkiler ise (örneğin, OPENED_BY, ASSIGNED_TO, HAS_DEVICE, REPORTS_TO) bağlamında modellenir.
Bu grafik temsili, geleneksel ilişkisel veya düz raporlama yapılarına kıyasla, esnek ve çoklu atlama sorgulamaları yapma imkanı sunar. Örneğin, aşağıdaki görselde basit bir grafik sorgusu, biletler, kullanıcılar, kök nedenler, yönetim zinciri ve atama grupları arasındaki karmaşık bir operasyonel deseni yakalayarak değerli içgörüler ortaya çıkarır.
2. Bağlamsal Zenginleştirme Görevleri
Her bir bileti daha zengin bir bağlamla zenginleştirmek için, zenginleştirici görevler gerçekleştirilebilir. Örneğin,
- Talep açan kullanıcının yeni bir çalışan olup olmadığı (açılış tarihi ve biletin açılış tarihi temel alınarak)
- Cihaz türü (birincil ve ikincil)
- Çalışma modu (uzaktan, hibrit, yerinde)
- İstihdam türü (taşeron veya tam zamanlı)
- Kullanıcı oluşturmuş veya bot tarafından üretilmiş olduğu bilgisi, kaynak tanımlayıcı veya talep kökenine göre belirlenir.
Bu zenginleştirmeler, grafiğe anlam katabilir ve kullanıcı doldurmuş alanlar olmadan ilgili boyutlar üzerinden verilere kesitler almaya olanak tanır.
3. Kök Neden Analizi (RCA) Görevleri
Gerçek kök nedenleri belirlemek, standart ITSM sınıflandırmasının ötesine geçebilir. Bunun üstesinden gelmek için, her talebi bireysel olarak işleyen bir LLM akışını devreye sokabiliriz. Her bir talep için şunlar gönderilebilir:
- Kullanıcının bildirdiği sorun (belirti)
- IT personelinin kapandığı notlar (gerçek çözüm)
- Herhangi bir zenginleştirilmiş meta veri
Daha sonra LLM’ye, her bireysel talep için sorunun gerçek doğasını temsil eden özlü, virgüllerle ayrılmış kök neden anahtar kelimelerini çıkarması için komut verebiliriz (örneğin, YubiKey, geçişli anahtar, Microsoft Authenticator, kayıt) Bu üretilen RCA’lar, bilet düğümüne yeni bir özellik olarak kaydedilebilir ve geleneksel ITSM kategorilerinin ötesinde kesin gruplama ve analiz yapmaya olanak tanır.
Bu amaçla, NVIDIA NIM ile kullanılan çeşitli açık kaynak modelleri test edildi ve en doğru sonuçlar llama-3_3-70b-instruct ile elde edildi.
4. İçgörü Oluşturma Görevleri
Biletler köklü RCA’larla zenginleştirildikten sonra, organizasyon veya ekip düzeyinde kalıpları sentezleyen programlı içgörü oluşturma görevleri çalıştırılabilir. Bu görevler, prompt mühendisliği ile farklı içgörü türleri için tasarlanabilir:
- MTTR içgörüleri: Sistem, en yüksek çözüm sürelerine sahip olan biletleri seçebilir ve LLM’ye bu durumların neden bu kadar uzun sürdüğünü özetlemesi için yönlendirme yapabilir; gecikmeleri, yanlış yönlendirmeleri, bağımlılıkları veya standart işletim prosedüründeki boşlukları vurgulayabilir.
- Müşteri memnuniyeti içgörüleri: Düşük müşteri memnuniyeti (CSAT) puanı veya kötü kullanıcı geribildirimi olan biletler için, karşılanmamış beklentileri, tekrar eden şikayetleri ve iyileştirme alanlarını özetleyen üst düzey raporlar oluşturulabilir.
- RCA içgörüleri: En sık rastlanan kök nedenlere (AI tarafından üretilen RCA’lara dayanarak) sahip biletleri seçer. LLM, bu biletler arasında ortak semptomları, tekrar eden çözüm adımlarını ve yüksek düzeyde kalıpları çıkarmak için yönlendirilir.
- Yeni çalışan içgörüleri: Yeni çalışanlar tarafından açılan biletleri analiz ederek, kayıt sürecindeki zorluklar ve erken başarıları ortaya çıkarmak, liderlere açıklık sağlayarak gelişim alanlarını göstermeye yardımcı olur.
Bu içgörüler, grafiğin bağlamı (örneğin, ekip, yönetici) ile ilişkilendirilerek, her lider, grup veya hizmet sahibi için hedefli, eyleme geçirilebilir zeka sağlayabilir.
5. Dağıtılmış Uyarı ve Otomatik İçgörü Teslimatı
İçgörüleri operasyonel hale getirmek için, grafik üzerindeki KPI trendlerini sürekli olarak değerlendirerek bir dağıtılmış uyarı sistemi kurulabilir. Belirli kurallar, metrikler beklenen sınırların dışına çıkınca bildirim gönderilmesini tetikler. Örneğin, MTTR’de bir artış, tekrar eden RCA’lar veya CSAT’te bir düşüş olduğunda, bu uyarılar doğrudan ilgili liderlere veya yöneticilere bağlam, etkilenen biletler ve önerilen odak alanları ile birlikte gönderilebilir.
Bu yapı, düzenli olarak otomatik, AI destekli bültenler de sunmak için kullanılabilir. Her bülten, organizasyona veya yöneticilere özel olarak tasarlanabilir ve içerebilir:
- Önemli RCA’lar ve tekrar eden kalıplar
- MTTR gibi anahtar performans göstergelerini (KPI) etkileyen yüksek etkili biletler
- Düşük CSAT vakalarından özet kullanıcı geribildirimleri
- Haftalık KPI trendleri
Tüm içgörüler, yapılandırılmış istemlerle ve zenginleştirilmiş bilet verileri ile oluşturulan LLM tarafından üretilir ve böylece her paydaş, hedefli, bağlamına uygun özetleri otomatik olarak alır.
Temiz grafik modelleme ve kesin istem mühendisliği üzerine kurulu bu katmanlı mimari, sistemin içgörü üretimini ölçeklendirmesine ve yeni veri kaynaklarına, organizasyon yapısına ve kullanım durumlarına uyum sağlamasına olanak tanır.
Kullanıcı Dostu AI Destekli Arayüz Tasarımı
Zengin, son derece bağlı bir veri seti ile bu sistemin güçlendirilmesi – biletler, kullanıcılar, kök nedenler, organizasyon hiyerarşileri, cihazlar ve daha fazlasını kapsamakta – veri alma işleminin hem güçlü hem de erişilebilir olması gerekmektedir. Kullanıcıların, temel grafik şemasını anlaması, Cypher sorguları yazması veya operasyonel içgörüler keşfetmek için özel betiklere güvenmemesi gerekiyor.
Bu nedenle, kullanıcıların verileri anlamlı boyutlarla kesip filtreleyebileceği, hem yapılandırılmış sorguları destekleyen hem de talep üzerine özetleme yapabilen, teknik uzmanlığa sahip olmayan analistler ve yöneticiler için yeterince sezgisel bir arayüze ihtiyaç vardır.
RAG Tabanlı Chatbot Neden Tercih Edilmedi?
RAG ve konuşma AI etrafındaki son momentum nedeniyle, grafik üzerinde bir chatbot arayüzü oluşturma fikri doğal olarak sorgulanabilir. Ancak, pratikte bu yaklaşımın özellikle zengin ve çok ilişkili bir şemada yeterince etkili olamayacağına inanıyoruz.
Bu durumda, temel veritabanı birçok iç içe geçmiş varlık ve özellik içermektedir: biletler, kullanıcılar, cihazlar, hiyerarşiler, kök nedenler, ekipler, hizmetler, atama grupları vb. Açık uçlu doğal dil sorgularını, belirli, yürütülebilir grafik sorgularına dönüştürmek, yalnızca karmaşık değil, aynı zamanda hatalı ve belirsiz bir süreç olacaktır.
Amaç, kullanıcı verimliliğini artırmak olup, kullanıcıları chatbot arayüzünde niyetlerini netleştirmek adına geri dönüp dönüp soru sormakla yüklemek değildir. Kullanıcılar cevap istediğinde, hızla ve doğru bir yanıt bulmalıdır; sistemi sorularını nasıl ifade edeceklerini tahmin etme yükünden kurtararak.
Tavsiye Edilen Yaklaşım: AI Destekli Dashboard ile Talep Üzerine Özetleme
İçgörülerin hem erişilebilir hem de etkileşimli hale gelmesi için, grafik veritabanından ve özel özet API hizmetinden güç alan etkileşimli veri görselleştirme platformları ile entegrasyon öneriyoruz. Tüm statik veriler, metrikler, KPI’lar, önceden üretilmiş içgörüler, biletler ve meta veriler doğrudan grafikten gerçek zamanlı olarak çekilebilir.
Ancak, bir alan yine de manuel çalışma gerektirmektedir: RCA = sürücü olan bir bilet setini filtreledikten sonra, kullanıcılar her bir bileti gözden geçirerek yaygın sıkıntıları ve çözüm kalıplarını ortaya çıkarmak zorunda kalmaktadır. Bu ise analiz sürecini yavaşlatmakta ve sistemsel iyileştirmeleri önceliklendirmeyi zorlaştırmaktadır.
Bu iş akışını otomatikleştirmek için, Grafana dashboarduna doğrudan bağlı bir özeti hizmet API’si tanıtılabilir. Bir kullanıcı organizasyon, atama grubu, kök neden veya kategori gibi kriterleri seçtiğinde, bu değişkenler JSON yükü olarak özet hizmet API’sine gönderilebilir.
Arka planda, özet hizmeti şunları gerçekleştirebilir:
- Seçilen kriterleri (yani kullanıcı tarafından belirlenen değişkenler) alır
- Grafikten uyumlu biletleri alır
- Bunları yapılandırılmış bir isteme enjekte eder
- NVIDIA NIM API (başlamak için build.nvidia.com)’ye LLM temelli özetleme için yönlendirir
- Cevabı veri görselleştirme platformuna geri gönderir
Çıktı, AI tarafından oluşturulmuş özet panelinde sunulabilir ve içerisinde:
- Ortak sorunlar ve semptomlar
- Tipik çözüm yolları
- Tekrar eden hata kalıpları (konum, istihdam türü, cihaz vb.)
- AI tarafından üretilen öneriler
Bu, manuel bilet sınıflandırma ihtiyacını ortadan kaldırır ve ekiplerin talep bazında bağlamsal anlayışa anında ulaşmalarını sağlar.
Daha Fazlasını Öğrenin
Bu AI ajanı, IT talep operasyonlarının kritik bir boşluğunu doldurmak üzere tasarlanmıştır: büyük hacimde yapılandırılmamış talep verilerinden anlamlı içgörüler çıkarma zorluğu. AI destekli analiz, grafik tabanlı modelleme ve esnek sorgulama entegrasyonu sayesinde, platform, operasyonel gürültüyü açık, eyleme geçirilebilir bir zekaya dönüştürüyor.
Otomatik kök neden belirleme ve zengin bağlamsal analizden, gerçek zamanlı yöneticilere yönelik özetlere ve proaktif uyarılara kadar, bu ajan ekipleri bilinçli kararlar almaları gereken netlik ve hızlılıkla donatabilir.
En güncel gelişmeler için NVIDIA Nemotron’a abone olmayı unutmayın ve NVIDIA AI’yı LinkedIn, X, Discord ve YouTube’da takip edin.
- Nemotron geliştirici sayfamızı ziyaret ederek, en açık ve en akıllı hesaplama akıllı modelini kullanmaya başlamak için gerekli her şeye ulaşabilirsiniz.
- Açık Nemotron modellerini ve veri setlerini keşfedebilirsiniz Hugging Face ve NIM mikro hizmetleri ve Blueprints için build.nvidia.com‘dan.
- Fikirlerinizi paylaşın ve Nemotron’un geleceğini şekillendirmek için özelliğe oy verin.
- Yaklaşan Nemotron canlı yayınlarına bağlanın ve NVIDIA Geliştirici topluluğu ile Nemotron geliştirici forumu ve Discord’daki Nemotron kanalı‘nı takip edin.
NVIDIA Nemotron ile ilgili en iyi deneyimi yaşamak için video eğitimlerini ve canlı yayınları keşfedin.
