Yapay zeka modellerine yönelik düşmanca saldırılar, yoğunluk, sıklık ve karmaşıklık açısından artmaktadır. Daha fazla işletme yapay zeka ile ilişkili bir güvenlik olayı yaşadıklarını kabul etmekte ve endüstri lideri yapay zeka konularındaki güncellemeler ve özel içerikler için günlük ve haftalık bültenlerimize katılmaktadır.
Yapay zekanın yaygın kullanımı, bütün işletmelerin başa çıkmakta zorlandığı hızla genişleyen bir tehdit yüzeyine yol açmaktadır. Gartner tarafından yapılan son bir araştırma, işletmelerin %73’ünün yüzlerce veya binlerce yapay zeka modelini kullanıma soktuğunu göstermektedir.
Yapay Zeka Modellerine Yönelik Büyüyen Tehdit
HiddenLayer’ın daha önceki bir çalışması, şirketlerin %77’sinin yapay zeka ile ilgili ihlalleri tespit ettiğini, kalan şirketlerin ise yapay zeka modellerinin saldırıya uğrayıp uğramadığı konusunda belirsiz olduklarını ortaya koymuştur. İki şirketten biri yapay zeka gizlilik ihlali veya güvenlik olayı yaşamıştı ve bunların %25’i kötü niyetli saldırılardı.
Büyüyen Düşmanca Saldırı Tehlikesi
Yapay zekanın endüstriler genelinde artan etkisiyle birlikte, kötü niyetli saldırganlar, tehdit yüzeyinin çeşitliliği ve hacmi arttıkça yapay zeka modellerinin artan zayıflıklarını sömürmek için becerilerini geliştirmeye devam etmektedir. Yapay zeka modellerine yönelik düşmanca saldırılar, modeli kasıtlı olarak yönlendirmeyi amaçlayarak boşlukları sömürmeyi hedefler. Saldırganlar, modellerin yanlış tahminler ve sınıflandırmalar yapmasını sağlamak amacıyla girişlere, bozulmuş verilere, jailbreak uyarılarına ve kötü niyetli komutları görsellerin içine gizleyerek düşmanca saldırılarını hedefler.
Gartner ayrıca, organizasyonların %41’inin, ML modellerini hedef alan düşmanca saldırıları da içeren bazı türde AI güvenlik olayları yaşadığını bildirdi. Raporda, bildirilen olayların %60’ı içsel bir tarafından veri ihlalleri, %27’si ise organizasyonun AI altyapısına yönelik kötü niyetli saldırılardı. Tüm AI siber saldırılarının %30’u, AI destekli sistemlere saldırmak için eğitim verileri bulaştırma, AI model hırsızlığı veya düşmanca örnekler kullanacaktır.
Ağ Güvenliğinde Düşmanca ML Saldırıları Artıyor
Bir araştırma, ağ güvenliğinde düşmanca ML saldırılarının hızla arttığını göstermektedir. Hızla artan bağlı cihaz sayısı ve verinin yayılması, işletmeleri, politik ve mali kazanç elde etmek isteyen ulus-devletler tarafından finanse edilen kötü niyetli saldırganlarla bir yarışa sokmaktadır. Artık bir organizasyonun bir düşmanca saldırıyla karşılaşacağı değil, ne zaman karşılaşacağı sorusu değil. Düşmanca saldırılara karşı savaş devam etmektedir, ancak organizasyonlar doğru stratejiler ve araçlarla üstün gelebilir.
