Günlük ve haftalık bültenlerimize katılın, sektördeki en son güncellemeleri ve AI konularında özel içerikleri takip edin. Daha fazla bilgi edinin.
Silahlı büyük dil modelleri (LLM’ler), saldırgan taktiklerle ince ayar yapılarak siber saldırıları yeniden şekillendiriyor ve bilgi güvenliği yöneticilerini (CISO’lar) harekete geçmeye zorluyor. Bu modeller, keşif otomasyonu, kimlik taklit etme ve gerçek zamanlı tespitlerden kaçınma yeteneği ile büyük ölçekli sosyal mühendislik saldırılarını hızlandırıyor.
FraudGPT, GhostGPT ve DarkGPT gibi modeller, yalnızca 75 dolara aylık satışa sunulmakta ve bunlar phishing, açık istismar geliştirme, kod gizleme, güvenlik taraması ve kredi kartı doğrulama gibi saldırı stratejilerine özel olarak tasarlanmıştır.
Silahlı LLM’ler ve Fırsatlar
Siber suç çeteleri, sendikalar ve ulus-devletler, bugün silahlı LLM’leri sağlayarak gelir fırsatları gördü. Bu LLM’ler, tıpkı meşru işletmelerin SaaS uygulamalarını paketlediği gibi paketleniyor ve satılıyor. Silahlı bir LLM kiralarken, genellikle paneller, API’ler, düzenli güncellemeler ve bazıları için müşteri desteği de dahil olmaktadır.
Meşru LLM’lerin Tehlikede Olması
Silahlı LLM’lerin yayılması o kadar hızlı ilerliyor ki, meşru LLM’ler de tehdit altına girdi. Cisco’nunYapay Zeka Güvenliği Raporuna göre, ince ayar yapılmış LLM’lerin zararlı çıktılar üretme ihtimali normal modellere göre 22 kat daha fazladır. İnce ayar yapma süreci, LLM’lerin bağlamsal olarak alakalı hale gelmesi için önemlidir, ancak bu işlem aynı zamanda güvenlik önlemlerini zayıflatmakta ve korsan saldırılara kapı açmaktadır.
Veri Zehirleme ve Attaki Yeni Yüzler
Silahlı LLM’ler, kötü niyetli LLM’lerin pazarı, şimdi yalnızca 75 dolardan başlamakta. Cisco Talos, karanlık webdeki LLM’lerin artışını izliyor ve araştırmalarında bu tür araçların ne kadar tehlikeli olabileceğini gösteriyor. Bu araçlar, oltalama, açık istismar geliştirme, kredi kartı doğrulama ve kod gizleme işlemleri için kullanılmaya hazır bir şekilde sunulmakta.
Cisco’nun araştırmasına göre, yalnızca 60 dolara, saldırganlar yapay zeka modellerinin temelini zehirleyebiliyor. Araştırmalar, kötü niyetli verilerin nasıl kolaylıkla entegre edilebileceğini ortaya koyuyor; bu durumda, özellikle hassas veriler risk altında.
LLM’lerin Saldırı Yüzeyi Olarak Önemi
Cisco’nun devam eden araştırmaları, silahlı LLM’lerin daha da geliştiğini açığa çıkarıyor. Artık LLM’ler, yalnızca uygulamalar değil; aynı zamanda tehditlerin yeni bir yüzü haline geldiler. Bu nedenle, ekiplerin LLM’lerini ince ayar yaparken dikkat etmeleri gereken yeni bir dizi güvenlik açığı var. Statik koruma önlemleri yeterli olmamakta; CISO’lar ve güvenlik liderleri, gerçek zamanlı görünürlük sağlamak ve daha güçlü düşmanca testler yapacak şekilde altyapınızı güçlendirmek zorundadır.
