Son zamanlarda yapay zekanın iş gücünde nasıl devrim yaratabileceği sıkça tartışılıyor. Şu anda, yazarlık ve grafik tasarım gibi alanlarda yapay zekanın insanları nasıl değiştirmeye başladığını görmekteyiz. Ama ya yapay zeka hata avcılarının yerini alabilirse? Görünüşe göre, alabilir. Google’a göre, yapay zeka hata avcısı Big Sleep, tarihindeki ilk güvenlik açıklarını bildirdi.
Google’ın AI Hata Avcısı Güvenlik Açıkları Buldu
Bu haber, Google’ın güvenlikten sorumlu başkan yardımcısı Heather Adkins tarafından paylaşıldı. Adkins, X platformunda yaptığı paylaşımda, Big Sleep’in güvenlik açıklarını nasıl tespit ettiğini açıkladı. Big Sleep, Google’ın DeepMind departmanı tarafından geliştirilen ve güvenlik açıklarını bulmaya odaklanan Project Zero takımı ile birlikte çalışan bir LLM tabanlı yapay zeka hata avcısıdır.
Ancak, bu güvenlik açıklarının ne kadar büyük bir etki yaratacağı ve ne kadar ciddi olduğu henüz belirsiz. Zira bu açıklar henüz kapatılmamış durumda. Google’ın Project Zero ekibi, genellikle bu sorunları şirketlere bildirmeden önce belirli bir süre tanımaktadır.
Önemli olan nokta, yapay zekanın bu güvenlik açıklarını bulabilmiş olması. TechCrunch ile konuşan Google sözcüsü Kimberly Samra, “Yüksek kaliteli ve uygulaması kolay raporlar sağlamak için bir insan uzmanı raporlamadan önce devreye giriyor, ancak her bir güvenlik açığı yapay zeka tarafından insana müdahale edilmeden bulundu ve tekrar üretildi.” dedi.
İyi ve Kötü Yanları
Bir yapay zekanın güvenlik açıklarını bulabilmesi kuşkusuz olumlu bir gelişme. Yapay zeka, insana özgü uykusuzluk durumunu yaşamıyor; bu nedenle güvenlik açıklarını sürekli olarak araştırabiliyor. Ancak, Big Sleep tek örnek değil; RunSybil ve XBOW gibi başka yapay zeka araçları da mevcut.
Ayrıca, XBOW, HackerOne hata ödül programında ABD liderlik sıralamalarına yükselerek dikkat çekti. Fakat bu konuda çok heyecanlanmadan önce, yapay zekanın tüm süreçlerde tam olarak sağlam çalışmadığına dair birçok rapor mevcut. Bazı durumlarda, yapay zeka tarafından bildirilen hataların gerçekte sanrılar olduğu ortaya çıkabiliyor.
Sanrılar, yapay zekanın bazen uydurduğu bilgileri ifade eder. Bu durum, hiç bilgiye dayanmadan yanlış veriler üretebiliyor. RunSybil kurucu ortağı ve teknoloji sorumlusunun açıklamalarına göre, Vlad Ionescu, TechCrunch’a verdiği röportajda, “İnsanlar, altın gibi görünen birçok şey buluyor; ama aslında bunlar basitçe çöp.” şeklinde konuştu.
