Yapay zeka ile ilgili güvenlik konusunda Google Cloud’un CISO’su Phil Venables, AI kötüye kullanımına karşı alınması gereken önlemleri anlattı. Venables, yapay zeka modellerinin yanlış içerikler üretebileceği, hassas verilerin sızdırılabileceği ve modellerin manipüle edilebileceği riskleri vurguladı. Özellikle veri zehirlenmesi tehlikesine karşı önlem alınması gerektiğini belirten Venables, verilerin güvenliğinin sağlanması, kullanılan verilerin doğruluğunun kontrol edilmesi ve bu verilerin izlenmesi gerektiğini dile getirdi.
Google Cloud’da Öğrenilen Dersler
Venables, her yapay zeka uygulamasının sıfırdan başlamaması ve kontrollerin ve ortak çerçevelerin önemli olduğunu vurguladı. Veri zehirlenmesi riskine karşı alınması gereken tedbirleri ve verilerin uygunluğunun sağlanmasını önemli bulan Venables, verilerin güvenliğinin ve bütünlüğünün korunmasının gerekliliğine işaret etti. Ayrıca model eğitimi, fine-tuning ve test süreçlerinde güvenlik önlemlerinin alınması gerektiğini belirtti. Modelin bütünlüğünün korunmasının önemli olduğunu vurgulayan Venables, modele müdahale edilmesi durumunda güvenlik risklerinin ortaya çıkabileceğine dikkat çekti.
İnfüzyon Karşısında Mücadele Etmek için Filtreleme
Venables, model kötüye kullanımıyla ilgili dış müdahalelerin büyük bir sorun teşkil ettiğini belirtti. Modelin kötüye kullanılması durumunda baş kontrol önlemlerine karşı manipüle edilebileceğini söyleyen Venables, bu durumun adversarial taktiklerle gerçekleşebileceğine dikkat çekti. Venables, güvenilirlik, güvenlik ve güvenlik hedeflerine uygun olarak girişlerin filtrelenmesi gerektiğini belirtti.
Çıktıları Kontrol Etmek
Venables, modellerin yanlış davranmasının girişlerin yanı sıra çıktıların da yönetilmesi gerektiğini vurguladı. Şirketlerin çıktıları kontrol etmek için filtreler oluşturması, veri manipülasyonunu önlemek için çaba sarf etmesi gerektiğini belirtti. Ayrıca yazılım güvenlik açıklarını takip etmelerini ve uygulamalardaki operasyonel riskleri yönetmeleri gerektiğini söyledi. Venables, “Bu, modelin çıktılarının operasyonel risklerini hafifletmekle ilgilidir, ajan davranışını kontrol etmek, istenmeyen eylemlere karşı savunma derinliği sağlamaktır” dedi.
