Yapay Zeka ve Tehditler
Yapay zeka destekli hizmetlerin yaygınlaşması, teknoloji endüstrisi ve tüketici pazarında sayısız olasılığın kapısını açtı. Uzun belgeleri özetlemekten, görüntüleri kolayca düzenlemeye kadar birçok alanda yapay zeka işleri kolaylaştırıyor. Ancak, kötü niyetli kişiler de bu teknolojiye erişim sağlıyor. Google’ın son raporuna göre, AI araçlarının derin sahtecilik terör içerikleri üretmek için kullanıldığı ortaya çıktı.
Avustralya’daki Yasalar ve Şeffaflık
Avustralya’da büyük teknoloji şirketleri, geliştirmelerinin zarar azaltma çabalarıyla ilgili raporlar sunmak zorundadır. Bu raporlar, Avustralya eSafety Komisyonu tarafından incelenmektedir. Yasa ihlali yapan şirketler, ceza veya yaptırım riskiyle karşı karşıya kalmaktadır.
Google’ın Raporunda Önemli Bulgular
Google’ın son güvenlik raporu, 2023 Nisan ile 2024 Şubat dönemini kapsamaktadır. Rapor, Avustralya ajansına göre, şirketin teknolojisinin yapay zeka derin sahtecilik terör içerikleri üretmek için kullanıldığını gösteriyor. Ayrıca, Google’ın raporu çocuk istismar materyali üretmek için Gemini’nin de kullanıldığını belirtiyor.
“Bu durum, AI ürünleri geliştiren şirketlerin, bu tür materyallerin üretilmesini önlemek için koruma önlemleri inşa edip test etmelerinin ne kadar kritik olduğunu gösteriyor,” diyor eSafety Komiseri Julie Inman Grant.
Google, tütün terörizmi veya aşırıcılık ile ilgili AI derin sahtecilik içerikleri için 258 rapor almışken, Gemini ile çocuk istismarı veya istismar materyali üreten 86 vaka raporu bulunmaktadır. Google, çocuk istismar materyallerini kaldırma konusunda daha katıdır ve bu tür görselleri tespit etmek için bir eşleşme sistemi kullanır. Ancak, ekstremizmle ilgili içeriklere bu teknolojiyi uygulamamaktadır.
Yasal Düzenlemeler ve Diğer Şirketler
Düzenleyicilerin yapay zeka konusundaki ana hedeflerinden biri, şirketlerin bu tür materyallerin oluşturulmasını önlemek için daha sıkı önlemler almasını sağlamaktır. 2022 yılında ChatGPT’nin ortaya çıkışı, bu konudaki ilk endişeleri beraberinde getirmişti. Ancak, yıllar geçtikçe mesele hâlâ güncelliğini koruyor.
eSafety Komisyonu, Google’ın kötüye kullanım yollarını açıklamada gösterdiği şeffaflık için övgüde bulunarak, raporu “dünyada bir ilk anlayış” olarak nitelendirdi. Diğer bazı firmalar ise bu raporlardaki eksiklikler nedeniyle olumsuz yorumlar aldı ve Telegram ile X (eski Twitter) para cezalarına çarptırıldı.