Kongre’den Teknoloji Şirketlerine Uyarı
Kongre, Apple’ın CEO’su Tim Cook gibi teknoloji yöneticilerine, derin sahte görüntülerin artışına ilişkin endişelerini belirten mektuplar gönderdi. Bu mektuplar, kullanıcıların yüz değiştirme uygulamaları kullanarak gizlilik ihlali oluşturan cinsel içerikli görüntüler elde etmesiyle ilgili daha önceki raporlardan kaynaklanıyor.
Uygulama İnceleme Politikalarının Yetersizliği
Yeni bir 404 Media raporuna göre, ABD Kongresi, bu raporlar doğrultusunda teknoloji şirketlerine, platformlarında rıza dışı cinsel içeriklerin nasıl engelleneceğine ilişkin planlarını sormakta. Apple, Alphabet, Microsoft, Meta, ByteDance, Snap ve X gibi şirketlere mektuplar gönderildi.
Apple’a Yöneltilen Sorular
Apple’a gönderilen mektupta, şirketin uygulama inceleme politikalarına rağmen bu tür uygulamaları gözden kaçırdığı belirtiliyor. Ayrıca, Apple’ın derin sahteçilik pornografisinin yayılmasını engellemek için neler yapmayı düşündüğü soruluyor. Tim Cook’a şu sorular yöneltildi:
- Platformunuzda derin sahte pornografinin yayılmasını proaktif olarak ele almak için hangi planlar mevcut ve bu önlemlerin uygulanma takvimi nedir?
- Bu planların geliştirilmesine dahil olan bireyler veya paydaşlar kimlerdir?
- Bir rapor yapıldıktan sonra süreç nasıl işlemektedir ve bu raporların zamanında ele alınmasını sağlamak için hangi gözetim mekanizmaları bulunmaktadır?
- Bir uygulamanın kaldırılması gerektiğine nasıl karar veriliyor?
- Kullanıcıların imajlarının izinsiz bir derin sahte görüntüde bulunduğunu bildirmeleri durumunda hangi çözümler sunulmaktadır?
Apple’ın Sorumluluğu
Apple, App Store’un yöneticisi olarak, mağazasında istenmeyen içeriklerin yer alması durumunda eleştirilmektedir. Geçmişte Apple tarafından kaldırılan uygulamalar, potansiyel kötüye kullanım belirtileri taşıyordu. Örneğin, kullanıcılar Pornhub‘dan videolar alarak yüz değiştirme işlemleri yapabiliyordu.
Apple’ın Alması Gereken Önlemler
Apple, nü veya pornografik görüntüleri oluşturamamakta ve derin sahte web sitelerinde Apple ile Giriş özelliğini iptal etmiştir. Ancak, bu durum, derin sahteciliğe karşı yapılması gerekenlerin yalnızca minimum düzeyde olduğunu göstermektedir. Kongre’nin mektubunda da belirtilenlere göre, Apple’ın uygulama inceleme süreçlerinde daha fazla önlem alması gerekmektedir. Özellikle yapay zeka görüntü ve video manipülasyonu vaat eden uygulamalar için ekstra dikkat gösterilmelidir.