Meta, AI-Üretilen Cinsel İçeriklerle İlgili Politikalarını Düzenlemek Üzerine Uyarıldı
Meta’nın AI tarafından üretilen açıkça cinsel içeriklerle nasıl başa çıktığını inceleyen sonuçlardan sonra, şirketin yarı bağımsız gözlemci kurulu olan Denetim Kurulu, şirketi bu tür içeriklere ilişkin politikalarını yeniden şekillendirmesi konusunda uyarıyor. Kurul, Meta’nın kullandığı terminolojiyi “hakaret içeren” yerine “onaysız” olarak değiştirmesini istiyor ve bu tür içeriklerle ilgili politikalarını “Takip ve Taciz” bölümünden “Cinsel Sömürü Topluluk Standartları” bölümüne taşımasını istiyor.
Şu anda, Meta’nın AI tarafından üretilen açıkça cinsel içeriklerle ilgili politikaları, “hakaret içeren cinselleştirilmiş Photoshop” kuralından “Takip ve Taciz” bölümünde ayrılıyor. Kurul aynı zamanda Meta’nın “Photoshop” kelimesini manipüle edilmiş medya için genelleştirilmiş bir terimle değiştirmesini önerdi.
Ayrıca, Meta, onaysız görüntüleri yasaklıyor ancak bu görüntüler “ticari olmayan veya özel bir ortamda üretilmişse.” Kurul, bu maddeyi AI tarafından üretilen veya izinsiz olarak manipüle edilen görüntüleri kaldırmak veya yasaklamak için zorunlu olmamalıdır şeklinde ifade etti.
Bu öneriler, Instagram ve Facebook’ta Meta’yı zor durumda bırakan iki yüksek profilli vakayı izleyen bir zamanda geliyor.
Bu vakalardan biri, Instagram’da yayınlanan bir Hint halk figürünün AI tarafından üretilmiş çıplak bir görüntüsünü içeriyordu. Birçok kullanıcı görüntüyü bildirdi ancak Meta, görüntüyü kaldırmadı ve aslında 48 saat içinde hiçbir inceleme yapılmadan biletini kapattı. Kullanıcılar bu karara itiraz etti ancak bilet tekrar kapatıldı. Şirket, sadece Denetim Kurulu vaka ile ilgilendiğinde, içeriği kaldırdı ve hesabı yasakladı.
Diğer AI üretimi görüntü, ABD’den bir halk figürünü andırıyordu ve Facebook’ta yayınlandı. Meta, medya raporları nedeniyle resmin zaten Media Eşleme Servisi (MMS) deposuna (hizmet şartlarını ihlal eden görüntülerin tespit edilmesi için kullanılabilen bir görüntü bankası) eklemişti ve başka bir kullanıcı resmi Facebook’ta yüklediğinde hızla resmi kaldırdı.
Özellikle, Meta, Hint halk figürünün görüntüsünü MMS bankasına Denetim Kurulu ısrar etmeden önce eklemişti. Şirket, konu hakkında medya raporu olmadığı için resmin deposunda olmadığını Kurula söylemişti.
“Bu endişe verici çünkü deepfake mahrem görüntülerin birçok mağduru kamunun dikkatini çekmeyebilir ve onlara karşı yapılan izinsiz görüntülerin yayılmasını kabul etmek zorunda kalabilir ya da her örneği rapor etmek zorunda kalabilirler,” Kurul notunda belirtti.
Online cinsiyet temelli şiddeti azaltmayı hedefleyen Hintli bir kuruluş olan Breakthrough Trust, bu konuların ve Meta’nın politikalarının kültürel sonuçları olduğunu belirtti. Denetim Kuruluna sunulan yorumlarda, Breakthrough, onaysız görüntülemenin genellikle kimlik hırsızlığı sorunu olarak küçümsendiğini ve cinsiyet temelli şiddet olarak değerlendirilmediğini belirtti.
“Mağdurlar genellikle polis karakollarında/mahkemelerde bu tür vakaları bildirmekle karşı karşıya kalır (resminizi neden yayınladınız vs. gibi, hatta gerçek resimlerinden herhangi birini paylaşmadıklarında bile söyledikleri gibi). İnternette bir kez yayınlandığında, görüntü kaynak platformdan hızla çıkar ve yalnızca kaynak platformda kaldırılmak yetersizdir çünkü hızla diğer platformlara yayılır,” kuruluşun medya başkanı Barsha Chakraborty, Denetim Kuruluna yazdı.
Chakraborty, kullanıcıların bildirimlerinin otomatik olarak 48 saat içinde “çözüldü” olarak işaretlendiğini ve Meta’nın tüm vakalar için aynı zaman çizelgesini uygulamaması gerektiğini belirtti. Ayrıca, şirketin bu konular hakkında daha fazla kullanıcı farkındalığı oluşturmak üzerine çalışması gerektiğini önerdi.
Daha önce Meta’nın Güney Asya politika ekibinde çalışan platform politika uzmanı Devika Malik, platformların genellikle onaysız görüntüleri kaldırmak için kullanıcı bildirimlerine güvendiğini ancak AI tarafından üretilen medya ile mücadelede bu güvenilir bir yaklaşım olmayabileceğini söyledi.
“Bu, etkilenen kullanıcının kimliğini ve onay eksikliğini kanıtlama yükünü taşıması gerektiği anlamına geliyor (Meta’nın politikasında olduğu gibi). Bu, sentetik medya söz konusu olduğunda daha hatalı hale gelebilir ve diyelim ki, dış sinyalleri yakalamak ve doğrulamak için gereken süre, içeriğin zararlı bir şekilde yayılmasını sağlar,” Malik dedi.
Delhi merkezli düşünce kuruluşu The Quantum Hub’ın kurucu ortağı Aparajita Bharti, Meta’nın kullanıcıların içerik bildirirken daha fazla bağlam sağlamasına izin vermesi gerektiğini belirtti, çünkü kullanıcıların Meta’nın politikalarındaki farklı kural ihlali kategorilerinden haberdar olmayabileceğini söyledi.
“Umuyoruz ki Meta, Denetim Kurulu’nun son kararının ötesine geçecek, esnek ve kullanıcı odaklı kanalların bu tür içerikleri bildirme imkanı sağlamak için çalışacak,”
“Kullanıcıların farklı bildirim kategorileri arasındaki ayrıntılı farklılıkları mükem
