SON DAKİKA

Öne Çıkanlar

Kötü niyetli deepfake’lerden çocukları koruyan Dr. Rebecca Portnoff

TechCrunch’ın Kadınlar ve Yapay Zeka serisine devam ediyoruz. Bu seride AI odaklı kadın akademisyenlere ve diğer profesyonellere hak ettikleri – ve gecikmiş olan – ilgiyi vermeyi amaçlıyoruz. Bu kapsamda, TechCrunch Dr. Rebecca Portnoff ile röportaj yaptı. Portnoff, çocukları cinsel istismardan korumak için teknoloji geliştiren kâr amacı gütmeyen Thorn’da veri bilimi başkan yardımcısı olarak görev yapıyor.

Princeton Üniversitesi’nde öğrenim gördükten sonra Kaliforniya Üniversitesi, Berkeley’den bilgisayar bilimi alanında doktora derecesini aldı. 2016 yılından beri çalıştığı Thorn’da zorlu yollardan geçerek yükseldi. Gönüllü araştırma bilimcisi olarak başladığı işte şu anda çocukları cinsel istismardan korumak, önlemek ve savunmak amacıyla makine öğrenimi ve yapay zeka geliştirmeye adanmış dünyadaki belki de tek ekip liderliğini yapıyor.

Çocukları Koruma Misyonu

Thorn’da Portnoff’un ekibi, kurbanları tanımlamaya, yeniden mağduriyeti önlemeye ve cinsel istismar materyalinin viral yayılmasını engellemeye yardımcı oluyor. Geçen yıl, Thorn ve All Tech Is Human’ın birlikte yürüttüğü Safety by Design girişimini yönetti. Bu girişim, insanları generatif yapay zekayı kullanarak çocuklara karşı cinsel zarar vermekten alıkoymayı amaçlıyor.

“Bu, genel olarak AI tarafından karşı karşıya olduğumuz en acil sorunlardan biridir. Her 10 çocuktan biri, yaşıtlarının başka çocuklar hakkında çıplak görüntüler oluşturduğunu bildirdi,” dedi.

“Bu gerçeklikte yaşamak zorunda değiliz ve bu noktaya gelmesine izin vermek kabul edilemez,” diye ekledi. Ancak, bu tür kötüye kullanımların önlenmesi için alınabilecek önlemler olduğunu belirtti. Thorn, örneğin, teknoloji şirketlerinin güvenliğe yönelik tasarım ilkelerini ve önlemleri benimsemesini, generatif yapay zeka teknolojilerinin ve ürünlerinin çocuk cinsel istismarını ilerletmedeki kötüye kullanımını nasıl engellediklerini kamuoyuyla paylaşmalarını ve bu konuda ilerlemeyi denetleyebilecek standartların belirlenmesine yardımcı olmak için Mesleki Organizasyonlar Enstitüsü (IEEE) ve Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) gibi profesyonel kuruluşlarla işbirliği yapmayı savunuyor.

AI Çalışanı Olarak Çalışmak

Portnoff, AI alanında yükselirken insanların tavsiyelerini göz ardı ettiğini ve teknik bir geçmişi olan biriyle konuşmak istediklerini hatırlıyor. “Yanıtım? ‘Endişelenmeyin, teknik bir geçmişi olan biriyle konuşuyorsunuz,’” dedi.

Çalışırken erkek egemen bir alanda nasıl geçinmeye yardımcı olduğunu hatırlıyor: hazırlıklı olmak, kendine güvenle hareket etmek ve iyi niyetli davranmak. Hazırlıklı olmak, daha fazla özgüvenle odalara girmesine yardımcı olurken, özgüven ona meydan okumalarla merak ve cesaretle başa çıkmasına izin verir. “İyi niyetli davranmanın, meydan okumalara savunmacılık yerine naziklikle yaklaşmama yardımcı olduğunu” söyledi.

AI’ın etik bir şekilde oluşturulması gere

Düşüncenizi Paylaşın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

İlgili Teknoloji Haberleri