Yapay Zeka ve Çocuk Güvenliği Üzerine Yeni Bir Girişim
Yapay Zeka (YZ) hayatımızın birçok alanında etkisini göstermeye başladı. Teknoloji şirketlerinin YZ’ye yaptığı büyük yatırımlar, çocukların güvenliğini sağlamak konusunda da sorumluluklarını artırıyor. Bu bağlamda, Google, OpenAI, Discord ve Roblox gibi büyük şirketler, çevrimiçi güvenliği artırmak amacıyla yeni bir çocuk güvenliği grubu oluşturdu ve Paris’teki AI Eylem Zirvesi’nde Robust Open Online Safety Tools (ROOST) inisiyatifini başlattı.
ROOST: Çocuklar İçin Güvenli Bir İnternet Oluşturma İnisiyatifi
ROOST, çevrimiçi çocuk güvenliğini artırmayı hedefleyen yeni bir kar amacı gütmeyen kuruluş. Bu çocuk güvenliği grubuna katılan şirketler, ücretsiz açık kaynaklı YZ araçları kullanma imkanı bulacak. Bu araçlar, çocuk cinsel istismar materyallerini (CSAM) tespit etmek, incelemek ve rapor etmek için kullanılabilecek.
Birleşik şirketler tarafından paylaşılan basın bültenine göre, bu inisiyatif, “uzmanlık, kaynaklar ve yatırımları bir araya getirerek” yapay zeka ile ilgili çevrimiçi zararı azaltacak daha erişilebilir ve şeffaf bir güvenlik altyapısı oluşturmayı amaçlıyor. Ayrıca Knight Vakfı, Patrick J. McGovern Vakfı ve AI Collaborative gibi birçok hayır kurumu da bu girişimi destekliyor.
Geçmişteki Zorluklar ve Umutlar
Bu inisiyatifin büyük ortakları arasında Bluesky, Microsoft, Mozilla ve GitHub da yer alıyor. Ancak, bu çocuk güvenliği grubunun hayata geçirdiği girişimin ne kadar etkili olacağını zamanla göreceğiz. Örneğin, Roblox’un platformunu düzenleme konusundaki zayıf geçmişi dikkat çekiyor. Geçtiğimiz yıl, Hindenburg’un raporunda Roblox eleştirilmişti.
Öte yandan, Google çocuk güvenliğini sağlama konusunda önemli adımlar atsa da, YZ tarafından üretilen müstehcen içeriğin dağıtımıyla mücadele etmekte zorlanıyor. Bu nedenle, tek umudumuz, çocuk güvenliği grubunun görevini başarılı bir şekilde yerine getirerek gereken övgüyü almasıdır.
