Geçtiğimiz hafta dünya genelindeki Reddit kullanıcıları, bir grup araştırmacının “Change My View” (Görüşümü Değiştir) alt dizininde AI destekli, insan taklidi yapan botları kullanarak geniş çaplı bir deney gerçekleştirdiğini öğrenince şok oldu. Bu büyük ölçekli deney, yapay zekanın ne kadar ikna edici olabileceğini araştırmak amacıyla yapıldı.
Deneyin Ayrıntıları
Botlar, 1.700’den fazla yorum yayınlayarak, abuse mağdurları veya anti-Black Lives Matter gibi tartışmalı kimlikler benimsediler. Bu durum Reddit için küçük bir kabus oldu. Çünkü Reddit, kullanıcılarının gerçek duygularını paylaştığı ve gerçek görüşlerin ifade edildiği bir platform olarak biliniyor. Yapay zeka tarafından üretilen bu sahte içerikler, Reddit’in bu temel kimliğini tehdit edebileceği gibi, şirketin gelir modelini de zayıflatabilir. Sonuçta, Reddit, içeriklerini OpenAI’ye eğitim amacıyla satıyor.
Reddit’in Cevabı
Şirket, “uygunsuz ve son derece etik dışı bir deney” olarak nitelendirdiği bu durumu kınadı ve deneyin yapıldığı üniversiteye şikayette bulundu. Ancak bu deney, Reddit’te insan kılığına girmiş yapay zeka botlarının ortaya çıkacağı ilk durum olmayacak. Bu tür botlar, bilimsel veya siyasi manipülasyon amacıyla birçok farklı sebeple kullanılmaya devam edebilir.
Reddit, kullanıcıları bot manipülasyonundan korumak ve “Reddit’i insana yönelik” tutmak için yakında önemli adımlar atacağını belirtti. Bu, anonimlik arayışındaki kullanıcılar için hoş karşılanmayacak bir durum olabilir. Reddit CEO’su Steve Huffman, bir gönderide, “bazı üçüncü taraf hizmetleri” ile birlikte çalışarak kullanıcıların insan olup olmadığını doğrulamak amacıyla yeni bir süreç başlatacaklarını duyurdu. Bu, kullanıcıların hesap açmak için neredeyse hiç kişisel bilgi vermedikleri bir platform için önemli bir değişiklik anlamına geliyor.
Kullanıcı Bilgisi ve Gizlilik
Huffman, “Reddit’i insana yönelik tutmak ve gelişen düzenleyici gereklilikleri karşılamak için biraz daha bilgiye ihtiyaç duyacağız,” dedi. “Özellikle, sizlerin insan olup olmadığını veya bazı bölgelerde, eğer yetişkin iseniz bunu bilmemiz gerekiyor. Fakat kesinlikle adınızı veya kim olduğunuzu bilmek istemiyoruz.”
Bir Reddit sözcüsü, şirketin kullanıcıları doğrulama sürecinin ne zaman gerekeceğine dair daha fazla bilgi vermedi. Ancak, Reddit’in “kötü” botları yasaklamak için önlemler aldığını onayladı. Şirketin hangi üçüncü taraf hizmetleri kullanacağı veya kullanıcıların hangi tür kişisel bilgileri paylaşması gerekeceği konusunda da detay vermedi.
Günümüzde birçok şirket, genellikle hükümet tarafından verilen bir kimlik gerektiren, insan ve yaş doğrulaması yapmakta kullanılan doğrulama platformlarına güveniyor. Bu süreçte kullanılan platformlar arasında Persona, Alloy, Stripe Identity, Plaid ve Footprint yer alıyor. Ayrıca, Sam Altman’ın geliştirdiği daha yeni bir teknoloji olan “insan kanıtlama cihazı” gibi spekülatif teknolojiler de bulunuyor.
Anonimlik Üzerine Tartışmalar
ID kontrollerine karşı olanlar, sosyal medya platformları ile kişisel bilgileri paylaşmanın veri gizliliği ve güvenlik riskleri taşıdığına dikkat çekiyor. Bu durum, kullanıcıların bağışladıkları bilgilerin kötüye kullanılabileceği bir ortam oluşturuyor. Örneğin, Reddit’te, adlarının veya kimliklerinin ifşa edilmesi durumunda hiç paylaşamayacakları deneyimlerini paylaşan insanlar için bu durum büyük tehdit oluşturuyor.
Yetkililerin, yasaklı olan konular hakkında gizli görüşmelerde bulunan kullanıcıların kimliklerine ulaşabilmeleri ihtimali düşündürücü. Örneğin, Meta’nın, Nebraska’da bir kadın ile 17 yaşındaki kızının özel konuşmalarını yetkililere teslim etmesi, bu tür sorunların ne kadar ciddi olabileceğini gösteriyor. Bu tür bir uygulama, yanlış kullanıldığında bireylerin hayatını zorlaştırabilir.
Huffman, Reddit’in sadece “gerekli bilgi ve başka hiçbir şey” için dış firmalardan yardım alacağını belirtti. “Adınızı veya kim olduğunuzu öğrenmeyi istemiyoruz” ifadesini de ekledi. Ayrıca, “Anonimlik Reddit için hayati öneme sahiptir,” dedi ve kullanıcı bilgilerini koruma konusundaki kararlılıklarını yineledi.
