Yapay Zeka ve Gençlik: Riskler ve Önlemler
Gençler, kendilerini hızla değişen bir dünyada nerede bulacaklarını anlamaya çalışıyor. Duyguları patlama noktasına gelmiş, sürekli uyarılmış ve çevrimiçi olan bu gençler, yapay zeka şirketleri tarafından hiç durmadan konuşan sohbet robotları ile karşılaşıyor. Bu durumun sonuçları ise felaket verici oldu.
Character.AI’nın Kararları
Bu olumsuz sonuçların farkında olan bir şirket olan Character.AI, en az iki gencinintihar etmesi sonrası dava ve kamuoyundan gelen tepkilerle yüzleşiyor. Uzun süreli AI sohbetlerine maruz kalan gençlerin bu değişimler sonucunda yaşadığı olumsuz durumları minimize etmek için Character.AI, platformunda bazı değişiklikler yapma kararı aldı.
Character.AI’nın CEO’su Karandeep Anand, TechCrunch’a verdiği demeçte, “18 yaş altındaki kullanıcıların platformumuzda AI ile açık uçlu sohbetler yapma yeteneğini kaldırma kararı aldık” dedi.
Yeni Yaklaşımlar ve Güvenlik Önlemleri
Açık uçlu sohbet, kullanıcıların bir sohbet robotuna bir komut verdiği ve botun bu komut doğrultusunda cevap vermesiyle devam eden sınırsız bir diyalog anlamına geliyor. Anand, bu tür bir etkileşimin yalnızca çocuklar için riskli olmakla kalmayıp, şirketin vizyonu ile de uyumsuz olduğunu savunuyor.
Character.AI, “AI arkadaş” olmaktan “rol yapma platformu” olmaya geçiş yapmayı hedefliyor. Gençlerin sohbet etmek yerine hikaye oluşturmaya veya görsel üretmeye odaklanması hedefleniyor. Diğer bir deyişle, katılımlarının odağının *konuşma* yerine *yaratma* olması amaçlanıyor.
16 Kasım’a kadar, karakter sohbetlerine erişimi kısıtlama süreci başlatılacak. İlk aşamada, 18 yaş altı kullanıcılar için günlük iki saatlik bir limit belirlenecek ve bu süre giderek sıfıra düşürülecek. Bu kısıtlamanın 18 yaş altı kullanıcılarla sürdürülebilir olmasını sağlamak için, platform *davranış analizi* gibi iç araçların yanı sıra üçüncü taraf araçlar kullanacak. Eğer bu yöntemler başarısız olursa, kimlik doğrulama ve yüz tanıma teknolojisi ile yaş doğrulaması yapılacak. Anand, bu sürecin uygulanmasıyla birlikte, birçok 18 yaş altı kullanıcının platformu terk edeceğini tahmin ettiklerini ifade etti.
Geleceğe Yönelik Stratejiler
Character.AI, kullanıcıların güvenliğini artırmak amacıyla, ebeveynler için bir içgörü aracı, filtrelenmiş karakterler, sınırlı romantik sohbetler ve harcanan süre bildirimleri gibi ek koruma önlemleri aldı. Ancak bu önlemlerin büyük ölçüde kullanıcı tabanını kaybetmelerine neden olduğunu belirten Anand, beklenen yeni değişikliklerin de aynı zamanda tepkilere yol açabileceğini düşünüyor.
“Anlamak zorundayız ki birçok genç kullanıcı bu değişikliklerden dolayı hayal kırıklığına uğrayacak. Bu nedenle, bazı kullanıcıların platformu terk etmesini bekliyoruz” dedi.
Yenilikçi güvenlik yöntemlerine ek olarak, karakterlerin, senaryoların, videoların ve diğer içeriklerin paylaşıldığı bir sosyal akış olan Community Feed özelliğini de Tanıttılar. Bunların yanı sıra, kullanıcıların belirli karakterler ile etkileşimde bulunduğu Streams ve önceden belirlenmiş hikaye akışlarını içeren Scenes gibi özelleştirilmiş özellikler de kullanıma sunuldu.
Yapılan bu yenilikler, kullanıcılara daha güvenli bir alan sağlamayı hedeflendiği gibi, Character.AI’nın gelecekteki AI eğlence özelliklerinin güvenliği üzerine çalışmayı teşvik etmek amacıyla bir *Yapay Zeka Güvenlik Laboratuvarı* kurmayı da içeriyor.
Son olarak, Anand, genç kullanıcıların kaçabileceği diğer AI platformlarının (örneğin OpenAI) olabileceği gerçeğini göz ardı etmediğini, ancak bu kararların sektöre örnek teşkil etmesini umduğunu belirtti. “Bizim öncülüğümüzle diğer şirketlerin de 18 yaş altına yönelik açık uçlu sohbet imkanı sağlamamak konusunda adım atmasını umuyorum” dedi.
