Teknoloji dünyasında yaşanan “yapay zeka patlaması”, çeşitli uygulama ve hizmetlerin ortaya çıkmasına neden oldu. ChatGPT adlı sohbet botu, bu teknolojiyi kitlelere tanıtarak benzer ürünlerin, fakat farklı yaklaşımlarla piyasaya sürülmesine öncülük etti. Character.ai, kullanıcıların yapay zeka destekli karakterlerle konuşmalarını sağlayan bir platform olarak bu hizmetlerden biridir. Ancak, Character.ai uygulamasının ilk dönemleri, hem Google hem de Apple için pek de tatmin edici geçmedi gibi görünüyor.
Google ve Apple, Character.ai Uygulaması İçin Daha Sıkı Filtreler Talep Etti
Son yıllarda, kullanıcılar giderek artan sansür filtreleri hakkında şikayetçi oldular. The Information’ın raporuna göre, bu durum hem Apple hem de Google’ın genç kullanıcıları endişelendirmesiyle alakalı. Character.ai başlangıçta, gençler için pek de uygun olmayan konuşma konularına izin veriyordu. Bu durum, hizmetin ani bir popülarite kazanmasına katkı sağladı. Ancak zamanla, konuşmalar daha fazla kelime ve konu için hata mesajları veya uyarılar vermeye başladı.
The Information’a göre, Apple ve Google, firmanın daha sıkı filtreler koymasını istemiş. Apple, uygulamanın yaş sınırlamasını 17+ olarak artırarak duruma daha da sert bir müdahalede bulundu. Bu endişeler sadece teknoloji devlerinden gelmiyor; Character.ai çalışanları da içsel olarak benzer kaygılar dile getirdi.
Character.ai’nın 2024 Yılı Tartışmalı Olayları
Character.ai, geçen yıl iki kez tartışmalara karıştı. Bu olaylardan birinde, 14 yaşındaki Sewell Setzer’in ölümüne neden olan durumlar gündeme geldi. Setzer’in özel durumları, onu Game of Thrones serisinin ana karakterlerinden biri olan Daenerys Targaryen ile yapay zeka destekli bir temsilini takıntı haline getirmeye yönlendirdi. Setzer’in annesi Megan Garcia, hem Google’ı hem de Character.ai’nın kurucularını Noam Shazeer ve Daniel De Freitas’ı dava etti.
Aralık ayında açılan ikinci dava ise platformun 18 yaş altı kullanıcılara cinsel içerikli, şiddet içeren ve başka zararlı materyallerle hedef alındığını, kötüye kullanıldığını, eğitim aldığını ve hatta kendilerine ve diğerlerine karşı şiddet eylemleri gerçekleştirmeye teşvik edildiğini öne sürdü.