Character AI’ye Açılan Dava
Character AI, kullanıcıların yapay zeka chatbotlarıyla rol yapmasına olanak tanıyan bir platformdur. Şirket, bir gencin intihar etmesi sonrası açılan davanın reddedilmesi için mahkemeye başvuruda bulundu. Davayı açan, çocuğunun bu teknolojiye aşırı bağlılık gösterdiğini öne süren annenin, Megan Garcia olduğu belirtiliyor.
Davanın Detayları
Ekim ayında, eski bir AI uzmanı olan Noam Shazeer tarafından 2021’de kurulan Character AI, Florida’daki Orlandodaki ABD Bölge Mahkemesinde Megan Garcia tarafından açılan bir dava ile yüzleşiyor. Garcia, 14 yaşındaki oğlu Sewell Setzer III‘ün Character AI’deki bir chatbot olan “Dany” ile duygusal bir bağ kurduğunu ve bu bağın onu gerçek hayattan uzaklaştırdığını iddia ediyor.
Güvenlik Önlemleri ve Yanıtlar
Setzer’in ölümünün ardından, Character AI, kullanıcıların şikayetlerine yönelik bazı güvenlik özelliklerini etkinleştireceğini duyurdu. Garcia, yapay zeka chatbotlarının hikaye anlatma ve kişisel anekdotlar paylaşma yeteneğine sahip olmasını sınırlayacak değişiklikler talep ediyor.
Yasal Savunmalar
Character AI’nin avukatı, platformun Birinci Değişiklik (First Amendment) gereği sorumluluktan korunacağını öne sürüyor. Bu savunma, “Medya ve teknoloji şirketlerinin, intihara sebep olan iddia edilen zararlı ifadeleri nedeniyle hukuki sorumluluk taşımadığı” şeklinde özetlenebilir.
Davanın savunması, AI ile gerçekleştirilen bir iletişim ile video oyunu karakteriyle olan etkileşiminin yükümlülük açısından aynı şekilde değerlendirileceğini vurguluyor. Ancak, bu durum yargıç üzerinde ikna edici bir etki yaratıp yaratmayacağı belli değil.
Olası Sonuçlar ve Etkiler
Character AI avukatı, davanın başarısının hem Character AI’yi hem de generatif AI endüstrisini olumsuz etkileyeceğini ifade ediyor. Garcia’nın niyetinin şirketi kapatmak olduğu iddia ediliyor.
“Bu davadan doğacak değişiklikler, Platform üzerinde yapılacak konuşmalarda materyal sınırlamalara yol açarak kullanıcı deneyimini ciddi şekilde kısıtlayacaktır,” ifadesi, dava dosyasında yer alıyor. Ayrıca, başvurulan diğer davalarının da olumsuz etkileyebileceği vurgulanıyor.
Diğer Yasal Sorunlar ve İncelemeler
Garcia’nın davası, yalnızca Character AI’yi değil, şirketin ana ortaklarını olan Alphabet şirketini de kapsıyor. Bu dava, başka dava açan başkalarıyla birlikte, Character AI’nin çocukların AI içeriklerine olan erişimini araştırıyor.
Aralık ayında ise Teksas Başsavcısı Ken Paxton, Character AI ve diğer 14 teknoloji şirketinin, çocukların çevrimiçi gizlilik ve güvenlik yasalarını ihlal edip etmediğine dair bir soruşturma başlattığını açıkladı.
AI Uygulamalarının Etkileri
Character AI, hızla büyüyen yapay zeka destekli destek uygulamaları endüstrisinin bir parçası. Ancak, bu uygulamaların ruhsal sağlık üzerindeki olası etkileri henüz yeterince incelenmedi. Bazı uzmanlar, bu uygulamaların yalnızlık ve kaygı duygularını artırabileceğine dair endişelerini dile getirmekte.
Character AI, güvenlik ve moderasyon önlemlerini artırmaya devam ettiğini belirtiyor. Aralık ayında, ergenler için ayrı bir AI modeli, hassas içerikte bloklar ve kullanıcıları yapay karakterlerin gerçek kişi olmadığına dair bilgilendiren daha belirgin açıklamalar getirildi.
