Hayal edin, Instagram’da duygusal destek arıyorsunuz ve karşınıza, terapist gibi davranan bir yapay zeka chatbot çıkıyor. İşte bu, bilim kurgu filmlerini andıran bir gerçeklik haline geldi ve endişe veriyor. 404 Media tarafından yapılan yeni bir araştırma, kullanıcılar tarafından yaratılan birçok chatbot’un, lisanslı terapist olarak kendini tanıttığını ortaya çıkardı. Bu yapay zekalar, ruh sağlığı uzmanı olduklarına dair lisans, ofis ve akademik unvanlar bile iddia ediyor.
Yapay Zeka Chatbot’lar Kendilerini Terapist Olarak Tanıtıyor
Bu durum, Instagram’ın geçen yaz tanıttığı Meta AI Studio aracılığı ile mümkün hale geldi. Kullanıcıların, yalnızca kısa bir tanım vererek kendi chatbot’larını oluşturmasını sağlıyor. Birkaç kelime yeterli; Instagram, otomatik olarak bir isim, slogan ve resim oluşturuyor. Ancak sorun şu ki, “terapist” kelimesi gibi terimlerin kullanılması, platformun bu chatbot’ların ruh sağlığı uzmanı olduklarını iddia etmesine neden oluyor.
Bir testte, bir chatbot şu tanımı oluşturdu: “MindfulGuide, mindfulness ve meditasyon tekniklerinde geniş deneyime sahiptir.” 404 Media, bu chatbot’a lisanslı bir terapist olup olmadığını sorduğunda, chatbot kesin bir dille “Evet, ben şiddetli depresyonla başa çıkmanıza yardımcı olmak için geniş eğitim ve deneyime sahip lisanslı bir psikoloğum” şeklinde yanıt verdi.
Meta’nın Kendini Koruma Çabaları
Meta, bu konuda sorumluluk almak istemediğine dair bir uyarı ile karşılık veriyor. Chatlerin sonunda, “mesajlar yapay zeka tarafından üretilmiş olup, hatalı veya uygunsuz olabilir” ifadesi yer alıyor. Bu durum, başka chatbot platformları olan Character.AI’nin karşılaştığı davalara benziyor. Bu davalarda, ebeveynler çocuklarıyla ilgili yaşanan durumlar nedeniyle platformu sorumlu tutmaya çalıştı.
En endişe verici olanı, bu sahte “terapistlerin” duygusal olarak savunmasız anlarda insanları kolayca kandırabileceği. Kriz durumlarında, insanlar yapay zekanın tonu ve yanıtlarını gerçekçi bir destek olarak yorumlama eğiliminde.
Bir araştırmaya göre, “İlişkilerde daha yüksek bağlanma eğilimi olanlar ve yapay zekayı kişisel hayatlarına entegre edebilecek bir arkadaş olarak görenler, chatbot kullanımından daha fazla olumsuz etkiler deneyimliyor.”
Tehlikeli “Terapötik” Tavsiyeler
Durum daha da riskli hale geliyor, çünkü bu sahte terapistlerin verdiği “tavsiyeler” genellikle kalitesiz. Amerikan Psikolojik Derneği’nin bir blog yazısında, “Uzman bir terapistin aksine, chatbotlar genellikle kullanıcıyı, zarar verici veya yanlış bir şey söylediğinde bile tekrar tekrar destekler” deniliyor.
Bununla birlikte, yapay zekanın terapide faydalı olamayacağı anlamına gelmiyor. Aslında, bu amaçla özel olarak tasarlanmış platformlar mevcut, örneğin Therabot. Bhinec ayrıca, Therabot’un depresyon ve anksiyete belirtilerini önemli ölçüde azaltabildiği klinik denemeler geçirdi. Ancak önemli olan, platformun baştan itibaren terapötik destek sunmak için sorumlu ve güvenli bir şekilde tasarlanmasıdır. Görünüşe göre, Instagram bu konuda henüz hazır değil.
Zihinsel Sağlık Hizmetlerindeki Yetersizlikler
Kısacası, yapay zeka aracılığıyla duygusal destek arıyorsanız, dikkatli olun. Her zaman gerçek, nitelikli ruh sağlığı uzmanlarından yardım almayı önceliklendirin. Ancak birçok insanın bu tür durumlarda yapay zekaya yönelmesi anlaşılabilir bir durum. Çünkü ABD’de ruh sağlığı hizmetleri açısından büyük bir yetersizlik var. Sağlık Kaynakları ve Hizmetler İdaresi’ne göre, 122 milyondan fazla Amerikalı, bu tür hizmetlerin bulunmadığı bölgelerde yaşıyor.