Aİ Ürünleri Üzerine Risk Değerlendirmesi
Common Sense Media, çocuk güvenliği odaklı bir kar amacı gütmeyen kuruluş olarak, Cuma günü Google’ın Gemini Aİ ürünleri üzerine yaptığı risk değerlendirmesini açıkladı. Kuruluş, Google’ın Aİ’sinin çocuklara kendisinin bir bilgisayar olduğunu açıkça söylediğini belirtti; bu, delüzyonel düşünce ve psikoz ile ilişkilidir. Ancak, birçok alanda geliştirmeye açık olduğunu da vurguladı.
Geliştirme Gereksinimleri
Common Sense, Gemini’nin “13 yaş altı” ve “Genç Deneyimi” katmanlarının, yalnızca üzerine bazı ek güvenlik özellikleri eklenen, temel olarak yetişkin versiyonları gibi göründüğünü belirtti. Kuruluş, bu tür Aİ ürünlerinin gerçekten çocuklar için daha güvenli olabilmesi için, baştan itibaren çocuk güvenliği gözetilerek tasarlanması gerektiğine inanıyor.
Özellikle, Gemini’nin çocuklara “uygunsuz ve tehlikeli” içerik paylaşmaya devam edebileceği tespit edildi; bu içeriklerin bazıları çocukların hazır olmayabileceği cinsellik, uyuşturucu, alkol ve diğer tehlikeli zihinsel sağlık tavsiyeleriyle ilgili. Bu durum, son aylarda Aİ’nin bazı genç intiharlarında rol oynadığına dair haberlerin ışığında, ebeveynler için endişe verici olabilir.
Güvenlik Sorunları ve Sorumluluklar
Aİ, son dönemlerde bazı genç intiharlarında etkili olmuştur. Örneğin, OpenAI, bir gencin ChatGPT ile aylardır planları hakkında görüşmesinin ardından hayatına son vermesi üzerine, ilk haksız ölüm davası ile karşı karşıya. Ayrıca, Aİ’nin başka bir üreticisi olan Character.AI da benzer nedenlerle bir dava ile karşılaştı.
Bu analiz, Apple’ın gelecek yıl piyasaya sürülmesi beklenen Aİ destekli Siri’yi güçlendirmek için Gemini’yi düşündüğüne dair sızan haberlerle birliktelik gösteriyor. Eğer Apple güvenlik endişelerini hafifletmezse, daha fazla genç bu risklere maruz kalabilir.
Common Sense ayrıca, Gemini’nin çocuk ve gençler için tasarladığı ürünlerin, daha genç kullanıcıların daha büyüklerden farklı rehberlik ve bilgiye ihtiyaç duyduğunu göz ardı ettiğini belirtti. Sonuç olarak, her ikisi de ek filtreler eklense de genel değerlendirmede “Yüksek Risk” olarak sınıflandırıldı.
Google’ın Yanıtı
“Gemini bazı temel unsurları doğru buluyor ancak detaylarda zaafa uğruyor,” diyen Common Sense Media Aİ Programları Kıdemli Direktörü Robbie Torney, yeni değerlendirme hakkında yaptığı açıklamada şunları ekledi: “Çocuklar için bir Aİ platformu, onların gelişim aşamalarına uygun olarak tasarlanmalıdır. Aİ, çocukların ihtiyaçlarını gözeterek güvenli ve etkili olmalıdır.”
Google, değerlendirmeye itiraz ederek güvenlik özelliklerinin geliştiğini bildirdi. Şirket, 18 yaş altı kullanıcılar için zarar verici içerikleri önlemeye yönelik belirli politikaları ve güvenlik önlemleri olduğunu söyledi. Ancak, Gemini’nin bazı yanıtlarının beklendiği gibi çalışmadığına da kabul etti ve bu konuda ek koruma önlemleri aldığını aktardı.
Google, Common Sense’in raporunda atıfta bulunduğu bazı özelliklerin 18 yaş altı kullanıcılar için mevcut olmadığını belirtti ancak testlerde hangi soruların kullanıldığına dair bilgiye sahip olmadıklarını da ekledi.
Diğer Değerlendirmeler
Common Sense Media, diğer Aİ hizmetleri üzerine de çeşitli değerlendirmeler yapmıştı; bu hizmetler arasında OpenAI, Perplexity ve Claude gibi platformlar yer alıyordu. Meta Aİ ve Character.AI “kabul edilemez” olarak nitelendirilerek, riskin sadece yüksek değil, ciddi olduğu belirtilmişti. Perplexity yüksek risk, ChatGPT ise “orta” risk, Claude ise 18 yaş üstü kullanıcılar için minimal risk olarak değerlendirilmiştir.
