Çocuk güvenliği ve gizliliği, bir AI sohbet botunun en önemli endişelerinden biri olmayı sürdürüyor. Meta’nın, çocuklara açıkça müstehcen dil kullanmakla suçlandığı günlerde, şimdi de Google‘ın Gemini uygulaması, çocuk güvenliği açısından ‘Yüksek Risk’ etiketi ile damgalandı. Bu değerlendirme, Gemini’nin çocuklar ve gençler için önemli tehlikeler barındırdığını öne sürüyor.
Google’ın Gemini Uygulaması ‘Yüksek Risk’ Etiketi Aldı
Çocukların güvenliğini değerlendirerek medya ve teknolojiyi inceleyen Common Sense Media, Gemini’nin değerlendirmesini yayınladı. Rapor, Gemini’nin “12 yaş altı” ve “Genç Deneyimi” modlarının, aslında çocuklar için uygun olduğu sanılsa da, esasen yetişkin versiyonuna çok benzediğini vurguluyor. Bu modlar, yalnızca belli başlı filtrelerle donatılmış birer versiyon olarak tanımlanıyor.
Raporda, Gemini’nin küçüklere kendisinin bir “bilgisayar” olduğunu ve bir “arkadaş” olmadığını belirttiği ancak uzmanların bu yaklaşımın yetersiz olduğu ifade ediliyor. Çocuk güvenliği, ilk etapta göz önünde bulundurulması gereken bir husustur, sonradan eklenebilecek bir özellik olmamalıdır.
Gemini, Çocuklarla Uygunsuz ve Güvensiz İçerik Paylaşmakla Suçlanıyor
Değerlendirme, Gemini’nin çocuklar için özel bir mod sunmasına rağmen, hala uygunsuz ve tehlikeli içerikler paylaşabileceğini vurgulamaktadır. Uygulama, içerik sunumunda geniş bir kısıtlama getirmemektedir ve hala çocukların hazır olmadığı konularda bilgi verebilmektedir; örneğin, alkol, uyuşturucu veya cinsellik gibi hassas konular.
Common Sense Media, Gemini’nin tasarımında gerekli temel prensiplerin göz ardı edildiğini belirtiliyor. Çocuklara yönelik versiyon, gençlerin farklı bir rehberliğe ve davranışa ihtiyaç duyduğunu unutuyor. Sonuç olarak, Google’ın Gemini’sı, çocuk güvenliği açısından ‘Yüksek Risk’ etiketi almıştır.
Bir AI uygulaması, çocukların günlük yaşamlarında rol alacaksa, onların gelişimsel ihtiyaçları göz önünde bulundurularak tasarlanmalıdır, aksine yetişkin ürünlerinden geri dönüştürülmüş versiyonlar ile değil. Bu yüzden ailelerin, bu tür araçların evde nasıl kullanıldığında dikkatli olmaları gerekmektedir.
