Yapay Zeka (YZ) sistemleri artık güvenlik açısından kritik olan sağlık durumlarında kullanılmaktadır. Ancak bu modeller bazen yanlış bilgiler hayal edebilir, önyargılı tahminlerde bulunabilir veya beklenmedik nedenlerden dolayı başarısız olabilir, bu da hastalar ve sağlık uzmanları için ciddi sonuçlara yol açabilir.
YZ Sistemlerinde Sorumlu Kullanım Etiketleri Neden Gereklidir?
Soru: Sağlık alanında YZ sistemleri için sorumlu kullanım etiketlerine neden ihtiyaç duyuyoruz?
Cevap: Sağlık alanındaki bir durumda, doktorlar genellikle tam olarak anlaşılamayan teknoloji veya tedavileri kullanırlar. Bunun sebebi bazen temel bir eksiklik olabilir – örneğin asetaminofen mekanizması – ancak diğer zamanlarda bu sadece bir uzmanlık sınırı olabilir. Teknik olarak bir MRI makinesini nasıl onaracaklarını doktorlardan beklemeyiz. Bunun yerine, FDA veya diğer federal ajanslar aracılığıyla belirli bir aygıtın veya ilacın belirli bir ortamda kullanımını sertifikalayan bir onaylama sistemimiz vardır.
YZ İçin Sorumlu Kullanım Etiketi Hangi Bilgileri Vermelidir?
Soru: YZ için sorumlu kullanım etiketi, reçete etiketlerini oluşturmak için FDA yaklaşımını takip ederek, onaylanmış kullanım, içerikler, potansiyel yan etkiler vb. hangi temel bilgileri iletmelidir?
Cevap: Etiketin açıkça işaret etmesi gereken şeyler, bir modelin amaçlanan kullanımının zamanı, yeri ve şeklidir. Örneğin, modellerin belirli bir zamanda ve belirli bir veri zamanından eğitildiğini kullanıcı bilmelidir. Örneğin, Covid-19 pandemisini içeren veya içermeyen veriyi kullandı mı? Covid sırasında çok farklı sağlık uygulamaları vardı ki bu, veriyi etkileyebilir. Bu yüzden model “içerikleri” ve “tamamlanmış çalışmaları” açıklanmalıdır.