MIT’de Etik ve Bilgisayar Bilimleri dersi kapsamında, Profesör Armando Solar-Lezama öğrencilerine sıkça sorguladığı bir soruyu yöneltiyor: “Bir makinenin yalnızca bizim istediklerimizi yapmasını nasıl sağlarız?” Bu soru, günümüzdeki generatif AI altın çağında acil bir önem kazanmış gibi görünse de, Solar-Lezama bu sorunun insanlık tarihi kadar eski bir sorun olduğunu vurguluyor.
Solar-Lezama, mitolojik Kral Midas’ı anlatarak başlıyor. Midas, dokunduğu her şeyi altına dönüştürme gücüne sahip, fakat bu güç sevdiklerini altınlaştırarak kaybetmesine yol açıyor. Solar-Lezama, öğrencilerini bu konuda uyararak, “İstediğinizi istemeden elde etmeye dikkat edin” diyor.
Programlamanın Tarihi
Ders sırasında MIT arşivlerinden görsellerle programlama tarihine ışık tutuyor. 1970’lerdeki Pygmalion makinesi ve 1990’larda bir yazılım geliştirmek için ipuçları üzerinde yıllarca çalışan mühendisler hakkında bilgiler veriyor. Bu yöntemler, kullanıcıya ulaşmakta yavaş kaldığı gibi, spontane keşif ve yeniliğe de alan bırakmıyordu.
Günümüzdeki makinelerin programcıların sınırlarını göz ardı etme risklerinden bahseden Solar-Lezama, bu makinelerin hem hayat kurtarabileceğini hem de zarar verebileceğini vurguladı. Titus Roesler, o sırada yapay zeka ve otonom araçların etik sorumlulukları üzerine çalışıyor, bu tür karmaşık soruları sorgulamayı öğreniyor.
Teknik ve Felsefi Uzmanlık Gerektiren Bir Ders
İlk kez 2024 Sonbaharında verilecek olan bu ders, MIT Schwarzman Bilgisayar Koleji‘nce oluşturulan Ortak Temel Bilgisayar Eğitimi girişimi ile hayata geçirildi. Bu girişim, farklı bölümleri bir araya getirerek bilgisayarla diğer disiplinleri birleştiren yeni dersler geliştiriyor.
Dersin eğitmenleri, felsefe profesörü Brad Skow ve Solar-Lezama, felsefi ve teknik bakış açılarını bir araya getirerek daha derin tartışmalar yürütüyor. Skow, dersin yalnızca öğrencilere doğru veya yanlış yapmayı öğretmekten öte, daha derin düşünmeyi teşvik ettiğini belirtiyor.
Etik Sorular ve Gelecek
Dersin başlangıcında, yapay zekanın insanlık için varoluşsal bir risk teşkil edip etmediği üzerine tartışmalar yapılıyor. Öğrenciler, yapay zekanın geleceği ve etik sorunlar hakkında çeşitli sorgulamalar yapma fırsatı buluyor. Alek Westover, yapay zekaların insanlara benzer işlevler üstlenmesi durumunda, bu makinelerin haklarının nasıl olacağı gibi düşünce deneyleri üzerinde duruyor.
Daha sonra Caitlin Ogoe, AI sistemlerinin önyargılar üzerine etkisi ve özellikle COMPAS yazılımı üzerinden yapay zeka tartışmalarına dahil oluyor. Skow, derste iki farklı adalet teorisini tanımlayarak, adaletin özgüllüğü ve süreç adaletinin kapsamlarını inceliyor.
Solar-Lezama bu derste öğrencilere, şekillenen tartışmaları daha derin ve dikkatli bir değerlendirme ile ele alma yöntemini öğretmeyi hedefliyor. “Belki beş yıl sonra insanlar AI’nın oluşturduğu varoluşsal risk tartışmalarına gülerek bakacak,” diyor Solar-Lezama. Ancak amaç, medyanın sunduğu basit sohbetlerin ötesine geçmek ve bu derin sorunları ele almaktır.