Yapay zeka (YZ) ajanları, iPhone’unuzda sizin adınıza bazı işlemleri yapmayı öğreniyor, ancak Apple araştırmacıları bu süreçte nasıl durmaları gerektiğini öğretmek istiyor.
Yapay Zekanın Mobil Cihazlardaki Rolü
Apple ve Washington Üniversitesi’nden yapılan yeni bir araştırma, YZ’nin akıllı telefonlardaki eylemlerinin sonuçlarını anlaması gerektiğini inceliyor. YZ sistemleri, uygulamaları yönetmek, formları doldurmak, alışveriş yapmak veya ayarları değiştirmek gibi günlük görevlerde giderek daha iyi hale geliyor. Bu sistemler, çoğu zaman bizim doğrudan müdahalemize ihtiyaç duymadan çalışabiliyor.
Yapay Zeka ile Geleceği Şekillendirmek
Özellikle, YZ’nin gelecekteki büyük güncellemesinin bir kısmı olan “Büyük Siri Güncellemesi” 2026’da piyasaya sürülecek. Apple, WWDC 2024 anahtar tesliminde, Siri’nin hangi noktalara ulaşmasını istediğini gösterdi. Siri, kullanıcıların adına işlem yapabilme yetisine sahip olacak. Örneğin, bir etkinlik için bilet satın alma işlemini gerçekleştirecek. Ancak bu tür otomasyonların getirdiği bazı ciddi sorular da var: Eğer bir YZ “Hesabı Sil” butonuna tıklarsa ne olur?
Mobil Kullanıcı Arayüzü Otomasyonunun Önemi
Mobil cihazlarımız, banka uygulamaları, sağlık kayıtları, fotoğraflar ve özel mesajlar gibi kişisel bilgilerimizi barındırıyor. Dolayısıyla, bizim adımıza hareket eden bir YZ’nin hangi eylemlerin zararsız, hangilerinin ise kalıcı veya riskli sonuçlar doğuracağını bilmesi gerekiyor. Kullanıcılar, YZ sistemlerinin durup onay almalarını bekledikleri sistemlere ihtiyaç duyuyorlar.
Genelde, YZ araştırmalarında ajanların görevlerini yerine getirmesine odaklanılıyor; ancak bu işlemlerin kullanıcı üzerindeki etkilerine daha az dikkat ediliyor. Örneğin, “Beslemeyi Yenile” butonuna dokunmak düşük risk taşırken, “Fon Transferi” yapmak yüksek risk taşıyor.
Riskli ve Güvenli Eylemleri Haritalamak
Bu çalışmanın başlangıcında, YZ güvenliği ve kullanıcı arayüzü tasarımı alanında uzmanlarla atölye çalışmaları yapılmış. Amaçları, bir kullanıcı arayüzü eyleminin farklı etkilerini sıralayarak bir “taksonomi” oluşturmak. Araştırmacılar, YZ’nin gerçekleştirdiği eylemlerin geri alınabilir olup olmadığını, yalnızca kullanıcıyı mı yoksa başkalarını mı etkileyeceğini, gizlilik ayarlarını değiştirip değiştirmediğini gibi soruları incelemiş.
Örnek olarak, bir mesajı silmek iki dakika içinde geri alınabilirken, para göndermenin genellikle yardım olmadan geri alınamaz olduğunu belirlemişler.
YZ’yi Farklılıkları Görmeye Eğitmek
Araştırmacılar, gerçek dünya örneklerini toplamak için katılımcılardan simüle edilmiş bir mobil ortamda kayıt yapmalarını istemiş. Yapılan testlerde, YZ sistemlerinin tehlikeli eylemleri tespit etme yeteneği geliştirilmiş. Beş tane büyük dil modelini test etmişler. Elde edilen veriler mevcut veri setleriyle birleştirilmiş ve her bir eylem, onların oluşturduğu taksonomiye göre etiketlenmiş.
Taksonomi, YZ’ye insan niyetleri üzerine düşünme çerçevesi sağlıyor. Ancak en iyi performans gösteren model bile %58 oranında doğru sonuç verebilmiş. Bu durum, YZ sistemlerinin çoğu zaman riskleri abarttığını ve zararsız eylemleri yüksek riskli olarak işaretlediğini gösteriyor. Örneğin, boş bir hesap makinesi tarihini temizlemek gibi basit bir işlem bile yanlışlıkla yüksek riskte olarak işaretlenmiş.
Daha Güvenli YZ Asistanları İçin Gelecek
Yapılan araştırmalar, taksonominin daha iyi YZ politikaları tasarlamak için yardımcı olabileceğini öne sürüyor. Kullanıcıların, ne zaman onay verilmesi gerektiğine dair kendi tercihlerinin olması sağlanabilir. Mobil UI otomasyonu, YZ’nin günlük yaşamımıza entegrasyonu ile birlikte artış gösterecek. YZ’nin butonları görmekten fazlasını öğrenmesi ve tıklamanın arkasındaki insan anlamını anlaması gerekiyor. Bu, YZ için büyük bir zorluk.
Son olarak, insan davranışı karmaşık ve bağlama bağlıdır. Bir makinenin bu karmaşıklığı hatasız bir şekilde çözümlemesi bekleniyorsa, bu oldukça naif bir düşünce olur.
