Midjourney, kullanıcıların Midjourney’in üretici yapay zekasını kullanarak web üzerinden yüklenen herhangi bir görüntüyü düzenlemelerine izin verecek bir yükseltilmiş web aracı yayınlamayı planlıyor. Midjourney CEO’su David Holtz’un “gelecek hafta başında” piyasaya sürüleceğini söylediği yükseltilmiş araç, kullanıcıların resimlerdeki nesnelerin rengini ve detaylarını başlıklara göre “yeniden boyamak” için tekstürleri tekrar oluşturmalarına da izin verecek.
Yapay zeka ile mevcut resimleri düzenleme konusu son zamanlarda tartışmalara neden olmuştur. Meta gibi platformlar, yapay zeka araçlarıyla düzenlenen resimleri sıfırdan bir yapay zeka modeliyle üretilen resimlerden nasıl ayırlayacaklarını tartışırken, Google gibi şirketler de görsel olarak hiçbir işaret olmadan yapay zeka ile değiştirilen resimlere sahip güçlü yapay zeka özellikleri yayınlamışlardır.
Geçtiğimiz yıl, Midjourney, AI tarafından üretildiğini gösteren görsel olarak etiketlenmiş resimlerin oluşturulması için IPTC’nin Dijital Kaynak Türü özelliğini kullanma konusunda taahhütte bulunmuştur. Ancak, şirket, resmi oluşturmak için kullanılan ekipman ve yazılım dahil olmak üzere bir resmin tam kaynağını izleyen bir meta-veri teknoloji olan C2PA’yı benimseyen az sayıdaki büyük AI platformundan biridir.
Midjourney’in resim düzenleme aracı yalnızca “mevcut topluluğun bir alt kümesi” ile sınırlı olacak şekilde “önümüzdeki hafta başında” piyasaya sürüleceğini belirten Holz, kötüye kullanımı önlemek için artan insan moderasyonunu ve “yeni, daha gelişmiş AI moderatörleri” ni kullanacaklarını söyledi.
“Honestly, we’re not sure how to precisely restrict deployment of this feature” dedi. Midjourney, erişime ilk olarak hangi kullanıcıların erişeceğini belirlemek için kullanacağı bir anket aracılığıyla topluluktan geri bildirim talep ediyor.
Bu tür düzenleme araçlarını yeterli korumalar olmadan piyasaya sürmenin riskleri vardır. Büyük ölçekte telif hakkı ihlali yapılmasına veya yanıltıcı deepfake’lerin yayılmasına yardımcı olabilirler.
Deepfake’ler sosyal medyada yayılıyor ve gerçeği dezavantajlı ayırmayı zorlaştırıyor. Son olarak, kasırga Helene’nin ardından sahte generatif yapay zeka görüntüleri yıkım ve insan acısıyla ilgili web’i doldurdu.
Deepfake tespiti konusunda uzman bir şirket olan Clarity’nin verilerine göre, bu yıl geçen yılın aynı dönemine göre %900 daha fazla deepfake oluşturuldu ve yayınlandı. Anlaşılacağı üzere bu endişe verici bir durum. YouGov tarafından yapılan bir anket, Amerikalıların %85’inin internette yanıltıcı deepfake videolarının yayılmasından endişe duyduğunu ortaya koydu.
ABD’de federal düzeyde deepfake’leri suçlayan bir yasa olmaması nedeniyle, 10’dan fazla eyalet yapay zeka destekli sahteciliklere karşı yasalar çıkardı. Şu anda çıkmaza giren Kaliforniya yasası, hakimlere deepfake’leri yayınlayanlara bunları kaldırmaları veya para cezasıyla karşı karşıya kalmaları için emir verebilen ilk yasa olacak.
Midjourney, sorumlu bir AI uygulamasının parlak bir örneği olmamıştır (örneğin, telif hakkı ihlali iddialarıyla dava ediliyor). Ancak son aylarda platform, ABD başkanlık seçimine kadar siyasi figürler için filtreler de dahil olmak üzere deepfake’lerin yayılmasını sınırlamak için adımlar atmıştır.
