“`html
Bir taş attığınızda, muhtemelen bir *deepfake* yakalarsınız. Generatif *AI*’nin yaygınlaşmasıyla birlikte, çevrimiçi sahte içerikte büyük bir patlama yaşandı: ID doğrulama platformu *Sumsub*’a göre, 2023 ile 2024 arasında dünya genelinde *deepfake* sayısında 4 kat artış görüldü. 2024 yılında, *deepfake* içerikler dolandırıcılığın %7’sini oluşturdu; bu dolandırıcılıklar, sahte kimlik oluşturma ve hesap ele geçirme gibi çeşitli yöntemleri kapsıyor.
Meta’nın Deepfake İle Mücadele Aracı
Meta, *deepfake* ile mücadelede anlamlı bir katkı yapmayı hedefleyerek, yapay zeka destekli video kliplere görünmez su işareti ekleyen bir araç duyurdu. Perşembe günü duyurulan bu araç, *Meta Video Seal* olarak adlandırılıyor. Açık kaynak olarak sunulan bu araç, mevcut yazılımlara entegre edilebilecek şekilde tasarlandı. Bu araç, daha önce piyasaya sürülen *Watermark Anything* ve *Audio Seal* gibi diğer su damgası araçlarına katılıyor.
Video Seal’ın Yenilikçi Özellikleri
“*Video Seal*’i, özellikle yapay zeka destekli videoları tespit etmek ve orijinalliği korumak için daha etkili bir su damgası çözümü sağlamak amacıyla geliştirdik,” diyor Pierre Fernandez, *Meta*’da bir *AI* araştırma bilimcisi. Video Seal, videolara eklenen su damgasının yanı sıra, daha sonra kökenlerini belirlemek için açığa çıkarılabilen gizli bir mesaj ekleyebiliyor. *Meta*, Video Seal’ın yaygın düzenlemelere karşı dayanıklı olduğunu; *bulanıklaştırma* ve *kesme* gibi yaygın düzenlemelere ve popüler sıkıştırma algoritmalarına karşı dirençli olduğunu ileri sürüyor.
Diğer Su Damgası Teknolojileriyle Karşılaştırılması
Ancak Fernandez, birçok mevcut yaklaşımın yetersiz olduğunu belirtiyor. “Diğer su damgası araçları mevcutken, videoların sıkıştırılmasına karşı yeterince sağlamlık sunmuyorlar; ölçeklenebilirlik konusunda verimli değiller; açık ve tekrarlanabilir değiller ya da görsel su damgalarından türetilmişler ki bu video için optimum değil,” diyor Fernandez.
Meta‘nın bu yeni aracı için bazı sınırlamalar mevcut. Fernandez, su damgalarının görünürlüğü ile dayanıklılığı arasında bir trade-off olduğunu kabul ediyor. Aşırı sıkıştırma ve önemli düzenlemeler, su damgalarını değiştirebilir veya geri alınamaz hale getirebilir.
Sektördeki Kabul ve İş Birliği Çağrısı
Elbette, *Video Seal*’in büyük bir sorunu, geliştiricilerin ve sektörün bunu benimsemekte ikilem yaşamasıdır; özellikle mevcut ticari çözümler kullananlar için. Bunun üstesinden gelmek amacıyla, Meta, çeşitli su damgası yöntemlerinin performansını karşılaştırmaya yönelik bir halka açık sıralama olan *Meta Omni Seal Bench*’i başlattı ve bu yıl *ICLR* (Uluslararası Öğrenme Temelli Araştırmalar Konferansı) sırasında su damgası üzerine bir atölye düzenleyecek.
“Daha fazla *AI* araştırmacısının ve geliştiricilerin çalışmalarında herhangi bir su damgası entegre edeceğini umuyoruz,” diyor Fernandez. “Sektör ve akademik toplulukla iş birliği yaparak bu alanda daha hızlı ilerlemek istiyoruz.”
“`