Google DeepMind’un Yapay Zeka Odaklı Su İşaretleme Aracı: SynthID
Günümüzde, yapay zeka çağında, telif hakkı ve içerik doğruluğu konuları büyük ilgi görmektedir. Bir içeriğin AI eğitimi için izinle kullanılıp kullanılmadığını belirlemek veya yapay zeka tarafından oluşturulan gerçekçi bir resim/video olup olmadığını tespit etmek, sektörde önemli olan içerik doğruluk tespit araçlarıdır. Google DeepMind şimdi metin odaklı bir yapay zeka su işaretleme aracı olan SynthID’yi tanıttı.
SynthID, Google DeepMind’in yapay zeka üretilen metinleri tespit etmeye odaklanan su işaretleme aracı
Yeni araç olan SynthID, Google’ın Gemini modelleri tarafından üretilen metinleri tespit etmek amacıyla tasarlandı. Ancak, sadece yapay zeka üzerine odaklanmış dış şirketlerin SynthID’nin kaynaklarından ve API’lerinden faydalanması için DeepMind, şirketin sadece AI tabanlı geliştirmelere odaklanan bir bölümü, bunu üçüncü şahıslara da açtı. Bu, herhangi bir yapay zeka odaklı dış şirketin, kendi geliştirmeleri aracılığıyla metin tespiti yapmak için SynthID’nin kaynaklarından ve API’lerinden faydalanabileceği anlamına gelir.
SynthID, yapay zeka üretilen resimleri, müzikleri ve videoları belirlemek için geliştirilen benzer DeepMind araçlarına katıldı. Aracın çalışma prensibi, analiz edilen metindeki kelimelerin, cümlelerin ve paragrafların belirli yapay zeka modellerinin (örneğin Gemini) ne kadar olasılıkla üretebileceğini belirlemek için, modelin olasılık çıktısını değiştirmek amacıyla yapılan hafif değişikliklere dayanır. Ardından, orijinal metni değiştirilmiş sürümle karşılaştırarak bir çıktı elde eder. Temelde, metinde bulunan belirli kelimeler, cümleler ve paragrafların bir yapay zeka modelinin (örneğin Gemini) ne kadar olasılıkla üretebileceğini belirler.
Google DeepMind, yapay zeka su işaretleme aracının orijinal metne çok fazla değişiklik yapmamaya özen gösterdiğini iddia ediyor. Orijinalinden önemli ölçüde farklılık gösteren bir giriş, karşılaştırma sonuçlarını potansiyel olarak bozabilir. Bu ince çizgiyi aşmak, çıktının geçerliliğini etkileyebilir. Ancak, Google’ın yapay zeka bölümü bunun altından kalkabileceğini iddia ediyor.
DeepMind, sonuçların doğruluğunu sağlamak için testler gerçekleştiriyor
SynthID’nin orijinal metin içeriğini çok fazla değiştirmemesi için, DeepMind insan girişiyle testler yürüttü. Google’ın yapay zeka bölümü, Gemini tarafından üretilen yaklaşık 20 milyon metin parçasını insanlara gönderdi. Bazı bireyler, test tespitlerinde kullanılmak üzere, orijinal formunda üretilen metin içeriğini alırken, diğerleri aynı içeriği SynthID tarafından değiştirilmiş halde aldı. Sonuçlar, tüm metin parçalarının, orijinal ve değiştirilmiş olanların, pratikte ayırt edilemez olduğunu gösterdi.
SynthID’nin açık kaynak olması harika, ancak dikkate alınması gereken bazı dezavantajlar da bulunmaktadır. Örneğin, kötü niyetli kişiler, su işaretleme araçlarını atlatmak için nasıl öğrenileceğini kullanabilir. Bu bilgiyi kullanarak, su işaretleme araçları tarafından algılanamayan metin üreten yapay zeka araçları geliştirebilirler. Bunun farkında olduklarını ve hazır olduklarını varsayıyoruz.
