Yapay Zeka ile Üretilen Metinleri Tanımanın Zorlaştığı Bir Dönemde Google SynthID Text Çözümü Sunuyor
İnternette, özellikle yapay zeka tarafından üretilen metinlerin neyin gerçek neyin sahte olduğunu söylemek giderek zorlaşıyor. Ses, görüntü veya videolardan çok metinlerin sahtesini yapay zeka üretmek daha kolay. Dolayısıyla, bu tür içeriklerin damgalanması imkansız gibi görünüyor. Ancak, Google’ın SynthID Text aracı ile bu durum değişebilir.
Yapay Zeka Üretilen Metinleri Tanımanın Önemi
Yapay Zeka’nın çok inandırıcı olmasından dolayı, araştırma makalesinin ChatGPT tarafından üretildiğini belirleyen araçlara ihtiyaç duyulmaktadır. Üniversite raporunda hile yapmak kötüdür, ancak yapay zeka üretilen metinlerle yapılabilecek en zararlı şeylerden biri bunun çok ötesinde olan yanıltıcı bilgi ve diğer zararlı içeriklerin yayılmasıdır.
Google SynthID Text Devreye Giriyor
Bize en güçlü yapay zeka sohbet robotlarını veren şirketler, aynı zamanda bu sohbet robotlarının ürettiği şeylerin ne zaman oluşturulduğunu belirlemenize yardımcı olacak araçlar sağlamaya çalışıyor. OpenAI, ChatGPT tarafından oluşturulan bir metni tanımlamaya yardımcı olacak araçlar geliştirdi ve test etti, ancak şirket bunları yayınlama kararı almamıştır.
Öte yandan, Google bize bir damgalama aracı sunmuştur. Adından da anlaşılacağı gibi, bu, bir metin parçasının yapay zeka tarafından oluşturulup oluşturulmadığını belirlemek için insanların kullanabileceği bir araçtır. SynthID Text, bugünden itibaren geliştiriciler ve işletmeler için ücretsiz olarak kullanılabilir. Google’ın casual kullanıcıların metnin yapay zeka tarafından üretilip üretilmediğini kontrol etmelerine yönelik bir araç yayınlamayacağından emin değiliz.
Metinlere Damga Vurmak Mümkün Mü?
Bu oldukça imkansız gibi görünüyor. Yapay zeka tarafından üretilen görüntülerin damgalanması daha kolay anlaşılır. Ancak metinler çok daha kolay düzenlenebilir. Bir sohbet botunun ürettiği metni kolayca düzeltebilir veya başka şekilde dile getirebilirsiniz. Google, bir yol bulmayı başardı, ancak mükemmel değil.
Bu yöntem, Token olarak adlandırılan şeylerle ilgilidir. Eğer AI araçlarla ilgiliyseniz, muhtemelen bu terimi duymuşsunuzdur. Bir AI aracı kullandığınızda, veri girişi yapıyor ve veri çıkışı alıyorsunuz. Örneğin, bir sohbet botuna “bir tavşan hakkında bir hikaye yaz” yazarak ve cevap olarak 100 kelimelik bir hikaye alıyorsunuz.
İşte, promptunuzdaki metin, Token olarak adlandırılan parçalara ayrılır. Bunlar, modele gireceğiniz ve analiz edilecek olan kelimelerin veya kelime gruplarının bir parçasıdır. Cevabınız da Token’lardan oluşur.
Google’a göre, bir model metin ürettiğinde, her bir Token’a cevapta ne kadar olası kullanılacağına bağlı bir puan verir. SynthID Text, her Token’a “Token’ın üretilme olasılığı modüle edilerek ek bilgiyatır.” Ardından, Google, orijinal modelin çıkışından gelen puana karşı ayarlanmış puanı karşılaştırır. Bu puanların son deseni daha sonra “metne damgalı ve damgalanmamış metinler için beklenen puan deseniyle karşılaştırılarak, SynthID’nin metnin AI aracı tarafından mı yoksa başka kaynaklardan mı oluşturulduğunu belirlemesine yardımcı olur,” diyor Google.
Sınırlamalar
Yapılacak çok şey var, ancak önemli olan şey, oldukça etkili bir araç olmasıdır. Yalnızca bu, su geçirmez bir çözüm değildir. SynthID Text, daha kısa metinlerle ilgiliyken aynı derecede doğru değildir. Bu yüzden, birinin bir roman veya üniversite raporu oluşturmasını istediğinizde daha fazla şansınız olacaktır, ancak bir reklam kopyasıysa zorluk yaşayacaksınız.
Ayrıca, bu araç, başka bir dilden çevrilmiş veya yeniden yazılmış metinle başa çıkmakta zorlanır. Bu mantıklıdır çünkü bu durum, aslında tüm tokenları değiştirir.
Buna ek olarak, güncel sorulara verilen yanıtlar da SynthID Text için bir sorundur. Bu, yanıtta, gerçek bilgileri değiştirmeden token puanlarını ayarlamak zordur. Belirli bir kuşun doğal yaşam alanından bahsediyorsanız, gerçekleri değiştirmeye başlamadan önce yanıtınızda çok az şey değiştirebilirsiniz.
Biraz şaşırtıcı bir duyuruyla, Google, bu aracın birkaç ay önce Gemini’ye entegre edildiğini ve çoğumuzun bile farkında olmadığını belirtti. Umuyoruz ki bu araç, yapay zeka üretilen içerikleri tespit etmemize yardımcı olacak diğer araçların yolunu açacaktır.