Google DeepMind, AI Üretilen Metni Tespit Etmeye Yardımcı Olacak Açık Kaynaklı Filigran Aracını Yayınladı

Google DeepMind, bu Çarşamba günü AI tarafından oluşturulan metinleri tespit etmeye yardımcı olacak SynthID-Text adında açık kaynaklı bir filigran aracı başlattı. Bu araç, işletmelere ve geliştiricilere ücretsiz olarak sunuluyor ve metnin oluşturulması sırasında insan gözünün algılayamadığı görünmez filigranlar ekleyerek—kelimelerin olasılıklarını değiştirerek—çalışıyor.

“Burada, metin kalitesini koruyan ve yüksek tespit doğruluğunu sağlayan, minimal gecikme gideri ile bir metin filigranlama şeması olan SynthID-Text’i tanımlıyoruz,” diye belirtiyor Nature‘da yayınlanan araştırmanın özeti. “Ölçeklenebilir filigranlama sağlamak için, üretim sistemlerinde sıkça kullanılan bir verimlilik tekniği olan spekülatif örnekleme ile filigranlamanın entegrasyonunu sağlayan bir algoritma geliştiriyoruz.”

MIT Technology Review‘ye göre, teknoloji devinin AI araştırma laboratuvarı, artık AI tarafından üretilen metni, müziği, videoyu ve görüntüleri tanıyabilen birden fazla AI filigran aracını oluşturmak için SynthID teknolojisini geliştirdi. Google DeepMind, bu teknolojinin çeşitli medya türlerinde nasıl çalıştığını açıklayan bir video paylaştı.

Here’s how SynthID watermarks AI-generated content across modalities. ↓ pic.twitter.com/CVxgP3bnt2

— Google DeepMind (@GoogleDeepMind) 23 Ekim 2024

SynthID, şirketin Google Sorumlu Generatif AI Toolkit’i üzerinden erişilebilir durumda ve araştırmacılar, diğer açık kaynaklı projeleri barındıran bir geliştirici platformu olan Hugging Face ile birlikte çalışarak bunu kendi sitelerinde de paylaşmayı planlıyorlar. LeRobot’un evde AI destekli robotlar yapımı için eğitimini içeriyor.

“Şimdi, diğer [generative] AI geliştiricileri, metin çıktılarının kendi [large language models]lerinden gelip gelmediğini tespit etmelerine yardımcı olacak bu teknolojiyi kullanabilecekler. Bu, daha fazla geliştiricinin AI’yi sorumlu bir şekilde inşa etmesini kolaylaştıracak,” dedi Google DeepMind’in araştırma başkan yardımcısı Pushmeet Kohli, MIT Technology Review’a.
SynthID, Google’ın Gemini ürünlerinde test edildi ve milyonlarca kullanıcı filigranlı ve filigransız içerik arasında ayrım yapamadı. Ancak, araştırmacılar, metnin düzenlendiği veya çevrildiği durumlarda sınırlamaları olduğunu kabul ettiler, ancak yine de iyimserler ve bu aracın yanıltıcı bilgilerle mücadeleye yardımcı olabileceğine ve AI güvenliğini artırabileceğine inanıyorlar.

Son birkaç aydır birçok teknoloji şirketi AI-etiketleme stratejilerini duyurdu. Meta, Şubat ayında Instagram, Facebook ve Threads’da AI içeriğini tanımlamak için bir sistem duyurdu, Google, kullanıcıların AI içeriğini etiketlemesini Mart ayında talep etti, ve Tiktok, AI tarafından oluşturulan içeriğe etiket ekledi Mayıs’ta.