Google, İzinsiz Açıkça Hazırlanan Deepfake’lerle Mücadele Etmek İçin Politikalarını Güncelliyor

Dün, Google, bireylerin açık “deepfakes” kontrolüne yardımcı olmayı hedefleyen önemli politika güncellemelerini duyurdu. Bunlar, insanların rızaları olmadan cinsel açıdan açık bağlamlarda tasvir edildiği AI tarafından üretilen resimler ve videolardır.

Ana güncellemelerden biri olarak, insanlar Arama’dan rızası olmadan oluşturulan sahte açık resimlerin kaldırılmasını talep edebilir. Google, bu süreci daha basit ve daha etkili hale getirdi. Bir talep başarılı olduğunda, Google’ın sistemleri ayrıca benzer aramalardaki tüm açık sonuçları filtreleyecek ve çoğaltılmışları kaldıracaktır.

Ayrıca, zararlı içerikle mücadele etmek için Google, yüksek kaliteli bilgileri önceliklendirmek üzere sıralama sistemlerini güncelledi. Sıralama güncellemeleri, arama sonuçlarında açıkça sahte içeriği azaltacak. İnsanların isimleriyle özellikle aranan açık içerikler söz konusu olduğunda, yüksek kaliteli, açık olmayan içerik öncelikli olacak. Bu, açık resimlere maruz kalmanın %70 üzerinde azalmasını sağlamıştır.

Google ayrıca, gerçek, rızaya dayalı açık içerik ile sahte açık içerik arasındaki farkı daha iyi belirlemeye çalışıyor. Çok miktarda sahte açık görseli kaldırılan sitelerin sıralaması düşürülecek.

Bu güncellemelerin aciliyetini destekleyen, bağımsız bir araştırmacı yakın zamanda WIRED ile rızası olmadan yapılan deepfake videoların geniş kapsamlı yayılımını ortaya koyan bir çalışmayı paylaştı. Çalışma, son yedi yıl içinde en popüler 35 web sitesine en az 244,625 video yüklendiğini gösteriyor. Özellikle, bu videoların 113,000’i yalnızca 2023’ün ilk dokuz ayında yüklendi – bu, 2022’de yüklenen toplam video sayısında %54’lük bir artışı temsil ediyor. Bu endişe verici rakamlar, bu zararlı içeriğin artan yaygınlığını vurgulamaktadır.

Mart ayında bir WIRED raporu, Google’ın bir düzineden fazla popüler web sitesindeki açıkça deepfake bağlantılarını kaldırma taleplerinin 13,000’den fazla olduğunu ortaya çıkardı. Teknoloji devi, bu taleplerin yaklaşık %82’sine uydu. Bu istatistik, zararlı içeriğin önemli hacmini ve kaldırılma talebini göstermektedir.

Kişisel hikayeler, derin sahteciliğin (deepfakes) ciddi etkisini vurguluyor. Dün New York Times, Florida’da yükselen bir politik figür olan Sabrina Javellana’nın hikayesini raporladı. Javellana, kendisinin deepfake versiyonlarının online olarak dolaştığını keşfetti. Sürekli tacize uğrayan Javellana, politikadan çekildi ve daha az halka açık bir görev seçti.

Başka bir örnekte, bu hafta BBC, bir ailenin West Yorkshire Polisi’nin 12 yaşındaki kızlarını koruyamadığını iddia ettiğini bildirdi. Zorbalar Snapchat’te kızın ahlaka aykırı bir deepfake fotoğrafını paylaştı. Başlangıçta polis, aileye Snapchat’in Amerika merkezli olduğu için hiçbir şey yapılamayacağını söyledi. Resim kızı travmatize etti ve geniş çapta yayıldı.

Google’ın politika güncellemeleri, derin sahte krizinin ele alınmasında önemli bir adımdır. Ancak, sorunun karmaşıklığı, problemin tamamen çözülmesi için sürekli çabalar ve işbirliklerini gerektiriyor.