Google, Yapay Zeka Üretilen Deepfake Terörizm İçerikleri Hakkında 250’den Fazla Şikayet Aldığını Bildiriyor

Google, yapay zeka aracı Gemini’nin, derin sahte terörizm oluşturmak için kullanılmasına yönelik olarak dünya genelinde 250’den fazla şikayet aldığını ve çocuk istismarı materyali hakkında 80’den fazla şikayet olduğunu Avustralya yetkilileri ile paylaştığını bir raporla duyurdu.

Bilgi, Avustralya’nın çevrimiçi güvenlik denetleme kurulu olan eSafety Commission’a, teknoloji şirketlerinin -Meta, Telegram, Reddit, X ve Google dahil olmak üzere- yerel yasalara uymaları ve Mart 2024’te Avustralya’nın Çevrimiçi Güvenlik Yasası kapsamında bildirimleri rapor etmeleri gerektiğinden sonra iletilmiştir.

eSafety, bu Perşembe AI’nin güvenliği hakkında endişe duyduğunu belirten bir resmi belge paylaştı. Google’ın raporu, 1 Nisan 2023’ten 29 Şubat 2024’e kadar olan kullanıcı raporlarını dikkate aldı.

“Google, şirketin kendi üretken AI’si olan Gemini tarafından oluşturulan şüpheli AI üretilen terörist veya şiddet yanlısı aşırı materyal veya aktivite hakkında 258 kullanıcı raporu aldı ve şüpheli AI üretilen çocuk cinsel istismarı ve kötüye kullanım materyali hakkında 86 kullanıcı raporu aldı” dedi eSafety Komiseri Julie Inman Grant. “Bu, AI ürünleri geliştiren şirketlerin, bu tür materyalin üretilmesini önlemek için güvenceleri dahil etme ve etkinliğini test etme konusunda ne kadar kritik olduğunu gösteriyor.”

Reuters ‘a göre, bir Google sözcüsü yasadışı faaliyetlere izin vermediklerini belirtti. Google sözcüsü, e-posta aracılığıyla Reuters’a şunları söyledi: “eSafety’e sunduğumuz Gemini kullanıcı raporlarının sayısı, onaylanmış politika ihlallerinin değil, tüm kullanıcı raporlarının küresel hacmini temsil ediyor.”

Inman Grant, raporu, teknoloji şirketlerinin “terörist ve şiddet yanlısı materyalin çevrimiçi yayılmasını” nasıl yönettiklerini anlama konusunda “dünya çapında ilk kez elde edilen bilgiler” olarak değerlendirdi.

Komiser, Facebook, WhatsApp ve Telegram gibi platformların canlı yayınlanan terörist içeriği tespit edemediğini de vurguladı. Inman Grant, 2019 Christchurch saldırısını – Mart 2019’da bir beyaz üstün ırkçı silahlının Yeni Zelanda’daki Christchurch’te iki camiyi hedef alarak 51 kişiyi öldürdüğü bir terörist toplu silahlı saldırıyı – aşırı ve ölümcül saldırıların içeriği tespit edilmeden ya da kaldırılmadan canlı yayınlandığı bir örnek olarak kabul etti.

Birkaç gün önce, ESafety tarafından paylaşılan başka bir rapor, çocukların en popüler sosyal medya platformları tarafından kullanılan mevcut yaş doğrulama sistemlerini kolaylıkla aşabildiğini ortaya çıkardı.