AI-Yakıtlı Siber Zorbalık: Genç Kızın Maruz Kaldığı Durum Büyük Tepki Çekiyor

14 yaşındayken, Francesca Mani, Westfield Lisesi, New Jersey’deki müdürün odasına çağrıldı. Burada, fotoğrafının yapay zeka kullanılarak çıplak bir görüntüye dönüştürüldüğünü öğrendi. Bu durum, CBS News tarafından rapor edildi.

Geçtiğimiz Ekim ayında, Westfield Lisesi’nde erkek öğrencilerin kız arkadaşlarının müstehcen resimlerine sahip olduğuna dair dedikodular yayıldı. Mani, kendisinin ve birkaç başka kişinin hedef alındığını öğrendi.

Bir diğer mağdur tarafından açılan dava sonucunda, bir çocuğun Instagram fotoğraflarını, popüler bir AI destekli “soyundurma” sitesi olan Clothoff’a yüklediği belirtildi. CBS tarafından bildirildiği üzere, geçen ay 3 milyondan fazla ziyaret alan bu site, saniyeler içinde gerçekçi sahte çıplak fotoğraflar oluşturabiliyor.

Clothoff, çocuk fotoğraflarının işlenmesini yasaklamak iddiasında ancak bu mekanizmaları doğrulanmamıştır. Siteye rağmen bu uyarılara rağmen, en az bir AI çıplak öğrenci fotoğrafının CBS tarafından bildirildiği üzere Snapchat’te paylaşıldığı bildirildi.

Mani kendisinin manipüle edilmiş fotoğrafını hiç görmedi fakat okulun durumu nasıl ele aldığından derinden etkilendi. Mağdurlar kamuya açık bir şekilde ofise çağrıldı, oysa olaya dahil olan erkek öğrenciler gizlice sınıftan çıkarıldı.

“Bence bu, bizim gizliliğimizin büyük bir ihlaliydi. Yani, kötü davrananlar gizlice sınıflarından alındı,” diye CBS’ye verdiği demeçte Mani belirtti.

Aynı gün, müdür ebeveynlere bir e-posta göndererek, öğrencilerin açık görüntüler oluşturmak için AI kullandığını doğruladı, CBS bildiriyor. E-posta, ebeveynlere görüntülerin silindiğini ve dolaşımda olmadığını garanti etti, ancak Mani’nin annesi Dorota şüphelerini korudu.

“Gerçekten tamamen silemezsiniz,” diye belirtti Dorota CBS’ye, ekran görüntüleri veya indirmeler hakkında endişelerini dile getirerek.

Okul bölgesi, olay veya disiplin eylemleri hakkında detay vermekten kaçındı ancak AI kullanımının yanlış yönlendirilmesini ele almak için taciz politikalarını güncellediğini belirtti – CBS tarafından bildirildiği üzere aylardır Manis’in ısrarla talep ettiği bir değişiklik.

Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi’nde baş hukuk müşaviri Yiota Souras, sahte olsalar bile bu tür görüntülerin yol açtığı kalıcı zararı vurguladı. CBS tarafından belirtildiği gibi mağdurlar genellikle mental sıkıntı, itibar zararı ve güven kaybı yaşar.

CBS’nin bildirdiğine göre, son 20 ayda, ABD okullarında Yapay Zeka ile oluşturulan çıplak fotoğraflarla ilgili yaklaşık 30 benzer vaka ortaya çıkmış, bunun yanı sıra dünya genelinde daha fazla olay bildirilmiştir.

En az üç vakada, görüntülerin yayılmasında Snapchat kullanılmıştır. Ebeveynler, CBS’nin bildirdiği gibi, bu tür içeriklerin platformdan kaldırılması için geçen sürenin 8 aya kadar çıktığını bildirmişlerdir.

Snapchat, bir ebeveynin eleştirisine yanıt olarak, bu tür raporları ele almak için “etkin mekanizmalara” sahip olduğunu ve bu tür içeriklere karşı “sıfır tolerans politikası” uyguladığını iddia etti, CBS bildirdi.

Federal yasa, cinsel içerikli davranışları gösterdiği takdirde AI tarafından oluşturulan çocuk pornografisini yasaklar, ancak Souras, bazı AI çıplaklarının yasal tanımın dışında kalabileceği konusunda uyarıyor, CBS belirtti.

Olaydan bu yana, Francesca ve Dorota Mani, okullarda AI ile ilgili politikalar için savunma yaptılar ve bu konuyu ele almak için Kongre ile çalıştılar, CBS bildirdi.

Senatörler Ted Cruz ve Amy Klobuchar tarafından ortaklaşa sponsorluğu yapılan bir federal yasa olan Take It Down Act, bu ay Senato’da kabul edildi ve bir Temsilciler Meclisi oylamasını bekliyor. CBS’ye göre, bu yasa teklifi, AI çıplak resimlerini paylaşma suçları için cezai yaptırımlar öneriyor ve sosyal medya platformlarının işaretlenen içeriği 48 saat içinde kaldırmasını zorunlu kılıyor.