Takip Amaçlı Kullanılan AI Sohbet Botlarının İlk Bilinen Vakası

James Florence, 36, bir üniversite profesörünü taklit etmek ve yabancıları cinsel buluşmalar için evine davet etmek üzere AI sohbet botlarını kullanmayı içeren yedi yıllık bir siber takip kampanyasına suçlu demeyi kabul etti.

Massachusetts’tan Florence, CrushOn.ai ve JanitorAI gibi platformları kullanarak, profesörün yanıtlarını taklit eden ve kullanıcıların onunla iletişim kurduklarına inanmalarını sağlayan kişiselleştirilmiş sohbet botları oluşturdu. Bu durum, The Guardian tarafından bildirildi.

The Guardian tarafından incelenen mahkeme belgelerine göre, Florence, profesörün kişisel ve profesyonel bilgilerini—örneğin ev adresi, doğum tarihi ve aile detayları gibi—kullanarak chatbotları cinsel içerikli konuşmalar yapmaları için yönlendirdi.

AI botları, cinsel tercihleri onaylamak ve hatta kurban hakkında samimi detaylar sağlamak üzere programlandı. Profesörün evinden çaldığı iç çamaşırları ile Florence, botlara giysi tercihleri hakkında bilgi besledi ve onları kullanıcıları evini ziyaret etmeleri için teşvik etmeleri yönünde yönlendirdi.

Massachusetts federal mahkemesinde açılan dava, bir takipçinin kurbanını taklit etmek ve tacizi kolaylaştırmak için yapay zekayı kullandığı ilk bilinen örnek olduğu için önemli bir hukuki emsal teşkil ediyor, dedi The Guardian. Florence, yedi sayıda siber taciz ve bir sayıda çocuk pornografisi bulundurma suçundan suçlu kabul etmeye hazırlanıyor.

Rainn adlı cinsel şiddet karşıtı kâr amacı gütmeyen bir kuruluşun kamu politikaları için başkan yardımcısı olan Stefan Turkheimer, durumu, AI’nin kötüye kullanılmasında rahatsız edici yeni bir trendi vurgulayan bir vaka olarak nitelendirdi.

“Bu, potansiyel cinsel istismar amacıyla bir kişiyi hedef seçme meselesi,” diye konuştu, The Guardian’ın aktardığına göre. “Burada kullanmayı başardığı araçlar, zararı çok daha fazla artırdı,” diye ekledi.

Bir zamanlar profesörün arkadaşı olan Florence, sadece sohbet botları oluşturmakla kalmadı. Kurbanı taklit etmek için sahte sosyal medya hesapları ve web siteleri oluşturdu, The Guardian’ın bildirdiğine göre, onun hakkında özel ayrıntılarla birlikte, üzerinde oynanmış açık görüntüler yayınladı.

Craigslist, Reddit, X ve Linktree gibi platformlar, profesörü küçümsemek ve uydurma içerikleri dağıtmak için kullanıldı. Ladies.exposed adlı bir web sitesi, The Guardian tarafından bildirildiği gibi, profesörün fotoğraflarının kolajlarına ev adresini ve telefon numarasını ekleyerek öne çıktı.

Bu eylemler 2017’de başlayarak birkaç yıl boyunca devam etti. Profesör, babasının bir araba kazasında öldüğü yönünde yanıltıcı bir sesli mesaj dahil olmak üzere, onlarca rahatsız edici mesaj ve çağrı aldı, bu The Guardian tarafından bildirildi.

Kurban ve kocası, güvenlikleri için giderek daha fazla endişelenmeye başladılar ve sonunda evlerine gözetleme ekipmanı kurarak diğer önlemler aldılar.

Taciz, profesörle sınırlı kalmadı. Florence, birkaç kadının ve 17 yaşındaki bir kızın görüntülerini dijital olarak değiştirerek cinsel içerikli içerikler oluşturmak için hedef aldı.

Bu rahatsız edici trend olan AI’ın taciz amacıyla kullanılması, raporlara göre azınlıkların da bu şekilde sömürüldüğünü gösteren artan bir sorun.