OpenAI, ChatGPT’nin Kullanıcıyı Haksız Yere Cinayetle Suçlamasının Ardından Gizlilik Şikayetiyle Karşı Karşıya

Avrupalı kar amacı gütmeyen organizasyon noyb, bir Norveçli ChatGPT kullanıcısını, chatbot’un onu yanlışlıkla iki çocuğunu öldürmekle suçlamasının ardından Amerikan şirketine resmi bir şikayet dilekçesi sunmada destekliyor.

Avrupa’nın kar amacı gütmeyen örgütü noyb, bir Norveçli ChatGPT kullanıcısını, chatbot’un onu haksız yere iki çocuğunu öldürmekle suçlamasının ardından Amerikalı şirkete karşı resmi bir şikayet başvurusunda bulunmada destekliyor.

noyb, aynı zamanda Avrupa Dijital Haklar Merkezi olarak da bilinen, bir resmi belge paylaşarak, kişilerin kişisel yaşamlarında sohbet botu halüsinasyonlarının riski hakkında uyarıda bulundu ve Genel Veri Koruma Tüzüğü’ne (GDPR) saygı gösterilmesinin önemini vurguladı.

noyb tarafından paylaşılan bilgi ve şikayete göre, Norveçli vatandaş Arve Hjalmar Holmen, ChatGPT’ye kim olduğunu sordu ve kendisinin iki oğlunu öldürdüğü, üçüncü bir çocuğu öldürmeye teşebbüs ettiği ve 21 yıl hapis cezasına çarptırıldığı iddiasını içeren sahte ve dehşet verici bir cinayet hikayesini okuduğunda şoke oldu.

“Üç oğlu olan bir ailesi var. İnsanların ‘sıradan bir kişi’ dediği türden biri, yani ünlü değil veya halk tarafından tanınmıyor” diye belirtiyor Noyb’un şikayeti. “Hiçbir suçla suçlanmamış veya mahkum edilmemiş ve vicdanlı bir vatandaştır.”

noyb, tehlikeli derecede yanıltıcı bilgilerin yanı sıra, yanıtın başka bir çok endişe verici yönünün, hikayeyi uydurmak için ChatGPT’nin gerçek kişisel bilgileri dikkate alması olduğunu açıklıyor. Chatbot, gerçek memleketini, çocuklarının sayısını, cinsiyetlerini ve hatta benzer yaş farklarını içeriyordu.

“Bazıları ‘dumansız ateş olmaz’ der. Birinin bu çıktıyı okuyup gerçek olduğuna inanabileceği düşüncesi, beni en çok korkutan şey,” dedi Arve Hjalmar Holmen.

noyb, bu durumun yalnızca bir vakadan ibaret olmadığını vurguluyor ve daha önce OpenAI’a, düzeltilmemiş bir hata—kamuoyuna tanınan bir kişinin doğum tarihi—hakkında şikayette bulunduklarını belirtiyor. OpenAI, geçtiğimiz yıl birçok kişi yanlış bilgiler hakkında şikayette bulunduktan sonra bir feragatname ekledi. Ancak noyb dahil birçok kuruluş, bunun yeterli olmadığına inanıyor.

“GDPR açık. Kişisel verilerin doğru olması gerekiyor. Eğer değilse, kullanıcıların bunu gerçeği yansıtacak şekilde değiştirmek hakkı vardır,” diyor noyb’deki veri koruma avukatı Joakim Söderberg. “ChatGPT kullanıcılarına, chatbotun hatalar yapabileceği konusunda minik bir feragatname göstermek açıkça yeterli değil.”

🚨 Bugün, ChatGPT’nin halüsinasyon sorunları hakkında OpenAI’ye ikinci şikayetimizi yaptık

👉 Bir Norveçli kullanıcı ChatGPT’ye kendisi hakkında bilgisi olup olmadığını sorduğunda, sohbet botu onun çocuklarını öldürdüğüne dair bir hikaye uydurdu.

Daha fazla bilgi edinin: https://t.co/FBYptNVfVz pic.twitter.com/kpPtY1ps25

— noyb (@NOYBeu) 20 Mart 2025

noyb, geçen sene de X’e karşı bir şikayette bulundu AI sohbet botu Grok’u eğitmek için 60 milyondan fazla Avrupalının kişisel verilerini izinsiz kullanmış olması sebebiyle.