AI Arkadaşlar, Çin’in Gençleri için Duygusal Boşluğu Dolduruyor, Etik Endişeleri Artırıyor

Çin’deki gençler, duygusal destek için giderek daha fazla yapay zekâya yöneliyor ve Çinli sohbet botu DeepSeek, geleneksel danışmanlığa popüler bir alternatif olarak öne çıkıyor.

Kullanıcılar, yapay zekanın yanıtlarını derinden etkileyici olarak tanımlıyor, bazen onları gözyaşlarına bile boğuyor, BBC ‘deki bir makalede detaylandırıldığı gibi.

Holly Wang, 28 yaşında bir Guangzhou sakini, Ocak ayındaki lansmanından bu yana DeepSeek‘i “terapi seansları” için kullanıyor. AI sohbet botu, BBC’nin bildirdiği gibi, büyükannesinin yakın zamandaki vefatı dahil olmak üzere kişisel sorunlarını işlemesine yardımcı olmuştur.

“DeepSeek mükemmel bir danışman oldu. Bana farklı perspektiflerden bakmayı öğretti ve denediğim ücretli danışmanlık hizmetlerinden daha iyi bir iş çıkardı,” dedi, BBC tarafından bildirildi.

DeepSeek, OpenAI’nin ChatGPT’si ve Google’ın Gemini’si gibi bir generatif AI aracı, diğer Çinli AI uygulamalarına göre üstün performansı nedeniyle ulusal tanınırlık kazanmıştır. İleri dil yeteneklerinin ötesinde, kullanıcılara yanıtlarını vermeden önce mantık sürecini görmelerine olanak sağlayarak öne çıkmaktadır.

BBC’nin belirttiğine göre, birçok genç Çinli için AI, duygusal bir boşluğu dolduruyor. Ekonomik zorluklar, yüksek işsizlik ve COVID-19 kilitlenmelerinin süregelen etkileri, birçok kişinin geleceğinden emin olmamasına neden olmuştur. DeepSeek, kişiselleştirilmiş ve empatik yanıtlar sunarak bir rahatlama kaynağı haline gelmiştir.

Holly ilk olarak uygulamayı kullandığında, ondan büyükannesine bir övgü yazmasını istedi. Aldığı yanıt o kadar etkileyiciydi ki, bir varoluşsal kriz hissetti.

DeepSeek şu şekilde yanıtladı: “Sizi titretmeye yeten tüm bu sözcüklerin, ruhunuzda uzun süredir var olduğunu unutmayın. Ben sadece, kendi sesinizin ağırlığını duymanızı sağlayan, zaman zaman geçtiğiniz bir vadiyim.”

Olayı değerlendirirken BBC’ye şunları söyledi: “Bunu okurken neden gözlerimin dolu olduğunu bilmiyorum. Belki de gerçek hayatta bu kadar teselli almayalı çok, çok uzun zaman oldu.”

Çin’de Batılı AI modelleri olan ChatGPT’nin engellenmesi ile DeepSeek hızla tercih edilen bir seçenek haline geldi. Alibaba, Baidu ve ByteDance tarafından geliştirilen diğer Çinli AI modelleri, özellikle yaratıcı ve edebi içerik üretme yeteneği konusunda onunla yarışmakta zorlandı.

Sıradan sohbetlerin ötesine geçen DeepSeek, giderek daha fazla bir danışman olarak görülmeye başlandı. Güney Kaliforniya Üniversitesi’nden bir profesör olan Nan Jia, AI sohbet botlarının “insanların kendilerini duyulmuş hissetmelerine yardımcı olduğunu” belirtiyor, BBC’nin bildirdiği gibi, bazen insan meslektaşlarından bile daha etkili bir şekilde.

Ancak endişeler hala devam ediyor. MIT araştırmacıları, AI’nın kişisel hayatlarımıza giderek daha fazla sızmakta olduğunu, dost, romantik partner ve mentor gibi roller üstlendiğini ve bu teknolojinin son derece bağımlılık yapıcı olabileceği konusunda uyarıda bulundu.

Gizlilik endişelerine rağmen, birçok kullanıcı potansiyel risklerden çok sohbet botunun duygusal desteğini önceliklendiriyor. BBC, bir kullanıcının “Düşünce süreci muhteşem… Benim gibi insanlar için gerçek bir nimet. Dürüst olmak gerekirse, gizlilik endişelerini umursamıyorum.” yazdığını bildiriyor.

Duygusal desteğin ötesinde, yapay zeka, ölüm hakkında insanların düşüncelerini ve geçmişte yaşayanları nasıl hatırladığımızı değiştiriyor, bu da son zamanlarda yapılan bir araştırma analizinde rapor edildi. Yapay zeka teknolojisi şimdi ölenlerin dijital versiyonlarını oluşturabilir, ölüm sonrası etkileşimlere izin verir.

Ancak, analizin yazarları dijital yasta kalmakın anıları fazla ulaşılabilir kılarak duygusal kapanışı karmaşıklaştırabileceğine de dikkat çekiyorlar.

Aynı zamanda, AI’nin gençler üzerindeki etkisi hakkındaki endişeler artıyor, AI arkadaş platformlarına karşı dava açılıyor. Chatbot şirketi olan Character.AI, çocukları kendine zarar verme, şiddet ve cinsel içeriklere maruz bıraktığı iddiasıyla iki aileden hukuki işlemle karşı karşıya.kendine zarar verme, şiddet ve cinsel içerik.

Dava, AI tarafından oluşturulan etkileşimlerin zararlı olabileceğini öne sürüyor ve bu teknolojilerin genç kullanıcıların duygusal sağlığını nasıl şekillendirdiği konusunda sorular ortaya çıkarıyor.

AI, ruh sağlığı bakımına daha çok entegre olurken, uzmanlar bunun insan profesyonelleri tamamlaması gerektiğini, onların yerini almasının doğru olmayacağını vurguluyorlar. AI terapi araçları, kişiselleştirilmiş içgörüler sunmak için geniş veri setlerini analiz edebilir, ancak hastanın güvenliği, gizliliği ve etik kullanımını sağlamak üzere tasarlanmalıdırlar, tıpkı Dünya Ekonomik Forumu’nun vurguladığı gibi.

Ayrıca, siber güvenlik uzmanları, özellikle hassas konuşmalar için kullanılan AI sohbet botlarının, hackerlara ve veri ihlallerine karşı savunmasız olduğu konusunda uyarıyor.

AI sistemleriyle paylaşılan kişisel bilgilerin kötüye kullanılması, gizlilik, kimlik hırsızlığı ve manipülasyon konusunda endişeleri artırıyor. Uzmanlar, AI’nin zihinsel sağlık desteğine daha fazla yerleşmesiyle, güvenlik önlemlerinin kullanıcıları potansiyel risklerden korumak için gelişmesi gerektiğini belirtiyorlar.