Görüş: ChatGPT Senin Arkadaşın mı? Sınırları Belirlemenin Tam Zamanı Olabilir

OpenAI ve MIT, ChatGPT’nin insanların refahı üzerindeki etkisine dair bir makale yayınladı. Çoğu kullanıcı teknolojiye pratik görevler için güveniyor olsa da, araştırma, refahlarını etkileyebilen AI modeliyle derin duygusal bağlar geliştiren küçük bir grup olduğunu ortaya koyuyor

Bir süredir, bazı insanların yaratıcı yapay zekayla geliştirdikleri ilişkileri merakla gözlemliyorum. Birkaç ay önce, The New York Times’ta, ChatGPT’ye aşık olan 28 yaşında evli bir kadının hikayesini okudum ve “eğlenceli bir deney” olarak başlayan şeyin, karmaşık ve beklenmedik bir ilişkiye dönüştüğünü öğrendim.

Teknolojiye bir zamanlar ilgi göstermeyen ya da onu reddeden arkadaşlarımı, büyük bir karar vermeden önce AI oraklarına danışmadan edemeyenleri izliyorum. Ayrıca, duygusal ya da psikolojik olarak yüklü sorulara AI modellerinin verdiği empati dolu yanıtlardan da kendimi şaşkın buluyorum.

Ve tabii ki, insanların sosyal medya gönderilerinde, chatbot’una ne kadar bağımlı hale geldiklerini gösteren şakalar, memler ve TikTok videolarına güldüm, bazıları ona “en iyi arkadaş” veya “terapist” bile diye hitap ediyor ve hatta ciddi bir şekilde başkalarının da aynısını yapmasını öneriyor.

Ama, eğlenceli deneyimleri ve şakaları bir an için bir kenara bırakırsak, küresel anlamda endişe verici bir olguyla karşı karşıya olduğumuzu fark edebiliriz.

Bu ay, yapay zeka tarihinin kısa sürecinde ilk kez, OpenAI ve MIT Media Lab, bir çalışma yayımlayarak ChatGPT’nin insanların duygusal iyilik hali üzerindeki şu anki etkisi hakkında bilgiler sunuyor ve toplum olarak karşılaşabileceğimiz risklere dair önerilerde bulunuyor: yani yalnızlık, duygusal bağımlılık ve gerçek insanlarla daha az sosyal etkileşim.

Gelişen Bir İlişki

Yeni nesil yapay zeka teknolojilerine ilk yaklaşım genellikle birkaç çekingen soruyla başlar, belki bir e-posta oluşturmak gibi pratik görevler hakkında teknik sorular, karmaşık konuları açıklama talepleri ya da sadece beyin fırtınası yapma gereksinimi olabilir.

Ancak, bir kullanıcı chatbot’un yeteneklerini test etmeye başladığında, bunların beklenenden daha geniş ve karmaşık olabileceğini keşfeder.

Belirli AI ürünleri gibi Friend—bir giyilebilir AI cihazı—kullanıcının hayat arkadaşı olarak tasarlanmış ve çok garip bir şekilde tanıtılmış olmasına rağmen, ChatGPT bir verimlilik aracı olarak ilan edildi. Yine de, insanların bir yüzdesi chatbot’u kişisel ve duygusal konular için kullanır ve onunla güçlü bağlar kurar.

OpenAI’ın açıkladığı gibi, sadece “küçük bir grup” olsalar bile, dünya çapında milyonlarca kişiyi temsil edebilirler, özellikle şimdi haftada 400 milyondan fazla kişi ChatGPT’yi kullanıyor. Bu kullanıcılar, OpenAI’ın sohbet botunun onların dilini, tonlarını ve tarzlarını taklit ettiğini ve hatta belirli bir şekilde etkileşime girebilmek veya evcil isimler kullanabilmek için eğitilebildiğini – onunla aşık olan kadın gibi – ve hatta daha “insan gibi” ses çıkarabildiğini hızla fark ederler.

“Onların konuşma tarzı, birinci tekil dil kullanımı ve insan gibi etkileşimler simüle etme yetenekleri, kullanıcıların bazen bu sistemleri kişileştirip antropomorfize etmelerine yol açmıştır,” diye belirtiyor OpenAI tarafından paylaşılan belgede.

Fakat bu yakınlık, araştırmacıların belirttiği gibi bazı riskleri de beraberinde getirir: “Duygusal olarak etkileşime giren bir sohbet botu, destek ve arkadaşlık sağlayabilir, ancak kullanıcıların sosyo-duygusal ihtiyaçlarını, uzun vadedeki sağlıklarını zedeleyecek şekillerde manipüle etme riski vardır.”

Araştırmanın Metodolojisi

Son zamanlarda yayımlanan bu inceleme, ChatGPT’nin sürekli kullanımı sonrası insanların refah seviyesi üzerine odaklanmaktadır. Sohbet botunun duygusal ve sosyal etkisini anlamak için, araştırmacılar farklı stratejiler uygulayarak iki ana çalışma yürütmüştür.

OpenAI, kullanıcıların gizliliğine saygı göstererek sınıflandırıcıları kullanarak 40 milyondan fazla etkileşimi işledi ve analiz etti ve bu etkileşimlerin onları nasıl hissettirdiği konusunda 4.000’den fazla kişiye anket yaptı.

MIT Media Lab, bir ay boyunca neredeyse 1.000 kişiyle bir deneme yaptı, odaklanarak ChatGPT’nin günlük en az 5 dakika kullanılmasının psikososyal sonuçlarına odaklandı. Ayrıca deneyin sonunda anketler sundular ve işlediler.

Beklendiği gibi, bulgular teknolojiyle daha fazla zaman geçiren kullanıcıların daha fazla yalnızlık hissettiğini ve daha fazla izolasyon belirtisi gösterdiğini ortaya koydu.

Karmaşık Sonuçlar ve Çoklu Etkiler

MIT Media Lab ve OpenAI’nin çalışması, insan-chatbot ilişkilerinin ne kadar karmaşık ve benzersiz olabileceği üzerine birçok düşünce de sundu.

Araştırmada, yazarlar her kullanıcının ChatGPT ile nasıl etkileşim kurduğuna ve farklı faktörlere bağlı olarak sonucun nasıl değişebileceğine dair bir bakış sunuyor. Bu faktörler arasında gelişmiş ses özelliklerinin kullanımı, yalnızca metin modu, ses türü, kullanım sıklığı, konuşma konuları, kullanılan dil ve uygulamada geçirilen zaman gibi faktörler yer alıyor.

“Sonuçları genelleştirmemenizi tavsiye ediyoruz çünkü bu, insanlar ve AI sistemleri arasındaki düzensiz, karmaşık etkileşimleri vurgulayan ayrıntılı bulguları göz ardı edebilir,” diye uyarıda bulunuyor OpenAI, resmi duyurusunda.

Her kullanıcının seçtiği farklı yaklaşımlar, farklı sonuçlara dönüşür ve bizi keşfetmesi zor gri bölgelere daldırır.

İşte bu Kelebek AI Etkisi!

Daha Fazla Soru Ortaya Çıkıyor

OpenAI tarafından paylaşılan makale, ağır kullanıcıların chatbot’larının sesinin veya kişiliğinin değişmesi durumunda “üzüleceğini” belirtiyor.

Bu, bana sosyal medyada yakın zamanda gördüğüm bir videoyu hatırlattı. Bir adam her gün generatif AI ile konuştuğunu ve bir kadın sesini tercih ettiğini söylüyordu. Acaba ChatGPT, erkeklerin duygusal olarak açılmasına da yardımcı olabilir mi? Bir gün ChatGPT onunla erkek bir sesle konuşursa ne olurdu? Kendini aldatılmış hisseder miydi? ChatGPT’yi kullanmayı bırakır mıydı? Romantik bir bağlantı mı geliştiriyordu, yoksa sadece bir güven alanı mı? Tabii ki, bu senaryoları hemen Spike Jonze’un Her filmini hatırlamadan geçmek zor.

Her ChatGPT hesabı, tarihindeki sohbetlerle birlikte—her gün WhatsApp profilinden veya sosyal medya DM’lerinden daha kişisel ve özel—sayısız sonuç ve etkiyle eşsiz bir ilişkiyi temsil eder.

Beklenen Sonuç

Tüm çalışmalar farklı yönleri analiz etti, ancak MIT Technology Review’da kısaca açıklanan benzer bir sonuca ulaştı: “ChatGPT’ye daha çok güvenen ve onunla daha çok ‘bağ kuran’ katılımcılar, diğerlerinden daha yalnız olma ve ona daha çok bel bağlama eğilimindeydi.”

Araştırma, bu durumun neden olduğu veya nasıl gelişebileceği üzerine çözümlere veya daha derin açıklamalara odaklanmasa da, daha fazla kullanıcının OpenAI ve diğer AI platformlarına katılması muhtemel görünüyor, özellikle şimdi AI görüntü oluşturma aracı viral hale geldi.

MIT ve OpenAI’nin araştırmasının sonuçları belirgin bir şekilde şaşırtıcı olmasa da, çalışma, kanıtlar, ölçümler, örnekler ve daha ‘somut’ metrikler ile bilimsel bir zemin sunuyor. Bu, daha ileri araştırmalar için yol açabilecek ve bugün yapay zekanın kullanımının sonuçlarını ele almayı sağlayabilir.

Ayrıca, kendi geliştiricilerinden, ChatGPT ile kurduğumuz bağlar hakkında resmi bir uyarı aldık ve etkileşimlerimiz ve mevcut ilişkilerimiz—ya da durum ilişkilerimiz?—ile sohbet botları üzerinde düşünmemiz ve sınırlar belirlememiz için bir davet aldık.