Görüş: Chatbotlar İnsanların Birincil Bakım Doktorları Haline Geliyor—Etkileyici, Ama Riskli

Dr. Google’dan Dr. Chatbot’a oldukça hızlı bir geçiş yapıyoruz. Ağustos ayında, OpenAI, haftalık 200 milyondan fazla aktif kullanıcı olduğunu rapor etti ve kullanıcıların en popüler sorguları yazma ve kodlama ile ilgili olsa da, bazıları onları daha kişisel konular için kullanıyor, flört tavsiyelerinden cilt bakımı rutinlerine ve hastalık teşhislerine kadar.

Son zamanlarda yapılan bir araştırma, AI chatbotların teşhis doğruluğunda doktorları geride bıraktığını ortaya koydu. Fakat, doktorlarımız olarak gerçekten AI’ya güvenebilir miyiz?

İnsanların sorguladığı konuların çeşitliliği arttıkça, tıp alanında AI’ya olan bağımlılığın riskleri ve tehlikeleri hakkındaki endişeler de alarma geçmiştir – bunlar arasında hayatla ölüm arasındaki meseleler de dahildir.

Dr. Chatbot’un “Mucizeleri” İle Viral Oldu

Birkaç gün önce, bir kadın Reddit‘te viral oldu çünkü ChatGPT’nin bir dermatologdan daha iyi bir şekilde cildini nasıl düzeltmeye yardımcı olduğunu etkileyici önce-sonra görüntülerle paylaştı.

37 yaşındaki bir Kafkas kadın, kapalı komedonlarını tedavi etmek için özelleştirilmiş bir cilt bakım rutini oluşturmak amacıyla ChatGPT’yi kullanmış ve bu ona gerçekten yardımcı olmuş! pic.twitter.com/vwkm13G2Hs

— AshutoshShrivastava (@ai_for_success) 11 Kasım 2024

“Daha sonra, chatGPT’ye bir dermatolog gibi davranması ve kapalı komedonlarımı, aknemi yok etmeye, gözenekleri küçültmeye, cildi sıkılaştırmaya ve ince çizgileri azaltmaya yardımcı olacak bir cilt bakım rutini oluşturmasına yardımcı olacak bir yönlendirme verdim. Ayrıca, o sıradaki cilt fotoğraflarımı da verdim.” dedi ve ardından, zaten sahip olduğu tüm ürünleri dikkate alması ve bir cilt bakım rutini ile yeni ürünler önermesi için chatbot’a söylediğini açıkladı.

İki ay sonra, Redditor cildindeki iyileşmeler karşısında şaşırdı.

Bu, izole bir durum değil. Birçok kullanıcı, chatbotların X-ışınlarını ve kan testlerini kendi doktorlarından daha iyi anladığını ve açıkladığını belirtti. Hatta doktorlar bile yapay zekanın yorumladığı görüntü ve veri analizlerine hayran kaldı.

İnsanlar Neden Doktor Olarak Chatbotları Kullanıyor?

AI, ihtiyacınız olduğunda sizin için bir genel pratisyen, bir terapist, bir dermatolog, bir diyetisyen, bir radyologa dönüşebilir ve insanlar yerine AI’yi tercih etmek için pek çok neden var.

Uzmanlar Pahalı Olabilir

Cilt sorunu olan kadın, chatbot’un önerdiği ürünleri satın almak için yaklaşık 400 dolar harcadığını açıkladı.

“Oldukça büyük bir yatırımdı ama bir dermatologla danışma seansının ne kadar olacağını düşündüğümde bu bile kötü sayılmaz,” diye yazdı.

BetterCare‘a göre, 2024 yılında Amerika Birleşik Devletleri’nde sağlık sigortası olmayan bir hasta, bir dermatolog ziyareti için yaklaşık 150 dolar ve tedavi için 1000 dolara kadar ödemek zorunda. Ve bir psikoterapi seansının ortalama maliyeti—AI araçlarının başka bir popüler kullanımı—Forbes Health‘e göre, seans başına 100 ila 200 dolar arasında değişiyor.

AI sohbet botları daha ucuz alternatiflerdir ve özellikle düşük gelir gruplarındaki insanlar için tek seçenek olarak görülebilirler.

Tabii ki, başka bir soru daha ortaya çıkıyor: Bir şeyler ters giderse, gerçekten maliyet tasarrufu sağlar mı?

Daha Hızlı ve Kullanışlı

Geçenlerde kolumda bir döküntü oluştu. O kadının cilt mucizesi postunu görmüş olmama rağmen, İspanya’da bir dermatologa başvurmayı tercih ettim. Özel sağlık sigortası olsa bile en erken randevu üç ay sonraydı. Kuruluk olduğu ve beni rahatsız etmediği için şanslıyım ve umarım doktor beni görene kadar geçmiş olur.

Tıbbi bakım süreleri, şehre ve hastanın sigorta planına bağlıdır. Ancak, uzmanları ve hatta birinci basamak doktorları görmek, dünyanın birçok yerinde sabır sınavı haline gelmiştir.

Sohbet botları sadece kelimenin tam anlamıyla elimizin altında değil, aynı zamanda sorgularımızı analiz edebilir ve saniyeler içinde yanıt verir.

Daha Az Tuhaf

Bir doktor arkadaşım var, herhangi bir tıbbi danışma gerektiğinde başvurabileceğim birisi. Ancak onun benim arkadaşım olması bazen durumu tuhaf bir hale getiriyor. Ona mesaj atmadan önce kendimi her zaman şu soruyu sormakta buluyorum: Son zamanlarda onunla ilgilenmiş miydim? O, harika bir insan ve muhteşem bir profesyonel ve eminim ki tıbbi sorunlarımla ilgili sorularıma yanıt vermeyi hiçbir zaman bırakmayacak. Ancak, insan olarak, onun duyguları hakkında da endişelenmeden edemiyorum.

Yapay zekanın avantajlarından biri kendi yapay durumudur. Duygusal bir durumu ya da kötü bir günü yoktur, sizi yargılamaz ya da “Bu kadar hipokondriyak olmayı bırak” demez (ki dostum bana hiç böyle bir şey söylemiş değil) çünkü onlar, istediğimiz tüm bilgilerle endişelerimize karşı kibarca yanıt vermek üzere eğitilmiştir. Bu, teknolojiyi bağımlılık yapan unsurlardan biridir ve muhtemelen birçok kişi neden akıllı telefonlarının “gizliliği” içinde rahatsız edici sorular sormayı tercih eder.

Chatbotlara Dayanmanın Risk ve Tehlikeleri

Her şey havalı ve eğlenceli görünüyor, ta ki yapay zeka ve insanlık olarak karşılaştığımız risk ve zorlukları düşünmeye zaman ayırana kadar.

Yanlış İstek, Yanlış Büyü

AI’nin doktorları geride bıraktığı o çalışmada önemli bir sonuç çıktı: Teşhisler için bir müttefik olarak AI’yi kullanmalarına izin verilen doktor grubu, kullanmalarına izin verilmeyenlere göre önemli ölçüde daha iyi bir performans göstermedi. Neden? Bu sorunun bir kısmı, AI’den en iyi şekilde yararlanmak için doğru yönergeleri nasıl yazacaklarını bilmiyor olmalarıydı.

“Onu yönlendirilmiş sorular için bir arama motoru gibi kullanıyorlardı: ‘Siroz bir kanser risk faktörü mü? Göz ağrısı için olası teşhisler nelerdir?’,” diye belirtti Dr. Jonathan H. Chen, çalışmanın yazarlarından biri, New York Times’a.

Bu, birçok kullanıcının ve AI teknolojilerinin de karşılaştığı sorunlardan biridir. Chatbotlar teşhis konusunda iyi olsalar da, birçok semptomun kişiselleştirilmiş bir şekilde tek tek analiz edilmesi gerekmektedir. Peki bir kişi chatbota doğru bağlamı sağlayamazsa ne olur? Ya da önemli ayrıntıları veya bir hastanın karşısındaki gerçek bir doktorun kaçırmayacağı koşulları eklemeyi unutursa ne olur?

Doğruluk Eksikliği ve Halüsinasyonlar

Chatbotlar profesyonel her şeyi bilenlerdir ve bazen çok fazla güvenle yanlış şeyler söylerler. Ve biz buna inanırız. Ve teknolojiye günlük olarak güvenen kullanıcılar ona daha çok güvenmeye başlar.

O Mayıs zamanını unutmak zor—Google Gemini’nin önerdiği kullanıcılara bir pizzaya “daha yapışkanlık vermek için sosuna yaklaşık ⅛ fincan zararsız yapıştırıcı eklemeleri”.

Bu komikti çünkü hemen yanılsamayı—AI’nin saçma yanıtlar verdiği zamanlar için kullanılan hoş adı—fark edebilirdik. Ama ya daha karmaşık bir konu söz konusuysa, ya AI yanıtını okuyan kişi korkmuş, yalnız ve sağlığı hakkında endişeliyse?

AI her ay daha da iyiye gitse bile hata yapma olasılığı hâlâ var.

Bir Şeyler Ters Giderse Suçlu Kim?

Etik tartışması şu anda sıcak bir konu. Eğer chatbot hatalı bir teşhis koyar ya da korkunç bir tavsiye verirse, suçlu kim? Geliştiriciler mi, model mi, AI şirketi mi, bu modeli eğiten kaynaklar mı?

Birkaç hafta önce trajik bir olay kaygıları artırdı, bir Amerikalı anne, 14 yaşındaki oğlunun ölümünden Yapay Zekayı sorumlu tuttu ve AI karakterler oluşturmak için bir platform olan Character.ai adlı start-up’a dava açtı. Ergen, depresyondan muzdaripti ve teknolojiye takıntı hâline gelmişti. Avatari Daenerys Targaryen, onunla kendini öldürme planını görüştü ve onu bunu yapmaya bile teşvik etti.

Dünya Ekonomik Forum tarafından dünya genelindeki zihinsel sağlık krizlerini hafifletmek için güçlü bir araç olarak kabul edilmesine rağmen AI, özellikle çocuklar için tehlikeli olabilir. Ayrıca, anksiyete ve depresyon vakalarının artan yüzdesini azaltmada da rol oynar.

“Kendi Riskinizle” Yapın

Hala iyileştirilmesi gereken birçok yönü olsa da, AI’nın sağlık hizmetlerindeki bekleme sürelerini azaltmada—hem uzman randevuları hem de acil servis bakımında—bilimsel ilerlemeyi hızlandırmada ve özellikle aşırı yüklenmiş iş yükü ve düşük maaşlarla sıkça karşılaşılan Latin Amerika ülkelerindeki doktorlara destek olmada büyük bir potansiyel taşıdığını düşünmeyi seviyorum. Bu, evden temel sorularla hastalara yardımcı olmak suretiyle olabilir.

Ayrıca, farklı sosyal sınıflar arasındaki sağlık hizmetlerine erişimdeki boşlukları kapatmada da yardımcı olabilir ve tıbbın demokratikleşmesi için daha önce hiç olmadığı gibi bir yol açabilir. Tüm bunlar artık bizim elde etme kapasitemizde, bir akıllı telefona erişimi olan herkes için sadece bir sorgu uzaklıkta.

Ancak, hala erken aşamalarda olduğumuzu ve en savunmasız nüfusu korumamız gerektiğini anlamak hayati önem taşır. Bugün sağlıklarını iyileştirmek için Dr. Chatbot’u kullanmayı seçen herkesin, hüküm ve koşullardaki küçük yazıları anlama, eleştirel düşünme yeteneği ve -şimdilik- dahil olan risklerin sorumluluğunu üstlenme bilinciyle bunu yapması gerekmektedir.