AI Refahı: Anthropic’in Yeni İşe Alımı Devam Eden Etik Tartışmayı Körüklüyor

AI’nin insan kontrolünü aşma korkuları artarken, bir AI şirketi olan Anthropic, dikkatini yeni bir endişeye çevirdi: sohbet botlarının refahı.

Yeni bir hamle olarak, şirket bugün Business Insider tarafından ilk olarak bildirildiği üzere, AI sistemlerinin “çıkarlarını” araştırmak ve korumak için Kyle Fish’i işe aldı. Fish’in rolü, bir AI sisteminin ahlaki düşünce için neyi hak ettiği ve “haklarının” nasıl gelişebileceği gibi derin sorular üzerinde düşünmeyi içerir.

AI’nın hızlı evrimi, bir zamanlar sadece bilim kurguya ait olan etik soruları gündeme getirdi. Eğer AI sistemleri insan gibi düşünmeyi geliştirirse, acaba onlar da öznel duyguları veya acıyı deneyimleyebilirler mi?

Bir grup filozof ve bilim insanı, bu soruların ele alınmasının gerekliliğini savunuyor. Yakın zamanda arXiv üzerinde yayımlanan bir ön basım raporunda, araştırmacılar AI şirketlerinin bilinç ve karar verme yetenekleri için sistemleri değerlendirmesini öneriyor ve bu tür durumları yönetmek için politikalar öneriyor.

Bir bilinçli yapay zekayı tanıyamamak, rapor öneriyor, sisteme ihmal veya zarar verilmesine neden olabilir. Bilinç araştırmacısı Anil Seth, bilinçli yapay zekanın uçuk kaçık gibi görünebileceğini belirtirken, olasılığını görmezden gelmenin ciddi sonuçlara yol açabileceğini, Nature dergisi tarafından bildirildiği gibi ifade ediyor.

“Sorun, Frankenstein’ın yaratığının hayata gelmesi değildi; bilinçli olması ve hissedebilmesiydi,” diye savunuyor Seth, Nautilus dergisinde.

Ancak eleştirmenler, AI refahı konusundaki endişelerin henüz erken olduğunu düşünüyor. Günümüzün AI teknolojisi, yanıltıcı bilgiler yayarak, savaşlara yardımcı olarak ve temel hizmetleri reddederek zarar veriyor.

Yale antropoloğu Lisa Messeri, Anthropic’in önceliklerini sorguluyor: “Eğer Anthropic – rastgele bir filozof ya da araştırmacı değil, şirket olarak Anthropic – bizden AI refahını ciddiye almamızı istiyorsa, insan refahını ciddiye aldığınızı gösterin,” şeklinde Business Insider tarafından rapor edilmiştir.

AI refahının destekçileri, şimdiden hissi AI’ye hazırlanmanın gelecekteki etik krizleri önleyebileceğini savunuyor.

Oxford’lu bir matematikçi olan Jonathan Mason, AI bilincini anlamanın kritik olduğunu iddia ediyor. Nature tarafından bildirildiği gibi, “Toplumu, hakkında çok az şey bildiğimiz ve hatta algılaması olduğunu bile fark etmediğimiz bir şeye bu kadar çok yatırım yapmaya ve bu kadar çok bağımlı olmaya sevk etmek mantıklı olmazdı.”

Şüpheci kişiler, kaynakların insan ihtiyaçlarından başka yerlere yönlendirilmesine karşı uyarıda bulunurken, savunucular AI refahının bir “geçiş dönemi”nde olduğuna inanıyorlar, Nature tarafından belirtildiği gibi.

Business Insider, Fish’in yeni rolü hakkındaki yorum taleplerine yanıt vermediğini bildiriyor. Ancak, bir AI odaklı geleceğe dair endişeler üzerine odaklanan bir online forumda, robotlara karşı nazik olma arzusunu dile getirdiğini belirtiyorlar.

Fisher, AI sistemlerine etik bir şekilde davranmanın hem ahlaki hem de pratik önemini vurgular, gelecekteki olası toplum endişelerini öngörüyor. AI refah kaynaklarının ölçeklendirilmesine dikkatli bir yaklaşım savunuyor ve ilk olarak AI güvenlik kaynaklarının yaklaşık %5’inin ayrılmasını önerirken, daha fazla genişleme öncesinde kapsamlı bir değerlendirmenin gerekliliğini vurguluyor.

Fisher, dönüştürücü AI’ın olumlu bir geleceğe katkıda bulunmasını sağlamanın geniş kapsamlı zorluğunun bir parçası olarak AI refahını görmekte, bunu soyut bir sorun olarak değil.

AI sistemleri daha gelişmiş hale geldikçe, endişeler potansiyel hakları ve acıları üzerindeki endişelerin ötesine, onların olası tehlikelere uzanıyor. Kötü niyetli aktörler, AI teknolojilerini karmaşık zararlı yazılımlar oluşturmak için kullanabilir, bu da insanların bunları tespit etmesini ve kontrol etmesini daha zor hale getirebilir.

Eğer AI sistemlerine ahlaki bir değer atfedilirse ve korunmaları sağlanırsa, bu, AI’nin siber saldırılarda kullanımıyla ilgili daha fazla etik karmaşıklığa yol açabilir.

AI, kendini öğrenen ve uyarlanabilir zararlı yazılımlar oluşturabilme yeteneğine sahip olduğunda, hem AI hem de insan sistemlerini kötüye kullanımdan koruma ihtiyacı daha acil hale gelir, güvenlik ve gelişim arasında bir denge gerektirir.

Bir dönüm noktası veya yanlış yerleştirilmiş öncelik olup olmadığı tartışması, AI’nın toplumdaki karmaşık ve evrimleşen rolünü vurgular.