AI, Kararları Tahmin Edebilir ve Etkileyebilir, Niyetlerinizi Şirketlere Satışı

Yakın zamanda yapay zeka, şirketlerin karar vermeden önce niyetlerinizi satın alıp sattığı bir pazar yeri oluşturabilir, diye uyarıyor Cambridge Üniversitesi’nden araştırmacılar.

Bu ortaya çıkan “Niyet Ekonomisi”, AI asistanlarının seçimlerinizi tahmin etmesine ve etkilemesine olanak sağlar; film bileti satın almaktan seçimlere oy verme eylemine kadar, çoğu zaman kendi tercihlerinizi fark etmeden önce.

Cambridge’deki Leverhulme Gelecek İstihbarat Merkezi’nden (LCFI) AI etikçileri, generatif AI ve chatbotların kullanımının artmasıyla yeni bir tür ikna edici teknolojinin yolunu açabileceğini öne sürüyorlar.

Chatbot asistanlarından dijital öğretmenlere kadar çeşitlilik gösteren bu AI ajanları, her gün yapılan sohbetler aracılığıyla toplanan büyük miktarda kişisel psikolojik ve davranışsal verilere sahip olacaklar, bu da gayri resmi diyalogları içerir.

Bu veri, gelişmiş algoritmalarla birleştirildiğinde, AI’ın kullanıcıların arzularını önceden tahmin etmesini ve kararlarını büyük ölçekte etkilemesini sağlayacak, diye araştırmacılar iddia ediyor.

“Muazzam kaynaklar, AI asistanlarını yaşamın her alanına yerleştirmek için harcanıyor, bu da bu sözde asistanların kimin çıkarlarını ve amaçlarını hizmet etmek üzere tasarlandığı sorusunu gündeme getirmeli,” dedi Dr. Yaqub Chaudhary, LCFI’da Misafir Araştırmacı, Eurekalert sitesinde bildirildiği gibi.

AI araçları sadece kullanıcıların çevrimiçi alışkanlıklarından veri toplamakla kalmaz, aynı zamanda insanların konuşma şekli ve gerçek zamanlı etkileşimlerden çıkarılabilen anlamalar gibi ince ipuçlarını da yorumlar. Araştırmacılara göre, bu araçlar yakında kararlarımızı tahmin edebilir ve etkileyebilir, onları şirket, politik ve ticari çıkarlar lehine manipüle eder.

Teknoloji tarihçisi Dr. Jonnie Penn, LCFI’da, dikkatin uzun süredir internetin para birimi olduğunu, Facebook ve Instagram gibi platformların kullanıcı etkileşiminden kar sağladığını açıklıyor. Ancak, ortaya çıkan niyet ekonomisinde, insan motivasyonları yeni para birimi haline gelecektir.

“Düzenlenmezse, niyet ekonomisi motivasyonlarınızı yeni bir para birimi olarak görecek. Hedefleyen, yönlendiren ve insan niyetlerini satanlar için bir altın çağı olacak.” diye konuştu Dr. Penn, Eurekalert’ta bildirildiği gibi.

Araştırmacılar, bu pazarın, özgür ve adil seçimleri tehdit etmekten medyanın ve pazar rekabetinin bütünlüğünü etkilemeye kadar ciddi sonuçlar doğurabileceği konusunda uyarıyorlar. Niyet ekonomisinin henüz emekleme aşamasında olduğunu, ancak gelişiminin erken belirtilerinin zaten görüldüğünü savunuyorlar.

Örneğin, Eurekalert’a göre, OpenAI, Meta ve Apple gibi büyük teknoloji şirketleri, insan niyetlerini tahmin eden AI sistemlerine yatırım yapmaya başladı. OpenAI, örneğin, çeşitli formatlarda insan niyetini ifade eden verileri talep etti, Apple’ın 2024 “App Intents” çerçevesi ise kullanıcıların gelecekteki eylemlerini tahmin etmek için tasarlandı.

Risklere rağmen, Penn ve Chaudhary bu gelişmelerin doğası gereği negatif olmadığını vurguluyorlar. Ancak, niyet ekonomisinin etik sınırları aşmamasını sağlamak için halkın bilinçlenmesi ve düzenlemelerin önemini üzerine basıyorlar.

“Böyle bir pazarın insan hedeflerine, özgür ve adil seçimler, özgür basın ve adil pazar rekabeti dahil olmak üzere, olası etkisini düşünmeye başlamalıyız, aksi takdirde istenmeyen sonuçlarının kurbanı olabiliriz.” Penn, Eurekalert tarafından bildirildiği gibi uyardı.

Hızla gelişen bu dijital ortamda, araştırmacılar, insanların ne istediğini değil, “ne istemek istediklerini” etkileyen AI araçlarının sonuçlarını dikkatlice incelemeye toplumu teşvik ediyor.