AI Yanıltmaları Toplu Banka Çekimlerine Yol Açabilir

Yeni bir İngiliz araştırması, yapay zeka tarafından üretilen yanıltıcı bilgilerin sosyal medyada dolaşmasının banka çekilme riskini artırdığı konusunda uyarıyor ve finans kurumlarını izleme çabalarını artırmaya çağırıyor, bunun ilk olarak Reuters tarafından bildirildiği gibi.

İngiltere merkezli Say No to Disinfo ve iletişim firması Fenimore Harper tarafından yayınlanan araştırma, AI’nin nasıl daha ucuza, daha hızlı ve daha etkin bir şekilde dezenformasyon yarattığını vurguluyor. Bu durum, finansal, ideolojik veya politik nedenlerle hareket eden daha geniş bir aktör yelpazesinin bu zayıflığı istismar etmesine yol açabilir.

Online bankacılığın kolaylığı ve hızlı para transferleri, bankaları bu tür risklere daha da açık hale getirir.

Potansiyel etkisini analiz etmek için, araştırmacılar bankaların finansal istikrarını hedef alan yapay zeka ile oluşturulmuş sahte bir haber kampanyası oluşturdu. Yanıltıcı başlıklar, mevcut korkuları sömürmek için tasarlandı, doppelganger web siteleri ve yapay zeka ile oluşturulan sosyal medya içerikleri kullanıldı.

Araştırmacılar, minimum maliyetle dakikada 1.000 tweet üretme kapasitesine sahip büyük ölçekli bir amplifikasyonu simüle ettiler. 500 İngiltere müşterisi üzerinde yapılan bir anket, dezenformasyona maruz kaldıktan sonra %33,6’sının son derece olası, %27,2’sinin ise biraz olası bir şekilde paralarını taşıma eğiliminde olduğunu gösterdi; içerikleri paylaşma eğiliminde olanların oranı %60’tı.

Ortalama İngiltere banka hesap bakiyeleri baz alındığında, tek bir dezenformasyon kampanyasıyla 10 milyon sterlin taşınabilirken, 150 milyon sterlini taşımanın maliyeti sadece 90-150 dolar arasında olabilir.

Bu tür saldırıların hızı ve kolaylığına rağmen, araştırmacılar finans kurumlarının hala hazırlıksız olduğunu söylüyor. Bankalar, yanıltıcı bilgi uzmanlarına, proaktif izlemeye ve kriz yanıt planlarına sahip değil. Mevcut güvenlik önlemleri, siber tehditlere odaklanırken AI destekli etki operasyonlarını ihmal ediyor.

AI destekli yanıltıcı bilgi, güveni aşındırarak ve büyük ölçekli çekilmelere neden olarak finans sektörünü istikrarsızlaştırma potansiyeline sahip. Araştırmacılar, proaktif önlemler alınmazsa, bu kampanyaların yaygın ekonomik zarara neden olabileceğini iddia ediyor.

Reuters, AI tarafından yönlendirilen yanıltıcı bilgiler konusundaki kaygıların, bir günde yatırımcıların 42 milyar dolar çektiği 2023’te Silicon Valley Bank’ın çöküşünün ardından geldiğine dikkat çekiyor.

G20’in Finansal İstikrar Kurulu da dahil olmak üzere düzenleyiciler, yaratıcı AI’nın finansal istikrarı daha da kötüleştirebileceği konusunda uyarıda bulunmuş ve “kötü niyetli aktörlerin, ani krizlere neden olan yanıltıcı bilgileri oluşturmasına ve yaymasına imkan sağlayabileceği” konusunda Kasım ayında uyarıda bulundu. Reuters’ın bildirdiği gibi bu durum, anlık çöküşlere ve banka koşuşturmalarına neden olabilir.

Bazı bankalar Reuters’a yorum yapmayı reddederken, UK Finance, finans kurumlarının AI ile ilgili riskleri aktif olarak yönettiklerini belirtti.

Çalışmanın yayınlanması, liderlerin AI risklerinden uzaklaşıp, kullanımını teşvik etmeye odaklandıkları Fransa’daki AI Zirvesi ile aynı zamana denk geliyor.