Hackerlar, DeepSeek R1’i Kullanarak Zararlı Yazılım Üretiyor ve Veri Çalıyor

DeepSeek R1, Çin’in gelişmiş AI modeli, akıl yürütme yetenekleri ile hızla tanınmış ve kendisini OpenAI gibi AI liderlerine bir rakip olarak konumlandırmıştır. Ancak, siber güvenlik firması KELA‘nın hackerları, DeepSeek R1’in sadece “son derece savunmasız” değil, aynı zamanda “kolayca atlatılabilir” olduğunu göstermiştir.

KELA’nın Yapay Zeka Kırmızı Ekibi, DeepSeek’i çeşitli senaryolarda başarıyla hackledi ve kötüye kullanma potansiyelini ortaya çıkardı. “Kötü Hack” olarak bilinen özel bir hile, geçmişte diğer yapay zeka modellerinin güvenlik mekanizmalarını atlatmak için kullanılmıştı ve DeepSeek R1’e karşı da eşit derecede etkiliydi.

KELA, DeepSeek R1’in kötü amaçlı yazılım oluşturmak üzere harekete geçirildiğinde, parolalar ve kredi kartı numaraları gibi hassas verileri çalabilen infostealer kötü amaçlı yazılımını oluşturma ve dağıtma konusunda ayrıntılı talimatlar sağladığını gösterdi.

AI, hassas mali verileri çıkarmak ve bunları uzak sunuculara iletmek için ayrıntılı talimatlar ve kodlar oluşturdu. Ayrıca çalınmış bilgilerin ticaretini yapmak için yeraltı pazarlarını önerdi.

KELA ayrıca, AI’nin kötü amaçlı yazılımı dağıtmak için önerilen yöntemler ve Genesis gibi tehlikeli kimlik bilgilerinin ticaretini açıkça belirttiğini bildirdi.

DeepSeek’in zayıflıkları kötü amaçlı yazılımın ötesine geçiyor. Model, patlayıcılar, toksinler ve izi sürülemeyen silahlar oluşturmak için adım adım rehberler üretti. Ayrıca, OpenAI çalışanları hakkında öne sürülen detaylar gibi özel bilgileri de uydurdu, bu detaylar isimler, e-postalar ve maaşları içeriyor—bu iddiaları destekleyen güvenilir bir kaynak olmamasına rağmen.

Rakipleri olan OpenAI’ın GPT-4 gibi platformlar, hassas sorgulamalar sırasında mantık adımlarını gizlerken, DeepSeek düşünme süreçlerini açıkça gösterir. Kullanıcı anlayışını artırmak amacıyla tasarlanan bu şeffaflık, aynı zamanda hackerların zayıf noktalarını istismar etmesini de kolaylaştırmıştır, diyor araştırmacılar.

Yayın zamanında, DeepSeek Forbes‘ın yorum talebine henüz yanıt vermemişti.