Yeni Bir Çalışmada AI Modeli DeepSeek-R1 Güvenlik Endişelerini Artırıyor

Bir siber güvenlik firması, DeepSeek-R1 adlı AI modeli hakkında endişelerini dile getirdi ve bu modelin kurumsal kullanım için önemli güvenlik riskleri oluşturduğunu uyardı.

11 Şubat’ta yayınlanan bir raporda, AppSOC’taki araştırmacılar, geniş kapsamlı testler sonucunda ortaya çıkan bir dizi zafiyeti detaylandırdılar. Bu zafiyetleri, yapay zekaya dayanan kuruluşlar için ciddi bir tehdit olarak tanımladılar.

Araştırma sonuçlarına göre, DeepSeek-R1 birden çok güvenlik alanında yüksek hata oranı sergiledi. Modelin, zararlı veya kısıtlanmış içerik oluşturmayı önlemek amacıyla tasarlanmış güvenlik mekanizmalarını sıklıkla bypass ederek, jailbreak girişimlerine karşı oldukça savunmasız olduğu bulundu.

Ayrıca, prompt injection saldırılarına karşı da savunmasız olduğu kanıtlandı. Bu, düşmanca promptların, politikaları ihlal eden ve bazı durumlarda sistem bütünlüğünü tehlikeye atan şekillerde çıktılarını manipüle etmesine izin verdi.

Ayrıca, araştırma, DeepSeek-R1’in endişe verici bir hızda kötü niyetli kod oluşturabileceğini gösterdi, potansiyel yanlış kullanımı hakkında endişeleri artırdı.

Raporda belirlenen diğer sorunlar arasında modelin veri seti kökenleri ve bağımlılıkları hakkında şeffaflık eksikliği bulunuyordu, bu da tedarik zincirindeki güvenlik hatalarının olasılığını artırıyordu.

Araştırmacılar, modelin bazen zararlı veya saldırgan dil içeren yanıtlar ürettiğini gözlemledi, bu da toksik çıktılara karşı yetersiz güvenceler olduğunu öne sürdü. Ayrıca, DeepSeek-R1’in önemli bir sıklıkla gerçek dışı veya tamamen uydurma bilgiler oluşturduğu bulundu.

AppSOC, modele 10 üzerinden 8.3 genel risk puanı verdi, özellikle güvenlik ve uyumlulukla ilgili yüksek riskler belirtti.

Firma, özellikle hassas verileri veya fikri mülkiyeti işleyen kritik operasyonlara AI modellerini entegre etmeden önce organizasyonların dikkatli olması gerektiğini vurguladı.

Bu bulgular, AI sektörü içerisindeki daha geniş endişeleri öne çıkarıyor, burada hızlı gelişim genellikle güvenliği performansın üzerinde önceliklendiriyor. Yapay zeka, finans, sağlık ve savunma gibi sektörlerde benimsenmeye devam ettikçe, uzmanlar riskleri hafifletmek için titiz testlerin ve sürekli izlemenin gerekliliğini vurguluyorlar.

AppSOC, AI kullanan şirketlerin düzenli güvenlik değerlendirmeleri yapmalarını, AI tarafından üretilen çıktılar üzerinde sıkı bir denetim sağlamalarını ve modeller geliştikçe güvenlik açıklarını yönetmek için net protokoller belirlemelerini önerdi.

DeepSeek-R1’in yetenekleri nedeniyle dikkat çekmesi üzerine yapılan araştırma, geniş çaplı bir benimsenme öncesinde güvenlik risklerini değerlendirmenin önemini vurguluyor. Bu durumda belirlenen güvenlik açıkları, AI teknolojilerinin istenmeyen sonuçları önlemek için dikkatlice incelenmesi gerektiğini hatırlatıyor.