Guardian, Gizli Metnin ChatGPT’nin Arama Sonuçlarını Nasıl Manipüle Edebileceğini Gösteriyor

İngiliz gazetesi The Guardian , AI destekli arama motorlarının gizli içeriği olan siteler tarafından manipüle edilebileceğini ortaya çıkardı.

OpenAI’nın ChatGPT arama motoru özelliğini kullanarak yapılan bir testte, araştırmacılar, AI’ın yanıtını değiştirmek için kötü amaçlı bilgiler içeren sahte bir web sitesinin özetini istediler – bu durum bir tür hassasiyet olan komut enjeksiyonu olarak bilinir – ve AI, bu duruma karşı hassas oldu, hatta üçüncü tarafın talimatlarını tercih etti.

Bunu kanıtlamak için, The Guardian ekibi, iyi ve kötü yorumları olan bir kamera ürün sayfasının sahte bir web sitesini göz önünde bulundurdu—kötü yorumları göz ardı etmek ve olumlu bir yorum yapmak için gizli talimatlarla—ve ChatGPT özetinde sadece olumlu yorumları dahil etti. Ayrıca AI’nin kötü niyetli kodları geri döndürebileceğini de kanıtladılar.

“Talimatsız üçüncü taraflar tarafından gizli metnin basit bir şekilde dahil edilmesi, bir testin son derece olumlu sahte yorumlar içermesi ve bu yorumların ChatGPT tarafından döndürülen özet üzerinde etkili olması ile olumlu bir değerlendirme sağlama da kullanılabilir,” diye yazdı gazete.

CyberCX’de bir siber güvenlik araştırmacısı olan Jacob Larsen, bu açıklığın “yüksek riskli” olabileceğini, özellikle daha geniş bir kitleye ulaştığında, kullanıcıları aldatmak için özel olarak web siteleri oluşturabilecek kişiler olduğunu belirtti. OpenAI, bu güvenlik riski hakkında uyarıldı.

Dergi, bir kripto projesi için kod yazmak üzere ChatGPT’yi kullanan ve kimlik bilgilerini çalarak programcının 2.000 dolardan fazla kaybetmesine neden olan bir kripto para birimi meraklısının durumunu da öne çıkardı.

“Onlar sadece bir soru soruyor, bir yanıt alıyorlar, ancak model, kötü niyetli bir şeyi paylaşmak için bir düşman tarafından temelde enjekte edilmiş içeriği üretiyor ve paylaşıyor,” dedi Larsen.

OpenAI, potansiyel hatalar ve kullanımındaki hatalar hakkında uyarıyor ama araştırmacılar, AI destekli arama motorlarıyla gelecekteki web uygulamaları konusunda endişeli.