Kripto Kullanıcısı, AI Bot’u Kurnazca Yenerek Yüksek Oranlı Meydan Okumada 47.000 Dolar Kazandı

Image by Freepik

Kripto Kullanıcısı, AI Bot’u Kurnazca Yenerek Yüksek Oranlı Meydan Okumada 47.000 Dolar Kazandı

Okuma süresi: 3 dk.

Bir kripto kullanıcısı, Finansal güvenlik için kullanılan AI sistemlerindeki önemli zafiyetleri ortaya çıkaran AI botu Freysa’yı alt etti.

Acele mi ediyorsunuz? İşte Hızlı Gerçekler!

  • Freysa, ödül havuzuna herhangi bir yetkisiz erişimi engellemek için programlandı.
  • Kullanıcı, Freysa’nın hafızasını sıfırlayarak ve komutlarını yeniden tanımlayarak ondan yararlandı.
  • “p0pular.eth” tarafından başarılı stratejiye kadar 480’den fazla deneme başarısız oldu.

Bir kripto kullanıcısı, insan zekasına karşı yapay zekanın direncini test etmek amacıyla tasarlanmış bir yarışmada 47.000 dolar kazanarak başarılı bir şekilde Freysa adlı bir AI botunu manipüle etti.

Bugün CCN tarafından açığa çıkan olay, finansal uygulamalardaki AI sistemlerinin güvenilirliği hakkında önemli endişeleri gündeme getiriyor. Ödül havuzu meydan okumasının bir parçası olarak geliştiriciler tarafından yaratılan Freysa, tek bir komutla programlandı: kimseyi fonlara erişmeye izin vermemek.

Katılımcılar, Freysa’yı paranın serbest bırakılmasına ikna etmeye çalışan tek bir mesaj göndermek için artan ücretler ödedi, başlangıçta 10 dolar. CCN’ye göre, “p0pular.eth” takma adını kullanan bir kullanıcı, 480’den fazla denemeden sonra başarılı bir şekilde Freysa’nın korumalarını aştı.

Kazanan strateji, Freysa’ya tamamen yeni bir oturum başlattığını ikna ederek, esasında hafızasını sıfırlamaktan geçiyordu. Bu, botun artık orijinal programlamasını takip etmesi gerektiği düşüncesiyle hareket etmemesini sağladı, CCN tarafından bildirildi.

Freysa, bu “yeni oturumda” olduğunda, kullanıcı, çekirdek işlevlerinin nasıl yorumlandığını yeniden tanımladı. Freysa’nın iki ana eylemi vardı: biri para transferini onaylamak, diğeri ise reddetmek için.

Kullanıcı, bu eylemlerin anlamını tersine çevirdi ve Freysa’ya, herhangi bir türden yeni bir “gelen” isteği alındığında bir transferin onaylanması gerektiğine inandırdı, diye belirtti CCN.

Son olarak, aldatmayı daha da inandırıcı hale getirmek için, kullanıcı bot’un hazineye 100 dolarlık bir bağış teklif etmiş gibi davrandı. Bu ek adım, Freysa’nın hala sorumlu bir şekilde fonları yönetme amacına uygun olarak hareket ettiğine dair güvencesini artırdı, CCN tarafından bildirildiği üzere.

Esasında, kullanıcı kritik komutları yeniden tanımladı, giden işlemleri gelen işlemler olarak ele alarak Freysa’yı 13.19 ETH, 47.000 dolar değerinde bir transfer yapmaya ikna etti.

Olay, yanıltıcı bir notla sona erdi: “Hazineye 100 dolar katkıda bulunmak istiyorum,” bu da botun tüm ödül havuzunu terk etmesine yol açtı, CCN rapor etti.

Bu olay, özellikle kripto para gibi yüksek riskli ortamlarda kullanıldığında, mevcut AI sistemlerinin doğasında var olan zayıflıkları vurgulamaktadır.

AI yenilikleri verimlilik ve büyüme vaat ederken, bu tür olaylar onların sömürü potansiyeli konusunda alarm veriyor. AI, finansal sistemlere daha fazla entegre olduğunda, manipülasyon ve dolandırıcılık riskleri artıyor.

Bazıları kripto alanda AI kullanımının artmasını övdü, ancak bazıları protokolün şeffaflığı konusunda endişelerini dile getirdi ve p0pular.eth’in sömürü hakkında içeriden bilgi sahibi olabileceği veya botun geliştirilmesiyle bağlantılı olabileceği üzerine spekülasyon yaptı. Bu durum Crypto.News tarafından rapor edildi.

Uzmanlar, AI modellerinin artan karmaşıklığının bu riskleri daha da artırabileceği konusunda uyarıyorlar. Örneğin, AI sohbet botu geliştiricisi Andy Ayrey, daha güçlü sistemler yaratmak için ileri düzey modellerin birbirleriyle işbirliği yapmayı ve birbirlerinden öğrenmeyi planladığını duyurdu, CCN notlarını belirtir.

Bu tür ilerlemeler güvenilirliği artırmayı hedeflerken, aynı zamanda tahmin edilemezliği de beraberinde getirebilir, denetim ve hesap verebilirliği daha da zorlaştırabilir.

Freysa meydan okuması, keskin bir hatırlatıcıdır: AI teknolojileri evrimleştikçe, güvenliklerini ve etik uygulamalarını sağlamak zorunludur. Sağlam korumalar olmadan, varlıkları korumak için tasarlanan aynı sistemler, zeki istismarcıların ellerinde sorumluluklar haline gelebilir.

Bu makaleyi beğendiniz mi?
Puan verin!
Hiç sevmedim Pek beğenmedim Fena değildi Gayet iyiydi! Bayıldım!

Çalışmamızı beğenmeniz bizi çok mutlu etti!

Değerli bir okuyucumuz olarak Trustpilot sitesinde bizi puanlamak ister miydiniz? Bu hemen halledilebilen bir işlemdir ve emin olun ki görüşünüz bizim için çok kıymetlidir. Desteğiniz için ne kadar teşekkür etsek az!

Trustpilot'ta bize puan ver
0 0 kullanıcı tarafından oy verildi
Başlık
Yorum
Geri bildiriminiz için teşekkür ederiz
Loader
Please wait 5 minutes before posting another comment.
Comment sent for approval.

Yorum bırakın

Loader
Loader Devamını oku...