Chicago Üniversitesi’nin Glaze ve Nightshade’i, Sanatçılara Yapay Zekaya Karşı Bir Savunma Sunuyor

Sanatçılar, Chicago Üniversitesi’nin SAND Lab’da Ben Zhao ve ekibi tarafından geliştirilen Glaze ve Nightshade gibi araçlarla sömürücü yapay zeka modellerine karşı mücadele ediyorlar. Bugün MIT Technology Review tarafından bildirildi.

Bu araçların amacı, birçok yaratıcının hırsızlık olarak gördüğü, AI modellerini eğitmek için sanatçıların çalışmalarının izinsiz kullanılmasını önlemektir. Mart 2023’te yayınlanmasından bu yana 4 milyondan fazla indirilen Glaze, AI’nın bir sanatçının stilini öğrenmesini engellemek için resimlere ince değişiklikler ekleyerek onları maskeleme işlemi yapıyor, diyor MIT.

MIT tarafından belirtildiği gibi, “saldırgan” bir karşıt olarak nitelendirilen Nightshade, eğitimde kullanılırsa AI öğrenmesini bozabilecek görünmez değişiklikler getirerek AI modellerini daha da bozar.

Bu araçlar, yeni eserler yaratmak için genellikle çevrimiçi resimlere dayanan generatif AI’nin hızla yükselişi konusunda sanatçıların endişelerinden esinlenmiştir. MIT, fantastik illüstratör Karla Ortiz ve diğer yaratıcıların, AI modellerinin izin veya ödeme olmaksızın kendine özgü stillerini taklit etmesi durumunda geçimlerini kaybetme korkularını dile getirdiğini bildiriyor.

Sanatçılar için çevrimiçi paylaşımlar, görünürlük ve gelir elde etmek açısından hayati önem taşırken, birçokları, AI eğitimi için çalışmalarının çalınmasını önlemek amacıyla eserlerini kaldırmayı düşündü. MIT tarafından belirtildiği gibi, bu durum kariyerlerini olumsuz etkileyecektir.

Glaze’den bir yıl sonra başlatılan Nightshade, MIT’nin raporlarına göre daha agresif bir savunma sunuyor. Görüntülere “zehirli” pikseller ekleyerek, AI eğitimini bozuyor ve bu resimler çalındığında modellerin bozuk sonuçlar üretmesine neden oluyor.

Nightshade’ın sembolik etkisi, sanatçılarla yankı bulmuştur; onlar için bu, şiirsel bir adalettir: Eğer çalışmaları AI eğitimi için çalınırsa, bu, onu sömüren sistemlere zarar verebilir.

MIT, bu araçların başlangıçta veri gizliliği konusunda endişelenen sanatçılardan biraz şüpheyle karşılandığını savunuyor. Bu konuyu ele almak için, SAND Lab, çevrimdışı çalışan bir Glaze versiyonunu yayınladı, bu da veri transferinin olmadığını garantileyerek, sömürüden çekinen sanatçılarda güven oluşturuyor.

Laboratuvar yakın zamanda, MIT tarafından belirtildiği gibi AI üretilen içeriği yasaklayan yeni bir sosyal platform olan Cara ile işbirliği yaparak erişimini genişletti.

Zhao ve ekibi, bireysel yaratıcılar ve AI şirketleri arasındaki güç dinamiğini değiştirmeyi hedefliyor.

Büyük şirketlerden yaratıcılığı koruyan araçlar sunarak, Zhao’nun sanatçıları eserlerinin kontrolünü sağlamaları ve AI ve fikri mülkiyet çevresindeki etik standartları yeniden tanımlamaları konusunda güçlendirmeyi hedeflediğini MIT belirtiyor.

Bu çaba ivme kazanıyor, ancak bazı uzmanlar, hackerların ve AI geliştiricilerinin bu korumaları atlatma yollarını araştırdığı gibi, araçların kesin koruma sunmayabileceği konusunda uyarıyor, MIT tarafından belirtildiği gibi.

Glaze ve Nightshade artık ücretsiz olarak erişilebilirken, Zhao’nun SAND Lab’ı, sanatsal bütünlüğü, AI destekli içerik oluşturmanın genişleyen etkisine karşı savunmada öncülüğü sürdürmeye devam ediyor.