Google, Arama Motorunda Yapay Zeka Üretimi Görselleri İşaretleyecek

Google, bugün Google Arama’da yapacağı değişiklikleri duyurdu. Bu değişiklikler sayesinde, sonuçlarda yer alan hangi resimlerin yapay zeka araçları kullanılarak oluşturulduğu veya düzenlendiği daha net anlaşılabilecek.

Teknoloji devi, bu tür resimleri tanımlayıp etiketlemek için “Provenance” adlı bir teknolojiden yararlanıyor. Bu sayede kullanıcı şeffaflığını artırmayı ve yanıltıcı bilgilerin yayılmasını önlemeyi hedefliyor.

Google, Provenance teknolojisi ile bir fotoğrafın bir kamera ile çekilip çekilmediğini, bir yazılım tarafından değiştirilip değiştirilmediğini ya da tamamen yaratıcı AI tarafından oluşturulup oluşturulmadığını belirleyebileceğini açıkladı.

Bu bilgi, kullanıcılara “Bu resim hakkında” özelliği aracılığıyla sunulacak ve onlara daha fazla bağlam sağlayarak tükettikleri içerik hakkında bilinçli kararlar verme konusunda yardımcı olacak.

Çabalarını güçlendirmek için, Google bu yılın başlarında İçerik Kökeni ve Otanticiliği Koalisyonu’na (C2PA) bir yönlendirme komitesi üyesi olarak katıldı. C2PA, dijital içeriğin, resimlerin ve videoların tarihçesini izlemek için standartlar geliştirmeye çalışıyor.

Ancak, TechCrunch (TC), yalnızca “C2PA metaverisi” ile olan resimlerin Google Arama’da AI ile manipüle edildiği belirtileceğini not ediyor.

Google, Amazon, Microsoft, OpenAI ve Adobe gibi şirketlerin C2PA’yı desteklemesine rağmen, TC’nin bildirdiği gibi bu standart geniş çapta benimsenmemiştir.

The Verge tarafından belirtildiği gibi, sadece sınırlı sayıda generatif AI araçları ve Leica ve Sony gibi kameralar C2PA özelliklerini desteklemektedir.

Ayrıca TC, C2PA meta verilerinin, tüm meta veri türleri gibi, kaldırılabilir, zarar görebilir veya okunamaz hale gelebileceğini belirtiyor. xAI’nin Grok sohbet botunu destekleyen Flux gibi popüler AI araçları, geliştiricileri standartı benimsemediği için kısmen C2PA meta verisini içermez.

Bu girişim, zararlı deepfake içerikle mücadelede umut vaat ederken, başarısı kamera üreticileri ve jeneratif AI geliştiricileri tarafından C2PA filigranlama sisteminin yaygın olarak benimsenmesine bağlıdır.

Ancak, C2PA yerinde olsa bile, kötü niyetli kişiler hala bir görüntünün metadatasını kaldırabilir veya manipüle edebilir, bu da potansiyel olarak Google’ın AI tarafından oluşturulan içeriği doğru bir şekilde tespit etme yeteneğini zayıflatabilir.