Yaratıcı Yapay Zeka, Bilimde Alarm Veriyor: Sahte Veri, Güvenilirliği Tehdit Ediyor

Yapay zeka ile oluşturulan resimler, araştırmacılar ve yayıncılar arasında büyük endişelere neden oluyor. Yeni nesil yapay zeka araçları, sahte bilimsel veri ve resimlerin oluşturulmasını alarmlı bir şekilde basit hale getiriyor, Nature tarafından yayınlanan bir basın açıklamasında belirtildiği gibi.

Bu ilerleme, akademik literatürün güvenilirliğini tehdit ediyor ve uzmanlar, belirlenmesi zor olabilecek yapay zeka ile oluşturulan, uydurma çalışmalarındaki bir artıştan endişe duyuyorlar.

Almanya’daki FEBS Press’te görevli bir görüntü bütünlüğü analisti olan Jana Christopher, generatif AI’nin hızlı evriminin, bilimdeki kötüye kullanım potansiyeli konusunda artan endişelere neden olduğunu vurguluyor.

“Benim alanımda çalışan kişiler — görüntü bütünlüğü ve yayın etiği — bu konunun sunduğu olasılıklar konusunda giderek daha fazla endişeleniyor,” diye aktardı Jane, Nature tarafından bildirildiği üzere.

O, bazı dergilerin belirli kılavuzlar altında AI tarafından üretilen metni kabul edebileceğini belirtirken, AI tarafından üretilen görseller ve verilerin, Nature dergisi tarafından belirtildiği gibi, araştırma bütünlüğünü derinden etkileyebilecek bir çizgiyi aştığı görülüyor.

Nature dergisine göre, bu AI tarafından oluşturulan görselleri tespit etmek ana bir zorluk haline gelmiştir. Daha önceki dijital manipülasyonların aksine, AI tarafından oluşturulan görseller genellikle sahteciliğin alışılmış izlerini taşımaz, bu da herhangi bir aldatmayı kanıtlamayı zorlaştırır.

Görüntü adli bilimler uzmanı Elisabeth Bik ve diğer araştırmacılar, yapay zekâ tarafından üretilen şekillerin, özellikle moleküler ve hücre biyolojisi alanında, zaten yayınlanmış literatürde bulunabileceğini öne sürüyor; Nature tarafından bildirildiği üzere.

ChatGPT gibi araçlar artık düzenli olarak makale taslakları oluşturmak için kullanılıyor, genellikle düzenlenmemiş tipik chatbot ifadeleri ile tanınabilir, ancak yapay zekâ tarafından üretilen görüntüler çok daha zor tespit edilir. Bu zorluklara yanıt olarak, teknoloji şirketleri ve araştırma kurumları, tespit araçları geliştirmekte olup, bunun da Nature tarafından belirtildiği şeklindedir.

Imagetwin ve Proofig gibi AI destekli araçlar, algoritmalarını jeneratif AI içeriğini tanımlayacak şekilde eğiterek öncülük ediyorlar. Proofig’in kurucu ortağı Dror Kolodkin-Gal, araçlarının AI görüntüleri %98 oranında başarıyla tespit ettiğini bildiriyor, ancak sonuçları doğrulamak için insan doğrulamasının hala çok önemli olduğunu belirtiyor, Nature dergisi belirtti.

Yayın dünyasında, Science gibi dergiler ilk taramalar için Proofig’i kullanıyor ve yayın devi Springer Nature, metin ve görüntülerdeki düzensizlikleri belirlemek için kendi araçları olan Geppetto ve SnapShot’u geliştiriyor, Nature dergisi tarafından bildirildi.

Diğer organizasyonlar, Uluslararası Bilimsel, Teknik ve Tıbbi Yayıncılar Derneği gibi, Nature tarafından bildirildiği gibi, kağıt fabrikalarıyla mücadele etmek ve araştırma bütünlüğünü sağlamak için girişimler başlatıyor.

Ancak, uzmanlar yayıncıların hızlı hareket etmesi gerektiği konusunda uyarıyor. Bilimsel görüntü dedektifi Kevin Patrick, eğer eylemler gecikirse, Yapay Zeka tarafından üretilen içeriklerin, Nature tarafından bildirildiği gibi, bilimsel literatürde hala çözülmemiş başka bir sorun haline gelebileceğinden endişe ediyor.

Bu endişelere rağmen, birçok kişi gelecekteki teknolojinin bugünün AI tarafından oluşturulan aldatmalarını tespit etmeye evrileceğini ve akademik araştırma bütünlüğünü koruma adına uzun vadeli bir çözüm sunacağını ümit ediyor.