2025’te Gerçek ve Yapay Zeka ile Oluşturulan Videolar Arasındaki Net Çizgi Kaybolabilir

AI tarafından üretilen içerikler burada kalmak için. Gittikçe daha iyiye gidiyor ve 2024’te AI teknolojilerinde önemli bir ilerleme gördük. 2025’te gerçek olanla olmayanı ayırt edebilecek miyiz?

Geçenlerde Instagram’da bir gönderi görünce kendime, “Bu gerçek bir kadın mı?” diye sordum – biraz gözlerimi kısarak. “Hayır, bu mutlaka AI tarafından üretilmiş olmalı,” dedim bir an sonra. Ardından hemen şunu merak ettim: Gelecek yıl içinde farkı saniyeler içinde anlayabilecek miyiz? Tüm işaretler, özellikle sosyal medyada, AI teknolojisindeki büyük gelişmelerin gösterdiği gibi hayır diyor.

Birkaç gün önce, Instagram’ın başı Adam Mosseri, Threads üzerinde bu konuyu ele alan bir mesaj paylaştı. “Yaratıcı AI, gerçeklik kayıtlarından ayırt etmek zor olan içerik üretiyor ve hızla gelişiyor,” diye yazdı. Mosseri, Meta’nın AI tarafından oluşturulan içeriği etiketlemekte, kontrol etmekte ve sosyal medya platformlarında her saniye paylaşılan büyük miktardaki medyayı izlemekte zorlandıklarını açıkça kabul etti.

Mosseri, Meta’nın sorumluluğunu reddetti ve kullanıcıları bir gönderinin gerçek olup olmadığını ayırt etmeleri gerektiği konusunda uyardı. “Bir hesap veya gerçekliğin bir kaydı olduğunu iddia eden içeriği tüketirken izleyicinin veya okuyucunun ayrımsal bir zihniyetle yaklaşması giderek daha kritik hale gelecek,” diye ekledi.

Sadece birkaç gün sonra, OpenAI, Sora Turbo’yu yayınladı, güçlü AI video oluşturucusu, Pro ve Plus kullanıcılarının metin komutlarından gerçekçi videolar oluşturmasına olanak sağladı. Kullanıcılar birkaç dakika içinde büyüleyici gerçekçi videolar oluşturmaya başladı ve bunları sosyal medyada paylaşmaya başladılar.

Tam da her şeyin yeni bir video üretim seviyesine ulaştığı göründüğünde, Google, en son AI video aracını, Sora’dan daha yüksek çözünürlüklü ve daha uzun klipleri olan Veo 2’yi duyurdu. Elbette, ileri teknolojiye erişimi olanlar tarafından paylaşılan sonuçlar daha da etkileyiciydi.

“Bunu artık bir AI olduğunu kimse söyleyemez,” diye bir kullanıcı yazdı.

Bitti.

Google Veo 2 sadece rekabeti ortadan kaldırmakla kalmadı, aynı zamanda AI medya dünyasının yeni kralı oldu.

Artık kimse bunun bir AI olduğunu anlayamaz.

10 çılgın örnek: pic.twitter.com/MKAN4Lwj6m

— el.cine (@EHuanglu) 17 Aralık 2024

Zaten Oluyor

2024 yılı boyunca, yapay zeka tarafından üretilen içeriğin, nüfusları, seçimleri ve sosyal medya kullanıcılarını nasıl etkilediğine şahit olduk.

Ocak ayında, New Hampshire sakinleri “Joe Biden’dan” bir arama aldı ve birincil seçimlerde oy kullanmamaları gerektiğini söyledi. Politik danışman Steve Kramer bu dolandırıcılığın arkasındaydı ve AI derin sahte aramaları için 6 milyon dolar ceza aldı. Hükümetler, Yapay Zekanın (AI) ne tür etkileri olabileceğini anlamakta ve Singapur gibi ülkeler derin sahte içerikleri belirlemeye yardımcı olacak kanunlar ve stratejiler geliştirmekteler.

Venezuela’da, AI tarafından oluşturulan videolar yanıltıcı bilgiler yayıyor—ama aynı zamanda sansürü aşmak için AI avatarları aracılığıyla gazetecilerin bilgi vermesine de yardımcı oluyor.

İnsanlar gerçek ile sahte arasındaki farkı anlamakta zorlanıyor ve bu onların suçu değil: Yapay zeka ile oluşturulan içerikler giderek daha iyi ve daha gerçekçi hale geliyor.

Yüksek kaliteli yapay zeka ile oluşturulan içerikler, tüm formlarıyla; metin, ses ve video, hızla büyüyen bir iş kolu haline geliyor. Birçok OnlyFans yaratıcısı şu anda sohbet botlarına hayranlarıyla sohbet etme görevi veriyor, bu görev daha önce düşük gelirli ülkelerdeki serbest çalışanlara aitti. Flört tekniklerinde uzmanlaşmış yeni yapay zeka modelleri, takipçilerinden bile $1,000 bahşiş toplamış durumda.

Nisan ayında, Nvidia destekli girişim Synthesia, insan duygularını ifade edebilen yapay zeka avatarları başlattı ve bu avatarlar 130 dilde konuşabiliyor. TikTok, şirketlerin Getty Images içeriklerini kullanarak yapay zeka ile oluşturulmuş reklamlar yapmasına izin veriyor ve artık YouTube yaratıcıları yeni yapay zeka otomatik dublaj özelliğini kullanarak içeriklerini 9 dilde çevirebiliyor ve gelecekteki güncellemeler orijinal sesi taklit edecek.

Zoom, kullanıcılara benzer görünen yapay zeka avatarları oluşturarak onların mesaj kaydetmelerine ve hatta toplantılara katılmalarına yardımcı olmayı planlıyor. Bu araç önümüzdeki yıl kullanıma sunulacak, ancak insanlar zaten birçok aracı test ediyor ve şirketler fotoğraf gerçekçiliğinde yapay zeka klonları oluşturabiliyor.

Son Zoom görüşmenizde gerçek bir kişiyle konuştuğunuzdan emin misiniz?

Bunun Yapay Zekâ Tarafından Oluşturulup Oluşturulmadığını Nasıl Anlarız? Şimdilik

Dijital çağda karmaşık zamanlarda yaşıyoruz. Filtreler, herkesin pürüzsüz bir ciltle model gibi görünmesini sağlayabilir ve Instagram veya Snapchat’te Photoshop düzeyindeki düzeltmeler bir tıklama uzaklıkta – kimler, hatalarıyla birlikte “doğal” görüntülerini paylaşmak ister ki, bu saniyeler içinde geliştirilebilir? Gittikçe daha fazla reklamda, yapay zekâ tarafından oluşturulan fotoğraf gerçekçi görüntüler görüyoruz, bu da gözlerimizi onların tanıdıklığına ve “normal” oluşlarına ikna ediyor. Ve her gün, dünya çapında şaşırtıcı olaylar bize şunu sorgulatıyor: gerçek olan nedir ve artık ne değildir?

Büyük AI şirketleri, AI tarafından oluşturulan içeriklerini saptamak ve kolayca tanımak için filigranlar üzerinde çalışıyorlar. Google DeepMind, AI videoları, metinleri ve sesleri etiketlemek için açık kaynaklı filigran sistemini Ekim’de başlattı ve Meta da AI video aracına bir tane ekledi.

Ancak, bu sistemin etkinliği şüpheli. Meta’nın tüm AI tarafından oluşturulan içerikleri etiketleyemeyeceğini kabul etmesiyle başlayan bu durum, kötü niyetli aktörlerin hala filigranları kaldırmanın yollarını bulabileceği bir gerçek. Daha başarılı bir sistem için, sosyal medya şirketleri ve hükümetler arasında daha fazla yasa, ortaklık ve anlaşma gerekiyor.

Şimdilik, içgüdülerimize güvenmenin yanı sıra, sosyal medyada paylaşmadan ya da gördüğümüze inanmadan önce kendimize birkaç soru sorabiliriz:

• Mosseri’nin önerdiği gibi, şunu düşünün: Bu bilgiyi kim paylaşıyor? Bu güvenilir bir kaynak mı?
• Kişinin ifadesi veya hareketleri robotik mi hissettiriyor? AI avatarlar oldukça gerçekçi olabilir, ancak hala tuhaf bir sertlik veya duygusal eksiklik fark edilebilir – ancak Synthesia gibi birkaç şirketin bunu geliştirdiğini göz önünde bulundurun.
• İçerik güçlü bir duygusal tepki uyandırmak için mi tasarlanmış? Kötü niyetli aktörler, sosyal medyada ne kadar kolay negatif haberleri paylaştığımızı ve duygusal yüklü materyalle etkileşimde bulunduğumuzu biliyor ve araştırmalar bunu doğruluyor. Kanınızı kaynatan ve başkalarının da sizin kadar öfkelenmesini sağlamak için paylaşmayı düşündüğünüz o içeriği paylaşmadan önce, bunun tartışma yaratmak için mi tasarlandığına yoksa gerçekten gerçek bir haber veya olay olup olmadığına dair düşünün.
• İçeriği diğer kaynaklarla doğrulayabilir misiniz? Güvenilir kaynaklara danışmak hiçbir zaman zarar vermez.

Ve son olarak, eleştirel düşünme yeteneğinizi nasıl geliştirebileceğinizi kendinize veya tercih ettiğiniz sohbet botuna sordunuz mu? Eleştirel bir zihin geliştirmek kesinlikle herkesin Yeni Yıl kararları arasında olmalıdır.