OpenAI, İç Anlaşmazlıklar Nedeniyle ChatGPT Filigran Sistemi Uygulamasını Erteliyor

Wall Street Journal‘a göre, OpenAI, ChatGPT AI tarafından oluşturulan metni tespit etmek için tasarlanmış bir filigran sistemi yayımlamayı tartışıyor. Bu teknolojiyi yaklaşık bir yıl boyunca hazırda tutmalarına rağmen, iç anlaşmazlıklar yayımını geciktirmiştir.

OpenAI, son güncelledikleri yazıda, metin filigran yöntemlerinin yerel düzeydeki hilelere karşı doğru olduğunu belirtiyor. Ancak, global düzeydeki hilelere karşı savunmasızdır. Bu, çeviri sistemlerini kullanma, başka bir üretici modelle yeniden kelimeleme veya her kelime arasına özel bir karakter ekleyip sonra çıkarma gibi yöntemleri içerir.

OpenAI için bir diğer önemli endişe, araştırmalarının metin filigranlama yönteminin bazı grupları diğerlerinden daha fazla etkileyebileceğini öne sürmesidir. Örneğin, bu durum, ana dili İngilizce olmayanlar için AI’ın bir yazma aracı olarak kullanılmasını damgalayabilir.

OpenAI, mevcut AI modelleriyle ilişkili daha yüksek risk seviyeleri nedeniyle, özellikle ABD seçim yılında, sesli görsel içerik kökeni çözümlerini başlatmayı önceliklendirmiştir. Bu durum, Wall Street Journal tarafından bildirilmiştir. Şirket, sınıflandırıcılar, filigranlama ve meta veriler gibi çözümleri araştırarak metin menşeini geniş bir şekilde incelemiştir.

Bir OpenAI sözcüsü TechCrunch‘a, “Geliştirmekte olduğumuz metin su damgalama yöntemi teknik olarak umut verici ancak değerlendirmekte olduğumuz önemli riskleri var. Bunlar arasında kötü niyetli kişiler tarafından atlatılabilme olasılığı ve İngilizce konuşmayan gruplar gibi grupları orantısız bir şekilde etkileme potansiyeli bulunuyor.” dedi.

TechCrunch ayrıca, OpenAI’nin metin su damgalamasının özellikle ChatGPT tarafından oluşturulan metni hedef alacağını, diğer modellerden gelen içeriği değil, bildiriyor. Bu, ChatGPT’nin kelimeleri seçme şeklinde ince ayarlamalar yapmayı ve ayrı bir araç tarafından tespit edilebilen görünmez bir su damgası oluşturmayı içeriyor.

Wall Street Journal tarafından bildirildiği üzere, bir şirket anketi, sadık ChatGPT kullanıcılarının neredeyse üçte birinin anti-hile teknolojisinden caydırılabileceğini buldu. Bu, OpenAI’ı zor bir durumda bırakıyor. Çalışanlar, şeffaflığı sürdürme ve kullanıcıları çekme ve elde tutma arzusu arasında çelişkiye düşüyorlar.

OpenAI blog gönderisinde, üretilen metin hacminin sürekli genişlemesiyle, metin tabanlı içerik için güvenilir köken belirleme yöntemlerinin öneminin giderek daha kritik hale geldiğini vurguluyorlar.