Yükleniciler, Yeni Google Yönergelerinin Gemini’nin Hassas Konulardaki Doğruluğunu Etkileyebileceği Konusunda Uyarıyor

Google’daki iç yönergelerdeki son değişiklik, özellikle hassas veya çok özel konuları ele alırken, Gemini AI’ının doğruluğu konusunda endişeleri artırdı.

Gemini projesi üzerinde çalışan yükleniciler, AI tarafından üretilen yanıtların doğruluğunu değerlendirme göreviyle yükümlü olanlar, artık kendi uzmanlık alanlarının dışındaki soruları atlayamazlar. Bu değişiklik, ilk olarak TechCrunch tarafından bildirildi ve potansiyel olarak, AI’nın sağlık hizmetleri gibi hassas bilginin kritik olduğu konularda sağladığı bilgilerin güvenilirliğini etkileyebilir.

TechCrunch, daha önce Hitachi‘nin sahibi olduğu GlobalLogic adlı bir dış kaynak sağlama firmasındaki sözleşmeli çalışanların, “doğruluk” gibi faktörlere dayanarak AI yanıtlarını değerlendirmekle görevlendirildiğini ve uzmanlık alanlarının dışındaki uyarıları atlayabildiklerini belirtiyor.

Örneğin, bir kontratlı çalışanın kardiyoloji hakkında teknik bir soruyu değerlendirmesi istendiğinde, bilimsel bir geçmişi olmayan bir kontratlı çalışan bunu atlayabilir.

Ancak, yeni kurallara göre, yüklenicilerin artık özel bilgi gerektirenler de dahil olmak üzere tüm isteklere karşı verilen yanıtları değerlendirmesi ve uzmanlık gerektiren alanlarda eksik oldukları yerleri not etmeleri gerekiyor, bu TechCrunch tarafından bildirildi.

Yeni kural, karmaşık konular için verilen derecelendirmelerin kalitesi konusunda endişelere yol açtı. Genellikle gerekli arka plana sahip olmayan yükleniciler, şimdi nadiren görülen hastalıklar veya ileri matematik gibi konularda AI yanıtlarını değerlendirmekle görevlendirildi.

Bir müteahhit, TechCrunch’a iç yazışmalarda ifade ettiği hayal kırıklığını anlattı, es geçme seçeneğinin kaldırılmasının mantığını sorguladı: “Es geçme seçeneğinin amacının, daha yetenekli birine vererek doğruluğu artırmak olduğunu düşünmüştüm?”

TechCrunch, güncellenmiş yönergelerin müteahhitlerin yalnızca iki durumda istekleri es geçmelerine izin verdiğini bildirir: eğer istek veya yanıt eksikse veya değerlendirme için özel izin gerektiren zararlı içerik içeriyorsa.

Bu kısıtlama, Gemini üzerinde çalışanları endişelendirmiş ve AI’nin hassas alanlarda yanıltıcı veya hatalı bilgiler üretebileceği konusunda uyarıda bulunmuşlardır.

TechCrunch, Google’ın yükleniciler tarafından dile getirilen endişelere detaylı bir yanıt vermediğini bildirmiştir.

Ancak, bir sözcü TechCrunch’a şirketin “Gemini’deki gerçek bilgi doğruluğunu sürekli olarak geliştirmek” için çalıştığını vurguladı. Değerlendiricilerin çeşitli faktörler üzerinden değerli geri bildirimler sağladığını, ancak bu değerlendirmelerin algoritmaları doğrudan etkilemediğini, ancak genel sistem performansını ölçmek için kullanıldığını daha da açıkladılar.

Mashable, raporun Google’ın Gemini’yi test ederken uyguladığı iddia edilen titizlik ve standartları sorguladığını belirtti.

“Sorumlu bir şekilde inşa etmek” bölümünde, Gemini 2.0 duyurusunda Google, “güvenilir testçiler ve dış uzmanlarla çalışıyoruz ve geniş kapsamlı risk değerlendirmeleri ile güvenlik ve güvence değerlendirmeleri yapıyoruz” ifadesini kullandı.

Hassas ve zararlı içeriğe yönelik yanıtların değerlendirilmesi üzerinde makul bir vurgu varken, zararlı olmayan ancak sadece yanıltıcı olan yanıtlara daha az dikkat verildiği görünüyor, bu da Mashable tarafından belirtildi.