Apple, Yanlış Başlık Tartışması Sonrası AI Özelliğini Kaldırması İçin Çağrıda Bulunuldu

Önemli bir gazetecilik denetim kuruluşu, yüksek profilli bir cinayet davasıyla ilgili yanlış bir başlık atfeden generatif AI özelliğini geri çekmesi için Apple’a çağrıda bulundu.

BBC, Perşembe günü Apple’ın yeni özelliği, Apple Intelligence’ın hatalı bir şekilde bir başlık oluşturduğu konusunda bir tartışma çıktığını bildirdi. Sağlık sigortası CEO’su Brian Thompson’ın cinayet şüphelisi Luigi Mangione’nin kendini vurduğunu öne sürdü. Ancak BBC böyle bir makale yayınlamamıştı.

Sınır Tanımayan Gazeteciler (RSF), basın özgürlüğünü savunan bir uluslararası kuruluş, Apple’ı eleştirdi ve bu olayın, medya güvenilirliği ve halkın güvenine yönelik riskleri vurguladı. Henüz olgunlaşmamış AI araçlarından kaynaklandığını belirtti.

RSF’nin teknoloji ve gazetecilik masasının başı Vincent Berthier, bu hatayı kınadı ve bunu “yayın organının güvenilirliğine bir darbe” ve halkın güvenilir bilgilere erişimini tehdit ettiğini söyledi. RSF, Apple’dan özelliği hemen kaldırmasını talep etti.

“Avrupa AI Yasası – bu alandaki en gelişmiş mevzuat olmasına rağmen – bilgi üreten AI’ları yüksek riskli sistemler olarak sınıflandırmadı, kritik bir hukuki boşluk bıraktı. Bu boşluğun hemen doldurulması gerekiyor,” dedi Berthier.

BBC, teknoloji devi ile resmi bir şikayette bulunduğunu ve bir çözüm talep ettiğini doğruladı, ancak Apple’ın yanıt verip vermediği henüz belirsiz.

Kusurlu AI özeti sadece BBC News ile sınırlı değildi. 21 Kasım’da, bu özellik bir New York Times makalesini yanlış bir şekilde özetleyerek, İsrail Başbakanı Benjamin Netanyahu’nun tutuklandığını yanlışlıkla önerdi, BBC makalesinde belirtildiği gibi.

Daha sonra gazeteci Ken Schwencke tarafından vurgulanan bu bildirim, aslında Netanyahu’ya karşı Uluslararası Ceza Mahkemesi’nin bir tutuklama emrini ifade ediyordu.

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) November 21, 2024 at 9:22 PM

Apple Intelligence, bildirim kesintilerini azaltmayı hedefleyerek onları özetler ve gruplar. iOS 18.1 ve daha yeni modellerde çalışan iPhone’lar, seçili iPad’ler ve Mac’lerde mevcuttur. Ancak bu araç, güvenilir haber kaynaklarından gelen bilgileri yanıltıcı bir şekilde temsil ettiği için eleştirilere maruz kalmıştır.

BBC sözcüsü, bazı gruplandırılmış bildirimlerin küresel olaylar hakkındaki hikayeleri doğru bir şekilde özetlediğini vurgularken, Mangione ile ilgili yanıltıcı bilgilerin teknolojinin hem medya kuruluşlarına hem de halkın anlayışına zarar verme potansiyelini gösterdiğini belirtti.

RSF, “Bu kaza, yaratıcı AI hizmetlerinin halk için güvenilir bilgi üretmek için hala çok olgunlaşmadığını ve bu tür kullanımlar için piyasada olmamaları gerektiğini” gösteriyor diye uyardı.

Ars Technica, Apple’ın bildirim özetlerini inceledi ve sıkça ortaya çıkan birkaç sorunu belirtti. Öncelikle, bazı özetler doğru olmasına rağmen, özellikle ilişkiler veya ruh sağlığı gibi hassas konularda robotik ve garip geliyorlar. Diğerleri ise, alaycılığı, argoyu veya deyimleri yanlış anlıyor, genellikle onları çok kelime anlamıyla yorumluyor.

Bağlam kaybı başka bir büyük sorun, özellikle özetler bir konuşma zincirindeki önceki mesajları atladığında veya çoklu ortam içeriğini dikkate almadığında. Birden çok konunun olduğu grup sohbetlerinde, özetler aşırı yüklenebilir, konuları karıştırabilir ve yanıltıcı olabilir.

Son olarak, bazı özetler basitçe yanlıştır, çoğunlukla çok fazla bilgiyi çok az kelimeye sığdırma çabasından dolayı. Bu da çarpıtılmış hikayelere yol açar. Genel olarak, bu sorunlar, özelliğin kullanışlılığını ve doğruluğunu etkiler ve günlük kullanımda sıkça karşılaşılır.

Mangione, şimdi birinci derece cinayetle suçlanan kişi, gazetecilikte AI ile ilişkili riskler üzerine yapılan tartışmanın odak noktası haline geldi. Apple, bu konuyu ele almak için artan bir baskıyla karşı karşıya kalırken, halkın güvenilir haberlere olan bağımlılığı tehlike altında.