İngiltere Hükümetinin Yapay Zeka Araçları, Irkçılık ve Önyargı Endişeleri Nedeniyle İncelemeye Tabi

The Guardian bugün, UK hükümetinin yakında, bu teknolojilere yerleşmiş olası ırkçılık ve önyargı endişeleri sonucunda, çeşitli departmanlarda kullanılan AI araçlarının ayrıntılarını yayınlayacağını bildirdi.

Bu AI araçlarını açıklama kararı, bu sistemler içerisindeki gizlilik ve olası ayrımcı uygulamalar konusunda uyarıda bulunan şeffaflık kampanyacılarından gelen baskı sonrası geldi. Bu AI araçları, sahte evlilikleri tespit etmek ve sosyal yardım taleplerindeki dolandırıcılıkları belirlemek gibi görevler için kullanılmıştır.

Kamu Hukuku Projesi (PLP), bir adalet erişimi derneği, bu konunun öncülüğünde yer alarak, bu tür teknolojinin kullanımında daha fazla şeffaflık ve adalet savunusu yapmıştır.

Ağustos 2020’de, İçişleri Bakanlığı, ırkçılık ve önyargı iddialarının ardından vize başvurularını sıralamak için kullanılan bir bilgisayar algoritmasını askıya almayı kabul etti. Göçmenlerin Refahı için Ortak Konsey ve dijital haklar grubu Foxglove tarafından yapılan hukuki bir itiraz sonrasında yetkililer, algoritmayı durdurdu. Bu durum Guardian tarafından rapor edildi.

Guardian’ın haberine göre, Foxglove belirli milletlerin otomatik olarak “kırmızı” risk puanı aldığını ve bu durumun vize reddi olasılığını artırdığını iddia etti. Bu sürecin ırkçı ayrımcılığa yol açtığını savundular.

Hükümetin Veri Etik ve İnovasyon Merkezi, bir raporunda AI’nin genellikle önyargıları büyüttüğünü uyardı. Merkez, AI ve algoritmik araçları kullanan kamu kuruluşları için bir algoritmik şeffaflık kayıt standardı geliştirmeye yardımcı oldu ve kamuya etkileşimde bulunan veya kararları etkileyen modellerin bir kayıtta yayınlanmasını önerdi.

Guardian’ın bildirdiği gibi, Bilim, İnovasyon ve Teknoloji Departmanı (BITD) bu haftasonu departmanların artık bu standart altında teknoloji kullanımlarını bildireceğini doğruladı.

Bir BITD sözcüsü Guardian’a şunları söyledi: “Teknolojinin kamu hizmetlerini iyileştirme potansiyeli büyük, ancak uygun olduğunda insan gözetimini ve diğer yönetim biçimlerini de içeren doğru güvencelerin korunmasının önemli olduğunu biliyoruz.”

“Algoritmik şeffaflık kayıt standardı artık tüm departmanlar için zorunlu hale geldi ve bir dizi kaydın yakında yayınlanması bekleniyor. Bu standardın kamu sektörü genelinde nasıl genişletilebileceğini araştırmaya devam ediyoruz. Tüm kuruluşları, araçlar, rehberler ve standartlar aracılığıyla halkın güvenini kazanacak şekilde AI ve veriyi kullanmalarını teşvik ediyoruz.”