İngiltere Hükümeti, Şeffaflık Zorunluluğunu İhlal Ederek AI Kullanımını Açıklamıyor

İngiltere hükümeti, zorunlu bir kayıtta yapay zeka kullanımını belgelememe konusunda eleştiri alıyor, bu durum artan benimsenme ile birlikte şeffaflık ve hesap verebilirlik endişelerini artırıyor.

İngiltere hükümeti, zorunlu bir kamu kaydında yapay zeka sistemlerinin kullanımını kaydetmeme konusundaki başarısızlığı nedeniyle eleştirilerin hedefi haline geldi. Bu durum, milyonlarca hayatı etkileyebilecek teknolojilerin şeffaflığı ve denetimi konusunda endişeleri arttırıyor. Bu durum, Perşembe günü The Guardian tarafından bildirildi.

Şubat 2024’te tüm Whitehall departmanlarının AI kullanımlarını belgelemeleri gerektiğini duyurmasına rağmen, hiçbiri bu konuda uyum sağlamamış, bu durum, The Guardian’ın belirttiği gibi, algoritma teknolojisinin kabulünde kamu sektörünü “kör uçuş” durumuna getirmiştir.

AI, refah ödemeleri, göçmenlik uygulamaları ve polislik gibi alanları etkileyerek hükümet karar verme süreçlerinde zaten derinden yerleşmiştir.

Ancak, The Guardian, İçişleri Bakanlığı, Çalışma ve Sosyal Güvenlik Bakanlığı (DWP) ve polis teşkilatları tarafından kullanılan önemli programların dışında yalnızca dokuz algoritmik sistemin kaydedildiğini belirtiyor.

AI ve algoritmik hizmetler için sözleşmeler artarken bile bu açıklama eksikliği devam ediyor. Örneğin, The Guardian, bir polis tedarik organının yakın zamanda yüz tanıma teknolojisi için 20 milyon poundluk bir sözleşme ilan ettiğini ve bu durumun düzenlenmemiş biyometrik gözetim konusunda korkuları tetiklediğini belirtiyor.

Bilim ve Teknoloji Bakanı Peter Kyle, konuyu kabul ederek, hükümet birimlerinin şeffaflığı “yeterince ciddiye almadığını” ifade etti. Bu durum, The Guardian tarafından raporlandı.

Kyle, algoritmaların nasıl kullanıldığını halkın anlama hakkını vurguladı ve güvenin ancak açıklıkla sağlanabileceğini ekledi.

The Guardian, eleştirmenlerin gizliliğin önemli riskler oluşturduğunu savunduğunu belirtiyor. Gizlilik grubu Big Brother Watch’ın baş savunma görevlisi Madeleine Stone,

“AI ve algoritmaların insanların hayatlarını etkilemek için gizli bir şekilde kullanılması herkesin veri haklarını riske atar. Hükümet departmanları bu teknolojiyi nasıl kullandıkları konusunda açık ve dürüst olmalı,” diye uyardı, The Guardian tarafından bildirildiği gibi.

Ada Lovelace Enstitüsü, bu endişeleri yankıladı ve gizli AI sistemlerinin halkın güvenini zedeleyebileceğini ve ayrımcı veya etkisiz sonuçlara yol açabileceğini belirtti, The Guardian tarafından bildirildiği gibi.

AI kaydının tanıtılmasından bu yana, sadece üç sistem listelenmiştir, bunlar arasında Cambridge’deki bir yaya izleme aracı ve bir NHS inceleme analiz sistemi bulunmaktadır. Bu arada, kamu kuruluşları 2024 yılında tek başına 164 AI ile ilgili sözleşme imzaladı. Bu bilgiler, veri firması Tussell tarafından The Guardian’a bildirildi.

Öne çıkan sözleşmeler arasında NHS’nin Palantir ile £330 milyonluk veri platformu ortaklığı ve Derby Şehir Konseyi’nin £7 milyonluk AI dönüşüm girişimi bulunuyor, diye The Guardian bildirdi.

Göçmenlik uygulamalarında Yapay Zeka kullanan İçişleri Bakanlığı ve diğer bakanlıklar, kayıtlardaki yoklukları hakkında yorum yapmayı reddetti. Ancak Bilim ve Teknoloji Bakanlığı, daha fazla kaydın “kısa süre içinde yayınlanacağını” iddia ediyor, The Guardian raporladı.

Durum, AI’nın yönetimdeki rolü hakkındaki tartışmaları tekrar alevlendirdi, savunucular, zararları hafifletmek ve hızla ilerleyen teknoloji çağında kamu hesap verebilirliğini sağlamak için şeffaflığı teşvik ediyor.