Yüz Tanıma Tutuklamalarında AI’nin Açıklama Eksikliği Endişe Yaratıyor

The Washington Post tarafından bugün yayımlanan bir araştırma, yüz tanıma teknolojisinin kullanımı hakkında hiç bilgilendirilmeden yüzlerce Amerikalının tutuklandığını ortaya koymaktadır.

Araştırma, polisin teknolojiye olan bağımlılığını açıklamadığı, genellikle şüpheli tanımlamasını “soruşturma yöntemleri” veya tanıklara atfederek rolünü gizlediği 15 eyalette 1000’den fazla suç dosyasını gün yüzüne çıkardı.

Bu şeffaflık eksikliği, özellikle yüz tanıma yazılımının hatalara eğilimli olduğu ve özellikle renkli insanları tanımlamada hatalar yaptığı gösterildiğinden, adil olma konusunda endişeleri gündeme getiriyor.

Örneğin, 2020’de hatalı yüz tanıma nedeniyle haksız yere tutuklanan bir Siyah olan Robert Williams‘ın Detroit Şehri ile anlaşmaya varması durumu.

Post, federal testlerin önde gelen yüz tanıma yazılımının, renkli kişileri, kadınları ve yaşlı bireyleri yanıltıcı bir şekilde tanıma olasılığının daha yüksek olduğunu belirtiyor.

Bunun nedeni, yüz özelliklerinin kullanılan veri setlerinde yeterince temsil edilmemesi. Bu bilgi, Post’un raporuna göre, Washington’daki Ulusal Standartlar ve Teknoloji Enstitüsü’nde biyometrik testler yürüten Patrick Grother’den geliyor.

Post, Evansville, Indiana ve Pflugerville, Texas’ta, şüphelilerin yüz tanıma teknolojisi kullanılarak tespit edildiğini ancak tutuklanmalarında bu teknolojinin rolü konusunda hiçbir zaman bilgilendirilmediklerini bildirdi. Polis, yazılımın dahil olduğunu gizleyerek, bunun yerine fiziksel özellikleri veya araştırma veritabanlarını öne sürdü.

Bu durum birçok departmanda yaygın bir durumdu ve yüz tanıma teknolojisinin kullanımını açığa çıkarmaya yönelik genel bir isteksizliği yansıtan Post’a sadece 100 departmandan 30’u ilgili kayıtları sundu.

The Post, Clearview AI gibi yüz tanıma yazılımlarının, suç mahallerinden alınan görüntüleri, suçluların fotoğraflarını ve sosyal medya görsellerini içeren geniş veri tabanlarıyla karşılaştırarak nasıl çalıştığını açıklıyor.

Eleştirmenlere göre bu uygulama, görüntüleri çevrimiçi olarak bulunan masum insanların suçlara yanlışlıkla karıştırılma riskini artırıyor, The Post tarafından bildirildiği gibi. Sivil haklar grupları ve savunma avukatları, özellikle bu teknolojinin hata yapma eğilimi göz önünde bulundurulduğunda, insanların bu tür bir teknoloji ile tanındıklarında bunu bilmeye hakları olduğunu savunuyor, diye belirtiyor The Post.

Post, son zamanlarda bazı mahkeme davalarında, teknolojinin güvenilirliği hakkında sorular nedeniyle yüz tanıma sonuçlarının başarıyla itiraz edildiğini belirtiyor. Ancak Post, bazılarının bunu gerekçe olarak soruşturma ayrıcalığını öne sürdüğü, polis departmanlarının ifşa etmeme uygulamalarını savunmaya devam ettiklerini not ediyor.

Artan endişelere rağmen, federal yasa şu anda polisin yüz tanıma kullanımını açıklamasını gerektirmez, diye belirtti Post. New Jersey gibi bazı eyaletlerde, mahkemeler, sanıkların davalarında yüz tanımanın kullanılıp kullanılmadığını bilmeye hakları olduğuna hükmetmişlerdir.

Ancak, The Post’un belirttiği gibi, çoğu eyalette böyle bir gereklilik yok, bu da sanıkların tutuklanmalarında Yapay Zekanın oynadığı rol konusunda karanlıkta bırakılıyor.