Önemli Dava, Konut Sektöründe Yapay Zekayı Sorguluyor

Konut sektöründe AI karar verme süreçlerinin potansiyel zararlarını vurgulayan örnek bir dava olan SafeRent, bir AI destekli kiracı tarama şirketi, 2,3 milyon dolarlık bir anlaşmayı kabul etti ve puanlama sistemini durdurmayı taahhüt etti.

Mary Louis ve Monica Douglas tarafından kiracılar adına açılan dava, SafeRent tarafından kullanılan algoritmanın, konut kuponlarına bel bağlayan Siyah ve Latin kökenli kiracıları orantısız bir şekilde ayrımcılığa tabi tuttuğunu, Fair Housing Act’i ihlal ettiğini iddia etti. Bu durum, ilk olarak The Guardian tarafından bildirildi.

Mary Louis, Massachusetts’ta güvenlik görevlisi olarak çalışan bir kadın, SafeRent’in tartışmalı sisteminden etkilenen 400’den fazla kiracı arasındaydı. 17 yıllık ev sahibinden olumlu bir referans almasına ve kısmi kira ödemesini garanti eden düşük gelirli konut kuponunu kullanmasına rağmen, başvurusu reddedildi.

Red, SafeRent’in ona 443 olan minimum gerekliliklerine kıyasla oldukça düşük olan 324 puan atamasının ardından geldi. The Guardian tarafından bildirildiği üzere, puanın neden bu kadar düşük olduğu ya da itiraz süreci hakkında hiçbir açıklama yapılmadı.

2022’de açılan dava, SafeRent’i, kredi kartı borcu gibi alakasız finansal verileri dikkate alırken, konut fişleri tarafından sağlanan garantili ödemeleri görmezden gelen şeffaf olmayan bir puanlama sistemi kullanmakla suçladı, diye belirtti The Guardian.

Araştırmalar, Siyah ve Hispanik kiracıların, beyaz başvuru sahiplerinden daha düşük kredi puanlarına sahip olma ve fişlere daha çok güvenme olasılığının daha yüksek olduğunu ve mevcut eşitsizlikleri daha da artırdığını gösteriyor, diye rapor etti Ulusal Tüketici Hukuku Merkezi.

Louis, algoritmanın bağlam eksikliği konusundaki hayal kırıklığını anlattı. “Kredi notumun iyi olmadığını biliyordum. Ama AI benim davranışlarımı bilmiyor – kredi kartı ödemelerimde geri kaldığımı biliyordu ama kiramı her zaman ödediğimi bilmiyordu,” dedi The Guardian’a.

20 Kasım’da onaylanan anlaşma, sadece finansal bileşeniyle değil, aynı zamanda işletme değişikliklerini zorunlu kılmasıyla da dikkat çekici.

SafeRent, artık konut kuponlarını kullanan başvuru sahipleri için puanlama sistemi kullanamaz veya bir üçüncü taraf adil konut organizasyonu tarafından bağımsız bir doğrulama olmaksızın kiracılık kararlarını öneremez. Teknoloji şirketlerini içeren anlaşmalarda bu tür düzenlemeler nadirdir, çünkü genellikle çekirdek ürünlerde değişiklik yapmaktan kaçınırlar, The Guardian belirtti.

“Beğeni ve beğenmeme kararını kaldırmak gerçekten kiracının ‘Ben harika bir kiracıyım’ demesine izin veriyor,” dedi davacıları temsil eden avukat Todd Kaplan, The Guardian tarafından bildirildiği gibi.

Bu durum, konut, istihdam ve sağlık hizmetleri gibi yaşamın temel alanlarında AI kullanımı hakkındaki artan endişeleri vurgulamaktadır.

Bir 2024 Tüketici Raporları anketi, özellikle yüksek riskli alanlarda algoritmik karar verme konusunda yaygın bir rahatsızlık olduğunu ortaya koydu. Eleştirmenler, bu sistemlerin genellikle hatalı istatistiksel varsayımlara dayandığını, bu nedenle ayrımcı sonuçlara yol açtığını savunuyor.

AI zararları konusunda hukuki bir uzman olan Kevin de Liban, düşük gelirli bireyler için adil sistemler oluşturmak için şirketlerin pek teşvikle karşılaşmadığını belirtti. “Piyasa güçleri, yoksul insanlar söz konusu olduğunda işlemiyor,” dedi ve daha güçlü düzenlemelere olan ihtiyacı vurguladı, The Guardian tarafından bildirildiği gibi.

“Bu, bir dönüm noktası davası olduğu ölçüde, bu tür durumlara nasıl bakılacağına dair bir yol haritası sağlama ve diğer itirazları teşvik etme potansiyeline sahip,” dedi Kaplan, ancak uzmanlar, dava sürecinin tek başına şirketleri hesap verebilir kılamayacağı konusunda uyarıda bulundu, The Guardian tarafından bildirildiği gibi.

Kiralayanlar için, Louis gibi, bu anlaşma, konut yardım programlarına bağımlı olanların daha adil bir muamele görmesi için çetin bir mücadele sonucu elde edilen bir zaferi temsil ediyor.