UNECE, AI-Entegreli Ürünler Hakkında Bildiri Yayınladı

Avrupa Birleşmiş Milletler Ekonomik Komisyonu (UNECE), bugün, günlük ürünler ve hizmetlerde yerleşik AI ve dijital teknolojilerin neden olduğu düzenleyici zorlukları ele alan bir bildiri yayınladığını duyurdu. Bu girişim, ortaya çıkan teknolojilerin karmaşıklığı karşısında küresel düzenleyici uyumu artırmayı amaçlamaktadır.

Genel Ortak Düzenleyici Düzenlemeler (CRA) üzerine kurulan bildiri, hükümetler arasında gönüllü düzenleyici işbirliğini teşvik ederken, küresel ticareti ve teknolojik ilerlemeyi korumayı hedefliyor.

Beyanname, gömülü AI ve dijital teknolojileri kullanan ürünlerin yaygınlığını vurgular, ancak tutarlı tanımların ve düzenlemelerin olmadığını belirtir.

CRA, kendi kapsamının otonom araçları veya silahları içermediğini belirtse de, bu sektörlere yönelik rehberliği hala geçerliliğini korumaktadır.

Beyanname, gömülü AI veya diğer dijital teknolojileri içeren ürünlerle ilişkili risklerin yönetilmesinin önemini vurgulamaktadır. Beyannameye göre, tüm riskleri tamamen ortadan kaldırmak gerçekçi değildir; bunun yerine, düzenlemeler riskleri kabul edilebilir sınırlar içinde yönetmeyi hedeflemelidir.

Yüksek riskli ürünler, özellikle sağlık, güvenlik veya gizliliği etkileyenler, sıkı bir denetim gerektirecektir. Kişisel veri içermeyen ancak kullanıcı güvenliği konusunda endişe yaratabilecek orta riskli ürünler, ılımlı bir izlemeye ihtiyaç duyacaktır. Buna karşılık, kişisel veri kullanmayan veya kullanıcıları doğrudan etkilemeyen düşük riskli ürünler minimum düzeyde gözetim gerektirecektir.

Yüksek riskli AI sistemleri için beyanname, nerede mümkünse insan karar verme sürecinin dahil edilmesini savunuyor. Örneğin, teşhislerde AI kullanımı yapan tıbbi cihazların hastalara yönelik riskleri hafifletmek için insan incelemesini içermesi gerekmekte, AI güdümlü endüstriyel makineler ise işyerlerinde insan gözetimine izin vermelidir.

AI teknolojilerinin öngörülemez doğasını tanıyan beyanname, bilinmeyen risklerin ısrarı kabul edilirken titiz testlerin gerekliliğini vurguluyor. Düzenleyiciler ve dağıtıcılar, bu kalıntı riskleri açıklamaya ve yönetilebilir olmalarını sağlamaya teşvik edilmektedir.

Zararı önlemek için, gömülü AI sistemlerinin karar verme sürecindeki önyargıları ele alması gerekmektedir. Bu hem insan hem de makine önyargılarını yansıtmaktadır.

Deklarasyon ayrıca bu sistemlerin insan özerkliğine, zihinsel sağlığa ve toplumsal değerlere, çocuk hakları dahil olmak üzere saygı göstermesi ve ticaret engelleri oluşturmadan gelişmekte olan ekonomilerde etkin bir şekilde çalışması gerektiğini belirtmektedir.

Güvenlik özellikleri, AI teknolojisinin yanlış kullanımını önlemek için hayati öneme sahiptir. Düzenleyici uyum değerlendirmeleri, düşük riskli ürünlerin sadece bir tedarikçinin kendi beyanını gerektirebileceği, yüksek riskli ürünlerin ise uluslararası standartlara uyumu doğrulamak için üçüncü taraf değerlendirmelerinden geçmesi gereken AI ürünleri için hayati öneme sahiptir.

Ek olarak, beyan, pazar gözetiminin AI’nin dinamik doğasına ayak uydurabilecek şekilde evrimleşmesi gerektiğini savunuyor. Sürekli uyum kontrolü, özellikle ürünler güncelleme aldıkça, gereklidir.

Bağımsız denetimler, ürünlerin başlangıç standartlarını koruduğunu ve kullanım için güvenli olduğunu teyit etmelidir. Standartlara uymayan ürünler, özellikle önemli riskler oluşturanlar, geri çağrılmalı ve ciddi sorunlar için uluslararası uyarılar yayınlanmalıdır.