Epileptik Otomobiller? Acil Durum Işıkları Nasıl Otomatik Sürüş Sistemlerini Şaşırtır?

Acil durum ışıkları, otomatik sürüş sistemlerini bozabilir ve algılama hatalarına neden olabilir. Araştırmacılar, bu sorunu çözmek için “Caracetamol”u geliştirdiler, daha geniş AI güvenlik endişelerine dikkat çektiler.

Yeni bir araştırma, sürüşü daha güvenli hale getirmek için tasarlanmış kamera tabanlı otomatik sürüş sistemlerinin, acil durum ışıklarına maruz kaldığında yol üzerindeki objeleri tanıyamayabileceğini, böylece önemli riskler oluşturabileceğini öne sürüyor. Bu durum ilk olarak WIRED tarafından rapor edildi.

Ben-Gurion Üniversitesi ve Fujitsu Limited’den araştırmacılar, “dijital epileptik nöbet” veya “epileptikar” adı verilen bir fenomeni keşfettiler.

WIRED tarafından bildirildiği gibi, bu sorun sistemlerin acil durum araçlarının ışıklarının yanıp sönmesiyle senkronize bir şekilde nesneleri tanımlamada hata yapmasına neden oluyor, özellikle karanlıkta. Bu kusur, bu tür sistemleri kullanan araçların diğer otomobilleri veya engelleri yanlış tanımlamasına veya tespit edememesine, böylece acil durum sahneleri yakınındaki kazaların olasılığını artırabilir.

Bu çalışma, 2018 ve 2021 yılları arasında Autopilot özellikli Tesla araçlarının hareketsiz acil durum araçlarına çarpmasıyla ilgili raporlardan esinlenmiştir.

Araştırma, sorunu özellikle Tesla’nın sistemine bağlamasa da, bulgular, birçok otomatik sürüş sisteminin önemli bir bileşeni olan kamera tabanlı nesne algılama teknolojisinin olası zayıf noktalarını vurguluyor, WIRED notlarını alıyor.

Deneyler, otomatik sürüş özelliklerine sahip beş ticari daş kamerasını kullandı ve görüntülerini açık kaynaklı nesne dedektörlerinden geçirdi.

Araştırmacılar, bu sistemlerin otomobil üreticileri tarafından kullanılanları yansıtmayabileceğine dikkat çekiyor ve birçok aracın engel algılamayı geliştirmek için radar ve lidar gibi ek sensörler kullandığını kabul ediyor, WIRED tarafından bildirildiği gibi.

Amerika Birleşik Devletleri Ulusal Karayolu Trafik Güvenliği İdaresi (NHTSA) da gelişmiş sürücü yardım sistemlerinin (ADAS) acil durum ışıklarına yanıt vermedeki zorlukları kabul etmiştir, WIRED diyor.

Ancak, WIRED’ın haberine göre, araştırmacılar bulguları ve geçmişteki Tesla kazaları arasında doğrudan bir bağlantı iddia etmediklerini vurguluyorlar. Sorunu çözmek için, ekip “Caracetamol” adlı bir yazılım çözümü geliştirdi. Bu yazılım, yanıp sönen ışıklı araçları belirleme yeteneğini artırıyor.

UC San Diego’dan Earlence Fernandes gibi uzmanlar, bu düzeltmeyi umut verici bulurken, MIT’nin AgeLab’inden Bryan Reimer daha geniş endişeler konusunda uyarıda bulunuyor.

O, AI tabanlı sürüş sistemlerindeki kör noktaları ele almak için sağlam bir testin gerekliliğine vurgu yapıyor ve WIRED tarafından bildirildiği gibi, bazı otomobil üreticilerinin teknolojiyi onaylayabileceklerinden daha hızlı ilerletebileceği konusunda uyarıda bulunuyor.

Araştırma, otomatik sürüşte güvenliği sağlamanın karmaşıklığını vurgulamakta ve bu tür riskleri hafifletmek için daha fazla araştırma yapılmasını talep etmektedir.