Otonom Araçların, Hacklenmiş Reklam Panoları Tarafından Fren Yapmaya Zorlanabileceği Ortaya Çıktı
Yapılan araştırmalar sonucunda, “hayalet nesnelerin” otonom araçları nasıl kandırdığını ve belirli eylemleri nasıl tetiklediği gözlemlendi.
Güvenlik araştırmacıları, siber saldırılar ile ele geçirilen reklam panolarının, sürücüsüz arabaları yanıltmak için nasıl kullanılabileceğini, onları sert bir frene veya daha kötüsüne zorlayabileceklerini ortaya koydu.
Otonom sürüş sistemleri teknolojisi de bu teknolojiyi kullanan araç sayısı da son yıllarda büyük bir hızla ilerleme kaydetti. Bu artış ile birlikte hatalar, kazalar ve yapay zekanın zafiyetleri de daha karmaşık bir hal aldı.
Yapay zekalı şoförün, bir insan sürücünün gözetimi olmadan tamamen otonom ve güvenli olarak kabul edilebilmesi daha uzun bir yol var. Teknoloji firmaları platformlarını geliştirmeye devam ediyor. Bu zamana kadar bir çoğunun odak noktası, hava koşulları, haritalama ve arabaların, yoldaki insanlar veya diğer arabalar gibi tehlikeli nesnelere nasıl tepki vermesi gerektiği olma eğilimindeydi.
Ancak, son zamanlarda, insanların çıplak gözle tespit edemeyeceği, görünmeyen başka tehlikelerin de olabileceği ortaya çıktı.
İsrail’in Negev şehrindeki Ben Gurion Üniversitesi’nden akademisyenler tarafından yürütülen yeni araştırma, elektronik bir reklam panosundaki yanıp sönen ışıklardan oluşturulan bir dur işareti gibi “hayalet” olarak adlandırılan görüntülerin AI sistemlerini yanıltabileceğini ve belirli eylemleri veya hareketleri tetikleyebileceğini öne sürüyor.
Ölümcül kazalara sebebiyet verilebilir
Bilgisayar korsanlarının faaliyetine dair çok az kanıt bırakan bu yeni zafiyet, basit trafik sıkışıklıklarından çok daha fazlasına sebebiyet verebilir.
Güvenlik araştırmacısı Yisroel Mirsky yayına verdiği demeçte, yalnızca birkaç çerçeveyi kapsayan ve elektronik bir reklam panosunda görüntülenen ışık projeksiyonlarının arabaların “fren yapmasına veya yoldan sapmasına” neden olabileceğini, “böylece birilerinin arabası ani tepkiler verecek ve nedeni anlaşılamayacak” ifadelerini kullandı.
Testler, Tesla’nın en son Autopilot sürümü ve MobileEye kullanılan araçlar üzerinde gerçekleştirildi. Yapılan araştırmaya göre, 0,42 saniye görünen hayali bir dur işareti Tesla’yı kandırırken, MobileEye’ı kandırmak için saniyenin yalnızca 1/8’i yeterliydi.
Deneyler, yoldaki otonom araçları yanıltmak için bir insan şekli gibi anlık ışık projeksiyonları kullanan önceki araştırmalara dayanıyor. Bu testler aynı etkiye sahipken, teorik olarak dijital bir reklam panosu daha geniş ölçekte bir etki bırakmak isteyen saldırganlar için daha uygun olacaktır.
Araştırma, daha detaylı olarak Kasım ayında ACM Bilgisayar ve İletişim Güvenliği konferansında sunulacak.
