Thread Starter
#0
⚠️ OTONOM SÜRÜŞ VE CAN GÜVENLİĞİ UYARISI:
Bu doküman, Yapay Zeka Araştırmacıları, Otomotiv Güvenlik Mühendisleri ve Computer Vision Uzmanları için; otonom araçların algılama sistemlerindeki (Perception Layer) zafiyetleri anlamak ve "Adversarial" saldırılara karşı savunma geliştirmek amacıyla TEORİK EĞİTİM AMAÇLI hazırlanmıştır.
Trafiğe açık alanda otonom bir aracın sensörlerini manipüle etmek, ani frenlemeye veya kazaya sebebiyet verebilir. Bu eylemler İnsan Hayatını Tehlikeye Atmak suçudur. Yazar ve Platform, bu teknik bilginin kötüye kullanımından sorumlu değildir.
1. Giriş: Gözler Yalan Söyler mi?
İnsan gözü ve beyni, evrimsel süreçte "saçmalıkları" elemek üzere gelişmiştir. Yolda giderken aniden beliren 2 boyutlu bir projeksiyonu veya garip bir çıkartmayı (sticker) gerçek bir engel sanmayız.Ancak Yapay Zeka (AI) böyle çalışmaz. Otonom araçlar (Tesla, Waymo vb.), kameralardan gelen pikselleri matematiksel matrislere çevirir ve sınıflandırır.
- "Bu piksel grubu %98 ihtimalle İnsan."
- "Bu piksel grubu %99 ihtimalle Dur Tabelası."
2. Teknik Teori: Adversarial Examples (Düşmanca Örnekler)
Bir "Dur" tabelasının üzerine insan gözüyle fark edilemeyecek kadar küçük, özel hesaplanmış renkli bantlar yapıştırırsanız ne olur?- İnsan: "Bu, üzerinde biraz kirlilik olan bir Dur tabelası."
- Yapay Zeka: "Bu, %95 güven oranıyla Hız Sınırı 80 tabelası."
3. Saldırı Vektörü 1: Split-Second Phantom Attacks (Milisaniyelik Hayaletler)
Ben Nassi ve ekibinin geliştirdiği bu yöntem, Projeksiyon cihazlarını kullanır.Otonom araçların kameraları "Rolling Shutter" (Satır satır tarama) mantığıyla çalışır ve pozlama süresi çok kısadır.Saldırgan, yolun kenarından veya bir drone üzerinden yola saniyenin çok küçük bir diliminde (milisaniye) bir "Yaya" görüntüsü yansıtır.
- İnsan Sürücü: Göz kırpma süresinden kısa olduğu için hiçbir şey görmez.
- Tesla Kamerası: O milisaniyelik kareyi yakalar. AI, "Yolda yaya var!" der ve otoyolda giderken Phantom Braking (Hayalet Fren) yaparak aracı kilitler. Arkadan gelen araçların zincirleme kaza yapmasına neden olur.
4. Saldırı Vektörü 2: The "Projected Road" (Sahte Yol)
Gece sürüşlerinde Tesla'nın "Şerit Takip" (Lane Assist) sistemi, yerdeki beyaz çizgileri takip eder.Saldırgan, güçlü bir lazer projektör ile asfalta sahte şerit çizgileri yansıtır. Bu çizgiler, aracı yavaşça karşı şeride (Ters Yön) veya bariyerlere doğru yönlendirir.Autopilot, "Yol kavis yapıyor" sanarak direksiyonu çevirir. Sürücü müdahale etmezse felaket kaçınılmazdır.
5. Zafiyetin Kaynağı: Vision-Only vs. LiDAR
Tesla'nın bu saldırılara karşı en büyük zafiyeti, Elon Musk'ın "Vision-Only" (Sadece Kamera) stratejisidir.Tesla, maliyeti düşürmek için Radar ve LiDAR sensörlerini araçlardan çıkardı.- LiDAR Olsaydı: Kamera "Yaya görüyorum" derken, LiDAR "Lazerim içinden geçiyor, bu fiziksel bir cisim değil, sadece ışık" derdi ve araç fren yapmazdı (Sensor Fusion).
- Sadece Kamera Olunca: Kamera ne görüyorsa gerçeklik odur. AI, ışık oyunlarını (projeksiyonları) fiziksel madde sanar.
6. Mavi Takım: AI Nasıl Eğitilmeli?
Bu saldırıları engellemek, yazılım güncellemesiyle zordur ama imkansız değildir.- Temporal Consistency (Zaman Tutarlılığı): AI şuna bakmalıdır: "Bu yaya 10 milisaniye göründü ve sonra yok oldu. Fizik kurallarına göre bir insan ışınlanamaz. O zaman bu bir hatadır." (Ancak bu, tepki süresini yavaşlatabilir).
- Stereo Vision: İki kamera arasındaki derinlik farkı (Depth Perception) kullanılarak, nesnenin 3 boyutlu olup olmadığı doğrulanmalıdır. Işık projeksiyonları 2 boyutludur.
- V2X (Vehicle-to-Everything): Araç sadece gözlerine güvenmemeli; trafik ışıklarıyla ve diğer araçlarla konuşmalıdır. "Ben burada dur tabelası görüyorum, siz de görüyor musunuz?"