arXiv:2104.01789

Deep Learning-Based Autonomous Driving Systems: A Survey of Attacks and Defenses

Yao Deng, Tiehua Zhang, Guannan Lou, Xi Zheng, Jiong Jin, Qing-Long Han

제출 2021-04-05

원문 초록

The rapid development of artificial intelligence, especially deep learning technology, has advanced autonomous driving systems (ADSs) by providing precise control decisions to counterpart almost any driving event, spanning from anti-fatigue safe driving to intelligent route planning. However, ADSs are still plagued by increasing threats from different attacks, which could be categorized into physical attacks, cyberattacks and learning-based adversarial attacks. Inevitably, the safety and security of deep learning-based autonomous driving are severely challenged by these attacks, from which the countermeasures should be analyzed and studied comprehensively to mitigate all potential risks. This survey provides a thorough analysis of different attacks that may jeopardize ADSs, as well as the corresponding state-of-the-art defense mechanisms. The analysis is unrolled by taking an in-depth overview of each step in the ADS workflow, covering adversarial attacks for various deep learning models and attacks in both physical and cyber context. Furthermore, some promising research directions are suggested in order to improve deep learning-based autonomous driving safety, including model robustness training, model testing and verification, and anomaly detection based on cloud/edge servers.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.24204v1cs.CV공통 태그 Autonomous Driving, Anomaly Detection

SAFe: 이상 인식 분할을 위한 세그먼트 유도 특징 밀도 집계

SAFe: Segment-guided Aggregation of Feature Densities for Anomaly-aware Segmentation

시각 분할 시스템은 실제 배포 시 학습 분포 밖의 객체를 만나며, 지각 단계에서 장면 파싱(scene parsing)에 의존하는 신뢰할 수 있는 자율 시스템을 저해한다. 최근 많은 방법은 자기지도(self-supervised) 파운데이션 모델로 이상 이미지 영역에서 낮은 가능도를 내는 밀도 추정기(density estimator)를 학습하는 방식으로 이를 다룬다. 유망하지만, 이러한 방법은 특징 의미론이 빈약하거나 공간적 일관성이 부족해, 둘 다 중요한 후속 의사결정을 훼손한다. 우리는 자기지도 표현 위의 클래스 조건부 밀도 추정에 기반한 생성적 방법인 SAFe로 이 문제를 해결한다. SAFe는 고정(frozen) DINOv3 특징 위에서 클래스 조건부 정규화 가능도 추정치를 산출하는 경량 정규화 흐름(normalizing flow)을 학습한다. 전역 의미론과 국소 디테일을 모두 포착하기 위해 트랜스포머 특징의 밀도 추정과 다중 스케일 합성곱 특징에 대한 밀도 점수를 결합한다. SAM3에 기반한 방법 독립적 후처리 단계를 도입하여, 위치별 가능도를 공간적으로 일관된 세그먼트로 연결하고 거짓 양성을 억제하며, 재학습 없이 인스턴스 수준 이상 탐지를 가능하게 한다. 후처리는 유사도 기반 응집적 클러스터링(agglomerative clustering)으로 이상 객체들 가운데 새로운 범주를 추가로 구분한다. SAFe는 PANIC, OoDIS, SMIYC ObstacleTrack에서 새로운 최고 성능(state of the art)을 달성하고 ISSU 벤치마크에서도 강한 성능을 보인다.

arXiv:2607.23962v1cs.CV공통 태그 Autonomous Driving, Anomaly Detection

자율주행 차량 내비게이션을 위한 비전-언어 모델 기반 GNSS 스푸핑 탐지 개발

Development of Vision-Language Model-based GNSS Spoofing Detection for Autonomous Vehicle Navigation

자율주행 차량(AV)은 위치 추정 및 항법을 위해 위성항법시스템(GNSS)에 의존하므로, 차량을 은밀하게 다른 경로로 유도하거나 위험한 기동을 유발할 수 있는 스푸핑 공격에 취약하다. 본 논문에서는 전방 카메라 시각 데이터와 차량 내 센서 측정값(예: 속도, 가속도, 요율)을 GNSS에서 유도된 기동과 융합하여, 자율주행 차량의 GNSS 스푸핑 탐지를 위한 최초의 비전-언어 모델(VLM) 기반 프레임워크를 개발한다. 우리 접근법은 먼저 시각적 단서를 그라운딩하고, 이어 공유 의미 공간 내에서 센서 데이터를 보정하여 세 가지 공격 시나리오에 걸쳐 예측된 기동과 GNSS에서 유도된 기동 간의 불일치를 탐지하는 3단계 미세조정 과정을 도입한다. 또한 앨라배마주 터스커루사(Tuscaloosa, Alabama)의 공공 도로에서 계측 장비가 탑재된 차량을 주행하며 시간 동기화된 GNSS, IMU, 카메라 로그를 수집해 독립적인 실세계 데이터셋을 생성하고, 학습 데이터와 다른 미관측 데이터에 대한 미세조정 모델의 지역 간 일반화를 검증했다. 이 데이터셋에서 잘못된 방향 전환 공격을 위한 도로망 스냅핑을 적용한 궤적 미러링, 오버슈트 시나리오를 위한 위치 동결, 정지 공격을 위한 드리프트 생성 등 지능형 스푸핑 공격을 생성했다. 이 검증 데이터셋에서 제로샷 VLM 기준선의 F1-score는 23%에서 32% 범위인 반면, 우리의 미세조정 모델은 94%에서 95% 범위의 F1-score를 달성했다. 결과는 우리의 VLM 기반 접근법이 모든 잘못된 방향 전환 및 정지 공격을 올바르게 분류했으며, 오버슈트 공격에 대해 88%-93%의 정확도를 달성함을 보여준다. 또한 VLM 호출을 14%로 줄여(약 86%의 연산량 감소) 4초 윈도우당 65ms-73ms를 달성하는 적응형 추론 정책을 도입한다. 이 결과는 VLM을 활용하여 신호 수준 무결성 검사를 보완하는 실용적인 도로 주행 방어 층을 시사한다.

arXiv:2607.14203v2cs.GR공통 태그 Autonomous Driving

Instant NuRec: 주행 장면 시뮬레이션을 위한 피드포워드 3D Gaussian 재구성

Instant NuRec: Feed-Forward 3D Gaussian Reconstruction for Driving Scene Simulation

3D 시뮬레이션 플랫폼은 end-to-end 정책 평가(evaluation)를 가능하게 하여 개발 비용을 줄이고 안전성을 향상시키기 때문에 자율주행에 핵심적이다. 최근 몇 년간 신경 시뮬레이션이 주류가 되었고, NuRec와 같은 방법이 중심적인 역할을 하고 있다. 그러나 이러한 방법들은 여전히 상대적으로 느리고, 일반적으로 장면별 튜닝이 필요하다. 본 연구에서는 단일 순전파(forward pass)로 짧은 다시점(multi-view) 주행 로그를 완전히 시뮬레이션 가능한 3D Gaussian Splatting(3DGS) 세계로 변환하는 피드포워드 신경 재구성 모델인 Instant NuRec를 제안한다. 이 모델은 보정된 카메라 리그의 다시점 입력을 받아 정적 및 동적 3DGS 레이어, 스카이 큐브맵(sky cubemap), 카메라별 ISP 보정으로 구성된 계층적 출력을 생성하며, 3DGUT를 통해 비 핀홀(non-pinhole) 카메라 모델에 대한 네이티브 지원을 제공한다. 이 모델은 10–20초 길이의 다중 카메라 장면을 약 1.5초 만에 재구성하며, Waymo Open 데이터셋에서 평가된 가장 강력한 기준선보다 PSNR이 2.01 dB 높은 성능을 달성한다. Instant NuRec는 NuRec에 깊이 통합되어 있으며, 폐루프(closed-loop) 시뮬레이션을 위해 AlpaSim과 호환된다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.