arXiv:2306.15755

Adversarial Backdoor Attack by Naturalistic Data Poisoning on Trajectory Prediction in Autonomous Driving

Mozhgan PourKeshavarz, Mohammad Sabokrou, Amir Rasouli

제출 2023-06-27

원문 초록

In autonomous driving, behavior prediction is fundamental for safe motion planning, hence the security and robustness of prediction models against adversarial attacks are of paramount importance. We propose a novel adversarial backdoor attack against trajectory prediction models as a means of studying their potential vulnerabilities. Our attack affects the victim at training time via naturalistic, hence stealthy, poisoned samples crafted using a novel two-step approach. First, the triggers are crafted by perturbing the trajectory of attacking vehicle and then disguised by transforming the scene using a bi-level optimization technique. The proposed attack does not depend on a particular model architecture and operates in a black-box manner, thus can be effective without any knowledge of the victim model. We conduct extensive empirical studies using state-of-the-art prediction models on two benchmark datasets using metrics customized for trajectory prediction. We show that the proposed attack is highly effective, as it can significantly hinder the performance of prediction models, unnoticeable by the victims, and efficient as it forces the victim to generate malicious behavior even under constrained conditions. Via ablative studies, we analyze the impact of different attack design choices followed by an evaluation of existing defence mechanisms against the proposed attack.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.36117v2cs.LG공통 태그 Data Poisoning, Backdoor Attack

신경망에 백도어를 심는 것은 왜 이토록 쉬운가?

Why Backdooring Neural Networks is so Easy?

현대 AI 시스템을 백도어 공격(backdoor attack)으로부터 보호하는 것은 여전히 미해결 과제로 남아 있으며, 성공적이면서도 은밀한 공격을 설계하는 데 필요한 공격자 자원(adversary's budget), 즉 오염 비율 $π$와 트리거 강도(trigger strength) $α$에 대한 근본적이고 원리적인 추정이 필요합니다. 깨끗한 데이터셋이 커지더라도 대규모 언어 모델(LLM)을 오염시키는 데 거의 일정한 수의 악성 샘플만이 필요할 수 있다는 최근 실증적 증거에 착안하여, 본 연구는 오염된 가우시안 혼합(Gaussian mixture)에서 학습된 2차 뉴런(quadratic neuron)에 대한 정확한 닫힌 형태 분석(closed-form analysis)을 도출합니다. 연구 결과, 직관에 반할 수도 있지만 신경망을 강력하게 만드는 바로 그 특징 학습(feature learning) 역학이 역설적으로 신경망을 백도어에 더 취약하게 만들 수 있음을 보여줍니다. 구체적으로, 깨끗한 데이터에 대한 정확도가 1차 근사 $O(π)$로 보존되는 상황에서 레이지 러닝(lazy learning)은 성공적인 공격을 위해 역제곱근 스케일링인 $α\propto π^{-1/2}$을 요구하는 반면, 특징 학습은 손실 마진(loss margin)이 $O(α^4)$로 스케일링되는 2차 탐지기(quadratic detector)를 유도하여 공격 자원을 $α\propto π^{-1/4}$로 개선함을 입증합니다. 결과적으로 비선형 특징 학습은 작은 오염 비율에서 요구되는 트리거 강도를 대폭 낮추며, 이는 어떤 면에서 특징 학습 모델을 백도어에 더 취약하게 만듭니다. 이러한 결과는 대규모 실증적 관찰과 일치하는 이론적 메커니즘을 제공하며, 선형 휴리스틱에 기반한 보안 감사가 널리 채택된 특징 학습 체계에서 백도어 취약성을 체계적으로 과소평가할 수 있음을 보여줍니다.

arXiv:2609.27677v1cs.CV공통 태그 Autonomous Driving, Prediction

RoadOcc: 노변 점유 예측을 위해 메모리의 유지, 이동, 갱신 시점을 학습하다

RoadOcc Learns When to Persist, Transport, or Refresh Memory for Roadside Occupancy Prediction

고정된 노변 카메라는 드문드문 이동하는 교통 흐름이 겹쳐진 안정적인 장면을 반복적으로 관찰합니다. 시간적 메모리는 취약한 관측치를 복원할 수 있지만, 오래된 위치의 이동하는 단서를 재사용하면 점유 예측(occupancy prediction)을 훼손할 수 있습니다. 모션 보상은 변위 문제를 해결하지만, 그 결과로 얻은 이력 정보에 대한 의존도를 결정하는 것은 여전히 별도의 학습 문제입니다. 본 논문에서는 고정 좌표 이력(\emph{Persist}), 속도 기반 주소 지정 이력(\emph{Transport}), 현재 단서(\emph{Refresh}) 간의 소프트 라우팅을 학습하는 RoadOcc를 소개합니다. 모션 상태와 클래스 일관성을 갖는 이력 지원 정보가 이러한 소스 선택을 지도합니다. 동적 인지 크로스 어텐션(DCA)은 후보 위치를 업데이트하고, 다중 스케일 복셀 속도 추정(VVE)은 다중 스케일의 현재-이력 대응 관계로부터 이동 주소를 구성하며, 속도 유도 동적 희소 융합(VDSF)은 고정된 희소 토큰 예산 하에서 라우팅된 단서들을 결합합니다. InfraOcc에서 RoadOcc는 65.29 mIoU 및 32.37 동적 mIoU를 달성하여 STCOcc 대비 각각 4.44 및 4.71의 성능 향상을 기록했습니다. 통제된 주소 지정 실험에 따르면 VVE는 고정 좌표 읽기 방식 대비 동적 mIoU를 0.87 향상시킵니다. 세 가지 시드에 걸쳐 지도 학습된 P/T/R은 모션 보정 검색 방식 대비 1.40 동적 포인트를 추가하는 반면, Refresh를 제거하면 0.32 포인트의 손실이 발생합니다. 두 가지 전이 모델인 Occ3D-nuScenes 및 더 긴 간격 조건에서의 결과는 추가적인 근거를 제공합니다. 코드는 공개될 예정입니다.

arXiv:2609.22868v1cs.CV공통 태그 Autonomous Driving, Motion Planning

종단 간 자율 주행을 위한 희소 행동 조건 타깃 기반 계획 정렬 BEV 표현 사전학습

Planning-Aligned Pretraining of BEV Representations with Sparse Action-Conditioned Targets for End-to-End Autonomous Driving

종단 간 주행에는 계획(planning)에 관련된 조감도(bird's-eye-view, BEV) 표현이 필요하지만, 기존 사전학습 접근은 종종 태스크 주석이나 밀집 장면 재구성에 의존한다. 우리는 PAVER(Planning-Aligned BEV Encoder Pretraining, 계획 정렬 BEV 인코더 사전학습)를 제안한다. 단일 LiDAR 스윕(sweep)으로부터 PAVER는 규칙 기반 ego motion을 따라 점유된 증거와 관측되지 않은 증거를 기술하는 희소 위험(risk) 및 unknown 타깃을 구성한다. 1만(10K) 매개변수 헤드가 행동 상태(action state)에 조건이 걸린 마스킹된 BEV 특징으로부터 이 타깃들을 예측하여, 후보 motion에 대한 기하학적 제약으로 지도(supervision)를 향하게 한다. 사전학습에는 주행 태스크 주석이나 밀집 재구성이 필요하지 않다. BEV 인코더만 전이(transfer)되어 하류 아키텍처와 카메라 전용 추론을 유지한다. nuScenes에서 PAVER는 VAD-Tiny의 평균 충돌률을 0.51%에서 0.19%로 낮추면서 planning L2, motion prediction, detection, mapping을 개선한다. 선택된 VAD-Tiny 및 VAD-Base 스케줄은 사전학습을 포함해 처음부터 학습(scratch training) 대비 추정 총 학습 시간이 약 36% 적다. Bench2Drive Town05 Long에서 PAVER는 UniAD-Tiny의 폐루프(closed-loop) Driving Score를 48.45에서 58.79로 향상시킨다. 프로젝트 페이지는 https://archiiive99.github.io/PAVER 에서 확인할 수 있다.

arXiv:2609.24193v1cs.CV공통 태그 Autonomous Driving, Prediction

안전한 보행자-차량 상호작용을 위한 경량 보행자 머리 방향 인식 네트워크

Lightweight Pedestrian Head-Orientation Recognition Network for Safe Pedestrian-Vehicle Interaction

보행자 머리 방향 인식은 보행자의 주의를 파악하고 잠재적인 횡단 행동을 예측하는 데 유용한 단서를 제공함으로써 자율주행에서 중요한 역할을 한다. 그러나 실제 교통 상황에서 보행자의 머리 영역이 저해상도로 촬영되는 경우가 많아 신뢰할 수 있는 인식은 여전히 어려운 과제로 남아 있다. 이러한 문제를 해결하기 위해, 우리는 보행자 머리 방향 인식을 위한 경량의 저해상도 머리 방향 합성곱 신경망(Low-Resolution Head Orientation Convolutional Neural Network, LRHO-CNN)을 제안한다. 우리는 여러 공개 데이터셋에서 보행자 머리 이미지를 추출하고 이를 8개의 방향 범주로 수동으로 주석 처리하여 새로운 데이터셋을 구축한다. 수집된 이미지는 데이터 다양성을 높이고 조명 및 이미지 품질의 변화를 더 잘 반영하기 위해 체계적으로 전처리 및 증강된다. 실험 분석에서는 LRHO-CNN을 세 가지 파인튜닝된 기준선 모델인 ResNet-18, ResNet-34, VGG-16과 비교한다. 그 결과 LRHO-CNN이 평가된 모델 중 가장 높은 분류 정확도를 달성함을 보여준다. LRHO-CNN은 JAAD 및 PIE 데이터셋에서 추가로 평가되어 실제 교통 상황에서 보행자 머리 방향을 인식하는 데 효과적임을 입증하며, 후속 보행자 행동 및 의도 예측을 지원할 수 있는 유용한 머리 방향 단서를 제공한다.

arXiv:2609.24626v1cs.CV공통 태그 Autonomous Driving, Prediction

자율 주행을 위한 관계적으로 그라운딩된 잠재 세계 모델

Relationally Grounded Latent World Models for Autonomous Driving

잠재 세계 모델은 자율 주행을 위한 예측적 표현을 학습하지만, 이러한 상태가 보존하는 관계적 의미는 종종 암묵적으로 남아 있다. 우리는 교통 장면 그래프가 잠재 세계 표현에 대한 특권적 의미 감독으로 기능할 수 있는지 조사한다. LAW를 기반으로 nuScenes 3D 주석으로부터 액터 중심 장면 그래프를 구성하고, 동결된 텍스트 임베딩 모델로 직렬화된 관계 구조를 인코딩하며, 학습 중 시각적 잠재 표현을 이 의미적 목표와 정렬한다. 추론 시 감독 분기를 제거하므로 장면 그래프나 3D 주석이 필요하지 않으며 테스트 시간 계산도 추가하지 않는다. nuScenes에서 우리 방법은 재학습한 LAW 기준선 대비 평균 궤적 L2 오류를 0.661에서 0.622(5.9%)로, 충돌률을 0.456에서 0.217(52.4%)로 낮춘다. 또한 비구조화된 캡션 스타일 의미 목표보다 우수하여, 잠재 세계 모델 표현 학습에서 명시적 관계 구조의 이점을 뒷받침한다.

arXiv:2607.23511v1cs.CV공통 태그 Autonomous Driving, Prediction

MOJITO: 통합 종단간 자율 주행을 위한 모달리티 결합 학습

MOJITO: Modal Joint Learning for Unified End-to-End Autonomous Driving

종단간 자율 주행 시스템은 일반적으로 인지(perception) 단계가 다중 모달 센서 입력을 압축된 컨텍스트로 변환하고, 하류 플래너(planner)가 이 컨텍스트를 조건으로 궤적(trajectory)을 예측하는 2단계 캐스케이드 파이프라인을 따른다. 우리는 이러한 단방향 인지-계획 인터페이스가 센서 입력을 압축된 표현으로 강제하여, 계획에 중요한 세밀한 세부 정보를 잃게 한다고 주장한다. 또한 플래너를 이 압축된 컨텍스트로 제한함으로써, 최신 비전 기반 모델(vision foundation models)이 제공하는 풍부한 표현을 활용하기 어렵다. 이러한 문제를 해결하기 위해, 우리는 모달리티 결합 학습(modal joint learning)을 기반으로 한 종단간 자율 주행을 위한 통합 센서-액션(sensor-to-action) 프레임워크인 MOJITO를 제안한다. MOJITO는 캐스케이드 인터페이스를 제거하고, 대신 블록 단위(block-wise) Modal Joint Attention을 수행하여 액션(action), 이미지, LiDAR 특징(feature)을 동시에 갱신하고, 플래너가 액션 생성(action generation) 중 다중 모달 특징에 직접 접근할 수 있게 한다. MOJITO는 NAVSIM v1 데이터셋에서 88.9 PDMS, 더 도전적인 NAVSIM v2 데이터셋에서 88.4 EPDMS를 달성하여 새로운 최고 성능(state-of-the-art)을 기록했다. 광범위한 실험은 또한 강력한 확장성(scalability), 지시 따르기(instruction following), 다양한 궤적 생성을 입증한다. 코드와 모델은 https://github.com/mumucc01/MOJITO 에서 이용 가능하다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.