Physically Realizable Adversarial Examples for LiDAR Object Detection
원문 초록
Modern autonomous driving systems rely heavily on deep learning models to process point cloud sensory data; meanwhile, deep models have been shown to be susceptible to adversarial attacks with visually imperceptible perturbations. Despite the fact that this poses a security concern for the self-driving industry, there has been very little exploration in terms of 3D perception, as most adversarial attacks have only been applied to 2D flat images. In this paper, we address this issue and present a method to generate universal 3D adversarial objects to fool LiDAR detectors. In particular, we demonstrate that placing an adversarial object on the rooftop of any target vehicle to hide the vehicle entirely from LiDAR detectors with a success rate of 80%. We report attack results on a suite of detectors using various input representation of point clouds. We also conduct a pilot study on adversarial defense using data augmentation. This is one step closer towards safer self-driving under unseen conditions from limited training data.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
생성적 증강을 통한 AI 테스트 및 평가(T&E)의 의미적 커버리지 개선
Improving Semantic Coverage in AI Test & Evaluation through Generative Augmentation
AI 모델의 테스트 및 평가(T&E)에서 평가자는 일반적으로 홀드아웃(held-out) 테스트 데이터셋에만 접근할 수 있으며, 학습 데이터나 그 의미적 구성에 대한 정보는 알지 못한다. 시간대, 날씨, 장면 위치와 같은 핵심 입력 조건이 이 테스트 데이터셋에서 충분히 표현되지 않으면, 이러한 의미적 커버리지 격차로 인해 T&E 결과가 오도될 수 있다. 우리는 이러한 의미적 요인에 대한 정답 레이블 없이도 이를 탐지하고 채울 수 있는 3단계 생성형 AI 파이프라인을 제안한다. 첫 번째 단계에서는 비전-언어 모델(VLM)이 의미적 요인에 대해 제로샷 이진 레이블링을 수행하고, 임베딩 공간 클러스터링 단계를 통해 어떤 의미적 요인이 하위(downstream) 모델 동작에 가장 큰 영향을 미치는지 식별한다. 두 번째 단계에서는 디퓨전 기반 이미지-투-이미지(image-to-image) 모델이 기존에 충분히 표현된 이미지를 과소 표현된 의미 도메인으로 변환하여, 장면 내용은 보존하면서 고수준의 외형(appearance)만을 증강한다. 세 번째 단계에서는 증강된 이미지 임베딩에 대한 통계적 분석을 통해, 합성 이미지를 반영하기 전에 그것이 데이터셋 커버리지를 개선하는지 검증한다. 중요한 점은, 합성 데이터는 오직 테스트 세트를 보강하는 데에만 사용되며 T&E를 위한 모델 재학습은 수행하지 않는다는 것이다. 우리는 주간/야간 의미 격차 상황에서 이미지 분류와 객체 검출 양쪽에 대해 전체 파이프라인을 검증하였으며, 증강된 테스트 데이터셋이 누락된 의미적 요인에 노출된 모델과 그렇지 않은 모델을 더 잘 구별해내어, 완전히 커버리지를 갖춘 이상적인 데이터셋의 결론에 더 가까운 T&E 결론을 산출함을 보였다. 코드는 https://github.com/Hashe037/DEDUCE 에서 확인할 수 있다.
도메인 변화 환경에서 보행자 검출을 위한 신뢰도 통제 기반 설명가능 인공지능(XAI) 감사
Confidence-Controlled XAI Auditing for Pedestrian Detection under Domain Shift
지능형 차량의 인지 모델에서 설명가능성(explainability)이 점차 요구되고 있으나, 주행 도메인 변화(domain shift) 환경에서도 설명이 충실도(faithfulness)를 유지하는지는 여전히 명확히 밝혀지지 않았습니다. 본 연구는 관심 영역(ROI) 기반 D-Deletion, 고정 신뢰도 3분위수, 순위 기반 검정, 부트스트랩 신뢰구간 및 Holm 교정을 활용하여 PIE 및 JAAD 데이터셋에 걸쳐 고정된 YOLOv8s 보행자 검출기의 사후(post-hoc) 설명을 감사합니다. 감사 결과, 삭제 기반 충실도는 설명 생성 시점의 검출 강도(detection strength)와 강하게 결합되어 있으며(D-RISE의 스피어만 상관계수 0.70~0.82), 이로 인해 단순한 신뢰도 계층화 비교는 신뢰하기 어려움이 드러났습니다. 고정된 f0 빈(bin) 내에서 검출 강도를 통제한 후에도 D-RISE 충실도는 중심 f0 범위에서 도메인에 따라 달라졌으며, PIE가 JAAD보다 더 높은 D-Deletion 및 Holm 보정 유의성을 나타냈습니다. 비섭동(non-perturbative) 기반 EigenCAM 기준선은 D-RISE보다 충실도가 낮았으나 마찬가지로 점수 결합 현상을 보여, 이러한 효과가 D-RISE에만 국한되지 않고 삭제 기반 평가 설정과 연관되어 있음을 시사합니다. 이러한 결과는 도메인 변화 환경의 안전 필수(safety-critical) 인지 시스템에서 신뢰도를 통제한 XAI 감사가 필요함을 시사합니다.
객체 검출에서의 도메인 일반화와 합성 데이터: 조력자, 탐침, 그리고 격차
Domain generalization and synthetic data in object detection: the enabler, the probe, and the gap
객체 검출(object detection) 모델은 예를 들어 날씨 유형, 운용 환경(environment), 객체 외형의 변화 등으로 인해 발생하는 분포 변화(distribution shift) 하에 배포될 때 종종 성능 저하를 겪습니다. 도메인 일반화(Domain Generalization, DG)는 이러한 변화 속에서도 강건함을 유지하고 보지 못한 도메인(unseen domain)으로 잘 일반화되는 모델을 개발하는 것을 목표로 합니다. 객체 검출 모델은 위치 추정(localization) 및 다중 스케일 표현과 관련된 추가적인 문제에 직면함에도 불구하고, 객체 검출 모델에 구체적으로 초점을 맞춘 DG 연구는 부족한 상황입니다. 합성 데이터는 다양하고 새로운 대규모 샘플 생성을 가능하게 함으로써 DG를 지원하는 유망한 도구입니다. 본 논문에서는 객체 검출 중심의 DG 리뷰를 제시하고 상호 보완적인 세 가지 관점에서 합성 데이터의 역할을 살펴봅니다. 첫째, 합성 데이터는 분포 변화에 대한 강건성을 향상시키는 것을 목표로 하는 다양화 및 정렬(alignment) 전략을 통해 DG의 조력자(enabler) 역할을 합니다. 둘째, 실패 모드를 식별하고 이해하기 위한 제어된 실험을 가능하게 하는 탐침(probe) 역할을 합니다. 셋째, 합성 이미지로 학습된 모델을 실제 데이터에 배포할 때 발생하는 특히 까다로운 형태의 도메인 변화인 합성-실제 간 격차(synthetic-to-real gap)에 대해 논의합니다. 이러한 관점들을 검토함으로써 객체 검출을 위한 기존 DG 접근법의 한계를 식별하고, 향후 연구에는 도메인 변화 하에서 위치 추정과 분류(classification)를 모두 명시적으로 다루는 표현 인식(representation-aware) 방법이 필요함을 주장합니다.
시계를 굽히다: 이벤트 기반 객체 검출에서 지연을 이기 위한 선행 예측
Bend the Clock: Predicting Ahead to Beat Latency in Event-Based Object Detection
이벤트 카메라는 고속 로봇 시스템에서 낮은 지연의 인지를 약속하지만, 짧은 지연조차도 검출 결과가 하위 로봇 의사결정에 반영될 때쯤에는 이미 낡은 정보가 될 수 있다. 그럼에도 최신 이벤트 검출기는 예측이 사용 가능해지기까지 수십 밀리초의 연산을 여전히 요구한다. 기존 평가는 관측 시각의 주석과 예측을 비교하여 이 지연을 무시하는데, 실제로는 그 예측이 생성될 때쯤 장면이 이미 바뀌었을 수 있다. 본 연구는 이벤트 기반 다중 객체 검출에서 이러한 관측–가용성 불일치를 분석하고, 최신 이벤트 검출기가 관측 시각이 아니라 예측 가용 시각 기준으로 평가할 때 성능이 크게 저하됨을 보인다. 이를 해결하기 위해 ChronoFuse를 제안한다. ChronoFuse는 입력이 관측된 시각이 아니라 출력이 사용 가능해지는 시각의 객체 상태를 예측하는 인과적 가용-시각 검출기이다. ChronoFuse는 다중 스케일 특징 계층에 걸친 인과적 교차-시간 융합을 수행하여, 캐시된 시간적 특징과 현재 표현을 결합함으로써 미래 관측을 사용하지 않고 단기 시간적 단서를 드러낸다. 융합 경로는 경량이며, 평균 end-to-end 지연 오버헤드는 0.17백만 개의 파라미터와 0.84 ms만 추가한다. ChronoFuse는 1Mpx 주행 데이터에서 지연으로 인한 정확도 손실의 71%를 회복하고, FRED의 급격한 드론 움직임에서는 90.8%를 회복하여 거의 무지연 성능에 가깝게 복원한다. EV-Flying의 극한적인 움직임에서는 ChronoFuse가 20.95 sAP에 도달하며, 가장 강한 표준 이벤트 검출기의 2.25 대비 9.3배 향상을 보인다. 이 결과는 자율주행, 민첩 비행, 로봇 요격 등 빠르게 변하는 장면에서 동작하는 로봇에게 선행 예측이 핵심적일 수 있음을 보여준다.
PEARL: 실시간·익명·이종 협력 인식을 위한 경량 프롬프트 기반 특징 해석기 프레임워크
PEARL: A Lightweight Prompt-based Feature Interpreter Framework for Real-Time, Anonymous, and Heterogeneous Collaborative Perception
협력 인식(Collaborative Perception, CP) 에이전트 간 이종성은 서로 다른 센서, 아키텍처, 학습 데이터로 인한 도메인 격차 때문에 신흥 CP 프레임워크의 주요 과제이다. 선행 연구는 모델 재학습이나 에이전트 유형별 해석기를 통해 통합 공간에서 특징을 정렬하는 방식으로 이 과제를 완화한다. 이러한 전략은 (a) 이웃 구성에 대한 접근을 요구하고, (b) 실시간 CP 배포를 완전히 다루지 못하며, (c) 실행 시점에 새로 합류하는 보지 못한 에이전트에 대해 일반화가 취약하다. 이러한 과제를 극복하기 위해, 우리는 익명·실시간·경량 이종 CP를 위한 프롬프트-임베딩(Prompt-Embedding) 프레임워크 PEARL을 제안한다. PEARL은 여러 CP 해석기를 지원하며, 병렬로 학습된 두 개의 경량 다중 스케일 해석기를 사용해 새로 합류하는 에이전트에 대해 실시간으로 하나를 선택한다: 협력 검출을 위해 현저한 영역을 정렬하는 희소 검출(LWSD) 해석기,와 빠른 해석기 선택을 위해 에이전트 불변 특징을 생성하는 밀집·도메인 불변(LWDDI) 해석기. 두 해석기 모두 저랭크(low-rank) 시각 프롬프트를 사용해 연산, 저장, 모델 복잡도를 줄인다. 시뮬레이션(OPV2V, V2XSet) 및 실측(DAIR-V2X) 데이터셋에 대한 광범위한 실험은 PEARL이 시뮬레이션과 실세계 협력 주행 시나리오 전반에서 일반화됨을 보여준다. 실시간 모델 선택 전략은 무작위 선택 기준선 대비 평균 정밀도(Average Precision, AP) 8.2% 향상을 달성하며, 평균 1.67 ms에서 동작한다. PEARL은 주로 실시간 CP를 위해 설계되었지만, 전통적인 오프라인 학습에서도 최신 이종 CP 프레임워크를 평균 5.6% AP만큼 능가하며 통신 비용을 최대 34.7배 줄인다. 마찬가지로 중요한 점은, PEARL이 에이전트의 구성이나 모델 설정 공유를 요구하지 않아 독점적이거나 사적인 정보를 보호한다는 것이다. 이러한 결과는 PEARL을 이종 협력 인식을 위한 확장 가능하고 실용적인 프레임워크로 자리매김한다.
ODPure: 앙상블 손상 합의를 통한 객체 검출용 백도어 정제
ODPure: Backdoor Purification for Object Detection via Ensemble Corruption Consensus
자율주행과 같은 애플리케이션의 발전과 함께 객체 검출(object detection)이 상당한 주목을 받고 있으나, 동시에 모델의 무결성을 심각하게 훼손하는 백도어 공격과 같은 치명적인 취약점도 부각되고 있다. 구체적으로 이러한 공격은 입력에 사전 정의된 트리거(trigger)가 존재할 때 객체의 범주를 변경하거나(즉, 객체 오분류), 경계 상자(bounding box)를 제거하거나(즉, 객체 소멸), 존재하지 않는 객체에 대한 경계 상자 제안(proposal)을 생성(즉, 객체 생성)하는 방식을 취한다. 이미지 분류(image classification)에 대한 백도어 방어는 잘 확립되어 있지만, 객체 검출에 대한 연구는 상대적으로 미진한 상태이다. 기존 방어 기법들은 잠재적인 백도어를 찾기 위해 출력이나 모델을 스캔하여 이러한 위협을 해결하지만, 악성 데이터나 모델 자체를 폐기해야 한다. 이러한 해결책은 객체 검출 파이프라인에서 지속적이고 정확한 인지 스트림을 제공하지 못한다. 이러한 한계를 해결하기 위해, 본 논문에서는 안정적인 인지 흐름을 보장하는 입력 정제(input purification)에 기반한 객체 검출용 새로운 입력 단계 블랙박스 방어 기법인 ODPure를 제안한다. 객체 검출기의 밀집 예측(dense prediction) 특성에 맞춰 설계된 제안하는 손상-재구성-선택(Corruption-Reconstruction-Selection, CRS) 패러다임은 다양한 손상(corruption) 포트폴리오를 통해 트리거를 무력화하여 방대한 중복 제안 풀을 생성하고, 생성형 사전 확률(generative priors)을 통해 세밀한 구조적 단서를 복원한 뒤, 최종적으로 투표를 적용하여 도출된 검출 결과에 대한 합의에 도달하는 방식으로 작동한다. 포괄적인 실험을 통해 제안 기법이 기준선(baseline) 정확도를 보존하면서 다양한 백도어 공격 및 트리거 유형에 대해 강력한 방어를 제공함을 입증한다. 코드는 https://github.com/Alex66366/ODPure 에서 확인할 수 있다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.