ODPure: 앙상블 손상 합의를 통한 객체 검출용 백도어 정제
ODPure: Backdoor Purification for Object Detection via Ensemble Corruption Consensus
한국어 초록
자율주행과 같은 애플리케이션의 발전과 함께 객체 검출(object detection)이 상당한 주목을 받고 있으나, 동시에 모델의 무결성을 심각하게 훼손하는 백도어 공격과 같은 치명적인 취약점도 부각되고 있다. 구체적으로 이러한 공격은 입력에 사전 정의된 트리거(trigger)가 존재할 때 객체의 범주를 변경하거나(즉, 객체 오분류), 경계 상자(bounding box)를 제거하거나(즉, 객체 소멸), 존재하지 않는 객체에 대한 경계 상자 제안(proposal)을 생성(즉, 객체 생성)하는 방식을 취한다. 이미지 분류(image classification)에 대한 백도어 방어는 잘 확립되어 있지만, 객체 검출에 대한 연구는 상대적으로 미진한 상태이다. 기존 방어 기법들은 잠재적인 백도어를 찾기 위해 출력이나 모델을 스캔하여 이러한 위협을 해결하지만, 악성 데이터나 모델 자체를 폐기해야 한다. 이러한 해결책은 객체 검출 파이프라인에서 지속적이고 정확한 인지 스트림을 제공하지 못한다. 이러한 한계를 해결하기 위해, 본 논문에서는 안정적인 인지 흐름을 보장하는 입력 정제(input purification)에 기반한 객체 검출용 새로운 입력 단계 블랙박스 방어 기법인 ODPure를 제안한다. 객체 검출기의 밀집 예측(dense prediction) 특성에 맞춰 설계된 제안하는 손상-재구성-선택(Corruption-Reconstruction-Selection, CRS) 패러다임은 다양한 손상(corruption) 포트폴리오를 통해 트리거를 무력화하여 방대한 중복 제안 풀을 생성하고, 생성형 사전 확률(generative priors)을 통해 세밀한 구조적 단서를 복원한 뒤, 최종적으로 투표를 적용하여 도출된 검출 결과에 대한 합의에 도달하는 방식으로 작동한다. 포괄적인 실험을 통해 제안 기법이 기준선(baseline) 정확도를 보존하면서 다양한 백도어 공격 및 트리거 유형에 대해 강력한 방어를 제공함을 입증한다. 코드는 https://github.com/Alex66366/ODPure 에서 확인할 수 있다.
원문 초록
With the development of applications like autonomous driving, object detection has gained significant attention, while also highlighting critical vulnerabilities like backdoor attacks that severely compromise model integrity. Specifically, such attacks involve altering the categories of objects (i.e., object misclassification), removing bounding boxes (i.e., object disappearance), or generating bounding box proposals for non-existent objects (i.e., object generation) when a predefined trigger is present in the input. Although backdoor defenses for image classification are well-established, the research for object detection remains comparatively underexplored. Existing defenses address these threats by scanning outputs or models for potential backdoors but require discarding either malicious data or models. This remedy fails to enable a continuous and accurate perceptual stream for the object detection pipeline. To address such limitations, we propose ODPure, a novel input-stage black-box defense for object detection, which is based on input purification that ensures stable perception flows. Tailored to the dense prediction nature of object detectors, our Corruption-Reconstruction-Selection (CRS) paradigm operates by neutralizing triggers through a diverse portfolio of corruptions to generate a massive pool of redundant proposals, then recovering fine-grained structural cues via generative priors, and finally employing voting to reach a consensus on the resulting detections. Comprehensive experiments demonstrate that our method provides robust defense against diverse backdoor attacks and trigger types while preserving baseline accuracy. Our code is available at https://github.com/Alex66366/ODPure.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2609.28239v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
LLM에서의 전문가 격리 및 비활성화를 통한 백도어 억제
Backdoor Containment via Expert Quarantine and Shutdown in LLMs
도메인 변화 환경에서 보행자 검출을 위한 신뢰도 통제 기반 설명가능 인공지능(XAI) 감사
Confidence-Controlled XAI Auditing for Pedestrian Detection under Domain Shift
지능형 차량의 인지 모델에서 설명가능성(explainability)이 점차 요구되고 있으나, 주행 도메인 변화(domain shift) 환경에서도 설명이 충실도(faithfulness)를 유지하는지는 여전히 명확히 밝혀지지 않았습니다. 본 연구는 관심 영역(ROI) 기반 D-Deletion, 고정 신뢰도 3분위수, 순위 기반 검정, 부트스트랩 신뢰구간 및 Holm 교정을 활용하여 PIE 및 JAAD 데이터셋에 걸쳐 고정된 YOLOv8s 보행자 검출기의 사후(post-hoc) 설명을 감사합니다. 감사 결과, 삭제 기반 충실도는 설명 생성 시점의 검출 강도(detection strength)와 강하게 결합되어 있으며(D-RISE의 스피어만 상관계수 0.70~0.82), 이로 인해 단순한 신뢰도 계층화 비교는 신뢰하기 어려움이 드러났습니다. 고정된 f0 빈(bin) 내에서 검출 강도를 통제한 후에도 D-RISE 충실도는 중심 f0 범위에서 도메인에 따라 달라졌으며, PIE가 JAAD보다 더 높은 D-Deletion 및 Holm 보정 유의성을 나타냈습니다. 비섭동(non-perturbative) 기반 EigenCAM 기준선은 D-RISE보다 충실도가 낮았으나 마찬가지로 점수 결합 현상을 보여, 이러한 효과가 D-RISE에만 국한되지 않고 삭제 기반 평가 설정과 연관되어 있음을 시사합니다. 이러한 결과는 도메인 변화 환경의 안전 필수(safety-critical) 인지 시스템에서 신뢰도를 통제한 XAI 감사가 필요함을 시사합니다.
사전학습된 객체 검출을 위한 위치파악 인식 불확실성
Localisation-Aware Uncertainty for Pretrained Object Detection
분포/공변량 변화(distribution/covariate shift) 및 적대적 공격(adversarial attack)이 발생할 수 있는 환경에서 객체 검출기를 배포하려면 신뢰할 수 있는 불확실성 추정(uncertainty estimation)이 필수적입니다. 기존 접근 방식은 흔히 검출기 재학습, 아키텍처 수정 또는 반복적인 추론(inference)을 요구하므로, 적용이 불가능하거나 상당한 오버헤드를 유발할 수 있습니다. 본 연구에서는 기본 검출기를 동결(frozen) 상태로 유지하면서 어떤 객체 위치파악(localisation)을 불확실한 것으로 간주해야 하는지 학습하는 경량 사후 증거 기반 메타 모델(post-hoc evidential meta-model)을 소개합니다. 제안하는 접근 방식은 위치파악 관련 특징을 자동으로 식별하고, 돌출도 기반 수정(saliency-guided modification)을 활용하여 점진적으로 더 까다로운 커리큘럼을 구성합니다. 검출 수준 목표는 위치파악 오차, 수정 수준, 예측 불안정성을 결합하여 증거 기반 메타 모델이 예측된 각 경계 상자(bounding box)의 불확실성을 추정하도록 유도합니다. 본 접근 방식은 검출기에 대한 수정을 요구하지 않으며 원래의 위치파악 출력을 보존합니다. 다양한 적대적 공격과 평가된 강도 전반에서 GRACE는 분포 내(in-distribution) 검출 성능을 유지하면서 일부 사례에서는 가장 강력한 비교 대상 대비 TP-FP AUROC를 22% 향상시킵니다.
시계를 굽히다: 이벤트 기반 객체 검출에서 지연을 이기 위한 선행 예측
Bend the Clock: Predicting Ahead to Beat Latency in Event-Based Object Detection
이벤트 카메라는 고속 로봇 시스템에서 낮은 지연의 인지를 약속하지만, 짧은 지연조차도 검출 결과가 하위 로봇 의사결정에 반영될 때쯤에는 이미 낡은 정보가 될 수 있다. 그럼에도 최신 이벤트 검출기는 예측이 사용 가능해지기까지 수십 밀리초의 연산을 여전히 요구한다. 기존 평가는 관측 시각의 주석과 예측을 비교하여 이 지연을 무시하는데, 실제로는 그 예측이 생성될 때쯤 장면이 이미 바뀌었을 수 있다. 본 연구는 이벤트 기반 다중 객체 검출에서 이러한 관측–가용성 불일치를 분석하고, 최신 이벤트 검출기가 관측 시각이 아니라 예측 가용 시각 기준으로 평가할 때 성능이 크게 저하됨을 보인다. 이를 해결하기 위해 ChronoFuse를 제안한다. ChronoFuse는 입력이 관측된 시각이 아니라 출력이 사용 가능해지는 시각의 객체 상태를 예측하는 인과적 가용-시각 검출기이다. ChronoFuse는 다중 스케일 특징 계층에 걸친 인과적 교차-시간 융합을 수행하여, 캐시된 시간적 특징과 현재 표현을 결합함으로써 미래 관측을 사용하지 않고 단기 시간적 단서를 드러낸다. 융합 경로는 경량이며, 평균 end-to-end 지연 오버헤드는 0.17백만 개의 파라미터와 0.84 ms만 추가한다. ChronoFuse는 1Mpx 주행 데이터에서 지연으로 인한 정확도 손실의 71%를 회복하고, FRED의 급격한 드론 움직임에서는 90.8%를 회복하여 거의 무지연 성능에 가깝게 복원한다. EV-Flying의 극한적인 움직임에서는 ChronoFuse가 20.95 sAP에 도달하며, 가장 강한 표준 이벤트 검출기의 2.25 대비 9.3배 향상을 보인다. 이 결과는 자율주행, 민첩 비행, 로봇 요격 등 빠르게 변하는 장면에서 동작하는 로봇에게 선행 예측이 핵심적일 수 있음을 보여준다.
PEARL: 실시간·익명·이종 협력 인식을 위한 경량 프롬프트 기반 특징 해석기 프레임워크
PEARL: A Lightweight Prompt-based Feature Interpreter Framework for Real-Time, Anonymous, and Heterogeneous Collaborative Perception
협력 인식(Collaborative Perception, CP) 에이전트 간 이종성은 서로 다른 센서, 아키텍처, 학습 데이터로 인한 도메인 격차 때문에 신흥 CP 프레임워크의 주요 과제이다. 선행 연구는 모델 재학습이나 에이전트 유형별 해석기를 통해 통합 공간에서 특징을 정렬하는 방식으로 이 과제를 완화한다. 이러한 전략은 (a) 이웃 구성에 대한 접근을 요구하고, (b) 실시간 CP 배포를 완전히 다루지 못하며, (c) 실행 시점에 새로 합류하는 보지 못한 에이전트에 대해 일반화가 취약하다. 이러한 과제를 극복하기 위해, 우리는 익명·실시간·경량 이종 CP를 위한 프롬프트-임베딩(Prompt-Embedding) 프레임워크 PEARL을 제안한다. PEARL은 여러 CP 해석기를 지원하며, 병렬로 학습된 두 개의 경량 다중 스케일 해석기를 사용해 새로 합류하는 에이전트에 대해 실시간으로 하나를 선택한다: 협력 검출을 위해 현저한 영역을 정렬하는 희소 검출(LWSD) 해석기,와 빠른 해석기 선택을 위해 에이전트 불변 특징을 생성하는 밀집·도메인 불변(LWDDI) 해석기. 두 해석기 모두 저랭크(low-rank) 시각 프롬프트를 사용해 연산, 저장, 모델 복잡도를 줄인다. 시뮬레이션(OPV2V, V2XSet) 및 실측(DAIR-V2X) 데이터셋에 대한 광범위한 실험은 PEARL이 시뮬레이션과 실세계 협력 주행 시나리오 전반에서 일반화됨을 보여준다. 실시간 모델 선택 전략은 무작위 선택 기준선 대비 평균 정밀도(Average Precision, AP) 8.2% 향상을 달성하며, 평균 1.67 ms에서 동작한다. PEARL은 주로 실시간 CP를 위해 설계되었지만, 전통적인 오프라인 학습에서도 최신 이종 CP 프레임워크를 평균 5.6% AP만큼 능가하며 통신 비용을 최대 34.7배 줄인다. 마찬가지로 중요한 점은, PEARL이 에이전트의 구성이나 모델 설정 공유를 요구하지 않아 독점적이거나 사적인 정보를 보호한다는 것이다. 이러한 결과는 PEARL을 이종 협력 인식을 위한 확장 가능하고 실용적인 프레임워크로 자리매김한다.
종단 간 자율 주행을 위한 희소 행동 조건 타깃 기반 계획 정렬 BEV 표현 사전학습
Planning-Aligned Pretraining of BEV Representations with Sparse Action-Conditioned Targets for End-to-End Autonomous Driving
종단 간 주행에는 계획(planning)에 관련된 조감도(bird's-eye-view, BEV) 표현이 필요하지만, 기존 사전학습 접근은 종종 태스크 주석이나 밀집 장면 재구성에 의존한다. 우리는 PAVER(Planning-Aligned BEV Encoder Pretraining, 계획 정렬 BEV 인코더 사전학습)를 제안한다. 단일 LiDAR 스윕(sweep)으로부터 PAVER는 규칙 기반 ego motion을 따라 점유된 증거와 관측되지 않은 증거를 기술하는 희소 위험(risk) 및 unknown 타깃을 구성한다. 1만(10K) 매개변수 헤드가 행동 상태(action state)에 조건이 걸린 마스킹된 BEV 특징으로부터 이 타깃들을 예측하여, 후보 motion에 대한 기하학적 제약으로 지도(supervision)를 향하게 한다. 사전학습에는 주행 태스크 주석이나 밀집 재구성이 필요하지 않다. BEV 인코더만 전이(transfer)되어 하류 아키텍처와 카메라 전용 추론을 유지한다. nuScenes에서 PAVER는 VAD-Tiny의 평균 충돌률을 0.51%에서 0.19%로 낮추면서 planning L2, motion prediction, detection, mapping을 개선한다. 선택된 VAD-Tiny 및 VAD-Base 스케줄은 사전학습을 포함해 처음부터 학습(scratch training) 대비 추정 총 학습 시간이 약 36% 적다. Bench2Drive Town05 Long에서 PAVER는 UniAD-Tiny의 폐루프(closed-loop) Driving Score를 48.45에서 58.79로 향상시킨다. 프로젝트 페이지는 https://archiiive99.github.io/PAVER 에서 확인할 수 있다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.