Evolutionary Trigger Detection and Lightweight Model Repair Based Backdoor Defense
원문 초록
Deep Neural Networks (DNNs) have been widely used in many areas such as autonomous driving and face recognition. However, DNN model is fragile to backdoor attack. A backdoor in the DNN model can be activated by a poisoned input with trigger and leads to wrong prediction, which causes serious security issues in applications. It is challenging for current defenses to eliminate the backdoor effectively with limited computing resources, especially when the sizes and numbers of the triggers are variable as in the physical world. We propose an efficient backdoor defense based on evolutionary trigger detection and lightweight model repair. In the first phase of our method, CAM-focus Evolutionary Trigger Filter (CETF) is proposed for trigger detection. CETF is an effective sample-preprocessing based method with the evolutionary algorithm, and our experimental results show that CETF not only distinguishes the images with triggers accurately from the clean images, but also can be widely used in practice for its simplicity and stability in different backdoor attack situations. In the second phase of our method, we leverage several lightweight unlearning methods with the trigger detected by CETF for model repair, which also constructively demonstrate the underlying correlation of the backdoor with Batch Normalization layers. Source code will be published after accepted.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
LLM에서의 전문가 격리 및 비활성화를 통한 백도어 억제
Backdoor Containment via Expert Quarantine and Shutdown in LLMs
ODPure: 앙상블 손상 합의를 통한 객체 검출용 백도어 정제
ODPure: Backdoor Purification for Object Detection via Ensemble Corruption Consensus
자율주행과 같은 애플리케이션의 발전과 함께 객체 검출(object detection)이 상당한 주목을 받고 있으나, 동시에 모델의 무결성을 심각하게 훼손하는 백도어 공격과 같은 치명적인 취약점도 부각되고 있다. 구체적으로 이러한 공격은 입력에 사전 정의된 트리거(trigger)가 존재할 때 객체의 범주를 변경하거나(즉, 객체 오분류), 경계 상자(bounding box)를 제거하거나(즉, 객체 소멸), 존재하지 않는 객체에 대한 경계 상자 제안(proposal)을 생성(즉, 객체 생성)하는 방식을 취한다. 이미지 분류(image classification)에 대한 백도어 방어는 잘 확립되어 있지만, 객체 검출에 대한 연구는 상대적으로 미진한 상태이다. 기존 방어 기법들은 잠재적인 백도어를 찾기 위해 출력이나 모델을 스캔하여 이러한 위협을 해결하지만, 악성 데이터나 모델 자체를 폐기해야 한다. 이러한 해결책은 객체 검출 파이프라인에서 지속적이고 정확한 인지 스트림을 제공하지 못한다. 이러한 한계를 해결하기 위해, 본 논문에서는 안정적인 인지 흐름을 보장하는 입력 정제(input purification)에 기반한 객체 검출용 새로운 입력 단계 블랙박스 방어 기법인 ODPure를 제안한다. 객체 검출기의 밀집 예측(dense prediction) 특성에 맞춰 설계된 제안하는 손상-재구성-선택(Corruption-Reconstruction-Selection, CRS) 패러다임은 다양한 손상(corruption) 포트폴리오를 통해 트리거를 무력화하여 방대한 중복 제안 풀을 생성하고, 생성형 사전 확률(generative priors)을 통해 세밀한 구조적 단서를 복원한 뒤, 최종적으로 투표를 적용하여 도출된 검출 결과에 대한 합의에 도달하는 방식으로 작동한다. 포괄적인 실험을 통해 제안 기법이 기준선(baseline) 정확도를 보존하면서 다양한 백도어 공격 및 트리거 유형에 대해 강력한 방어를 제공함을 입증한다. 코드는 https://github.com/Alex66366/ODPure 에서 확인할 수 있다.
얼굴 교체로 프라이버시 보호, 특징 보존으로 활용성 유지: ITS 보행자 프라이버시를 위한 이중 목적 파이프라인
Swapping Faces, Saving Features: A Dual-Purpose Pipeline for Pedestrian Privacy in ITS
자율주행차(AV)가 실시간 의사결정을 수행하도록 AI 모델을 학습시키려면 대규모의 다양한 데이터셋이 필요하며, 이는 지능형 교통 시스템(ITS)의 핵심 응용 분야다. 보행자 의도 및 궤적 예측은 자율주행차에서 중요하게 사용되는 모델로, 다양한 보행자 이미지를 포함하는 데이터셋을 필요로 한다. 이러한 데이터셋에 대한 무제한 접근은 신원 도용 및 보행자 추적과 같은 심각한 보안 위험을 초래한다. 문제는 모델 학습에 필요한 이미지 속성을 유지하면서 프라이버시 보호 절차를 적용하는 것이다. 기존 프라이버시 기법들은 보행자의 프라이버시를 보호할 수 있으나 이미지 활용성을 저하시켜 모델의 효과를 저해한다. 본 연구는 얼굴 교체(face swapping)를 통해 보행자의 프라이버시를 보호하면서 필수적인 얼굴 속성을 온전히 유지하는 5단계 파이프라인을 구현하는 데 초점을 맞춘다. 이 파이프라인은 Egy-DRiVeS 데이터셋의 프라이버시 요구 사항을 충족하도록 설계되었다. 또한 Roop와 Ghost-v2 얼굴 교체 모델을 평가하였으며, 실험 결과 Roop가 여러 측면에서 Ghost-v2보다 우수한 성능을 보임을 확인하였다. 이에 따라 신원 은폐를 통한 보행자 프라이버시 보호와 얼굴 속성 보존을 통한 데이터 활용성 간의 균형을 달성하기 위해 Roop를 파이프라인의 얼굴 교체 모델로 채택하였다.
Instant NuRec: 주행 장면 시뮬레이션을 위한 피드포워드 3D Gaussian 재구성
Instant NuRec: Feed-Forward 3D Gaussian Reconstruction for Driving Scene Simulation
3D 시뮬레이션 플랫폼은 end-to-end 정책 평가(evaluation)를 가능하게 하여 개발 비용을 줄이고 안전성을 향상시키기 때문에 자율주행에 핵심적이다. 최근 몇 년간 신경 시뮬레이션이 주류가 되었고, NuRec와 같은 방법이 중심적인 역할을 하고 있다. 그러나 이러한 방법들은 여전히 상대적으로 느리고, 일반적으로 장면별 튜닝이 필요하다. 본 연구에서는 단일 순전파(forward pass)로 짧은 다시점(multi-view) 주행 로그를 완전히 시뮬레이션 가능한 3D Gaussian Splatting(3DGS) 세계로 변환하는 피드포워드 신경 재구성 모델인 Instant NuRec를 제안한다. 이 모델은 보정된 카메라 리그의 다시점 입력을 받아 정적 및 동적 3DGS 레이어, 스카이 큐브맵(sky cubemap), 카메라별 ISP 보정으로 구성된 계층적 출력을 생성하며, 3DGUT를 통해 비 핀홀(non-pinhole) 카메라 모델에 대한 네이티브 지원을 제공한다. 이 모델은 10–20초 길이의 다중 카메라 장면을 약 1.5초 만에 재구성하며, Waymo Open 데이터셋에서 평가된 가장 강력한 기준선보다 PSNR이 2.01 dB 높은 성능을 달성한다. Instant NuRec는 NuRec에 깊이 통합되어 있으며, 폐루프(closed-loop) 시뮬레이션을 위해 AlpaSim과 호환된다.
FogDrive: 단계적 안개 조건에서의 인식을 위한 멀티모달 합성 주행 데이터셋
FogDrive: A Multi-Modal Synthetic Driving Dataset for Perception under Graded Fog
고�급 거리 수준 영상을 활용한 시각적 위치 추정의 정확도 잠재력
Accuracy potential of visual localization exploiting high-end street-level imagery
토론
이 논문과 연결된 포럼 글이 아직 없습니다.