ARMOR: 데이터 희소성 환경에서 적대적으로 강건한 항공 객체 검출을 위한 매니폴드 지향 학습
ARMOR: Manifold-Oriented Training for Adversarially Robust Aerial Object Detection under Data Scarcity
한국어 초록
항공 객체 검출(aerial object detection)은 실제 환경에 점차 널리 배포되고 있으나, 모델은 객체를 감지하지 못하게 만드는 물리적이고 유니버설(universal)한 적대적 패치(adversarial patch)에 여전히 취약합니다. 나아가 방어자는 학습 데이터 희소성이라는 실질적인 제약에 직면합니다. 항공 영상은 수집과 라벨링 비용이 높아, 배포 현장에서는 적대적 강건성(adversarial robustness) 벤치마크가 가정하는 수만 장의 이미지 대신 대개 수백 장 정도만 확보할 수 있기 때문입니다. 모델 취약성과 학습 데이터 희소성 문제를 해결하기 위해, 본 논문에서는 적은 데이터 환경에서 온-매니폴드 적대적 학습(on-manifold adversarial training, OMAT)의 핵심 통찰을 실현하는 새로운 방어 기법인 ARMOR(Adversarial Robustness with Manifold-Oriented Training)를 제안합니다. ARMOR는 데이터 매니폴드(데이터의 유의미한 특징을 포착하는 조밀한 구조)를 모델링하여 학습 과정에서 이러한 특징을 학습하고 견고하게 만든다는 OMAT의 통찰을 기반으로 합니다. 기존 OMAT이 이를 달성하기 위해 대규모 생성 모델 학습 및 적대적 학습과 같은 데이터 집약적 연산에 의존하는 반면, ARMOR는 검출 태스크에서 이미 제공하는 라벨을 재사용하는 데이터 효율적인 접근 방식을 채택합니다. 구체적으로 ARMOR는 (i) 이미지 배경을 마스킹하여 객체 관련 특징을 보존하고, (ii) 객체 위에 무작위 패치를 주입하여 특징 강건성을 향상시킵니다. 물리적으로 구현 가능한 적대적 패치를 활용한 저데이터 실험을 통해 쿼리가 필요 없는 전이 공격(query-free transfer attack)과 방어 인지 공격(defense-aware attack)을 모두 평가했습니다. ARMOR는 0.90 이상의 높은 정상(clean) 성능 모델 신뢰도를 유지하는 동시에, 최첨단(SOTA) 방어 기법 대비 적대적 강건성을 모델 신뢰도 기준 최대 0.32 향상시켰습니다. 출력된 패치를 사용한 물리적 실험을 통해 이러한 성능 향상이 실제 배포 환경에서도 유지됨을 확인했습니다. 전반적으로 ARMOR는 매니폴드 기반 학습의 통찰을 활용하여 학습 데이터가 부족한 환경에서도 객체 검출기를 방어합니다.
원문 초록
Aerial object detection is increasingly deployed in real-world applications, but models remain vulnerable to physical, universal adversarial patches that cause them to miss objects. Furthermore, defenders face the practical constraint of training data scarcity: aerial imagery is costly to collect and label, so a deployment site typically yields hundreds of images rather than the tens of thousands that adversarial robustness benchmarks assume. To tackle model vulnerability and training data scarcity, we propose Adversarial Robustness with Manifold-Oriented Training (ARMOR), a novel defense that realizes the core insights of on-manifold adversarial training (OMAT) in low-data regimes. ARMOR builds on the insight of OMAT to model the data manifold - the compact structure capturing the data's relevant features - to learn and robustify these features during training. While OMAT relies on the data-intensive operations of training large generative models and adversarial training to achieve this, ARMOR adopts a data-efficient approach that reuses labels the detection task already supplies: ARMOR (i) masks image backgrounds to retain object-relevant features, and (ii) injects randomized patches on objects to improve feature robustness. Our low-data experiments with physically-realizable adversarial patches evaluate both query-free transfer attacks and defense-aware attacks. ARMOR maintains strong clean performance of over 0.90 model confidence, while improving adversarial robustness by up to 0.32 in model confidence over state-of-the-art defenses. Physical experiments with printed patches confirm that these gains survive deployment. Overall, ARMOR translates insights from manifold-based training to defend object detectors amidst training data scarcity.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2608.29510v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.