arXiv:2606.18318v1 cs.CV

Budget-Aware Adaptive Adversarial Patches for Black-Box Object Detection

Pedram MohajerAnsari, Amir Salarpour, David Fernandez, Mert D. Pesé

제출 2026-06-16

한국어 초록

적대적 패치는 현대 객체 검출기(object detector)에 실질적인 위협이 됩니다. 기존 연구는 이러한 취약성을 보여주었지만, 실행 가능한 통찰력을 제한하는 세 가지 격차가 존재합니다: (i) 제한된 쿼리 예산(query budget) 하에서 패치의 위치, 텍스처, 크기를 공동으로 최적화하는 점수 기반 블랙박스(score-based black-box) 공격은 거의 없습니다; (ii) 성공 여부가 패치의 시각적 점유 영역(visual footprint)과 거의 연결되지 않습니다; (iii) 평가에서 종종 EOT 강건성을 단순 뷰(suppression) 억제와 혼동합니다. 본 논문에서는 경량의 문맥형 톰슨 샘플링(Contextual Thompson-Sampling) 배치자와 NES 스타일 픽셀 업데이트를 결합하고, 진전이 멈췄을 때만 패치를 성장시키는 쿼리 효율적이고 예산 적응형 블랙박스 공격인 \method{}를 제안합니다. 보고는 엄격한 단순 이미지 억제 테스트를 기준으로 하며; EOT는 감사(audit)되지만 성공의 대체재로 사용되지 않으며, 선택적인 외관/인쇄 가능성 가중치는 강도와 가시성 간의 트레이드오프를 보여줍니다. YOLOv5, Faster R-CNN, YOLOS에 걸쳐 \method{}는 컴팩트한 패치를 사용하여 CNN 기반 검출기에서 강력한 억제를 달성하고 트랜스포머 기반 검출기에서 상당한 억제를 달성하며, 고정 크기 및 휴리스틱 기준선에 비해 명확한 쿼리-점유 영역 트레이드오프를 보여줍니다. 인쇄-캡처 파일럿(pilot) 실험은 보이지 않는(unseen) 물리적 객체 및 시점 간의 전이성을 추가로 보여줍니다.

원문 초록

Adversarial patches pose a practical threat to modern object detectors. Prior work shows vulnerability, but three gaps limit actionable insight: (i) few \emph{score-based black-box} attacks \emph{jointly} optimize patch \emph{location, texture, and size} under tight query budgets; (ii) success is rarely tied to the patch's \emph{visual footprint}; and (iii) evaluations often conflate EOT robustness with plain-view suppression. We present \method{}, a query-efficient, budget-adaptive black-box attack that couples a lightweight \emph{Contextual Thompson-Sampling} placer with NES-style pixel updates, growing the patch only when progress stalls. Reporting is anchored by a \emph{strict plain-image} suppression test; EOT is audited but never used as a substitute for success, and optional appearance/printability weights expose strength--visibility trade-offs. Across YOLOv5, Faster R-CNN, and YOLOS, \method{} achieves strong suppression on CNN-based detectors and substantial suppression on the transformer-based detector, using compact patches and exposing clear query--footprint trade-offs relative to fixed-size and heuristic baselines. A print--capture pilot further shows transfer across unseen physical objects and viewpoints.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.18318v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.21243v1cs.CV공통 태그 object-detection, Adversarial Attack

탐지기는 잘못된 것을 학습한다: 물리적으로 실현 가능한 공격에 대항하는 단축 경로 저항적 적대적 학습

Detectors Learn the Wrong Thing: Shortcut-Resistant Adversarial Training Against Physically Realizable Attacks

AI 기반 시각 지각 시스템이 지능형 교통 인프라 및 자율주행 차량 관련 응용에 점점 더 배치되고 있다. 그러나 물리적으로 실현 가능한 적대적 외형은 이러한 안전성(safety)에 중요한 시스템에 상당한 신뢰성 과제를 제기한다. 적대적 학습(adversarial training)은 효과적이지만, 적대적 텍스처와 양성 person 인스턴스 간의 반복적 공발생은 탐지기가 텍스처 자체를 객체 존재의 증거로 취급하게 만들어 패치 텍스처 단축 경로(shortcut)를 형성할 수 있다. 탐지기는 그러면 텍스처를 대상에 대한 증거로 취급하여, 텍스처만 있는 입력에서 오탐을 유발하고 교차 공격 일반화를 약화시킬 수 있다. 우리는 탐지기가 적대적 텍스처를 독립적인 판단 단서로 사용하는 것을 방지하는 인스턴스 수준 대조(contrastive) 적대적 학습 프레임워크인 InsCAT를 제안한다. SICA는 적대적 person 특징(feature)을 대응하는 clean 특징과 정렬하고 텍스처만 있는 음성(negative) 샘플과 분리하며, ROPO와 Guard는 온라인 공격 압력을 유지하고 학습을 조율한다. 렌더링된 nuScenes, INRIAPerson, 인쇄 의류, 세 가지 탐지기 계열에서 독립적으로 생성된 8개의 공격 텍스처를 평가한다. InsCAT은 렌더링된 nuScenes에서 평균 공격 AP 82.3%를 달성하여, 가장 강한 기준선보다 11.1포인트 높다. AT-Mix 대비 텍스처 FPR은 46.9%에서 7.3%로 감소한다. 물리적 테스트는 F1 점수 96.6%와 FPR 1.8%를 산출한다. 별도로 학습된 탐지기에서의 일관된 성능 향상은 직접 추론으로 아키텍처 전반에 걸친 적용 가능성을 보여준다. 결과는 견고한(robust) 물리적 탐지가 대상 관련 증거를 보존하면서 적대적 텍스처가 독립적인 판단 단서가 되는 것을 방지하는 데 달려 있음을 보여준다.

arXiv:2607.14921v1cs.LG공통 태그 Adversarial Attack, black-box attack

랜덤 로짓 스케일링: 블랙박스 점수 기반 적대적 예제 공격에 대한 심층 신경망 방어

Random Logit Scaling: Defending Deep Neural Networks Against Black-Box Score-Based Adversarial Example Attacks

머신러닝 모델은 다양한 도메인에서 점점 더 널리 채택되고 있다. 그러나 적대적 예제는 이러한 모델의 신뢰할 수 있는 배포에 심각한 위협을 가한다. 최근 몇 년간 블랙박스 시나리오에서도 적대적 예제를 빠르고 쿼리 효율적으로 생성하는 강력한 적대적 예제 공격이 제안되어, 확장 가능하고 저비용이며 강력한 방어의 필요성이 부각되었다. 본 연구에서는 블랙박스 적대적 예제 공격과 방어 영역에 두 가지 기여를 제시한다. 첫째, 블랙박스 점수 기반 적대적 예제 공격에 대한 무작위화 기반 방어인 랜덤 로짓 스케일링(RLS)을 제안한다. RLS는 기존 ML 모델 위에 최소한의 노력으로 구현할 수 있는 플러그앤플레이(post-processing) 후처리 방어이다. RLS의 핵심 아이디어는 모델 정확도를 유지하면서 무작위로 스케일링된 로짓에서 비롯된 위조 점수를 출력하여 공격자를 혼란시키는 것이다. RLS는 최첨단(state-of-the-art) 블랙박스 점수 기반 공격의 성공률을 크게 낮추면서 정확도는 보존하고, 최첨단 무작위화 기반 방어에 비해 신뢰도 점수 왜곡을 최소화함을 보인다. 둘째, 블랙박스 점수 기반 공격에 대응하는 최첨단 비무작위화 블랙박스 방어인 AAA(출력 로짓을 수정하여 공격자를 혼란시키는 방식)에 대한 새로운 적응형(adaptive) 공격을 제안하고, 적응형 공격에 대한 취약성을 입증한다.

arXiv:2607.09833v1cs.CR공통 태그 Adversarial Attack, black-box attack

자동 음성 인식 시스템의 생성적 테스팅

Generative Testing of Automated Speech Recognition Systems

자동 음성 인식(ASR) 시스템은 트랜스포머 기반 모델로 높은 정확도를 달성하여 중요한 응용 분야에 배포되고 있다. 그러나 이러한 시스템은 적대적 조작에 여전히 취약하며, 특히 공격이 지각적 자연스러움을 보존해야 하는 블랙박스 환경에서 더욱 그러하다. 본 연구는 텍스트-투-스피치 모델의 음소 수준 잠재 공간에서 동작하여 실패를 유발하는 입력을 생성하는 블랙박스 테스팅 접근법인 GATAS를 제안한다. 파형을 직접 교란하는 대신, 자연 음성의 매니폴드 내에 머무르면서 잠재 표현을 보간하여 전사 오류를 유발한다. 이 공격은 의미적 발산과 지각적 품질의 균형을 맞추는 다목적 최적화 문제로 정식화된다. 화이트박스 및 블랙박스 기준선에 대한 실험적 평가 결과, GATAS는 98%의 성공률을 달성하면서 낮은 왜곡과 높은 지각적 품질을 제공함을 인간 연구를 통해 확인하였다. 그래디언트 접근 없이 동작함에도 불구하고, GATAS는 화이트박스 방법에 필적하는 성능을 보이며, 표현 및 지각적 정렬이 모델 내부에 대한 접근보다 더 중요함을 강조한다. 전반적으로, 본 연구의 결과는 비표적 잠재 공간 최적화가 ASR 시스템에 대한 현실적이고 효과적인 테스트 케이스의 효율적 생성을 가능하게 함을 보여준다.

arXiv:2607.11063v1cs.AI공통 태그 Adversarial Attack, black-box attack

AdvNav: 비전-언어 내비게이션에 대한 행동 유도 블랙박스 적대적 공격

AdvNav: Behavior-Guided Black-Box Adversarial Attacks on Vision-Language Navigation

Embodied AI의 발전에도 불구하고, 비전-언어 내비게이션(Vision-and-Language Navigation) 시스템은 적대적 시각 교란에 취약한 상태로 남아 있다. 기존 방법의 대부분은 대상 모델의 그래디언트에 대한 화이트박스 접근에 의존하는데, 이는 실제 배포된 시스템에서 비현실적이며 최적화를 위한 재귀적 역전파로 인해 계산 비용이 높아 적용 가능성이 제한된다. 기존 블랙박스 방법들은 주로 단일 단계의 즉각적인 의사결정 태스크를 대상으로 하여, 태스크의 복잡성과 시간적 의존성을 처리하는 데 어려움을 겪는다. 이는 관측 가능한 입출력만을 활용하여 다단계 순차적 인식-행동 루프를 효과적으로 방해할 수 있는 그래디언트 없는 공격 방법의 필요성을 부각시킨다. 이에 우리는 내비게이션 중 에이전트의 1인칭 시점을 교란하는 행동 유도 블랙박스 적대적 공격 프레임워크인 AdvNav를 제안한다. 블랙박스 설정에서 그래디언트 없는 탐색을 위한 효과적인 최적화 지침을 제공하는 유익한 대리 목적 함수를 구성하기 위해, 우리는 이중 세분성 행동 기반 피드백을 설계하였다. 이는 전반적인 내비게이션 성능 저하를 나타내는 궤적 수준 성능 점수, 잠재적 의사결정 위험을 고려한 행동 수준 보상 점수, 그리고 편차 지표를 집계하며, 이 모두는 에이전트의 자가 출력 행동에서 추출된다. 이 피드백은 적응적 업데이트를 통해 섭동 강도를 휴리스틱하게 조정하고 유전적으로 노이즈 공간 구조를 진화시키는 하이브리드 최적화 전략을 안내하여, 가장 파괴적인 노이즈 구성을 반복적으로 탐색한다. R2R 데이터셋에서 두 가지 유형의 백본을 갖춘 트랜스포머 기반 HAMT 및 대규모 언어 모델(LLM) 기반 MapGPT에 대해 평가한 결과, AdvNav는 49.70/65.96/87.30%의 공격 성공률(Attack Success Rate)을 달성하였다. 이 결과는 AdvNav의 효과성과 범용성을 입증하고, 중요한 인식 취약점을 드러내며, 향후 강건한 VLN 모델 설계에 대한 통찰을 제공한다.

arXiv:2607.09115v1cs.CV공통 태그 object-detection, Adversarial Attack

이벤트 버스트 트리거: 이벤트 기반 SNN 객체 검출에 대한 가용성 백도어 공격

Event Burst Trigger: An Availability Backdoor Attack on Event-Based SNN Object Detection

이벤트 기반 비전과 스파이킹 신경망(SNN)은 엄격한 지연 시간 및 에너지 제약 하의 엣지 인텔리전스에 점점 더 많이 채택되고 있다. 그러나 이벤트 기반 SNN 객체 검출 모델이 가용성 백도어 공격에 취약하다는 점은 아직 충분히 연구되지 않았다. 본 논문은 SNN 기반 객체 검출 모델을 표적으로 하는 가용성 백도어 공격인 이벤트 버스트 트리거(EBT, Event Burst Trigger)를 제안한다. EBT는 정교하게 설계된 이벤트 기반 트리거를 학습 데이터에 주입하며, 이 트리거는 추론 시 시간적으로 집중된 이벤트 스트림을 유발한다. 이러한 버스트형 활성화는 유령(즉, 허위) 객체 후보의 수를 증가시키고, 결과적으로 후처리 단계, 특히 비최대 억제(NMS, Non-Maximum Suppression)의 연산 비용을 팽창시킨다. 우리는 모델 아키텍처, 손실 함수, 추론 파이프라인의 수정을 요구하지 않는 포이즌-온리(poison-only) 위협 모델 하에서, 최신 SNN 기반 객체 검출기인 SpikeYOLO를 대상으로 EBT를 평가한다. 실험 결과, 검출 정확도는 [email omitted] 0.099 미만 감소하여 대체로 유지되는 반면, NMS 단계의 지연 시간은 최대 38% 증가하는 것으로 나타났다. 이는 NMS가 이벤트 기반 SNN 객체 검출에서 지배적인 가용성 병목 지점이 될 수 있음을 시사한다. 엣지 플랫폼에서의 실험은 제안된 공격이 자원 사용량에 뚜렷한 피크를 유발하지 않으면서도 기준선 자원 활용도를 높이고 스케줄링 여유(slack)를 감소시킨다는 것을 추가로 보여준다. 또한 STRIP 기반 백도어 탐지는 제안된 공격을 정상 입력으로부터 신뢰성 있게 구별하는 데 실패한다. 이러한 결과는 이벤트 기반 SNN 객체 검출 시스템에서 이전까지 충분히 탐구되지 않았던 가용성 백도어 위협을 규명한다.

arXiv:2607.04091v1cs.LG공통 태그 Adversarial Attack, black-box attack

그래프 신경망에 대한 블랙박스 노드 주입 공격을 위한 타깃 인식 상호작용 유도 강화학습

Target-Aware Interaction-Guided Reinforcement Learning for Black-Box Node Injection Attacks on Graph Neural Networks

그래프 신경망(GNN)은 그래프 표현 학습에서 뛰어난 성능을 달성했지만, 적대적 공격에 대한 고유한 취약성은 심각한 보안 위험을 초래한다. 특히, 블랙박스 노드 주입 공격은 원본 그래프 토폴로지를 변경하지 않고 악성 노드를 주입하기 때문에 GNN에 대한 주요 위협이 되고 있다. 그러나 기존 방법들은 일반적으로 악성 노드 특징(feature) 생성과 엣지 연결 생성을 분리하여 처리함으로써, 엄격한 예산 제약 하에서 최적에 미치지 못하는 공격 효과를 보인다. 이 근본적인 문제를 해결하기 위해, 본 연구는 GNN에 대한 블랙박스 노드 주입 공격을 위한 타깃 인식 상호작용 유도 강화학습(TIRBA)을 제안한다. TIRBA는 공격을 마르코프 결정 과정(Markov Decision Process)으로 공식화하고, 이질적인 행동 공간에서 노드(node) 특징 생성과 엣지 구성을 공동으로 최적화한다. 먼저, TIRBA는 노드 특징과 엣지 정보를 융합하는 타깃 인식 상호작용 인코더를 설계한다. 또한, 클래스 사전 분포 정보를 활용하는 클래스 중심 유도 메커니즘을 도입하여 고차원 특징 공간의 효율적인 탐험(exploration)을 유도한다. 마지막으로, 주입된 노드로 인해 발생하는 지역적 구조 이상을 명시적으로 포착하는 토폴로지 차이 인식 상태 가치 평가를 채택하여 강화학습(reinforcement learning) 학습(training) 과정을 안정화한다. 실험 결과, 제안된 TIRBA는 최신 블랙박스 노드 주입 공격 방법들을 크게 능가하는 성능을 보임을 입증한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.