DroidBreaker: 머신러닝 Android 악성코드 탐지기를 대상으로 한 실용적·기능 보존 문제 공간 공격
DroidBreaker: Practical and Functional Problem-Space Attacks on Machine-Learning Android Malware Detectors
한국어 초록
적대적 APK는 머신러닝 악성코드 탐지기를 우회하기 위해 문제 공간(problem space)에서 수정된 Android 애플리케이션이다. 본 연구에서는 먼저, 주장과 달리 기존 문제 공간 공격이 여전히 대체로 비실용적임을 보인다. 대부분의 기법은 소프트웨어 이식(software transplantation)을 활용해 전체 무해 모듈을 주입하며, 많은 부수 효과(side-effect) 특징을 도입하고 종종 빌드 시점 실패를 일으킨다. 일부 구성요소만 주입하는 미세 조작(fine-grained) 방법은 효과가 제한적이며, 난독화(obfuscation)도 사용하는 방법은 취약한 바이트코드 재작성에 의존해 구문적으로는 유효하지만 의미적으로는 사용 불가능한 APK를 생성한다. 선행 연구는 수정된 APK가 의도한 동작을 여전히 보존하는지 평가하지 않고, 설치와 기본 실행만 검증하는 스모크 테스트(smoke test)만 수행함으로써 공격 성공률을 과대평가한다. 이러한 한계를 극복하기 위해, 우리는 실용적(빌드 안전, build-safe)이고 기능적(의미 보존, semantics-preserving)인 문제 공간 공격 프레임워크인 DROIDBREAKER를 제안하며, 이는 다음을 제공한다: (i) 대상 모델에 가장 큰 영향을 미치는 APK 구성요소만 조작하는 쿼리 효율적(query-efficient) 화이트박스·블랙박스 공격; (ii) API 호출, 앱 모듈, 권한, URL의 주입 및 난독화를 포함한, 부수 효과를 최소화한 미세 조작·빌드 안전 조작 세트; 및 (iii) 초기 APK와 수정 APK의 실행 로그 및 API 수준 추적(trace)을 비교해 런타임 동등성(runtime equivalence)을 강제하는 의미 보존 기능 테스트. 최근 Android 애플리케이션 코퍼스에서 평가한 결과, DROIDBREAKER는 화이트박스 및 블랙박스 설정 모두에서 적은 쿼리 수와 최소한의 부수 효과로 높은 회피(evasion)율을 달성하며, VirusTotal에 호스팅된 상용 악성코드 스캐너의 탐지를 대폭 줄인다.
원문 초록
Adversarial APKs are Android applications modified in the problem space to evade machine-learning malware detectors. In this work, we first show that, despite claims, existing problem-space attacks remain largely impractical. Most techniques leverage software transplantation to inject entire benign modules, introducing many side-effect features and often causing build-time failures. Fine-grained methods that inject only a narrow subset of components exhibit limited effectiveness, while those that also use obfuscation rely on brittle bytecode rewriting, producing APKs that are syntactically valid but semantically unusable. Prior work further overestimates attack success rates by running smoke tests that only validate installation and basic execution, without assessing whether the modified APK still preserves its intended behavior. To overcome these limitations, we present DROIDBREAKER, a practical (build-safe) and functional (semantics-preserving) problem-space attack framework that provides: (i) query-efficient white- and black-box attacks by manipulating only the APK components most influential to the target model; (ii) a set of fine-grained, build-safe manipulations (including injection and obfuscation of API calls, app modules, permissions, and URLs) with minimal side effects; and (iii) a semantics-preserving functionality test that enforces runtime equivalence by comparing execution logs and API-level traces between the initial and the modified APK. Evaluated on a recent corpus of Android applications, DROIDBREAKER achieves high evasion rates with few queries and minimal side effects in both white-box and black-box settings, and drastically reduces detections by commercial malware scanners hosted on VirusTotal.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.26707v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
적대적 학습된 신경망의 돌출도 맵 희소성에 대한 규명
Explaining the Saliency Map Sparsity of Adversarially-Trained Neural Networks
심층 신경망이 특정 예측을 수행하는 이유를 이해하는 것은 신경망의 안전한 배포를 위해 매우 중요합니다. 컴퓨터 비전(CV) 분야에서는 예측에 가장 큰 영향을 미치는 이미지 영역을 강조하는 돌출도 맵(saliency map)이 널리 사용되는 설명 방식으로 남아 있습니다. 한 가지 실증적 관찰 결과는 적대적 학습(adversarial training)된 신경망의 그래디언트 돌출도 맵에서 뚜렷한 희소성(sparsity)이 나타난다는 점입니다. 본 논문에서는 2개 층(layer) 렐루(ReLU) 네트워크를 대상으로 이러한 현상에 대한 이론적 설명을 제안합니다. 우리는 특정 손실 함수에서 유효한 것으로 밝혀진 적대적 학습과 가중치 감쇠(weight-decay) 페널티 및 적대적 전변동(total variation) 항이 추가된 경험적 위험 최소화 사이의 기존 동등성 관계를 기반으로 논의를 전개합니다. 데이터 포인트 수와 뉴런 수가 증가하고 정규화 매개변수가 적절한 비율로 0으로 수렴함에 따라, 최소화기(minimizer)가 최소 그래디언트 및 배런 노름(Barron norm)을 갖는 베이즈 분류기(Bayes classifier)로 수렴함을 증명합니다. $\ell_\infty$ 공격을 사용하는 적대적 학습의 경우 그래디언트 노름이 비등방적(anisotropic)이며 축에 정렬된/희소한 그래디언트를 선호하기 때문에 이러한 희소성이 나타납니다. 우리는 자연 학습된 모델과 적대적 학습된 모델의 그래디언트 $\ell_1$-노름 및 임계화된 희소성을 평가하여 이론적 발견을 실험적으로 제시합니다.
When Watermarks Turn Adversarial: Exposing Vulnerabilities in Document Understanding
적대적 미끼: ViT의 어텐션 기반 방어를 오도하기
Adversarial Decoys: Misdirecting Attention-Based Defenses in ViT
Whiteout을 활용한 대규모 언어 모델(LLM)의 개인정보 유출 완화
Mitigating Private Data Leakage in LLMs with Whiteout
최신 대규모 언어 모델(LLM)은 거의 모든 접근 가능한 웹사이트에서 스크래핑한 콘텐츠와 사용자 입력을 포함하여 대부분 필터링되지 않은 방대한 데이터셋으로 학습(training)됩니다. 그 결과 LLM은 생년월일, 전화번호, 집 주소와 같은 민감한 개인정보(PSI)를 암기하고 그대로 재생성하는 경우가 많습니다. 이는 특히 경영진, 정치인, 판사와 같은 저명인사들에게 심각한 개인정보 침해 위험을 초래합니다. 기존의 완화 방법은 주로 머신 언러닝(machine unlearning)에 의존합니다. 그러나 이러한 방식은 종종 필요한 것보다 더 많은 정보를 제거하고, 모델의 유용성과 안전성(safety)을 저하시키며, 공격에 매우 취약합니다. 본 논문에서는 개인의 요청에 따라 정밀하고 세심하게 설계된 난독화 샘플로 덮어씀으로써 LLM이 실제 민감한 개인정보(PSI)를 그대로 토해내는 것을 방지하는 실용적인 도구인 Whiteout을 제시합니다. 널리 사용되는 OpenAI 모델을 포함하여 다양한 크기와 제조사의 최신 LLM에서 Whiteout을 평가(evaluation)합니다. 실험 결과, Whiteout은 대상 민감한 개인정보의 유출을 효과적으로 방지하고, 모델 유용성과 안전성에 미치는 영향이 미미하며, 기존 대안들보다 우수한 성능을 보였습니다. 또한 탈옥(jailbreaking)과 같은 블랙박스 공격부터 재학습(relearning) 및 양자화(quantization)와 같은 화이트박스 적응형 공격에 이르기까지 광범위한 대응 공격에 대해 Whiteout을 검증합니다. 마지막으로 Whiteout의 보안 및 윤리적 의미에 대한 논의로 결론을 맺습니다.
RedPhys: An Extensible Red-Teaming Platform for Physical-World Models and Agents
USAD: 불확실성 인식 통계적 적대적 탐지
USAD: Uncertainty-aware Statistical Adversarial Detection
통계적 적대적 탐지(SAD)는 탐지를 2-표본 검정으로 취급한다. 깨끗한 예제(CE)의 참조 집합과, 알 수 없는 비율로 CE와 적대적 예제(AE)가 섞여 있을 수 있는 쿼리 배치가 주어졌을 때, SAD는 거짓 경보율을 통제하면서 쿼리 분포가 CE 분포에서 벗어났는지 판단한다. 기존 SAD 기반 방법은 주로 분포 간 불일치를 측정하기 위해 최대 평균 불일치(MMD)를 사용한다. 그러나 MMD의 분포적 특성은 탐지에 중요한 AE의 특징적 불확실성 패턴을 포착하는 능력을 제한한다. AE는 일반적으로 비정상적인 특징 퍼짐(즉, 전역 불확실성)과 교란에 대한 불안정성(즉, 국소 불확실성)을 보인다. 이 간극을 메우기 위해 우리는 두 가지 새로운 통계량으로 이러한 불확실성 패턴을 명시적으로 포착하는 불확실성 인지 통계적 적대적 탐지(USAD)를 제안한다. (1) 분산 불일치(VD)는 AE와 CE 사이의 특징 퍼짐의 차이를 측정하여 전역 불확실성 차이를 포착한다. (2) 교란 기반 공분산 불일치(PCD)는 가우시안 교란 하에서 특징 공분산을 비교하여 국소 불확실성 차이를 포착한다. VD와 PCD를 집계함으로써 USAD는 다양한 적대적 공격에 대해 기준선 방법보다 우수한 탐지 성능을 달성하며, 효과적인 SAD를 위해 AE의 특징적 행동을 고려하는 것이 중요함을 보여 준다. 코드는 https://github.com/yeager20001118/USAD 에서 이용할 수 있다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.