arXiv:2611.22446v1 cs.CV

학생 모델의 롤아웃이 이어질수록 시각 백도어도 커진다

As Student Rollouts Continue, Visual Backdoors Keep Growing

Zane Fu, Yanzhao Zheng, Jinze Liu, Ziting Qin, Qianshan Wei, Jihuai Zhu, Yipeng Yu, Baohua Dong, Hangcheng Zhu, Ruohui Huang

제출 2026-11-18

한국어 초록

기존 지식 증류에서는 백도어가 교사 모델에서 학생 모델로 전파될 수 있다. 이 위험이 온-정책 증류(OPD)에서 어떻게 나타나는지는 충분히 연구되지 않았다. OPD는 최근 비전-언어 모델(VLM)의 주요 사후 학습 방식으로 떠올랐다. 전통적인 오프라인 증류와 달리 교사가 생성한 응답이 필요하지 않다. 학생이 온라인으로 생성한 응답 궤적을 교사의 확률분포로 지도한다. 초기 학생 모델은 보통 정상 응답을 생성하며 악성 목표 응답을 명시적 지도 신호로 받지 않으므로, OPD에 백도어 전파를 억제하는 성질이 있는 것처럼 보인다. 이 논문은 이 직관과 달리 OPD에서 시각 백도어가 더 미묘한 방식으로 전파될 위험을 확인한다. 여러 모델 계열과 데이터셋에서 실시한 실험과 이론 분석을 통해 세 가지 주요 결과를 얻었다. 첫째, 전통적인 오프라인 증류에서는 백도어가 비교적 점진적으로 퍼지는 데 비해, OPD에서는 오염 비율이 낮을 때 백도어가 거의 나타나지 않았다. 그러나 임계값을 넘으면 공격 성공률이 빠르게 100%에 가까워졌다. 둘째, 백도어 전파는 명시적인 악성 응답에 의존하지 않고 교사가 배정한 비정상 확률 질량이 계속 쌓이면서 발생했다. 마지막으로, 이 결과를 바탕으로 명시적인 트리거 주입 없이 시각 백도어를 전파할 수 있는 새 트리거 설계를 제안한다. 이는 간과됐던 OPD의 백도어 전파 기제를 드러내고 잠재적인 보안 위험을 보여 준다.

원문 초록

Conventional knowledge distillation can facilitate the propagation of backdoors from teacher models to student models. However, how this risk manifests in On-Policy Distillation (OPD) remains insufficiently studied. OPD has recently emerged as an important post-training paradigm for Vision-Language Models (VLMs). Unlike traditional offline distillation, OPD does not require teacher-generated responses. Instead, it uses the teacher's probability distributions to supervise response trajectories generated online by the student. Since the initial student model typically generates benign responses and receives no explicit supervision from malicious target responses, OPD appears to offer some inherent resistance to backdoor propagation. In this paper, we challenge this intuition and reveal a more subtle risk of visual backdoor propagation in OPD. Through experiments across multiple model families and datasets, together with theoretical analysis, we identify three main findings. First, unlike the relatively gradual propagation observed in traditional offline distillation, backdoors rarely emerge in OPD at low poisoning ratios. However, the attack success rate rapidly approaches 100% once a critical threshold is exceeded. Second, backdoor propagation does not depend on explicit malicious responses. Instead, it is driven by the continuous accumulation of anomalous probability mass assigned by the teacher. Finally, based on these findings, we propose a novel trigger design that enables visual backdoor propagation with zero explicit trigger injection. These findings further reveal an overlooked mechanism of backdoor propagation in OPD and highlight its potential security risks.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.22446v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.