arXiv:2610.15728v2 cs.CV

When Watermarks Turn Adversarial: Exposing Vulnerabilities in Document Understanding

Qingzhe Han, Fan Dang, Shengqi Chen, Xinyi Sun, Haoyu Xiong, Lingkun Li, Di Zhang

제출 2026-11-17

원문 초록

Visible watermarks are common in digital documents and persist during vision-language model (VLM) processing. We show that they can also serve as adversarial surfaces for document understanding. We propose Watermark-based Adversarial Surface Perturbation (WASP), a white-box attack that optimizes pixels inside fixed watermark strokes without requiring downstream questions, answers, or task-specific losses. We further introduce Balanced Aggregation Loss (BAL), which emphasizes visual token groups that remain highly similar to clean representations. Adversarial watermarks degrade performance substantially more than ordinary watermarks. On DocVQA, WASP achieves attack success rates of 96.81% and 71.93% against Qwen2.5-VL and InternVL2.5; BAL improves over a standard token hinge objective by 9.21 and 2.24 percentage points. On 1,651 OmniDocBench pages, WASP increases MinerU2.5's text edit distance by 0.7748 relative to ordinary watermarks. WASP also transfers within model families and across readers sharing a vision-tower architecture. Attack effectiveness depends on watermark geometry, model architecture, and preprocessing; in structured parsing, disrupted layout and routing can propagate errors downstream. These results expose an underexplored security risk in document understanding systems.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.15728v2제출 시각 미확인
  2. arXiv:2610.15728v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.15855v1cs.AI공통 태그 Visual Question Answering (VQA), vision-language model

VLM의 어텐션 싱크는 빌려온 것이지, 본 것이 아니다

Attention Sinks in VLMs Are Borrowed, Not Seen

본 연구에서는 비전-언어 모델(VLM)에서 시각적 어텐션 싱크(attention sink)를 탐지하고 완화하는 방법을 연구한다. 시각적 어텐션 싱크란 질의(query)나 과제와 무관하게 이미지 전체 어텐션 중 큰 비중을 흡수하는 이미지 토큰을 말하며, 이는 어텐션 맵을 모델이 '본' 위치에 대한 기록으로 간주하는 방법들을 오도한다. 기존 연구는 거대 활성화(massive activation) 차원을 통해 싱크를 탐지하고 그 어텐션을 재분배하는 방법을 제안했지만, 어떤 토큰이 싱크가 되는 원인에 대해서는 다루지 않았다. 네 개 계열(family)에 속한 10개의 VLM에서 여섯 가지 후보 탐지기를 비교한 결과, 이미지 토큰의 키(key)와 언어 모델의 텍스트 싱크(text-sink)의 키 사이의 중심화된 코사인 유사도(centered cosine similarity)만이 시각적 싱크를 탐지함을 확인했다. 즉, 시각적 싱크란 그 키가 텍스트 싱크의 키와 정렬되는 이미지 토큰이다. 싱크의 키 성분을 이 방향을 따라 이미지 키들의 중앙값(median)으로 이동시키면 해당 어텐션이 텍스트 싱크로 되돌아가는 반면(\textbf{Borrowed, 빌려온 것}), 모델의 답변은 변하지 않는다(\textbf{Not Seen, 본 것이 아님}). 이를 바탕으로, 우리는 먼저 어텐션 맵을 정제(clean)한 뒤 정제된 맵에서 가장 많은 어텐션을 받은 영역을 잘라내어 추론 과정(reasoning trace)에 삽입하는, 엔트로피로 촉발되는(entropy-triggered) 학습이 필요 없는(training-free) 재관찰(re-look) 기법을 제안한다. 정제 과정은 순전파에 거의 추가 연산을 유발하지 않으며, 이 재관찰 기법은 여러 모델 계열에 걸쳐 세밀한 디테일을 요구하는 VQA 벤치마크에서 평균 +4.3점의 정확도 향상을 가져온다.

arXiv:2610.10782v1cs.CV공통 태그 Visual Question Answering (VQA), vision-language model

VICO: 비전-언어 모델 추론을 위해 함께 진화하는 시각적 환경

VICO: Visual Environments Co-Evolving for Vision-Language Model Reasoning

검증 가능한 보상을 활용한 강화학습(RLVR)은 비전-언어 모델(VLM)의 사후 학습을 위한 표준적인 방법론이 되었으나, 일반적으로 정적인 학습 환경을 가정합니다. 액터(actor)의 성능이 향상됨에 따라 고정된 태스크는 점차 학습 영역(learning frontier)을 벗어나게 됩니다. 즉, 상당수는 사소해지고 다른 태스크는 여전히 해결 불가능한 상태로 남아 학습 신호가 소실됩니다. 본 논문에서는 VLM 사후 학습이 액터 자체뿐만 아니라 액터와 함께 시각적 환경도 진화시켜야 한다고 주장합니다. 이를 위해 액터와 리라이터 형태의 환경(EnvRewriter)을 공동 학습하는 공진화(co-evolutionary) 프레임워크인 VICO를 제안합니다. EnvRewriter는 씬 그래프(scene graph), 차트 테이블, 보호 영역 마스크와 같이 검증 가능한 이미지 측 구조를 편집하고 이를 다시 렌더링하여 정답 레이블이 유효한 학습 샘플을 생성하며, 통과율 기반 보상을 통해 샘플의 난이도를 액터의 현재 능력에 맞게 보정합니다. 이러한 루프는 추가적인 사람의 주석 작업 없이 태스크 난이도와 액터의 역량을 지속적으로 재조정합니다. 수학적 추론 및 시각적 그라운딩(visually grounded) 이해를 포괄하는 9개 멀티모달 벤치마크 전반에서, VICO-8B는 도메인 외(out-of-domain) 태스크에서 기본 모델 대비 최대 +5.0% 향상되었으며, 가장 강력한 자기 진화(self-evolution) 및 텍스트 편집 공진화 베이스라인을 각각 +4.3%, +8.4% 능가하였고, 16~160배 적은 레이블 샘플을 사용하면서도 차트 특화 RLVR 방식과 대등한 성능을 유지했습니다. VICO는 사람이 레이블링한 지도 학습에서 이미지 편집 공진화로 전환함으로써, 시각적 추론을 위한 정적 말뭉치 기반 RLVR을 넘어설 수 있는 확장 가능한 경로를 제공합니다.

arXiv:2607.28627v2cs.CV공통 태그 Visual Question Answering (VQA), vision-language model

ReToken: 시각 검색 토큰을 활용한 긴 문맥 VLM 성능 향상

ReToken: Improving Long-Context VLMs with Visual Retrieval Token

긴 시각적 문맥(long visual context)은 비전-언어 모델(VLM)에 큰 도전 과제가 됩니다. 방해 요소(distractor)의 수가 증가함에 따라 성능이 저하되고, 모든 토큰을 한 번에 처리하면 GPU 메모리 한계를 초과할 수 있기 때문입니다. 본 논문에서는 사전 채워진(pre-filled) KV 캐시에서 질의 관련 시각 토큰을 선택하기 위해 VLM의 내부 표현에서 검색 신호를 추출하는 단일 학습 가능 임베딩인 RETOKEN을 제시합니다. 이를 통해 별도의 검색기(retriever)나 재인코딩 없이도 답변을 생성하는 VLM 내부에서 검색이 가능해집니다. 소규모 이미지-QA 데이터셋만을 기반으로 학습되었음에도 불구하고, RETOKEN은 이미지 및 비디오 벤치마크 전반에 걸쳐 뛰어난 일반화 성능을 보입니다. Visual Haystacks에서 Qwen3VL-8B의 성능을 13.4점, InternVL3.5의 성능을 12.4점(상대적 20% 이상) 향상시켰습니다. LVBench에서는 긴 비디오에 제로샷(zero-shot)으로 전이되어 Qwen3VL-8B의 성능을 8.0점 향상시켰습니다. 경량화된 설계 덕분에 학습과 긴 비디오 추론이 모두 단일 H100에서 수행 가능합니다. 코드는 https://github.com/avaxiao/ReToken 에서 이용할 수 있습니다.

arXiv:2609.38298v2cs.CV공통 태그 Adversarial Attack, vision-language model

지각을 재작성하는 데는 아주 작은 변화로 충분하다: $\varepsilon \leq 4/255$에서의 비전-언어 모델 타깃 의미론적 대체

It Takes Little to Rewrite Perception: Targeted Semantic Substitution in Vision-Language Models at $ε\leq 4/255$

비전-언어 모델(Vision Language Models, VLM)은 안전이 중요한 시나리오에 널리 배포되고 있으며, 적대적 섭동(adversarial perturbation)에 의해 모델이 어느 정도까지 조작될 수 있는지 이해하는 것은 신뢰성을 평가하기 위한 필수 조건입니다. VLM이 타깃 이미지를 인식하도록 만드는 기존 표현 정렬(representation-alignment) 공격은 $\varepsilon \leq 4/255$ 범위에서 제한적인 성공만을 거둡니다. 따라서 VLM은 이 범위의 섭동에 견고한 것처럼 보입니다. 본 논문에서는 동일한 범위 내에서 타깃 의미론적 대체(targeted semantic substitution)가 성공하므로 이러한 견고성이 유지되지 않음을 보여줍니다. 구체적으로 화이트박스 위협 모델 하에서, 피해자 VLM의 병합 후 토큰(post-merger token) 공간에서 원본 이미지의 각 스트림을 타깃 이미지의 대응 스트림과 정렬합니다. 모델이 타깃의 이름을 명시하고, 타깃의 존재를 확인하며, 원본의 존재를 부인하는 과정을 동시에 요구하는 엄격한 성공 기준 하에서 평가를 진행합니다. 이미지의 경우 $\varepsilon = 2/255$에서 타깃 의미론이 나타나기 시작하며 $\varepsilon = 4/255$에서는 완전한 대체율이 38%에 이릅니다. 비디오의 경우 $\varepsilon = 1/255$에서 완전한 대체율이 35.9%에 도달합니다. 또한 대규모 언어 모델(LLM)이 모순되는 시각적 신호를 일관된 서사로 합리화하는 의미론적 융합(semantic fusion) 현상도 관찰합니다.

arXiv:2610.03445v1cs.CV공통 태그 Adversarial Attack, vision-language model

오염되었으나 정확함: 비전-언어 모델이 내부적으로 스스로를 속이는 이유

Corrupted but Correct: Why Vision-Language Models Lie to Themselves Internally

표적 적대적 섭동(targeted adversarial perturbation)은 고정된 목표 캡션에 대한 비전-언어 모델(VLM)의 교사 강제(teacher-forced) 학습 손실을 거의 0에 가깝게 만들 수 있지만, 동일한 모델이 자유롭게 생성하도록 두면 목표의 흔적 없이 원래의 정확한 설명을 생성합니다. 우리는 이러한 해리를 학습/추론 격차(train/inference gap)라고 부르며, 200개의 홀드아웃 COCO 이미지에 대해 통제된 2단계 PGD 공격을 사용하여 Qwen2.5-VL-7B-Instruct에서 이에 대한 정밀한 기계론적 설명을 제시합니다. 첫째, CNN 강건성 문헌에서 가져와 올바르게 재구현한 텍스처 기반 공격 가능성 척도를 포함하여 이미지 수준의 픽셀 통계는 어떤 이미지가 오염될지 예측하는 능력이 사실상 전무함을 보여줍니다(최고 예측 변수 r=-0.050, p=0.484; 릿지 회귀 R^2=0.069). 둘째, 로짓 렌즈(logit lens)를 사용하여 이 격차가 단일 자기회귀 단계에 국한됨을 밝혀냈습니다. 이미 올바른 첫 번째 토큰이 생성된 상태를 조건으로 할 때 목표 토큰의 순위는 모든 이미지와 모든 조건에서 분산 없이 152,064개의 어휘 항목 중 정확히 3,488위로 고정됩니다. 셋째, 28개 LLM 디코더 레이어 전체에 걸쳐 목표 토큰 순위를 추적한 결과, 시각 인코더는 최종 결과와 무관하게 비교적 일정한 마진으로 모든 이미지의 표현을 오염시키지만, 언어 모델 디코더가 이를 차별적으로 중재함을 밝혔습니다. 즉, 취약한 이미지에 대해서는 오염된 신호를 증폭하고, 저항력이 있는 이미지에 대해서는 깨끗한 이미지의 기준선 이하로 신호를 적극 억제합니다(p<0.001, 순위-양분 상관계수 r=0.579). 병합기 은닉 상태(merger hidden state)에 대한 선형 프로브(linear probe)는 AUC=0.858로 이 두 가지 결과를 구분하지만, 우리는 이 추정치에 순환성 우려가 있음을 지적합니다. 이러한 결과들을 종합해 볼 때, 자기회귀 VLM의 적대적 강건성은 실질적으로 시각 인코더가 아닌 언어 디코더의 사전 확률(prior)에 따른 특성임을 시사하며, 이는 배포된 VLM 시스템에 대한 충실도 평가 및 방어 기법이 어디를 목표로 삼아야 하는지에 직접적인 시사점을 제공합니다.

arXiv:2607.22723v1cs.CV공통 태그 document understanding, vision-language model

분류 기반 대규모 비전-언어 모델을 통한 문서의 시각적 정보 추출

Visual Information Extraction from Documents via Classification-Guided Large Vision-Language Models

시각적으로 풍부한 문서에서의 시각적 정보 추출(VIE)은 레이아웃 변동성이 크고 실제 환경의 손상 때문에 여전히 어려운 과제이다. 기존 방법들은 일반적으로 순차적 OCR 파이프라인이나 광범위한 라벨 데이터와 레이아웃별 학습이 필요한 end-to-end 모델에 의존하여 확장성을 제한한다. 우리는 최소한의 감독으로 높은 정확도를 달성하는 다중 유형 VIE를 위한 분류 기반 대규모 비전-언어 모델(LVLM) 프레임워크를 제안한다. 이 접근법은 문서 유형 분류와 내용 추출을 분리하고, 문맥 내 학습(ICL) 기반 동적 프롬프트 엔지니어링을 통해 과제별 지식을 주입하여 다양한 레이아웃에서 견고한 제로샷 추론을 가능하게 한다. 이론적 관점에서, 제안된 방법은 과제 불확실성을 줄이고 프롬프트 기반 추론 중 정보 효율을 향상시키는 조건부 연산의 한 형태로 볼 수 있다. 16가지 증명서 유형을 포함한 실제 입찰 데이터셋에서 평가한 결과, 우리의 제로샷 방법(Qwen2.5-VL-7B 기반)은 F1-score에서 18.35%p(86.43% vs. 68.08%)만큼, 정규화 편집 거리(normalized edit distance)에서는 0.23(0.90 vs. 0.67)만큼 강력한 감독 기준선을 능가한다. 선택적 도메인 특화 미세조정은 성능을 F1 93.65% 및 NED 0.93까지 추가로 향상시키며, 도장, 워터마크, 낮은 대비에 대한 우수한 견고성을 보여준다. 이 프레임워크는 사무 자동화에서 복잡한 문서 이해를 위한 효율적이고 확장 가능한 해결책을 제공한다. 코드는 https://github.com/FairmeHIT/Multi-VIE에서, 미세조정 모델은 https://huggingface.co/fairme/Qwen2.5-VL-7B-SFT에서 이용할 수 있다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.