PyTorchKR Papers

최신 논문

총 595편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.13636v1cs.CV

원격 탐사 시각적 질의응답에서 답변-그라운딩 일관성 벤치마킹

Benchmarking Answer-Grounding Consistency in Remote Sensing Visual Question Answering

그라운디드 원격 탐사 시각적 질의응답(grounded remote sensing visual question answering)에서 모델은 텍스트 답변을 생성하고 이미지 내 관련 객체를 그라운딩(grounding) 근거로 식별합니다. 기존 평가는 답변의 정확성과 위치 특정(localization) 품질을 측정하지만, 답변-그라운딩 일관성을 직접적으로 평가하지는 않습니다. 본 연구에서는 근거 지지(evidence support), 즉 그라운딩 근거가 모델 자신의 답변을 뒷받침하는지 여부를 통해 이러한 일관성을 평가하는 답변-근거 지지 프로토콜(AESP)을 제안합니다. AESP는 존재 유무, 개수 세기, 비교 질문에 대해 태스크별 규칙을 적용합니다. 나아가 질문, 참조 답변, 모든 관련 객체 수준 주석을 포함하는 15,027개 샘플로 구성된 Grounded Remote Sensing Visual Question Answering(G-RSVQA) 벤치마크를 구축합니다. 7개의 그라운디드 비전-언어(vision-language) 모델에 대한 실험 결과, 세 가지 질문 유형 모두에서 근거 지지 실패가 나타남을 확인했습니다. 근거 평가 부분집합에서 정답의 최대 50.82%는 제공된 그라운딩 근거에 의해 뒷받침되지 않았습니다.

arXiv:2610.13535v1cs.CV

위치뿐만 아니라 존재 여부도 파악하기: 열린 집합 원격 탐사 시각적 그라운딩을 위한 앵커 탐침 지식 증류

Knowing Whether, Not Just Where: Anchor-Probing Distillation for Open-Set Remote Sensing Visual Grounding

원격 탐사(remote sensing)에서의 열린 집합(open-set) 시각적 그라운딩(visual grounding)은 질의된 객체가 어디에 위치하는지뿐만 아니라, 영상이 해당 질의에 대한 충분한 근거를 전혀 제공하지 않는지 여부까지 모델이 판단하도록 요구합니다. 그러나 기존의 닫힌 집합(closed-set) 그라운딩 모델은 존재하지 않는 객체에 대해서도 그럴듯한 경계 상자(bounding box)를 반환하는 경향이 있어, 위치 추정(localization) 신뢰도와 진정한 시각적 지지(Visual Support)를 모호하게 만듭니다. 본 논문에서는 열린 집합 그라운딩을 시각적 지지 학습으로 재구성하는 교사-학생(teacher-student) 프레임워크인 AnchorProbe-Distill(APD)을 소개합니다. APD는 지지되는 질의는 일관된 공간적 앵커(spatial anchor)를 유도해야 하는 반면, 지지되지 않거나 불일치하는 질의는 불안정하거나 오해의 소지가 있는 위치 추정 패턴을 생성하는 경향이 있다는 통찰에 기반합니다. 이에 따라 APD-T는 원래 질의(Original Query)를 기준 앵커(Reference Anchor)로 사용하여 질의 섭동(query perturbation)을 해석합니다. 즉 의미 보존 질의(Semantic-Preserving Queries)는 어노테이션된 타깃을 유지하고, 인접 범주 모호 질의(Near-Category Ambiguous Queries)는 신뢰할 수 있는 대안 앵커를 형성하는지 혹은 기준 앵커로 축퇴되는지에 따라 해결되며, 원거리 범주 반사실적 질의(Far-Category Counterfactual Queries)는 거부(rejection) 감독 신호를 제공합니다. 이러한 기준 인식 추론은 APD-S로 지식 증류(distillation)되어, 단일 영상-질의 쌍으로부터 통합된 위치 추정 및 거부를 가능하게 합니다. 실험 결과, APD를 통해 도출된 모델은 부재한 타깃을 거부하는 동시에 존재하는 타깃의 위치 추정 성능도 향상시킴을 보여줍니다.

arXiv:2610.13502v1cs.CV

Stride: 인포그래픽 생성을 위한 스케일 인식 다중 에이전트 진화적 정제

Stride: Scale-Aware Multi-Agent Evolutionary Refinement for Infographic Generation

단일 이미지가 수많은 시각적, 텍스트적, 의미론적 제약 조건을 만족해야 하므로 인포그래픽 생성은 텍스트-투-이미지(text-to-image) 모델에 큰 도전 과제가 됩니다. 멀티모달 검증기(verifier)를 활용한 반복적 에이전트(agent) 정제는 자연스러운 해결책이지만, 기존 방법들은 스케일 불일치(scale mismatch) 문제에 직면합니다. 즉, 국소적 편집으로는 전역적 구성 오류를 바로잡을 수 없으며, 전체 재생성은 이미 올바른 영역을 훼손할 수 있습니다. 본 논문에서는 고정된(frozen) 임의의 생성기 상에서의 정제 과정을 이력 인식(history-aware) 진화 전략으로 취급하는 제약 조건 그라운딩(constraint-grounded) 다중 에이전트 프레임워크인 Stride를 소개합니다. Stride는 각 요구사항의 충족 여부를 판단하는 제약 조건 평가와 위반 위치 및 방식을 파악하는 시각적 그라운딩을 분리합니다. 그런 다음 전역적 수정은 컴포저(composer) 하위 에이전트로, 국소적 교정은 리터처(retoucher) 하위 에이전트로 라우팅합니다. 각 하위 에이전트는 내부 계획을 수립하고 여러 후보를 생성하며, Stride는 검증기 점수를 향상시킬 때만 후보를 수락하여 반복 과정 전반에서의 성능 저하(regression)를 줄입니다. 확률적 생성기와 불완전한 검증기로 인해 단일 단계는 신뢰하기 어려우므로, 반복 과정에서 안정적인 성능 향상을 이끌어내는 것은 바로 이러한 스케일 인식 라우팅, 단계별 중복성, 단조 수락(monotonic acceptance)의 결합입니다. 완전한 오픈 가중치(open-weight) 생성기-검증기 시스템을 갖춘 Stride는 BizGenEval에서 Nano-Banana-2.0 및 Seedream-5.0-Pro를 포함한 독점 시스템을 능가하고, IGenBench에서는 GPT-Image-2.0과 동등한 성능을 보이며 Seedream-5.0-Pro를 능가하고, WISE에서는 새로운 최고 성능(state-of-the-art) 점수를 달성하는 동시에 평가된 모든 벤치마크 전반에서 기존 에이전트 기반 방법들을 크게 능가합니다.

arXiv:2610.10563v1cs.CV

SLVR: 인간과 유사한 추론 흐름을 통한 구조화된 잠재 시각적 추론

SLVR: Structured Latent Visual Reasoning via Human-like Reasoning Flows

멀티모달 대규모 언어 모델(MLLM)은 과제와 관련된 시각적 증거보다 언어적 사전 확률에 의존하여 시각적 추론 질문에 답하는 경우가 많습니다. 텍스트 기반 사고의 연쇄(Chain-of-Thought, CoT) 추론은 모델이 시각적 질문을 중간 증거 탐색 단계로 분해하도록 유도하여 이 문제를 부분적으로 완화할 수 있지만, 이러한 단계를 자기회귀적(autoregressively)으로 생성하면 추론(inference) 비용이 증가합니다. 잠재 추론(latent reasoning)은 명시적인 근거 생성을 피하지만, 기존 접근법은 중간 상태가 인코딩하는 정보에 대한 제어가 제한적이어서 계획(planning), 그라운딩(grounding), 증거 선택에 대한 개별적인 지도(supervision)를 적용하기 어렵습니다. 본 논문에서는 멀티모달 추론을 계획, 그라운딩, 증거 선택, 추론 통합을 위한 유형화된 잠재 단계로 구성함으로써 명시적 사고의 연쇄와 잠재 추론을 연결하는 학습(training) 프레임워크인 SLVR(Structured Latent Visual Reasoning)을 제안합니다. SLVR은 먼저 정답을 드러내는 텍스트를 마스킹하고 정답을 시각적으로 그럴듯한 오답과 대조함으로써 모델이 이미지에 의존하도록 학습시킵니다. 그런 다음 추론을 계획, 그라운딩, 증거 선택, 통합을 위한 잠재 단계로 구성하고, 각 단계를 그에 대응하는 신호인 계획, 바운딩 박스, 시각적 증거, 최종 근거로 지도합니다. 이를 통해 추론 시점에 생성되는 텍스트 체인을 피하면서도 잠재 추론에 명시적인 기능적 구조를 부여합니다. Qwen2.5-VL-7B를 기반으로 구축된 SLVR은 멀티모달 추론 벤치마크 전반에서 일관된 성능 향상을 보였으며, MMVP에서 +9.4, BLINK Relation에서 +14.2의 절대적 향상을 기록했을 뿐만 아니라 V*, MathVista, ChartQA에서도 성능이 향상되었습니다. 이러한 결과는 구조화된 잠재 지도가 텍스트 CoT의 디코딩 오버헤드 없이 미세한 시각적 추론을 개선할 수 있음을 시사합니다. 프로젝트 페이지는 \href{https://bogao-code.github.io/SLVR/}{여기}에서 확인할 수 있습니다.

arXiv:2606.12590v2cs.CV

의료 대규모 비전-언어 모델에서의 세분화된 선호 최적화 분석 및 개선

Analyzing and Improving Fine-grained Preference Optimization in Medical LVLMs

선호 최적화(preference optimization)는 의료 대규모 비전-언어 모델(LVLM)의 사후학습(post-training)에 점점 더 널리 사용되고 있으나, 임상적 정확성을 정의하는 단위보다 훨씬 거친 단위(granularity)에서 동작합니다. 한 응답이 다른 응답보다 임상적으로 더 나은지 여부는 통상적으로 해부학적 좌우 구분(laterality)이나 병변 속성과 같은 소수의 결정적인 어구, 그리고 각 어구가 질문이 다루는 이미지 영역에 의해 뒷받침되는지 여부에 달려 있습니다. 반면 직접 선호 최적화(DPO) 및 그 변형들은 비교를 단일 응답 수준의 스칼라로 축소하므로, 어떤 토큰(token)이 임상적 의미를 담고 있는지를 구조적으로 표현할 수 없는 목적 함수입니다. 본 연구에서는 이러한 불일치가 치명적임을 보입니다. 비교 대상 목적 함수 중 응답 수준 DPO는 임상적 정확성을 결정짓는 어구에 가장 낮은 보상(reward)을 부여하며, 선호 응답을 지도학습 기준(supervised reference)으로 대체할 경우 모델(model)이 보상 해킹 지름길로 악용하는 문체적 격차가 발생하여 선호 정확도는 높아지지만 임상적 정확도는 향상되지 않습니다. 임상적 비교에서 전체 피드백을 포착하기 위해, 본 논문에서는 세분화된 정규화 의료 선호 최적화(FiRe-MPO)를 제안합니다. 선호 쌍은 모델 자체 생성물을 최소한으로 편집하여 선호 응답과 거부 응답이 임상적으로 결정적인 구간(span)에서만 차이 나도록 구성되며, 각 응답은 뒷받침하는 시각적 근거를 감춘 병변 손상 이미지와 짝지어집니다. 구간 단위로 국소화된 보상은 희소(sparse)하므로, 양방향 토큰 단위 KL 정규화기를 통해 최적화를 안정화합니다. 의료 시각적 질문 답변(VQA) 및 판독문 생성 전반에 걸쳐, FiRe-MPO는 의료 특화 및 범용으로 널리 사용되는 두 가지 LVLM에서 DPO, RRPO 및 경쟁 세분화 목적 함수들의 성능을 능가하는 동시에, 시각적 그라운딩(grounding)을 강화하고 대안 대비 의료 어구에 더 많은 보상을 부여합니다.

arXiv:2605.12882v2cs.CL

CiteVQA: 신뢰 가능한 문서 지능을 위한 근거 귀속 벤치마킹

CiteVQA: Benchmarking Evidence Attribution for Trustworthy Document Intelligence

멀티모달 대규모 언어 모델(MLLM)은 문서 이해(document understanding) 능력을 크게 향상시켰지만, 현재의 Doc-VQA 평가는 최종 답변만 채점하고 이를 뒷받침하는 근거(evidence)는 검증하지 않는다. 이러한 답변 전용(answer-only) 방식은 중요한 실패 유형을 숨긴다: 모델이 정답에 도달하더라도 잘못된 구절(passage)에 근거를 두는 경우가 있으며, 이는 모든 결론이 특정 소스 영역까지 추적 가능해야 하는 법률, 금융, 의료와 같은 고위험 영역에서 중대한 위험이 된다. 이를 해결하기 위해 우리는 CiteVQA를 소개한다. 이는 모델이 각 답변과 함께 요소 수준(element-level)의 바운딩 박스(bounding-box) 인용을 반환하도록 요구하고, 둘을 함께 평가하는 벤치마크이다. CiteVQA는 7개 도메인과 2개 언어에 걸친 711개의 PDF에서 추출한 1,897개의 질문으로 구성되며, 문서당 평균 40.6페이지를 포함한다. 충실도(fidelity)와 확장성(scalability)을 보장하기 위해, 정답 인용(ground-truth citation)은 마스킹 제거(masking ablation)를 통해 핵심 근거를 식별하고 다단계 품질 관리(multi-stage quality control)를 적용하는 자동화 파이프라인을 통해 생성된다. 우리 평가의 핵심은 엄격한 귀속 정확도(Strict Attributed Accuracy, SAA)로, 답변과 인용된 영역이 모두 정확한 경우에만 예측을 인정한다. 20개의 MLLM을 감사(audit)한 결과, 모델이 정답을 내면서도 잘못된 영역을 인용하는 광범위한 귀속 환각(Attribution Hallucination) 현상이 드러났다. 가장 강력한 시스템(Gemini-3.1-Pro-Preview)조차 SAA가 76.0에 불과했고, 가장 강력한 오픈소스 MLLM은 단 22.5에 그쳤다. 결론적으로, 신뢰 가능한 문서 지능을 향해 CiteVQA는 답변 전용 평가가 간과하는 신뢰성 격차(reliability gap)를 드러내며, 이를 해소하는 데 필요한 도구를 제공한다. 저장소는 https://github.com/opendatalab/CiteVQA 에서 확인할 수 있다.

arXiv:2606.04282v2cs.CV

FindIt: 범용 멀티모달 LLM을 위한 포맷 인식 기반 시각 검출 벤치마크

FindIt: A Format-Informed Visual Detection Benchmark for Generalist Multimodal LLMs

멀티모달 대규모 언어 모델(MLLM)은 주로 시각적 질의응답, 캡셔닝, 요약과 같은 자유 형식의 비전-언어(vision-language) 태스크를 중심으로 평가되어 왔습니다. 그러나 실제 활용 영역은 더 구조화된 컴퓨터 비전(CV) 환경으로 빠르게 확장되고 있으며, 사용자는 대규모 에이전트(agent) 또는 의사결정 시스템 내에서 객체 검출(object detection)과 같이 위치 특정(localization) 중심의 작업을 수행하도록 모델(model)에 프롬프트(prompt)를 제공하는 경우가 많습니다. 이러한 변화에도 불구하고, 현재 이러한 역량을 대규모로 체계적으로 평가할 수 있는 표준화된 벤치마크는 부재한 상황입니다. 본 연구에서는 범용 MLLM의 프롬프트 기반 위치 특정 능력을 평가하기 위해 특별히 설계된 최초의 종합적인 벤치마크를 소개합니다. 제안하는 벤치마크는 객체 검출, 지칭 표현 검출(referring expression detection), 인스턴스 수준 검출, 비디오 기반 검출의 네 가지 핵심 작업 범주를 아우릅니다. 일관되고 공정한 평가를 위해 입력을 표준화하고, 파싱 가능한 경계 상자(bounding box) 출력을 강제하며, 태스크 전반에 걸쳐 투명한 평가 프로토콜을 정의하는 통합 프레임워크를 개발했습니다. 이 평가 제품군을 활용하여 다양한 오픈소스 및 상용 MLLM을 평가하고, 성능과 한계에 대한 심층적인 분석을 제공합니다. 정확도 외에도 출력 포맷 사양을 준수하는 모델의 능력을 조사하여, 현재 시스템들이 포맷 제약에 매우 민감하며 사소한 변형에도 일반화하지 못하는 경우가 많음을 보여줍니다. 본 연구 결과는 위치 특정 환경에서 최첨단 MLLM의 강점과 약점을 모두 조명하며, 멀티모달 모델 설계 및 평가를 개선하기 위한 중요한 방향성을 제시합니다.

arXiv:2610.01710v1cs.AI

CoEvolve: 양방향 상태 정밀화를 통한 구성 기반 편집 시각적 그라운딩

CoEvolve: Construct-to-Edit Visual Grounding with Bidirectional State Refinement

시각적 그라운딩(visual grounding)은 언어로 기술된 객체를 경계 상자(bounding box)로 위치를 특정합니다. 대부분의 멀티모달 그라운딩 모델은 대상 식별, 공간 추론, 경계 추정을 하나의 최종 예측으로 압축합니다. 자유 형식의 근거 제시(free-form rationales)는 언어적으로 추론을 명시화하지만, 측정 가능하고 편집 가능한 공간 상태를 반드시 드러내지는 않습니다. 따라서 중간 위치 추정 오류를 진단하고 수정하기 어려워, 잘못된 영역 선택과 부정확한 경계가 최종 상자에 그대로 남게 됩니다. 본 연구에서는 그라운딩을 명시적 상태 구성과 상태 편집으로 분리하는 '구성 기반 편집(construct-to-edit)' 프레임워크인 CoEvolve를 소개합니다. 영역 진화 강화(Region-Evolution Reinforcement, RER)는 그라운딩 분석을 점진적인 의미-공간 궤적으로 체계화하며, 각 추론 단계에서 명시적인 후보 영역을 확정합니다. 양방향 디노이징 정밀화기(Bidirectional Denoising Refiner, BDR)는 추론 텍스트를 고정된 의미적 컨텍스트로 취급하고, 양방향 동일 위치 재구성을 통해 궤적의 좌표 필드를 정밀화합니다. 기하 및 행동 수준의 목표는 신뢰할 수 있는 후보를 통합하고 정확한 입력을 보존하거나 어노테이션에 맞게 교정하기 위한 목표 기하학 및 편집 선호도 신호를 제공합니다. 평가는 자연 이미지 및 원격 탐사 그라운딩을 포괄합니다. 9B 백본을 사용하는 CoEvolve는 그라운딩 정확도에서 최대 241B 매개변수 규모의 모델과 대등한 성능을 보입니다. 제어된 노이즈 주입 환경에서 단 한 번의 BDR 패스만으로 평균 상자 중첩도(mean box overlap)가 27%p 이상 향상되어, 상당한 위치 추정 오류로부터 강력하게 복구됨을 입증합니다. 상태-출처 비교는 명시적 상태 구성과 출처 맞춤형 편집의 상호보완성을 더욱 뒷받침합니다. 프로젝트는 https://sundongwei.github.io/CoEvolve_Project/ 에서 확인할 수 있습니다.

arXiv:2610.02117v1cs.CV

Where-OPD: 합성 장면을 활용한 MLLM의 공간 유도 온-정책 자기 증류

Where-OPD: Spatially Guided On-Policy Self-Distillation of MLLMs with Synthetic Scenes

온-정책(on-policy) 자기 증류는 특권 정보(privileged information)를 제공받는 동결되거나 지수이동평균(EMA)이 적용된 자기 자신을 통해 학생 모델을 지도함으로써 언어 모델의 추론 능력을 향상시키는 효과적인 접근법으로 최근 부상했습니다. 그러나 이를 멀티모달 대규모 언어 모델(MLLM)에 적용하는 연구는 아직 미개척 상태로 남아 있습니다. 최근 접근법들은 질문에 해당하는 이미지 크롭과 같은 특권 시각 정보를 활용하여 미세 지각 능력을 향상시키지만, 이러한 성능 향상은 시각적 줌(zooming) 효과를 얻을 수 있는 태스크에만 국한되며 사람이 주석을 단 그라운딩(grounding) 데이터나 외부 교사 모델을 필요로 합니다. 본 연구에서는 질의와 관련된 시각적 요소를 식별하는 텍스트 기반의 공간적 그라운딩 안내(guidance)를 교사 모델에 제공하는 새로운 방식의 MLLM용 온-정책 자기 증류를 제안합니다. 객체 식별 정보와 공간 좌표를 자동으로 얻을 수 있는 절차적으로 생성된 장면을 활용하여, 확장 가능하고 주석이 필요 없는 사후 학습(post-training)을 실현합니다. 교사 모델은 이러한 공간적 안내를 활용하여 여러 관련 이미지 영역의 증거를 찾아 통합하며, 학생 모델은 이미지와 질문만을 바탕으로 그 결과를 재현하도록 학습합니다. 본 접근법은 여러 모델에 걸쳐 개수 세기, 문서 및 차트 이해 벤치마크에서 지속적으로 성능을 향상시킵니다. 특히 사후 학습에 합성 장면만을 사용함에도 불구하고, 개선된 성능이 실제 환경의 지각 벤치마크로 전이되어 CVBench, V*, ZoomBench, BLINK, HR-Bench, MME-RealWorld 전반에서 평균 성능이 3.23점 향상되었습니다. 이러한 결과는 공간적으로 그라운딩된 특권 정보가 온-정책 자기 증류를 통해 더 넓은 범위의 지각 능력을 유도할 수 있으며, 사후 학습에 사용된 태스크 및 데이터 분포를 넘어 상당한 수준의 합성-실제(synthetic-to-real) 전이를 가능하게 함을 보여줍니다. 프로젝트 페이지: https://github.com/sirkosophia/Where-OPD

arXiv:2610.00333v1cs.CV

LEGO-OPD: 다중모달 온-정책 증류를 위한 요인화된 교사 모델 결합

LEGO-OPD: Factorized Teacher Composition for Multimodal On-Policy Distillation

다중모달 온-정책 증류(Multimodal On-Policy Distillation, OPD)는 언어 모델의 강력한 추론 능력을 보존하면서 시각적 그라운딩(visual grounding)을 향상시키는 것을 목표로 합니다. 최근의 다중 교사(multi-teacher) 접근 방식은 대규모 언어 모델(LLM)과 비전-언어 모델(VLM) 교사를 결합하여 상호 보완적인 지도 신호를 제공합니다. 그러나 VLM의 전체 예측 분포를 직접 사용하면 시각적 그라운딩 신호가 VLM 자체의 언어 사전 분포와 뒤얽혀, 그라운딩 정보가 독립적으로 전이되지 못하게 됩니다. 반대로 시각적 지도 신호의 강도를 높이면 인지 성능은 향상될 수 있으나, 시각적 증거를 과도하게 강조하여 언어 추론 성능을 저하시킬 수 있습니다. 이러한 트레이드오프를 해결하기 위해, 본 연구에서는 언어 전문가(Language Expert)와 그라운딩 전문가(Grounding expert)의 요인들을 하나의 교사 분포로 선택 결합하는 다중모달 OPD 방법인 LEGO-OPD를 제안합니다. 일반화된 베이시안(Bayesian) 정식화 아래에서, 언어 전문가는 후보 토큰에 대한 사전 분포(prior)를 제공하고, 그라운딩 전문가는 전체 예측 분포를 전이하는 대신 이 사전 분포를 업데이트하는 시각적 가능도(likelihood)를 제공합니다. 이러한 요인화된 결합을 통해 언어 추론과 시각적 그라운딩을 독립적으로 제어할 수 있습니다. 나아가 각 디코딩 접두 문맥(prefix)에서 시각적 가능도가 언어 사전 분포를 얼마나 강하게 업데이트해야 하는지 결정하는 적응형 보정(adaptive calibration)을 도입합니다. 구체적으로 LEGO-OPD는 그라운딩 전문가의 이미지 유도 예측 변화(prediction shift)를 접두 문맥 의존적인 기준점으로 활용하여, 시각적 지도의 부족과 과도함을 모두 방지합니다. Qwen3 모델을 사용한 실험 결과, LEGO-OPD는 다중모달 및 텍스트 전용 추론 태스크 모두에서 평가된 단일 및 다중 교사 OPD 베이스라인보다 일관되게 우수한 성능을 보였습니다. 또한 초기 학생(student) 모델의 텍스트 전용 추론 능력을 보존하면서 시각적 인지 능력을 향상시킵니다.

arXiv:2610.00111v1cs.CV

낮은 그라운딩 점수가 비근거적 심판관을 의미하지는 않는다: 멀티모달 감독에서의 지각 가능성 교란 요인 식별

A Low Grounding Score Is Not an Ungrounded Judge: Identifying the Perceptibility Confound in Multimodal Oversight

모델 심판관(judge)은 이제 대규모로 멀티모달 시스템을 감독하며, 학습 데이터를 필터링하고, 출력을 선택하고, 멀티모달 추론 모델을 형성하는 보상을 제공한다. 심판관을 신뢰한다는 것은 먼저 그것이 자신의 근거(evidence)를 실제로 사용하는지 확인하는 것을 의미하며, 이 검증 자체도 면밀히 검토할 가치가 있다. 따라서 우리는 시각적 그라운딩(visual grounding)에 대한 반사실적(counterfactual) 프로브가 주장하는 바를 실제로 측정하는지 질문한다. 이 프로브는 정답(ground truth)이 뒤바뀌도록 이미지를 편집하고, 추론 과정(reasoning trace)은 고정한 채, 판정(verdict)이 그에 따라 바뀌는지를 묻는다. 우리는 이를 판정 그라운딩 점수(Verdict Grounding Score)로 공식화하고, 이 점수가 일반적으로 해석되는 방식대로 해석될 수 없음을 보인다. 판정은 심판관의 의사결정과 관련된 해석(reading)에 도달하는 편집에만 반응하므로, 이 점수는 편집의 지각 가능성(perceptibility)에 의해 상한이 정해진다. 그리고 편집이 속성(attribute)을 더 읽기 쉽게 만들지 않는 한, 오차는 한쪽으로 편향되어(one-sided) 있다: 이 점수는 심판관을 실제보다 덜 근거한(grounded) 것처럼 보이게 만들 수만 있다. 따라서 실제로 발생하는 실패는 오경보(false alarm)이며, 이는 감사자(auditor)가 사용 가능한 감독자(overseer)를 폐기하게 만든다. 우리가 명시하는 가정 하에서, 이 누락된 값(missing quantity)이 단순히 상한만 정해지는 것이 아니라 동일한 감사 프로토콜(audit protocol)이 이미 수집하는 세 가지 값으로부터 식별 가능(identified)함을 보이며, 이를 통해 오경보율(false-alarm rate)이 단순한 우려 사항이 아니라 직접 측정 가능한 값이 된다. 아홉 개의 심판관을 감사한 결과, 우리의 전체 주요 풀(primary pool)에서 예측된 순서(ordering)가 엄격하게 성립함을 확인했으며, 그곳의 일반적인 심판관은 자신이 원래 해결할 수 있는 속성을 가진 편집 중 약 절반에만 반응했다. 보수적인 기각 임계값(rejection threshold)을 적용하면 여러 셀(cell)이 명백한 오경보로 확정(certify)되는데, 가장 명확한 사례는 주입된 오류를 거의 매번 탐지하면서도 마치 이미지를 전혀 사용하지 않은 것처럼 점수가 매겨지는 심판관이다. 이로부터 도출되는 규칙은 이미지 측(image-side) 반사실적 점수를 절대 단독으로 보고해서는 안 된다는 것이다. 편집되지 않은 이미지에 대한 탐지 프로브(detection probe)가 그 점수의 상한을 정하고, 오경보를 확정하며, 추가 실행 비용이 전혀 들지 않는다.

arXiv:2608.08477v4cs.CL

VectraYX-Vision-1B: 구조화된 시각적 추론과 네이티브 도구 사용을 갖춘 2B 미만 스페인어/LATAM 사이버보안 비전-언어 모델

VectraYX-Vision-1B: A Sub-2B Spanish/LATAM Cybersecurity Vision-Language Model with Structured Visual Reasoning and Native Tool Use

우리는 동결된 SigLIP-so400m 인코더를 2층 MLP 프로젝터로 10.4억 매개변수 디코더에 결합한 2B 미만 스페인어/LATAM 사이버보안 비전-언어 모델 VectraYX-Vision-1B를 구축하고, 진단적 부정 결과를 보고한다. 시각적 그라운딩이 실패했다는 것이 아니라, 왜 그랬는지를 밝힌다. 다섯 가지 조용한 미세조정 결함을 수정한 뒤, 셔플된 이미지 대조를 포함한 9개 필드 추출 게이트에서의 그라운딩은 인코더를 그대로 두는 모든 구성에서 불변인 2/9이며, 이를 바꾸는 유일한 2×2 타일링은 필드 하나를 잃고 새로 얻는 것은 없다. 해상도는 작동 변수가 아니다. 거의 완벽하게 읽히는 필드가 코퍼스에서 가장 높은 엔트로피를 갖는다. 동결 SigLIP 특징에 대한 선형 프로브는 글리프별 복구 가능성 p~0.61을 주며, 관측 0.00 대비 1.9%를 예측한다. 타일링은 두 필드에서 복구 가능성을 거의 두 배로 늘리지만, end-to-end 모델은 더 나빠진다. 네이티브로 학습된 시각 타워를 동일한 동결 디코더와 레시피에 이식하면, 아무것도 복구하지 못한 타일링 조건보다 더 거친 토큰 예산에서 주소 필드를 0.00에서 0.81 exact로 끌어올린다. 해상도가 아니라 사전학습 체제가 손실이 얼마나 멀리 미치는지를 정한다. 이후 별도로 학습된 체크포인트는 하나의 긍정 결과를 추가한다. B8(34개 필드, 16개 템플릿, 2,040개 항목, 이중 셔플-이미지/최적 상수 대조)에서 9개 필드가 통과하여, 학습된 템플릿-필드 조합 내에서만 진정한 그라운딩이 있음을 확인한다. 가장 날카로운 새 발견은, 잘 학습된 템플릿 안에서 학습되지 않은 필드는 이미지와 무관하게 거의 일정한 오답을 반환한다는 것이다. 즉 자유 텍스트 읽기가 아니라 랜드마크 키 조회이다. B6/B7 도구 식별은 이 체크포인트를 포함한 모든 체크포인트에서 0.0을 유지한다. 더 강한 모델이 숨길 수 있는 세 가지 하네스 결함을 발견한 뒤 이전 0.08 tool-id 점수를 철회한다. 코드, 세 벤치마크 전부, 설정, B8 코퍼스를 포함한 모든 학습 체크포인트를 공개한다.

arXiv:2609.28366v1cs.CV

AnchorReasoning: 롱테일 자율주행 시나리오에서의 시각적 그라운딩 및 인과 추론 데이터셋

AnchorReasoning: A Visual Grounding and Causal Reasoning Dataset in Long-Tail Autonomous Driving Scenarios

비전-언어 모델(VLM)은 롱테일 자율주행에 유망한 접근을 제공하지만, 기존 주행 데이터셋은 의사결정에 중요한 시각적 근거를 추론 및 계획과 연결하기 위한 감독이 제한적이다. 본 연구는 WOD-E2E를 기반으로 구축한 시각적으로 그라운딩된 추론 데이터셋 AnchorReasoning을 소개하며, 416,119개의 주석 프레임과 4개 주요 범주 및 19개 세분 유형에 걸친 395,379개의 의사결정 핵심 요소를 포함한다. 각 프레임은 의사결정 핵심 요소 식별 및 위치 지정, 요소 속성과 함의, 주행 행동 근거, 행동 및 궤적 계획을 연결하는 시각적으로 그라운딩된 사고의 연쇄(VG-CoT)로 구성된다. 또한 이러한 계층적 능력을 점진적으로 학습하는 커리큘럼 지도 미세조정 전략과, 위치 지정 품질 평가를 위한 객체 크기 인식 그라운딩 지표를 함께 개발한다. 범용, 체화 AI, AV 특화 백본 여덟 가지에 걸친 실험에서 VG-CoT 감독이 그라운딩된 추론과 궤적 예측을 향상시킴을 보인다. 모델 전반에 걸쳐 5초 ADE와 FDE는 각각 7.84 및 11.86 감소하고, RFS Frame과 Cluster는 각각 1.66 및 1.70 개선된다. 이러한 이득은 평균적으로 추론 토큰 18.5개 감소 및 프레임당 추론 지연 0.32초 감소와 함께 달성되어, 롱테일 자율주행에서 VLM 추론 및 계획을 위한 시각적으로 그라운딩되고 의사결정 중심의 감독의 가치를 보여준다.

arXiv:2609.28230v1cs.CV

원격탐사에서 방향 객체 시각적 그라운딩을 위한 통합 프레임워크 및 데이터셋

A Unified Framework and Dataset for Oriented Object Visual Grounding in Remote Sensing

원격탐사 영상에서의 visual grounding은 지시 표현(referring expression)으로 기술된 객체를 찾는 것을 목표로 한다. 대부분의 기존 방법은 수평 경계 상자(bounding box)를 예측하며, 이는 임의 방향을 가진 객체에 대해 종종 부정확하다. 이 한계를 해결하기 위해 세 가지 상보적 설계를 갖춘 방향 객체 visual grounding용 모델 계열 O²-VG를 제안한다. 구체적으로 O²-VG-Trans는 방향 객체 visual grounding을 위한 교차 모달리티 트랜스포머이며, 모델 계열을 위한 강력한 판별(discriminative) 기반을 마련한다. 이를 바탕으로 O²-VG-Uni는 특정 텍스트 프롬프트 없이 가능한 전경 객체에 대한 범용 방향 proposal을 예측하며, 캐시된 proposal 임베딩을 통한 객체 검색(retrieval)도 지원한다. 이러한 범용 방향 proposal을 입력 프롬프트로 사용하는 O²-VG-VLM은 자回归적(autoregressive) 비전-언어 모델로, 멀티 토큰 예측(multi-token prediction)을 통해 방향 상자 토큰 블록을 병렬로 생성한다. 또한 원격탐사 영상에서 방향 객체 visual grounding을 위한 데이터셋 DIOR-R-RSVG를 구축하였으며, 학습 및 평가를 위해 영상, 표현, 방향 상자 삼元组(triplet)을 제공한다. O²-VG 계열은 판별적 트랜스포머와 생성형 비전-언어 모델을 아우르는 유연한 프레임워크를 제공하며, 여러 벤치마크에서 우수한 성능을 달성한다. 코드는 https://github.com/wokaikaixinxin/ai4rs 에서 이용할 수 있다.

arXiv:2609.28222v1cs.CV

3D 비전-언어에서 정렬에서 융합으로

From Alignment to Fusion in 3D Vision-Language

통합 3D 비전-언어 시스템은 인스턴스 분할(instance segmentation)부터 언어 유도 추론(language-guided reasoning)에 이르는 작업을 지원하면서, 상호 보완적인 기하(geometry), 스케일(scale), 외형(appearance) 단서를 결합해야 한다. 기존 방법들은 종종 포인트 클라우드(point cloud), 복셀 그리드(voxel grid), 다중 뷰(multi-view) 이미지를 독립적으로 처리한다. 이러한 이질적 표현을 직접 결합하면 상당한 특징 불일치가 해소되지 않은 채 남을 수 있으며, 이후 제약 없는 적응(unconstrained adaptation)은 내부 기하를 왜곡할 수 있다. 우리는 먼저 세 표현 간 쌍별 코사인 정렬(triple pairwise cosine alignment)을 적용해 세그먼트 수준(segment-level) 대응을 확립한 다음, 프롬프트 유도 쿼리 디코더(prompt-guided query decoder)로 작업 조건화(task-conditioned) 특징을 검색하는 정렬 후 융합(align-then-fuse) 프레임워크를 제안한다. 융합 전에, 표현별 쿼리 특징은 특수 직교군(special orthogonal group)으로 제약된 학습 가능 매핑으로 변환된다. 이 매핑들은 각 표현 내에서 내적(inner product)과 유클리드 거리(Euclidean distance)를 보존하여, 내부 기하를 임의로 왜곡하지 않으면서 통제된 표현별 재매개변수화(re-parameterisation)를 허용한다. 변환된 특징은 이후 하류 작업(downstream task) 감독 하에 Adaptive Fusion을 통해 결합된다. 실험은 인스턴스 분할, 시각적 그라운딩(visual grounding), 질의 응답(question answering), 밀집 캡셔닝(dense captioning)을 위한 8개 데이터셋을 다룬다. PQ3D와 비교하여, 모델은 ScanNet200에서 평균 정밀도(average precision)를 3.2포인트 향상시키고 ScanRefer, Nr3D, Sr3D, Multi3DRefer에서 각각 그라운딩 정확도(grounding accuracy)를 2.9, 10.6, 4.6, 4.1포인트 향상시키며, ScanQA, SQA3D, Scan2Cap에서도 성능을 개선한다. Ablation은 정렬과 직교 재매개변수화의 상호 보완적 역할 및 Adaptive Fusion의 효과를 추가로 뒷받침한다.

arXiv:2609.27890v1cs.CV

RelCheck: VLM 환각 보정을 위한 이중 증거 공간 그라운딩

RelCheck: Dual-Evidence Spatial Grounding for VLM Hallucination Correction

멀티모달 대규모 언어 모델(MLLM)은 입력 이미지와 일치하지 않는 텍스트를 자주 생성한다. 객체 및 속성 수준의 환각은 상당한 관심을 받아 왔지만, 관계적 환각(객체 간 공간적 또는 상호작용적 관계에 대한 부정확한 기술)은 기존 사후(post-hoc) 보정 방법으로는 대부분 다루어지지 않았다. 우리는 RelCheck를 제안한다. 이는 학습 없이 동작하는 사후 보정 파이프라인으로, 객체 수준 시각적 그라운딩을 이중 관계 증거로 보강한다: RelTR에서 얻은 학습된 장면 그래프(scene-graph) 트리플과 바운딩 박스(bounding-box) 기하에서 도출한 결정적 공간 술어(spatial predicates)이다. 이들은 Woodpecker 스타일 객체 주장(claim) 층과 결합하여 3층 시각 지식 베이스를 형성하며, 언어 모델 보정기가 이를 사용해 환각 텍스트를 재작성한다. LLaVA v1 13B에서 평가한 결과, RelCheck는 MME 환각 점수 총합 630.0을 달성했으며, Woodpecker 스타일 기준선의 585.0 대비 우수하다. position 하위 과제에서 가장 큰 향상(+31.7점, accuracy+가 0.367에서 0.600으로 개선)을 보였다. 4가지 구성 ablation이 두 관계 층이 독립적으로 기여함을 확인한다(McNemar p = 0.025). 이러한 결과는 구조화된 관계 증거가 현재 MLLM이 가장 취약한 공간 추론 하위 과제에서 사후 환각 보정을 유의미하게 개선함을 보여준다.

arXiv:2609.27076v1cs.CV

Pro-Bench: 실세계 이종 환경 전반의 프롬프트 강건 오픈어휘 시각적 그라운딩

Pro-Bench: Prompt-Robust Open-Vocabulary Visual Grounding Across Real-World Heterogeneous Environments

오픈어휘 시각적 그라운딩(visual grounding)은 사전 정의된 지각 분류체계(taxonomy)에 의존하지 않고 자연어 쿼리로부터 과제 관련 개체의 위치를 특정함으로써 로봇이 작업할 수 있게 한다. 그러나 기존 벤치마크는 대부분 짧은 카테고리 라벨과 웹에서 수집한 이미지에 의존하여, 오픈어휘 모델이 실제 배포 환경에서 다양한 쿼리와 시각적 조건 하에 견고하게 그라운딩할 수 있는지는 불분명하다. 본 논문은 이종의 실세계 환경에서 오픈어휘 시각적 그라운딩을 위한 프롬프트 조건 벤치마크인 Pro-Bench를 제안한다. Pro-Bench는 독립적인 로봇 도메인(지하, 산업, 실내, 실외, 도시)의 $13k+$ RGB 프레임, $74.5k$ 수동 인스턴스 어노테이션, 범주적·속성·관계·affordance·상태·부분-전체·부정·합성 의미를 아우르는 $515$개 타깃 쿼리를 포함한다. $16$개 오픈어휘 모델 구성을 엄격한 제로샷 추론으로 벤치마킹하여 IoU 임곗값별 위치 특정 정확도, end-to-end 추론 지연, 프롬프트에 따른 성능 변동, 타깃 복구 일관성을 측정했다. 결과에 따르면 프롬프트 강건성은 아키텍처에 강하게 의존한다. 대부분의 모델 구성($10/16$)은 짧은 카테고리 라벨에서 최고 성능을 보이는 반면, 자유 형식 쿼리가 최고 정확도를 내는 경우는 하나뿐이다. 또한 유사한 집계 mAP가 쿼리 재표현에 따른 일관된 타깃 복구의 상당한 차이를 가릴 수 있다. Pro-Bench는 이러한 격차를 체계적으로 평가할 수 있게 하며 프롬프트 강건 시각적 그라운딩을 지원한다. Pro-Bench: https://pro-bench.github.io/.

arXiv:2609.11870v2cs.CL

Augustinian BabyLM: 시범적 정의가 소형 언어 모델에 가르칠 수 있는 것과 없는 것

Augustinian BabyLM: What Ostensive Definition Can and Cannot Teach a Small Language Model

언어 모델은 보통 무작위 단어 임베딩으로 학습을 시작한다. 'banana'가 무엇을 의미하는지는 반드시 학습 코퍼스에서 배워야 한다. 나는 성 아우구스티누스의 단어 학습 관—지시(ostension)를 통한 의미 부여—를 1천만 단어로 학습한 소형 마스크드 언어 모델(DeBERTa)에 구현한다. 학습 전에 시각적으로 그라운딩된 토큰은 자신이 라벨하는 이미지 영역에서 유도한 임베딩을 받고, 다른 토큰은 무작위로 시작한다. 시각적 초기화는 학습 종료 시점까지 지속되는 측정 가능한 흔적을 남긴다. 한편 추상적 문법 지식을 탐색하는 대부분의 BabyLM 벤치마크에서는 그 효과가 드러나지 않으며, 시각적 초기화는 그곳에서 성능에 영향을 주지 않는다. 유일한 제로샷 예외는 객체-속성 지식(COMPS)으로, 모든 구성에서 시딩(seeding)이 도움이 된다. 이 결과를 이어가기 위해, 색·재질·크기·형태 지식을 시험하고 항목별 학습 빈도와 시드 여부를 포함한 Visual-Property Swap 벤치마크의 코퍼스 맞춤 버전을 구축한다. 여기서 시각 시드(vision-seeded) 모델은 지속적이고 시드가 재현되는 이점을 보인다. 기능어와 추상 어휘도 강한 시각 시드를 받아 학습 내내 유지하며, 학습 목적 함수가 이를 활용한다. 모든 시드에서 이 단어들에 대한 홀드아웃 마스크 예측 손실이 감소한다. 그러나 내가 실행한 어떤 벤치마크도 이를 포착하지 못한다. 이를 잡아낼 평가가 무엇인지는 여전히 열린 질문이다.

arXiv:2609.24409v1cs.CV

DeCo: 다중 과제 비주얼 그라운딩을 위한 효율적인 Decouple-to-Couple 학습

DeCo: Efficient Decouple-to-Couple Learning for Multi-Task Visual Grounding

다중 과제 비주얼 그라운딩은 모델이 언어적 의미를 공동으로 이해하고 정확한 시각적 위치 지정(localization)과 분할(segmentation)을 수행해야 한다. 멀티모달 대규모 언어 모델의 성공에도 불구하고, 이를 여러 그라운딩 목표에 효과적으로 적응시키는 것은 여전히 어렵다. 기존 방법들은 공유 표현을 통해 과제 간 협력을 강제하는 경우가 많지만, 과제 지향적 특징 관심 사이의 내재적 충돌은 간과한다. 본 논문에서는 $\textbf{DeCo}$를 소개한다. 이는 효율적인 $\textbf{De}$couple-to-$\textbf{Co}$uple 학습 프레임워크로, 두 단계 패러다임을 통해 이 딜레마를 해결한다: 과제별 표현 분리(decoupling)에 이어 상보적 사전(prior) 결합(coupling)이다. 구체적으로, 먼저 Task-aware Semantic Decoupling(TSD)을 제안하여 두드러진 단어 수준(word-level) 안내 하에 공유 시각 단서를 개별 특징으로 라우팅함으로써 위치 지정과 분할 간 표현 간섭을 완화한다. 더 나아가, 분할은 밀집(dense) 감독으로 인해 정보가 풍부한 위치 지정 사전을 자연스럽게 제공한다는 점을 관찰한다. 이 통찰에 기반하여, Hybrid Prior Coupling(HPC)을 도입한다. 이는 문장 수준 의미 사전과 마스크에서 유도된 공간 사전을 통합하여 그라운딩을 강화한다. 동결(frozen)된 멀티모달 인코더 위에 구축된 DeCo는 경량의 학습 가능 파라미터만 필요하면서도 여러 그라운딩 목표에 걸쳐 강한 일반화를 달성한다. RefCOCO/+, G-Ref, ReferIt, Flickr, DIOR-RSVG, SARVG1.0, RRSIS-D, RIS-LAD, RefDIOR에 대한 광범위한 실험은 DeCo가 자연 영상 및 원격 탐사(remote sensing) 벤치마크 모두에서 최신(state-of-the-art) 성능을 달성함을 보여준다. 코드와 모델은 https://github.com/xiaoqiang-lu/DeCo 에서 이용할 수 있다.

arXiv:2609.24244v1cs.CV

중요한 곳을 보라: 세밀한 비전-언어 추론을 위한 무료의 레이블 없는 시각적 증거 신호

Look Where It Counts: A Free, Label-Free Visual Evidence Signal for Fine-Grained Vision-Language Reasoning

멀티모달 대규모 언어 모델(MLLM)은 추론을 하지 못해서가 아니라 애초에 증거를 보지 못하기 때문에 세밀한 시각적 질문에서 실패한다: 고해상도 이미지는 인코딩되기 전에 다운샘플링되므로, 모델은 언어적 사전(linguistic prior)에 기반해 답한다. 표준적인 해결책들은 비용이 크다: 주석된 정답(SFT), 수작업으로 설계된 검증기(RLVR), 또는 대규모 외부 교사 모델을 이용한 온-정책 증류(on-policy distillation)가 필요하다. 우리는 시각적 증거 자체가 무료로 이러한 신호를 제공할 수 있는지 묻는다. 우리는 대조적 증거 격차(contrastive evidence gap), 즉 질문과 관련된 영역을 조건으로 했을 때와 관련 없는 영역을 조건으로 했을 때 모델이 자신의 출력에 부여하는 토큰별 로그-가능도 비율을 정식화하고, 이를 V*Bench 상에서 Qwen2.5-VL-7B, Qwen3-VL-8B, Qwen3-VL-30B-A3B 전반에 걸쳐 연구한다. 우리의 주요 긍정적 결과는 학습이 필요 없다는 것이다: 모델의 답변 분포가 가장 뾰족해지는 후보 크롭(crop)을 선택하는 단일 뷰(single-view)의 레이블 없는 기준만으로, 바운딩 박스나 학습, 레이블 없이도 정답을 포함하는 영역을 찾아낼 수 있다. 이는 우연에 비해 목표 영역을 4.4배에서 5.1배 더 정확하게 지역화하며, 추론 시 세밀한 정확도를 70%에서 85%로 끌어올린다. 우리는 또한 이 격차가 모델 자신의 확신도(confidence)와 상호 보완적임을 보인다. 둘을 결합하면 각각을 단독으로 사용할 때보다 정답 여부를 더 잘 예측하며, AUC는 최대 0.99에 이르고, 고확신 하위집합 내에서 자신 있게 틀린 답변을 AUC 0.97~1.00으로 표시해낸다. 이러한 효과는 모두 지각 병목(perception-bottleneck) 질문에 집중되며, 전역 맥락(global-context) 대조군에서는 사라진다. 마지막으로 우리는 정직한 부정적 결과를 보고한다: 동일한 신호를 학습 방법으로 전환한 게이트형 자기 증류(gated self-distillation, SEG-Distill)는 파일럿 규모에서 세 가지 게이트 설계 전반에 걸쳐 기본 모델을 능가하지 못했으며, 더 공격적인 게이팅은 오히려 정확도를 저하시켰다. 이 신호는 실재하지만, 이를 학습 성능 향상으로 전환하는 것은 여전히 열린 문제로 남아 있다.