비디오-언어 모델은 일반적으로 더 많은 시간적 관찰(temporal observation)이 더 신뢰할 수 있는 추론으로 이어진다고 가정한다. 본 연구는 이러한 가정에 의문을 제기하며, 핵심 과제는 단순히 더 많은 비디오 프레임을 효율적으로 처리하는 것이 아니라, 제한된 시간적 증거(temporal evidence) 하에서도 신뢰할 수 있게 추론하는 법을 학습하는 것이라고 주장한다. 우리는 밀집 비디오 뷰(dense video view)를 희소 프레임 추론(sparse-frame inference)을 위한 학습 시점 참조로 사용하는 dense-to-sparse 사후 학습 프레임워크인 SAVER를 제안한다. 강화학습 기반 사후 학습 과정에서, 쌍을 이루는 밀집 뷰와 희소 뷰는 그라운딩 보상(grounding reward)과 신뢰도 게이팅된 참조 보상(reliability-gated reference reward)으로 최적화되며, 이를 통해 희소 뷰 예측이 과제와 관련된 시간적 증거를 보존하도록 유도한다. 특히 SAVER는 비디오 질의응답(video question answering) 주석을 전혀 사용하지 않고, 무작위로 샘플링된 1,250개의 시간적 그라운딩(temporal grounding) 예제만으로 학습된다. 세 가지 시간적 그라운딩 벤치마크와 여섯 가지 비디오 질의응답 벤치마크에서, SAVER는 프레임 예산(frame budget)에 관계없이 일관되게 성능을 향상시킨다. 특히 SAVER는 훨씬 적은 프레임을 사용하면서도 밀집 프레임(dense-frame) Qwen3.5 베이스라인과 동등하거나 이를 상회하는 성능을 보인다. 이러한 결과는 시간적 그라운딩이 더 넓은 비디오 이해(video understanding) 과제로 전이되는 희소 비디오 추론을 학습하기 위한 효과적인 증거 위치 파악(evidence-localization) 프록시로 활용될 수 있음을 보여준다.
검증 가능한 보상을 활용한 강화학습은 멀티모달 추론을 크게 발전시켰으나, 모호한 토큰(token) 수준의 기여도 할당(credit assignment) 문제로 인해 여전히 근본적인 한계를 지닙니다. 높은 엔트로피를 지닌 토큰 휴리스틱은 가능성 탐험(exploration)을 촉진하지만, 이를 비디오 추론으로 단순 확장할 경우 모델이 고엔트로피 시각적 활성화에 지나치게 의존하게 되어 추론 과정이 불필요하게 길어지는 경향이 있습니다. 기여도 할당을 위해 반사실적(counterfactual) 기반 시각 토큰 위치 파악에 의존하는 대안적 접근법 역시 정답 도출을 위한 결정적인 추론 단서를 희생하면서 시각적 탐험을 과도하게 우선시하는 경향이 있어, 무의미한 시각적 뉘앙스로 인한 간섭을 심화시킵니다. 나아가 이러한 방법들은 학습(training) 중에 정책(policy)과 함께 동반 진화(co-evolve)하지 못하는 정적 반사실적 전략을 사용합니다. 본 논문에서는 신뢰할 수 있는 토큰 선택과 적응형 반사실적 개입을 공동 최적화하는 동반 진화 프레임워크인 DyCPO를 소개합니다. DyCPO는 다중 역할 의존성 지표를 구축하여 토큰 단위 대조 학습(contrastive learning)에서 시각적 탐험과 정답 관련성 발굴 간의 균형을 맞추는 동시에, 탐험 전용 필러(filler) 토큰과 거짓 시각적 노이즈를 억제합니다. DyCPO는 정적인 반사실적 사전 정보에 의존하는 대신, 모델의 성공 및 실패 롤아웃(rollout)으로부터 반사실적 신호를 동적으로 도출하여 자가 진단 분석과 정책에 맞춘 최적화 목표의 동반 진화를 가능하게 합니다. 복잡한 비디오 추론 및 일반적인 비디오 이해 벤치마크에 대한 광범위한 실험을 통해 일관된 성능 향상을 입증함으로써, DyCPO가 멀티모달 강화학습을 위한 견고한 토큰 수준 기여도 할당 패러다임임을 보여줍니다.
비디오 생성을 통한 Chain-of-Frame(CoF) 추론 능력을 향상시키기 위해, 11개 태스크 패밀리에 걸친 17,312개의 추론 비디오로 구성된 OpenCoF-17K 데이터셋과 이를 기반으로 파인튜닝된 Wan-CoF 모델을 제안한다. 다양한 시간적 지도(temporal supervision)와 시각적·텍스트 추론 토큰 메커니즘을 도입한 결과, MME-CoF, Gen-ViRe, VIPER, RULER-Bench 등 4개의 외부 비디오 추론 벤치마크에서 기준 모델 Wan2.2-I2V-A14B 대비 상당한 성능 향상을 달성했다.
비디오 추론은 대규모 멀티모달 모델(LMM)이 밀도 높은 증거에 기반을 유지하도록 요구하지만, 기존 시스템은 대부분 "한 번 읽고, 다량 생성"하는 패러다임을 채택하여 생성 과정에서 시각적 그라운딩이 약화된다. 이 현상은 널리 관찰되어 왔으며 시각적 앵커링 감쇠(Visual Anchoring Decay)로 알려져 있다. 이 간극을 메우기 위해 우리는 잠재 비디오 캐시(Latent Video Cache, Latent-VC)를 제안한다. 이는 디코더에 삽입되는 순환 잠재 시각 캐시로, 추론 전반에 걸쳐 압축된 시각 기억을 보존한다. 이 캐시는 지도 대조 캐시 정렬(supervised contrastive cache alignment)과 잠재 그라운딩 보상을 활용한 비전 기반 GRPO로 학습되며, 디코더의 네이티브 은닉 상태를 통해 학습-추론 간 엄격한 정렬을 유지한다. Qwen3.5-9B 기반으로 구축된 Latent-VC는 6개의 비디오 벤치마크에서 강력한 사고의 연쇄(CoT) 및 SFT+GRPO 기준 모델을 일관되게 능가하며, 특히 그라운딩 집약적 과제와 장편 비디오 과제에서 명확한 성능 향상을 보인다. 또한 실질적으로 더 짧은 응답으로 더 높은 정확도를 달성하며, 이는 잠재 시각 캐싱이 더 긴 텍스트 연쇄에 의존하는 대신 시각적 증거를 보존함으로써 비디오 추론을 개선함을 시사한다.
VLM을 문제 해결기(solver) 대신 "교사(teacher)"로 전환하여, VLM이 작업별 규칙을 추출해 미분 가능한 보상(differentiable reward)을 구성하고 경량 LoRA 모듈의 테스트 타임 온라인 최적화를 통해 Video Generation Model(VGM)을 안내하는 VLM-as-Teacher 패러다임을 제안한다. VBVR-Bench와 RULER-Bench에서 평균 16.7점 향상을 달성하며 VLM-as-Solver 및 Best-of-N 스케일링을 유사한 테스트 타임 비용으로 크게 능가한다.