PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.15810v1cs.CV

적응적 보기, 유연한 사고: 멀티모달 추론에서 어떻게, 얼마나 길게 생각할지 학습하기

Adaptive Look, Flexible Thought: Learning How and How Long to Think in Multimodal Reasoning

긴 사고의 연쇄(Chain-of-Thought, CoT) 추론과 외부 도구의 도입은 일반 작업과 추론 작업에서 멀티모달 대규모 언어 모델(MLLM)의 성능을 크게 향상시켰다. 그러나 기존의 빠르고-느린(fast-slow) 추론 패러다임은 주로 텍스트 추론의 길이를 조절하는 데 그치며, 외부 도구나 비주얼 토큰에 의해 도입되는 시각적 연산은 흔히 보조적인 구성 요소로 취급된다. 이러한 분리는 MLLM이 시각적 지각(visual perception)과 텍스트 추론을 함께 최적화하는 것을 가로막는다. 이 문제를 해결하기 위해, 우리는 연산의 형태와 깊이를 함께 최적화하는 통합 추론 프레임워크인 L2T(adaptive Look, flexible Thought)를 제안한다. L2T는 먼저 도구가 생성한 시각적 상태를 비주얼 토큰으로 이산화(discretize)하여, 시각적 지각과 텍스트 추론을 공유된 자기회귀(autoregressive) 공간으로 통합한다. 이러한 통합된 표현을 기반으로, L2T는 적절한 추론 모드를 선택하기 위한 모달리티 인지 라우팅 보상(modality-aware routing reward)과 과제의 복잡도에 따라 추론 깊이를 조정하는 난이도 인지 빠르고-느린 전략(difficulty-aware fast-slow strategy)을 도입한다. 일반적인 지각 작업과 추론이 집중적으로 필요한 작업에 대한 실험은 L2T의 효과를 입증한다. 명시적으로 도구를 호출하는 접근법과 비교할 때, L2T는 경쟁력 있는 성능을 유지하면서도 1.7~3.6배 높은 처리량(throughput)을 달성한다.

arXiv:2606.17687v1cs.CL

SuCo: 충분성 기반 연속 적응형 추론

SuCo: Sufficiency-guided Continuous Adaptive Reasoning

복잡한 작업에서 뛰어난 성능을 보이지만, 대규모 추론 모델(LRM)은 종종 지나치게 긴 사고의 연쇄(CoT)를 생성하여 단순한 질의에도 계산 비용을 불필요하게 늘린다. 이러한 비효율을 완화하려는 기존 연구는 일반적으로 이산적 추론 모드나 고정된 예산 계층에 의존하며, 추론이 언제 충분한지에 대한 원칙적 기준을 갖추지 못한다. 본 연구에서는 최소 충분 CoT(MSC)를 제안한다. 이는 정답을 산출하기에 적절한 CoT 궤적의 가장 짧은 접두 문맥으로 정의된다. 실험을 통해 MSC가 추론 토큰을 줄일 뿐 아니라 난이도 수준 전반에서 정확도도 향상시킴을 보인다. MSC를 기반으로, 연속 스펙트럼을 따르는 자율적 추론 제어를 위한 2단계 학습 프레임워크인 충분성 기반 연속 적응형 추론(SuCo)을 제안한다. 1단계에서는 MSC 정렬 미세조정(MFT)을 수행한다. 문제 난이도에 따라 자연스럽게 조절되는 적응형 충분성 임계값으로 MSC 데이터를 구축한 뒤, 모델이 간결하면서도 충분한 추론 패턴을 내재화하도록 미세조정한다. 2단계에서는 충분성 인식 정책 최적화(SAPO)를 통해 강화학습으로 모델을 추가 최적화한다. 동적 복잡도 추적과 과도한 추론과 부족한 추론을 모두 페널티하는 충분성 인식 보상을 사용한다. 수학, 코드, 과학 벤치마크에 걸친 광범위한 실험에서 SuCo는 정확도와 추론 효율 모두에서 일관되게 개선을 달성한다.