arXiv:2609.24760v1 cs.AI

역방향 사고 구축: 대규모 언어 모델의 역방향 사고 능력 개발

Construting Reverse Thinking: Developing Large Language Models' Reverse Thingking Ability

Xin Liu, Yunhai Li, Chunfu Jia, Ziliang Chen, Jisen Song

제출 2026-09-22

한국어 초록

복잡한 문제에 직면했을 때, 인간은 서로 다른 문제에 대해 다양한 아이디어를 시도하는 경향이 있다. 인간의 사고 패턴은 다양한 상황에 적응하는 데 있어 뛰어난 유연성을 보인다. GPT-o1, GPT-o3, DeepSeek-R1은 긴 사고의 연쇄(Chain-of-Thought) 모델을 채택하여 추론 깊이를 늘림으로써 복잡한 문제를 해결하며, 기본적으로 순방향 추론 모드를 따른다. 우리는 서로 다른 규모의 모델에서 다양한 수학 문제 데이터셋에 대한 정확도를 통계적으로 분석하여, 오류의 다섯 가지 원인을 발견했다: 해 공간(solution-space) 커버리지 부족, 계산 실수, 검증되지 않은 가정, 제약 조건 무시, 최대 응답 길이 제한. 위의 문제들을 해결하기 위해, 우리는 모델의 역방향 사고 능력과 동적 적응력을 향상시키는 것을 목표로 하는 역방향 추론 패턴 구축 방법을 제안한다. 먼저, 대규모 모델을 학습시키고 서로 다른 난이도 수준에서 추론 능력을 점진적으로 향상시키기 위해 쉬운 단계와 어려운 단계로 구성된 2단계 수학 데이터셋을 구축했다. 이 데이터셋은 순방향 추론 경로와 역방향 추론 경로를 모두 포함한다. 그리고 모델의 역방향 추론 능력을 점진적으로 학습시키기 위해 2단계 지도 미세조정(supervised fine-tuning) 과정을 적용한다. 더 나아가, 완만한(smoothed) 보상 신호를 사용하여 추론 과정에서 모델이 사고 모드를 자율적으로 선택하는 능력을 강화함으로써 보상 해킹(reward hacking)을 방지하는 세밀한 보상 메커니즘을 개발했다. 학습 과정에서 순방향 및 역방향 추론 경로 샘플 간의 균형을 유지하기 위해 선형 감쇠 균형 샘플링(linear-decay balanced sampling) 전략을 설계하여, 모델이 빠르고 안정적으로 수렴할 수 있도록 했다. 실험 결과는 우리의 방법이 수학적 증명과 같은 작업에서 추론 효율성과 정확도를 크게 향상시키며, 복잡한 문제를 해결하기 위한 유연하고 효율적인 추론 패러다임을 제공함을 보여준다.

원문 초록

When facing complex problems, humans tend to try various ideas for different issues. Human thinking patterns exhibit remarkable flexibility in adapting to diverse scenarios. GPT-o1, GPT-o3, and DeepSeek-R1 adopt long chain-of-thought models to address complex problems by increasing reasoning depth, which default to a forward reasoning mode. We conducted statistical analysis on the accuracy of different mathematical problem datasets on models of different scales, and found five reasons for errors: Insufficient solution-space coverage, Computational mistakes, Unverified assumptions, Ignoring constraint conditions, Maximum response length limitation. To address the above issues, we proposed a backward reasoning pattern construction method aimed at enhancing the model's reverse thinking ability and dynamic adaptability. First, we constructed an easy-hard two-stage Math dataset for training large models and gradually improving their inference ability at different difficulty levels. The dataset contains forward reasoning paths as well as backward reasoning paths. And a two-stage supervised fine-tuning process is applied to progressively train the model's backward reasoning capability. Furthermore, a fine-grained reward mechanism is developed, employing smoothed reward signals to strengthen the model's ability to autonomously select thinking modes during the reasoning process, thereby avoiding reward hacking. A linear-decay balanced sampling strategy is designed to maintain a balance between forward and backward reasoning path samples during training, enabling the model to converge quickly and stably. Experimental results show that our method significantly improves reasoning efficiency and accuracy in tasks such as mathematical proofs, offering a flexible and efficient reasoning paradigm for solving complex problems.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2609.24760v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.13594v1cs.AI공통 태그 Reinforcement Learning, Math, Large Language Model

MENTOR: 온-정책 교육적 개입을 통한 실패로부터의 학습

MENTOR: Learning from Failure with On-Policy Pedagogical Intervention

검증 가능한 보상을 활용한 강화학습(RLVR)은 대형 추론 모델의 핵심 동력이지만, 과제 난이도가 갑자기 높아지면서 학습 신호가 사라지는 훈련 실패 현상인 "제로 보상 붕괴(zero-reward collapse)"에 취약하다. 우리는 이러한 실패한 궤적을 폐기하는 기존 방식이 낭비적이라고 주장한다. 이 궤적들은 모델의 인지적 공백에 대한 귀중한 진단 정보를 담고 있으며, 이는 회복을 위해 활용될 수 있는 긍정적인 측면이기 때문이다. 그러나 기존 해결책들은 사전 정의된 힌트 라이브러리와 같은 정적인 "오프-정책(off-policy) 방식"의 개입으로 퇴행하거나 사후적(post-hoc) 보정을 수행하는 경우가 많아, 붕괴에서 벗어나는 데 필요한 적응적이고 미래지향적인 안내를 제공하지 못한다. 이를 해결하기 위해, 우리는 온-정책(on-policy) 교육적 개입으로의 패러다임 전환을 제안하고, 실시간 멘토 역할을 하는 다중 에이전트 프레임워크인 MENTOR를 소개한다. MENTOR는 실패의 근본 원인을 실시간으로 진단하고, 학습 에이전트의 다음 시도를 안내하기 위해 목표가 명확한 교육적 프롬프트를 동적으로 생성한다. 플러그 앤 플레이 모듈로서, MENTOR는 훈련 인프라를 수정하지 않고도 GRPO와 같은 기존 정책 최적화 파이프라인에 매끄럽게 통합된다. 수학 및 코드 생성에 대한 광범위한 실험 결과, MENTOR는 제로 보상 붕괴를 효과적으로 완화하며 최신 베이스라인들을 능가하는 것으로 나타났다. 특히, Llama-3.2-3B-Instruct에서는 기본 모델 대비 평균 최대 78.3%의 상대적 성능 향상이라는 큰 폭의 개선을 달성했다.

arXiv:2610.03509v1cs.AI공통 태그 Reinforcement Learning, Large Language Model, chain-of-thought

효율적 추론 학습이 CoT 충실도와 모니터링 가능성을 항상 저해하지는 않는다

Efficient Reasoning Training Does Not Always Harm CoT Faithfulness and Monitorability

사고의 연쇄(Chain-of-Thought, CoT) 추론은 인간이 대규모 언어 모델(LLM)이 답변을 도출하는 과정을 점검하고 모델의 동작을 감독할 수 있게 해줍니다. 그러나 이러한 추론은 추론(inference) 비용 증가를 수반하므로, 모델이 더 적은 토큰을 사용하여 문제를 해결하도록 훈련시키는 효율적인 방법들이 주목받고 있습니다. 하지만 이러한 학습(training)으로 인해 모델이 중요한 추론 단계를 건너뛰게 되어 CoT가 더 이상 모델의 결정을 충실하게 반영하지 못할 수 있다는 우려가 흔히 제기됩니다. 효율화 방법마다 모델의 CoT에 길이 압박을 가하는 방식이 다르고, 모델의 결정을 충실하게 설명하는 데 필요한 토큰 수가 태스크에 따라 다르기 때문에 실제로 이러한 현상이 발생하는지, 혹은 언제 발생하는지는 불분명합니다. 이러한 역학을 이해하기 위해, 우리는 길이 압박을 서로 다르게 적용하는 세 가지 방법(고정된 생성 예산, 예시별 길이 목표, 그룹 상대적 길이 보상(reward))을 사용하여 다양한 모델을 파인튜닝(fine-tuning)합니다. 그리고 효율적 추론이 CoT 충실도(즉, CoT가 관련 입력에 대한 모델의 결정을 얼마나 잘 반영하는지)와 모니터링 가능성(즉, 입력 개입이 출력을 변경할 때 CoT가 이를 드러내는지 여부)에 어떤 영향을 미치는지 평가합니다. 그 결과, 이것이 충실도와 모니터링 가능성에 서로 다르게 영향을 미친다는 점을 발견했습니다. 충실도는 대부분의 설정에서 하락하는데, 이는 주로 학습된 모델의 일관성이 떨어지기 때문입니다. 반면 모니터링 가능성은 더 견고하여, CoT가 훨씬 짧아지더라도 모델은 자신의 답변에 미친 영향을 계속해서 드러냅니다.

arXiv:2610.03548v1cs.AI공통 태그 Reinforcement Learning, Math, Large Language Model

최첨단 추론 데이터 생성을 위한 재귀적 하네스 자기 개선

Recursive Harness Self-Improvement for Frontier Reasoning Data Synthesis

점진적으로 더 어려운 추론 문제를 생성하려면 태스크 분포가 진화함에 따라 적응하는 합성 절차가 필요합니다. 기존의 태스크 수준 재귀는 생성된 문제를 시드(seed)로 재사용하지만 구축 하네스(construction harness)는 변경하지 않고 그대로 유지합니다. 본 논문에서는 추론 데이터 합성에서 재귀적 하네스 자기 개선(recursive harness self-improvement, RSI)을 위한 프레임워크인 태스크-하네스 공진화(task-harness co-evolution)를 제안합니다. 온라인 자기 개선은 생성 과정 중 솔버(solver)의 중간 실패를 재사용 가능한 스킬로 변환합니다. 사후(post-task) 자기 개선은 각 배치 이후 스킬, 프롬프트, 워크플로를 수정하며, 제한된 비용 증가 범위 내에서 더 어렵고 유효한 태스크를 생성할 때만 후보를 채택합니다. 모델 가중치와 검증 기준은 고정된 상태로 유지됩니다. 수학, 코딩, 과학 전반에서 14회의 진화 라운드에 걸쳐 평균 솔버 정확도가 100.0%에서 54.8%로 감소합니다. 어블레이션 연구에 따르면 두 업데이트 일정을 결합할 경우 고정 하네스 재귀나 단일 일정만을 사용할 때보다 더 어려운 태스크가 생성됨을 보여줍니다. 이렇게 생성된 데이터는 다운스트림 SFT 및 GRPO 성능을 향상시킵니다. 특히 합성된 1만 개의 수학 예제로 파인튜닝(fine-tuning)된 27B 학생 모델은 APEX에서 62.5%의 mean-16 정확도를 달성하여 일부 최첨단(frontier) 참조 모델과 경쟁력 있는 성능을 보입니다. 이러한 결과는 다운스트림 학습 가치를 지닌 점점 더 도전적인 데이터를 생성하기 위해 태스크와 함께 합성 하네스를 적응시키는 방식을 뒷받침합니다.

arXiv:2610.13672v2cs.CL공통 태그 Math, Large Language Model

토큰이 아닌 턴 주입하기: 자기 수정을 위해 LLM 추론을 리디렉션할 위치 학습

Inject a Turn, Not a Token: Learning Where to Redirect LLM Reasoning for Self-Correction

대규모 언어 모델(LLM)은 자신의 추론 과정에서 발생한 오류를 안정적으로 식별하고 수정하는 데 어려움을 겪는다. 수정이나 피드백을 생성하도록 LLM을 미세조정하는 기존의 학습 기반 접근법과 달리, 우리는 실패한 롤아웃에서 어디에 개입할지를 학습하고 이를 어떻게 리디렉션할지를 결정한다. 개입 위치를 선택하기 위해, 우리는 최종 답안의 정답 여부만을 이용해 고정된 인코더 위에 130K개의 매개변수를 가진 MLP 헤드를 학습시킨다. 리디렉션의 경우, 고정된 생성 예산 하에서 테스트한 인라인 주입(inline injection)은 추론을 안정적으로 리디렉션하지 못하는 반면, 동일한 지시문을 새로운 사용자 턴(user turn)으로 제시하면 모델의 진행 방향이 바뀐다는 것을 발견했다. 그 결과로 만들어진 수정 프레임워크인 UPTURN(User-Prompt TURN injection at a learned position)은 LLM의 미세조정을 전혀 요구하지 않는다: 선택된 접두 문맥(prefix)을 유지하고, 지시문을 새로운 사용자 턴으로 주입한 뒤, 나머지 부분을 재생성한다. 네 가지 추론 모델과 여섯 가지 수학 벤치마크 전반에서, UPTURN은 32회 롤아웃 기준선(baseline) 대비 모든 설정에서 평균 정확도를 향상시킨다. 동일한 수정 예산 하에서 자기 수정(self-correction) 및 리플렉션 토큰(reflection-token) 주입 기준선을 능가하며, 재학습 없이도 다른 추론 모델과 GPQA-Diamond로 전이되고, GRPO 및 자기 수정 기법과도 상호보완적이다.

arXiv:2610.15897v3cs.CL공통 태그 Math, Large Language Model

검토는 더 강력한 모델을 거의 능가하지 못한다: LLM 파이프라인에서 검증과 능력 전이의 분리

Review Rarely Beats the Stronger Model: Separating Verification from Capability Transfer in LLM Pipelines

수학 문제에서 Qwen3-8B가 Llama-3.1-8B를 검토하면 정확도가 33.2점 상승하지만, Qwen3-8B 단독의 정확도가 그 결과보다 6.4점 더 높다. 다른 모델의 답을 검토하는 방식은 보통 생성 모델 대비 향상 폭으로 평가된다. 본 연구는 이러한 평가가 검증(verification)과 능력 전이(capability transfer)를 혼동한다는 점을 보인다. 검증은 어느 한 모델 단독보다 더 높은 정확도를 더하는 것이고, 능력 전이는 더 강한 검토 모델이 스스로도 낼 수 있었던 답을 제공하는 것이다. 수학, 지식, 코드, 추론 영역에서 12개 오픈 웨이트 모델(3B~72B)의 48개 쌍에 대해 더 강한 모델 단독과 비교해 측정한 결과, 검토 방식이 이를 능가하는 경우는 96개 검토 방향 중 9개에 불과했으며, 능력 격차가 클수록 성능이 더 나빠졌다. 그 원인은 앵커링이다. 검토 모델이 대체로 생성 모델을 따라가면서 자신의 올바른 답을 버린다. 검토 방식은 더 강한 모델 단독 대비 2.6~2.8배의 비용이 드는 반면, 동일한 두 번의 호출을 사용하는 선택기(selector)는 검토 방식보다 2.7~4.2점 더 정확하면서 비용도 더 저렴하다. 검증에 관한 연구는 생성 모델 대비 향상 폭만이 아니라 더 강한 모델 단독의 성능도 함께 보고해야 한다.

arXiv:2610.00715v2cs.AI공통 태그 Reinforcement Learning, Large Language Model

선호도 불확실성 하에서의 강건한 내시 정렬

Robust Nash Alignment under Preference Uncertainty

선호 기반 정렬 방법은 일반적으로 단일 선호 모델에 대해 최적화하므로, 쌍별 선호가 잡음이 있거나 이질적이거나 배포 후 변화하는 등 불확실한 경우 취약할 수 있다. 이러한 문제를 해결하기 위해 불확실한 쌍별 선호에 대한 정렬을 위한 게임 이론적 프레임워크인 Robust Nash Alignment를 제안한다. 우리의 정식화에서는 주 학습자가 적대적 경쟁자와, 명목 선호 주변의 모호성 집합에 속하는 임의의 선호 커널 모두에 대해 최악의 경우 승률이 높은 정책을 찾는다. 모호성 집합이 선호의 불확실성을 포착하면, 그 결과로 얻는 게임의 강건 목적함수는 최악의 경우 성능에 대한 인증된 하한을 직접 제공한다. 그러나 이 문제는 최적화가 계산적으로 어렵다는 점에 주목하여, 이를 해결하기 위해 리더 정책, 팔로워 정책, 적대적 커널, 쌍대 변수를 포함하는 4인 주-쌍대 대리 게임을 도입하고, 이에 대한 단일 루프 낙관적 미러 하강-상승 알고리즘을 개발한다. 대리 목적함수가 항상 절단된 경성 제약 목적함수의 하한이 됨을 보이고, 대리와 경성 제약 간의 격차를 정량화하며, 대리가 강건 목적함수를 복원하는 정확성 조건을 규명한다. 이어서 대리 게임의 쌍대성 격차에 대해 평균 반복 기준 $\mathcal{O}(1/\sqrt{T})$ 수렴을 증명하며, 이는 원래의 강건 목적함수에 대해 거의 최적인 강건 정책을 의미한다. 통제된 표 형태 게임과 불확실한 선호를 가진 LLM 정렬에 대한 실험은 이 방법을 보여 주며, 명목 기준선 대비 선호 교란에 대한 강건성이 향상됨을 보인다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.