LogicTrack: 정형 논리 솔버를 활용한 대규모 언어 모델의 추론 궤적 감사
LogicTrack: Auditing Reasoning Trajectories of Large Language Models with Formal Logic Solvers
한국어 초록
사고의 연쇄(Chain-of-Thought, CoT) 추론은 대규모 언어 모델(LLM)의 성능을 향상시키는 것으로 입증되었으나, 기존 최적화(optimization) 방법들은 대체로 결과 기반 피드백에 의존하여 중간 추론 단계의 논리적 유효성은 대부분 검증되지 않은 상태로 남겨둡니다. LLM이 논리적으로 결함이 있는 중간 추론 과정을 거치고도 올바른 최종 답변에 도달하는 간극을 해결하기 위해, 우리는 각 추론 단계를 기호 표현으로 자동 정형화(auto-formalizing)하고 이를 자동 정리 증명기(automated theorem prover)로 검증하여 추론 궤적을 감사하는 뉴로-심볼릭(neuro-symbolic) 프레임워크인 LogicTrack을 제안합니다. LogicTrack은 논리적 건전성(logical soundness)을 정량화하고 추론(inference) 시 백트래킹 트리 탐색을 가이드하는 단계별 스코어링 메커니즘인 솔버 기반 백트래킹 보상(Solver-Based Backtracking Reward, SBR)을 도입합니다. 나아가 우리는 LogicTrack을 확장하여 해당 궤적의 백트래킹 추적(backtracking trace)을 포함하는 지도 미세조정(supervised fine-tuning, SFT) 데이터를 구축함으로써, 미세조정(fine-tuning)된 모델이 단계별 감사를 고유한 능력으로 내재화할 수 있도록 합니다. 8개의 추론 벤치마크(benchmark)와 7개의 LLM에 걸친 광범위한 실험은 LogicTrack이 추론 체인의 검증 가능성과 최종 답변 통과율을 모두 효과적으로 향상시켜, 중대한(high-stakes) 도메인에서 전반적인 CoT 품질과 신뢰성을 높임을 입증합니다.
원문 초록
Chain-of-Thought (CoT) reasoning has been shown to improve the performance of large language models (LLMs), yet existing optimization methods largely rely on outcome-based feedback, leaving the logical validity of intermediate reasoning steps largely unverified. To address the gap whereby LLMs arrive at correct final answers through logically flawed intermediate reasoning chains, we propose LogicTrack, a neuro-symbolic framework that audits reasoning trajectories by auto-formalizing each reasoning step into symbolic representations and verifying it with automated theorem provers. LogicTrack introduces Solver-Based Backtracking Reward (SBR), a step-wise scoring mechanism that quantifies logical soundness and guides backtracking tree search at inference time. We further extend LogicTrack to construct supervised fine-tuning (SFT) data with backtracking traces from its trajectories, enabling fine-tuned models to internalize step-wise auditing as an intrinsic capability. Extensive experiments across 8 reasoning benchmarks and 7 LLMs demonstrate that LogicTrack effectively improves both the verifiability of reasoning chains and final answer pass rate, thereby enhancing overall CoT quality and trustworthiness in high-stakes domains.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2609.21492v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.