arXiv:2608.26329v1 cs.CL

뉴로-심볼릭 PRM: 구조화된 추적과 심볼릭 검증을 통한 과학적 추론 향상

Neuro-symbolic PRM: Enhancing Scientific Reasoning via Structured Traces and Symbolic Verification

Yuxin Zi, Cong Xu, Suparna Bhattacharya, Martin Foltin, Amit Sheth

제출 2026-08-26

한국어 초록

도구 증강 대규모 언어 모델(LLM)은 정량적 STEM 과제에서 다단계 추론을 크게 개선했지만, 여전히 중요한 잔여 실패 유형이 남아 있다. 바로 구문적으로 올바르게 구성되고, 수학적으로 실행 가능하며, 단위도 일관되지만 문맥에는 근거하지 않은(contextually ungrounded) 중간 추론 단계이다. 기존 접근법은 의미적 의도를 평가할 수 없는 형식 검증기(formal verifier)에 의존하거나, 프로세스 보상 모델(PRM)에 산술과 논리를 모두 검사해야 하는 이중 과제를 부담시킨다. 본 논문에서는 추론을 심볼릭 유효성(Symbolic Validity, $V$)과 의미적 근거성(Semantic Groundedness, $G$)이라는 두 가지 형식적 차원으로 명확하게 분리하는 뉴로-심볼릭 프레임워크를 제안한다. 우리는 하드 필터로 작동하는 결정론적 심볼릭 검증기를 사용하여 $V$를 구성적으로 보장한다. $G$를 평가하기 위해, 검증기가 통과시킨 매니폴드(manifold)를 조건으로 PRM을 학습한다. 이 PRM을 효율적으로 학습하기 위해, 제약을 보존하는 하드 네거티브(검증기는 완벽하게 통과하지만 논리적으로는 결함이 있는 단계)를 알고리즘적으로 생성하는 새로운 데이터 합성 전략인 반사실적 심볼릭 섭동(Counterfactual Symbolic Perturbation, CSP)을 도입한다. 추론 시에는 검증기 우선 제약 탐색(verifier-first constrained search)을 적용하여, 검증기가 다루는 연산에 대해서는 실행 일관성을 보장하고 PRM은 의미적 근거성의 순위를 매기는 데에만 사용한다. 본 방법은 강력한 도구 사용 LLM이 보이는 바로 그 잔여 오류 유형을 겨냥함으로써, 기존 프레임워크의 방대한 휴리스틱 없이도 추론 신뢰성을 크게 향상시킨다.

원문 초록

While tool-augmented Large Language Models have significantly improved multi-step reasoning in quantitative STEM tasks, a critical residual failure mode remains: intermediate reasoning steps that are syntactically well-formed, mathematically executable, and unit-consistent, yet contextually ungrounded. Current approaches either rely on formal verifiers that cannot assess semantic intent, or burden Process Reward Models (PRMs) with the dual task of checking both arithmetic and logic. In this paper, we propose a neuro-symbolic framework that cleanly decouples reasoning into two formal dimensions: Symbolic Validity ($V$) and Semantic Groundedness ($G$). We guarantee $V$ by construction using a deterministic symbolic verifier acting as a hard filter. To assess $G$, we train a PRM conditionally on the verifier-accepted manifold. To train this PRM efficiently, we introduce Counterfactual Symbolic Perturbation (CSP), a novel data synthesis strategy that algorithmically generates constraint-preserving hard negatives (steps that perfectly pass the verifier but are logically flawed). At inference, we deploy a verifier-first constrained search that guarantees execution consistency for verifier-covered operations while relying on the PRM solely to rank semantic grounding. By targeting the exact residual error class of strong tool-using LLMs, our method significantly improves reasoning reliability without the sprawling heuristics of prior frameworks.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2608.26329v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.