arXiv:2601.17593v3 cs.CL

체인에서 방향성 비순환 그래프로: LLM 추론의 그래프 구조 프로빙

From Chains to DAGs: Probing the Graph Structure of Reasoning in LLMs

Tianjun Zhong, Linyang He, Ziyang Li, Nima Mesgarani

제출 2026-01-24

한국어 초록

대규모 언어 모델(LLM)의 최근 발전은 다단계 추론이 내부적으로 어떻게 표현되는지에 대한 관심을 새롭게 불러일으켰다. 기존 연구는 추론을 선형 체인으로 다루는 경우가 많지만, 많은 추론 문제는 중간 결론이 분기·병합·재사용되는 방향성 비순환 그래프(DAG)로 더 자연스럽게 모델링할 수 있다. 이러한 그래프 구조가 모델 내부에 반영되는지는 아직 불분명하다. 우리는 기저 추론 DAG의 속성이 LLM 은닉 상태에 선형적으로 인코딩되는지 검증하는 프레임워크인 Reasoning DAG Probing을 제안한다. 각 전제, 중간 결론, 최종 답을 DAG 노드로 형식화하고, 은닉 상태로부터 노드 깊이, 쌍별 거리, 인접 관계를 예측하는 경량 프로브를 학습한다. 이 프로브를 이용해 층별 DAG 구조의 출현을 분석하고, 근사 추론 그래프를 재구성하며, 추론 관련 구조를 교란하는 대조 조건을 평가한다. 논리·수학·코드 추론 벤치마크 전반에서 DAG 구조가 LLM 표현에 의미 있게 인코딩됨을 확인했다: 복원 가능성은 중간 층에서 정점을 이루고, 후반 층은 더 깊은 노드와 장거리 의존성을 우선적으로 복원하며, 더 큰 모델은 DAG 복원 가능성이 더 강하다. 자기회귀 생성 동안 사후학습(post-training)된 모델은 더 뚜렷하고 점진적으로 강화되는 DAG 구조를 보이며, 이는 전반적으로 답의 정확성 추세를 선행한다. 이 결과는 LLM 추론이 순수하게 순차적이지 않으며 측정 가능한 내부 그래프 구조를 드러냄을 시사한다.

원문 초록

Recent progress in large language models has renewed interest in how multi-step reasoning is represented internally. While prior work often treats reasoning as a linear chain, many reasoning problems can be more naturally modeled as directed acyclic graphs (DAGs), where intermediate conclusions branch, merge, and are reused. Whether such graph structure is reflected in model internals remains unclear. We introduce Reasoning DAG Probing, a framework for testing whether LLM hidden states linearly encode properties of an underlying reasoning DAG. We formalize each premise, intermediate conclusion, and final answer as a DAG node, and train lightweight probes to predict node depth, pairwise distance, and adjacency from hidden states. Using these probes, we analyze the layerwise emergence of DAG structure, reconstruct approximate reasoning graphs, and evaluate controls that disrupt reasoning-relevant structure. Across logical, mathematical, and code reasoning benchmarks, we find that DAG structure is meaningfully encoded in LLM representations: recoverability peaks in intermediate layers; later layers preferentially recover deeper nodes and longer-range dependencies; larger models exhibit stronger DAG recoverability. During autoregressive generation, post-trained models exhibit clearer, progressively strengthening DAG structure, which broadly anticipates answer correctness trends. These findings suggest that LLM reasoning is not purely sequential, but exhibits measurable internal graph structure.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2601.17593v3제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.