스스로 이웃을 호출하기: 목적지 조건부 온-정책 자기 증류를 활용한 그래프 순회
Call Neighbours Yourself: Graph Walks with Destination-Conditioned On-Policy Self-Distillation
한국어 초록
텍스트 속성 그래프(TAG)에 대한 추론은 대규모 언어 모델(LLM)이 노드의 텍스트와 이웃 전반에 분산된 근거를 결합할 것을 요구합니다. 기존 방법들은 생성 전에 접근 가능한 이웃 집합을 고정하므로 추론이 정적인 컨텍스트에서 수행되도록 강제하며, 모델이 추론 중에 누락된 근거를 획득하는 것을 방해합니다. 우리는 이웃 선택 자체가 추론 과정의 일부여야 한다고 주장합니다. 이를 위해, 우리는 LLM이 위상 제약 그래프 순회(graph-walk) 행동을 통해 그래프 이웃을 능동적으로 탐험할 수 있도록 지원하는 프레임워크인 Call Neighbours Yourself(CNY)를 제안합니다. CNY는 미리 선택된 이웃 집합에 대해 추론하는 대신 경량화된 이웃 미리보기를 노출하고 추가적인 근거를 위해 후보 이웃을 언제 확장할지 학습합니다. 이웃 탐험의 지연된 보상(delayed-credit) 문제를 해결하기 위해, 우리는 목적지 조건부 온-정책 자기 증류(destination-conditioned on-policy self-distillation)를 도입합니다. 이는 이웃의 콘텐츠가 공개된 후 선택된 이웃을 소급하여 평가하고, 그 결과로 나타나는 행동 선호도의 변화를 행동 수준의 학습 신호로 변환합니다. 통일된 원시 텍스트 설정 하에서 표준 TAG 추론 벤치마크에 대해 수행한 실험은 CNY가 고정 컨텍스트 사후 학습 베이스라인들을 일관되게 능가함을 보여줍니다. 나아가, 학습된 탐험 정책은 학습 중에 접하지 않은 새로운 그래프 및 그래프 수준 작업으로도 전이됩니다. 코드는 https://github.com/superallen13/CNY 에서 확인할 수 있습니다.
원문 초록
Reasoning over text-attributed graphs (TAGs) requires large language models (LLMs) to combine a node's text with evidence distributed across its neighbourhood. Existing methods fix the set of accessible neighbours before generation, forcing reasoning to operate over a static context and preventing the model from acquiring missing evidence during inference. We argue that neighbour selection should itself be part of the reasoning process. To this end, we propose Call Neighbours Yourself (CNY), a framework that enables LLMs to proactively explore graph neighbourhoods through topology-constrained graph-walk actions. Instead of reasoning over a pre-selected neighbour set, CNY exposes lightweight neighbour previews and learns when to expand candidate neighbours for additional evidence. To address the delayed-credit challenge of neighbour exploration, we introduce destination-conditioned on-policy self-distillation, which retrospectively evaluates a selected neighbour after its content is revealed and converts the resulting change in action preference into an action-level training signal. Experiments on standard TAG reasoning benchmarks under a unified raw-text setting show that CNY consistently outperforms fixed-context post-training baselines. Furthermore, the learned exploration policy transfers to unseen graphs and to a graph-level task not encountered during training. Code is available at https://github.com/superallen13/CNY.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2608.29588v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.