arXiv:2608.28018v1 cs.CL

Twin Worlds: 증거 기반 추론을 위한 동변성 기반 기권

Twin Worlds: Equivariance-Based Abstention for Evidence-Grounded Reasoning

Vy Nguyen, Ziqi Xu, Jeffrey Chan, Estrid He, Feng Xia, Renqiang Luo, Erik Cambria, Xiuzhen Zhang

제출 2026-08-28

한국어 초록

지식 집약적 추론에서는 대규모 언어 모델(LLM)이 답을 제공된 증거에 그라운딩해야 한다. 증거가 불충분할 때는 모델이 근거 없는 답을 자신 있게 생성하기보다 기권하는 것이 바람직하다. 기존 기권 방법은 불확실성 추정이나 증거 충분성 검사에 의존하지만, 둘 다 제공된 증거와 모델의 내부 기억 파라미터가 상호작용하며 생성을 이끄는 추론 과정이 실제로 증거에 그라운딩되어 있는지는 검증하지 않는다. 핵심 요인 중 하나는 문맥 속 개체 언급이 기억된 연관을 활성화하여, 증거에 그라운딩되지 않은 그럴듯한 응답을 생성하게 만든다는 점이다. 우리는 Twin Worlds(TW)를 제안한다. 이는 동변성(equivariance) 기반 기권을 통해 지식 집약적 추론의 신뢰성을 높이는 프레임워크로, 불변성(invariance)이 출력이 변하지 않아야 한다고 요구하는 것과 달리 동변성은 개체 치환 하에서 출력이 대응적으로 변환되어야 한다고 요구한다. 증거에 그라운딩된 모델은 관계가 보존된 채 개체가 치환되면 답이 일관되게 바뀌어야 한다. TW는 원 입력에 대한 유형화된 치환으로 관계 구조는 보존하면서 파라미etric 사전(prior)을 줄여 여러 world를 구성하고, 동변성 위반을 기권 신호로 사용한다. 네 개의 벤치마크와 세 가지 모델 백본에서 TW는 답이 제공된 증거에 신뢰할 수 있게 그라운딩되지 않은 경우를 식별하며, 불확실성 및 충분성 기반 베이스라인보다 우수한 성능을 보인다.

원문 초록

Knowledge-intensive reasoning requires Large Language Models (LLMs) to ground answers in provided evidence. When evidence is insufficient, it is desirable that models abstain rather than confidently generating unsupported answers. Existing abstention methods rely on uncertainty estimation or evidence sufficiency checks, but neither tests whether the reasoning process for generation, driven by the interaction of provided evidence and the model's internal memory parameters, is actually grounded in the evidence. A key contributing factor is that entity mentions in context activate memorised associations, causing models to generate plausible responses ungrounded in evidence. We propose Twin Worlds (TW), a framework for improving reliability in knowledge-intensive reasoning through equivariance-based abstention: unlike invariance, which requires outputs to remain unchanged, equivariance requires outputs to transform correspondingly under entity substitutions. A model grounded in the evidence should produce answers that shift consistently when entities are substituted while their relations are preserved. TW constructs multiple worlds via typed substitutions of the original input that preserve relational structure while reducing parametric priors, and uses equivariance violations as an abstention signal. Across four benchmarks and three model backbones, TW identifies when answers are not reliably grounded in the provided evidence and outperforms uncertainty- and sufficiency-based baselines.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2608.28018v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.