arXiv:2611.22511v1 cs.AI

LMLineage: 대규모 언어 모델 에이전트의 콘텐츠 출처 추적과 문맥 관리

LMLineage: Content Lineage and Context Governance for LLM Agents

Wei Hou, Jingxin Geng, Xin Chen, Zheqing Jiang

제출 2026-11-18

한국어 초록

AI 에이전트의 해석 가능성은 모델 내부 가중치에 대한 이해를 넘어, 여러 출처의 문맥을 바탕으로 추론하고 결정하는 과정까지 포괄해야 한다. 에이전트 세션의 모든 출력 문장을 그 근거가 되는 입력 구간과 연결하고, 보정한 신뢰도를 함께 제공하는 별도 실행 시스템 LMLineage를 소개한다. 모델 내부에 접근하거나 추가로 추론할 필요가 없다. 출처 연결 메타데이터를 바탕으로 개념 드리프트를 감지해 문맥 일부만 압축한다. 문맥 길이 제한에 도달할 때까지 기다렸다가 전체를 요약하는 대신, 이전에 썼으나 더 이상 참조하지 않는 입력 문서를 감지해 해당 문서만 압축하고 사용자 지시는 원문 그대로 보존한다. 여러 층위의 말뭉치에서 평가했다. 중국어 웹 질의응답 사례 10개의 정답 주석 문장 71개와, 세 생성 모델(gpt-4o-mini, qwen3.8-27b, deepseek-v4-flash)에서 독립적으로 수집한 다중 턴 세션의 대화 90턴을 포함한다. 네 가지 결과를 얻었다. (i) 윈도 단위 임베딩 유사도는 문서 전체를 비교하거나 어휘를 매칭하는 방식보다 LLM의 바꿔 쓰기를 훨씬 잘 포착했다. (ii) 탐욕적 윈도 탐색 경로는 모든 행을 대조하는 방식보다 평균적으로 빠르고 정확했다. 전체 대조에서는 다중 비교 바이어스로 웹 자료에 대한 재현율이 높아지는 대신 전체 정확도가 떨어졌다. (iii) GPU 한 장에서 턴마다 출처를 연결하는 데 1초가 걸렸으며, 문맥이 최대 40턴까지 쌓여도 시간은 안정적이었다. (iv) 개념 드리프트 감지는 보수적이어서 잘못 압축한 경우가 0%였고, 재현율의 상한은 출처 연결의 정확도에 의해 정해졌다. 개념 드리프트에 따른 부분 압축 설계와 대화형 사고 추적 및 메모리 정리 사례도 설명한다. 별도의 특허 출원은 출처 연결을 구축하는 방법을 다룬다.

원문 초록

Interpretability for AI agents should not be confined to understanding the model's internal weights. It must also cover the agent's reasoning and decision-making process over multi-source context. We present LMLineage, an out-of-band system that attributes every output sentence of an agent session to its supporting input spans with calibrated confidences, without requiring white-box access to the model or any additional inference passes. On top of the lineage metadata, we build concept-drift micro compaction: instead of waiting for the context-length limit and summarizing everything, the system detects when previously used input documents have stopped being referenced ("drifted") and surgically compacts only those, preserving user instructions verbatim. We evaluate on a multi-tier corpus: 71 gold annotated sentences from 10 Chinese web-QA cases, plus 90 turns of independently collected multi-turn sessions across three generator models (gpt-4o-mini, qwen3.8-27b, deepseek-v4-flash). Results show that (i) window-level embedding similarity is far better aligned with LLM paraphrasing than whole document or lexical matching; (ii) the greedy-window fast path is both faster and more accurate on average than exhaustive line-matching (a multiple-comparisons bias in the latter inflates web recall at the cost of overall accuracy); (iii) per-turn attribution completes in 1s on a single GPU, remaining stable as context accumulates to 40 turns; and (iv) concept-drift detection is conservative (0% false compaction) with recall bounded by attribution accuracy. We further describe the concept-drift micro compaction design and an interactive incident-tracing/memory-cleaning case study. A companion patent application covers the lineage construction method.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.22511v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.