arXiv:2301.10389

Counterfactual Editing for Search Result Explanation

Zhichao Xu, Hemank Lamba, Qingyao Ai, Joel Tetreault, Alex Jaimes

제출 2023-01-25

원문 초록

Search Result Explanation (SeRE) aims to improve search sessions' effectiveness and efficiency by helping users interpret documents' relevance. Existing works mostly focus on factual explanation, i.e. to find/generate supporting evidence about documents' relevance to search queries. However, research in cognitive sciences has shown that human explanations are contrastive i.e. people explain an observed event using some counterfactual events; such explanations reduce cognitive load and provide actionable insights. Though already proven effective in machine learning and NLP communities, there lacks a strict formulation on how counterfactual explanations should be defined and structured, in the context of web search. In this paper, we first discuss the possible formulation of counterfactual explanations in the IR context. Next, we formulate a suite of desiderata for counterfactual explanation in SeRE task and corresponding automatic metrics. With this desiderata, we propose a method named \textbf{C}ounter\textbf{F}actual \textbf{E}diting for Search Research \textbf{E}xplanation (\textbf{CFE2}). CFE2 provides pairwise counterfactual explanations for document pairs within a search engine result page. Our experiments on five public search datasets demonstrate that CFE2 can significantly outperform baselines in both automatic metrics and human evaluations.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.25853v1cs.CL공통 태그 Retrieval, counterfactual

MemoryAthena: 잠재 및 생성 메모리에 대한 적응형 라우팅

MemoryAthena: Adaptive Routing over Latent and Generated Memories

학습된 메모리(learned-memory) 방법은 정보를 명시적 테이블에 저장하고 별도의 리더(reader)를 통해 소비하여 addressing, storage, reading을 서로 독립적으로 수정할 수 있게 한다. 우리는 유용한 메모리가 검색만이 아니라 생성될 수 있는지도 연구한다. MemoryAthena는 세 경로를 사용한다: 직접 Engram 검색(E), 검색된 Engram 단서로부터의 생성(GE), 메모리 테이블을 참조하지 않고 인과적 백본(backbone) 상태로부터의 생성(GH). 생성된 메모리는 조건부로 유용하다: 한 맥락에서는 E를 보완할 수 있지만 다른 맥락에서는 방해할 수 있다. 따라서 MemoryAthena는 E를 앵커(anchor)로 두고 생성 표현이 언제 개입해야 하는지 학습한다. 백본, 메모리, 생성기, 리더를 고정(frozen)한 상태에서, 경량 인과적 라우팅 헤드(routing head)는 E 대비 GE와 GH의 반사실적(counterfactual) 미래 토큰 가능도 이점(advantage)으로부터 학습된다. 추론 시 허용된(admitted) 후보는 유계(bounded) 보간(interpolation)을 통해 E 잔차(residual)를 수정하고, 거부(rejection) 시 직접 경로를 정확히 복구한다. 질의응답(question answering)에서 MemoryAthena는 동일 체크포인트의 직접 경로 대비 5개 과제 평균을 37.65에서 39.28로 높이며, 6개 과제 general-NLP 평균은 76.73에서 79.13으로 증가한다. 완전한 메모리 측 시스템은 고정된 백본을 제외하고 약 201M 파라미터를 포함한다. 추가 분석은 과제와 입력에 걸쳐 E, GE, GH 간의 상보적 강점을 보여 준다. 이러한 결과는 생성 메모리가 직접 검색에 대한 선택적 교정(selective correction)임을 뒷받침하고, 언제·어떤 것을·얼마나 강하게 개입할지에 대한 라우팅을 핵심 과제로 부각한다.

arXiv:2608.03699v3cs.AI공통 태그 Retrieval, counterfactual

TARL: 장기 에이전트의 실행 가능한 메모리 관리를 위한 트랜잭션 인식 신뢰 원장

TARL: Transaction-Aware Reliable Ledgers for Executable Memory Management in Long-Term Agents

영구 메모리(persistent memory)는 장기 에이전트(agent)가 지식을 유지하도록 돕지만, 단 한 번의 업데이트 오류로도 향후 검색 및 추론이 반복적으로 왜곡될 수 있습니다. 기존 시스템의 대부분은 메모리 업데이트를 이진(binary) Write/Hold 결정으로 축소하여, 새로운 정보를 추가해야 하는지, 무시해야 하는지, 오래된 믿음을 수정하는 데 사용해야 하는지, 신뢰할 수 없어 거부해야 하는지, 혹은 검증을 위해 보류해야 하는지를 구분하지 못합니다. 이러한 선택지들은 동일한 이진 라벨을 공유할 수 있지만 근본적으로 다른 메모리 상태를 생성합니다. 본 논문에서는 각 진술을 다섯 가지 실행 가능한 동작(action) 중 하나로 매핑하는 메모리 상태 업데이트 프레임워크인 TARL을 소개합니다. TARL은 영향을 받는 메모리를 식별하고, 시간적 범위를 해결하며, 출처의 신뢰성을 비교하고, 수락(accepted), 보류(pending), 거부(rejected) 원장(ledger)을 업데이트합니다. 또한 대안적 업데이트 작업에 의해 생성된 메모리 상태를 비교하여 모델이 올바른 결과로 이어지는 작업을 선택하도록 장려하는 방식으로 추가 학습됩니다. 아울러 세분화된 동작 라벨과 다음 상태 목표를 포함하는 벤치마크인 TARL-Mem을 소개합니다. 인도메인(in-domain), 교차 출처(cross-source), 시간적, 반사실적(counterfactual), 순차적 평가 전반에 걸쳐 TARL은 동작 예측 및 상태 복구를 개선하고, 메모리 오염을 줄이며, 상충하는 증거를 보존하고, 누적된 손상을 억제합니다.

arXiv:2607.22625v1cs.AI공통 태그 Retrieval, counterfactual

TokenMem: 동결 LLM을 위한 충실한 지식 주입

TokenMem: Faithful Knowledge Injection for Frozen LLMs

검색-증강 생성(RAG)은 대규모 언어 모델(LLM)에 외부 지식을 더해 성능을 높이지만, 지식 충돌 문제가 있습니다. 검색된 정보가 파라미터 메모리와 모순될 때, 공유된 셀프-어텐션(self-attention) 경로가 예측 불가능한 출력을 만들어냅니다. 우리는 TokenMem을 제안합니다. TokenMem은 전용 크로스-어텐션(cross-attention) 채널을 통해 동결 LLM에 지식을 주입하는 경량 메모리 시스템으로, 잔차 스트림(residual stream)에서 파라미터 메모리와의 경쟁을 우회합니다. TokenMem은 2단계 커리큘럼을 통해 얇은 게이팅 어댑터(약 3–7M 파라미터)만 학습합니다. 먼저 일반적인 지식 활용을 학습하고, 이어서 반사실적(counterfactual) 지식 하에서 충실한 준수(faithful compliance)를 강화합니다. 세 가지 모델 패밀리에 걸친 다섯 모델(Qwen3-4B/8B/14B, LLaMA-3.1-8B, OLMo-3-7B)에 대한 통제 실험에서 TokenMem은 반사실적 벤치마크에서 69–70%의 지식 준수(Knowledge Compliance, KC)를 달성했으며, 바닐라 RAG의 20–52%와 비교해 최대 49퍼센트포인트 차이를 보였습니다. ablation 연구는 2단계 커리큘럼이 핵심적임을 보여줍니다. Phase 2를 제거하면 KC가 거의 0에 가까워집니다. 메커니즘 분석은 게이트 어댑터가 명시적 감독 없이 충돌 인식(conflict-aware), 층별(layer-specific) 주입 전략을 학습함을 밝혀냅니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.