arXiv:1901.03866

HAS-QA: Hierarchical Answer Spans Model for Open-domain Question Answering

Liang Pang, Yanyan Lan, Jiafeng Guo, Jun Xu, Lixin Su, Xue-Qi Cheng

제출 2019-01-12

원문 초록

This paper is concerned with open-domain question answering (i.e., OpenQA). Recently, some works have viewed this problem as a reading comprehension (RC) task, and directly applied successful RC models to it. However, the performances of such models are not so good as that in the RC task. In our opinion, the perspective of RC ignores three characteristics in OpenQA task: 1) many paragraphs without the answer span are included in the data collection; 2) multiple answer spans may exist within one given paragraph; 3) the end position of an answer span is dependent with the start position. In this paper, we first propose a new probabilistic formulation of OpenQA, based on a three-level hierarchical structure, i.e.,~the question level, the paragraph level and the answer span level. Then a Hierarchical Answer Spans Model (HAS-QA) is designed to capture each probability. HAS-QA has the ability to tackle the above three problems, and experiments on public OpenQA datasets show that it significantly outperforms traditional RC baselines and recent OpenQA baselines.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.16003v1cs.CL공통 태그 Question Answering, Reading Comprehension

PAIR: 읽기-추론 융합을 통한 메모리 효율적이고 빠른 추론

PAIR: Memory-Efficient and Fast Inference with Reading--Reasoning Fusion

문맥 기반 질의응답에서 단일 대형 모델을 근거 추출과 답변 추론 모두에 사용하는 것은 상당한 메모리와 연산량을 요구합니다. 기존 접근 방식들은 단일 모델 내에서 정확도와 효율성을 맞바꿉니다. 본 연구에서는 효율적인 추론을 위한 다중 모델 접근 방식을 제안합니다. 제안 방법인 PAIR는 서로 다른 크기의 두 모델을 각각 근거 추출과 답변 추론에 활용합니다. 더 작은 Reader 모델이 전체 문맥을 처리하고 유지하는 반면, 더 큰 Reasoner 모델은 문맥에 직접 어텐션을 수행하지 않고 질문과 생성된 시퀀스만을 봅니다. 이러한 기능들은 로짓(logit) 수준에서 융합됩니다. 각 토큰마다 Reader와 Reasoner가 모두 예측을 생성하며, 이들의 로짓이 하나로 결합되어 단일 다음 토큰 예측 모델처럼 동작합니다. 미세조정(fine-tuning)을 통해 성능을 더욱 향상시킵니다. HotpotQA에서 32B Reasoner를 적용한 PAIR는 동일한 32B 모델의 전체 문맥 정확도를 96% 유지하면서도 KV 메모리는 약 4분의 1만 사용합니다. 45.7K 토큰 문맥에서 PAIR는 동일한 GPU 상의 전체 문맥 32B 모델 대비 최대 3.2배 높은 엔드투엔드 처리량을 달성합니다. 또한 PAIR는 평가된 토큰 감소 베이스라인 대비 정확도-메모리 및 정확도-처리량 간의 상충 관계를 개선합니다. 이러한 정확도 보존 특성은 Qwen2.5, OLMo-3, Gemma-3 모델 패밀리 전반에 걸쳐 일반화됩니다.

arXiv:2609.25537v1cs.CL공통 태그 Question Answering, Reading Comprehension

LLM 추론을 위한 긴 컨텍스트의 답변 정렬 메모리 임베딩 압축

Compressing Long Context into Answer-Aligned Memory Embeddings for LLM Inference

대규모 언어 모델(LLM) 추론은 셀프 어텐션(self-attention)의 이차 스케일링과 KV 캐시의 선형 스케일링에 의해 제약되어, 컨텍스트 길이가 늘어날수록 지연 시간, 에너지 소비, GPU 메모리 요구가 증가한다. 기존 소프트 압축(soft-compression) 방법은 추론 시점에 쿼리 기반 메모리 선택이 없거나, 답변 대상 지도(answer-targeted supervision) 없이 학습하거나, 압축을 특정 디코더 아키텍처에 강하게 결합하는 한계가 있다. 본 연구는 Context-to-Answer-Aligned Memory Compression(CMC) 프레임워크를 제안한다. 이는 긴 입력 컨텍스트를 동결된(frozen) 디코더의 임베딩 공간에 정렬된 컴팩트한 Context Memory Embeddings(CMEs)로 압축하여 디코더 가중치를 수정하지 않고 추론 비용을 줄인다. CMC는 질문 기반 CME 선택과 지역 컨텍스트 윈도우(local context window)를 결합한 2단 KV 캐시를 도입하고, 동결된 LLM으로부터 답변 대상 지식 증류(distillation)로 압축기를 학습한다. 9가지 인코더-디코더 조합과 4개 QA 벤치마크에 걸친 실험에서 CMC는 기준선을 일관되게 능가하며, SQuAD에서 최대 7.3 EM 및 4.0 F1 포인트 향상을 달성하는 동시에, 생성 토큰 3,000개 기준 추론 시간과 에너지 소비를 최대 20% 줄이고 피크 예약 GPU 메모리를 최대 50% 줄였다. ablation 연구는 각 아키텍처 구성 요소와 학습 목표가 성능에 기여함을 확인했다.

arXiv:2609.26718v1cs.LG공통 태그 Question Answering, Reading Comprehension

사이렌의 노래: 근접한 배경 컨텍스트가 멀리 떨어진 증거를 가릴 때

The Sirens' Song: When Proximal Background Context Overshadows Distant Evidence

긴 컨텍스트(long-context) 대규모 언어 모델(LLM)은 방대한 컨텍스트에서 멀리 떨어진 증거를 검색하는 데 집중하지만, 기존 연구는 주로 거리 자체를 극복하는 데에만 초점을 맞추어 왔습니다. 본 연구에서는 멀리 떨어진 증거에 대한 불충분한 어텐션(attention)이 거리 자체보다는 태스크와 무관하게 넘쳐나는 근접 배경과의 누적된 경쟁에서 비롯되는 경우가 많다는 '근접성 함정(Proximity Trap)'을 규명합니다. 이러한 근접성 함정을 해결하기 위해, 인코딩된 상대적 위치 정보를 보존하면서도 컨텍스트 검색 분포를 재구성하여 태스크 관련 증거로 더 많은 어텐션 비중을 유도하는 t-분포 기반 방향성 매칭 메커니즘인 LYRA(Long-context heavY-tailed Relevance Alignment)를 제안합니다. LongBench-v2, RULER, LongBench에서의 광범위한 실험을 통해 다양한 컨텍스트 길이와 태스크 범주 전반에서 일관된 성능 향상을 입증합니다. 나아가 점증하는 근접 배경 간섭 하에서 원거리 증거 활용 능력을 평가하기 위한 다단계 세그레인드 벤치마크(benchmark)인 ProxBench를 소개합니다. 프로젝트 페이지: https://xiaoyuyoung.github.io/LYRA/

arXiv:2609.22628v1cs.AI공통 태그 Question Answering, Reading Comprehension

텍스트, 픽셀, 또는 둘 다? 멀티모달 문서 QA를 위한 입력 표현 평가

Text, Pixels, or Both? Evaluating Input Representations for Multimodal Document QA

모든 문서 QA 시스템은 그 자체로는 드물게 따로 연구되는 선택으로 시작한다. 즉, 모델에 페이지 이미지, 추출된 텍스트, 또는 둘 다를 입력할지 여부이다. 우리는 프롬프트, judge, 채점 파이프라인을 고정한 채 이 선택만 분리하여, 네 개의 상용 모델 엔드포인트, 두 코퍼스, 두 가지 컨텍스트 체제(골드 증거 페이지와 전체 문서)에 걸쳐 평가한다. 이미지 예산에 맞는 문서에서는 두 코퍼스 모두에서 모든 문서 길이에 걸쳐 페이지 이미지가 정확도에서 앞서지만, 이 이점은 커지는 지연과 비용 부담을 동반한다. 문서가 길어질수록 텍스트 지연은 대체로 평탄한 반면 이미지 지연은 꾸준히 증가한다. 텍스트와 이미지는 서로 다른 질문에서 실패하기도 하며, 보고된 셀 전체에서 항목의 19–25%에서 정확히 한 표현만 맞아, 어느 쪽도 다른 쪽을 포괄하지 않는다. 이러한 상보성을 활용하면, 질문 텍스트만 읽는 경량 TF-IDF 라우터가 문서 단위로 분리된 held-out 분할에서 항상 텍스트만 쓰는 방식 대비 2.6포인트를 얻고, 항상 비전만 쓰는 방식 대비 중앙값 지연을 30% 줄인다.

arXiv:2609.22939v1cs.AI공통 태그 Question Answering, Reading Comprehension

선형 컨텍스트를 넘어: 로컬 9B 언어 모델의 장편 소설 추론을 위한 그래프 안내 증거 탐색

Beyond Linear Context: Graph-Guided Evidence Navigation for Long-Novel Reasoning with a Local 9B Language Model

장문 맥락 모델은 소설을 사람이 인쇄물을 읽듯 읽는다. 서사 순서대로 토큰을 하나씩 처리하며, 전체 이력이 고정된 어텐션 예산을 두고 경쟁한다. 탐정은 그렇게 일하지 않는다. 무엇이 언제 일어났는지 정리하고, 누가 누구와 어떻게 연관되는지에 대한 지도를 유지하여, 1장의 단서가 책 끝에서 던진 질문과 만날 수 있게 한다. 우리는 고정(frozen) 지식 그래프가 소규모 로컬 모델에 그와 같은 자유를 줄 수 있는지 검증한다. 탐정 소설 30편과 객관식 문제 234개에 대해, 하나의 고정된 qwen3.5:9b 리더가 아홉 가지 조건에서 답한다. 다섯 가지 그래프 경로, 최근 윈도우 기준선, 전권 압축, 일반 벡터 검색, 문제만 제시하는 대조군이다. 가장 강한 그래프 경로는 53.85%(126/234)로, 최근 윈도우 46.15%, 압축 51.28%, 벡터 검색 51.71%, 문제만 40.17%를 각각 상회한다. 책 없이는 어떤 모델도 답할 수 없는 부분집합에서 그래프 경로는 42.86%에 이른다. 그래프-기준선 대비 15건 중 Holm 보정을 통과한 것은 없으므로, 결과는 설계에 대한 탐색적 증거로 제시한다. 두 가지 구조적 발견은 요약 수치보다 검증에 더 견딘다. 주석된 증거는 이러한 그래프의 위상학적 코어(topological core)에 집중되며(풀링 기준 2.35배 enrichment), 두 그래프 구축 파이프라인은 주석 커버리지(단서 단락의 16% 대 73%)에서 크게 달라, 풀링된 정확도만으로는 어떤 병목이 측정되는지 가려진다.

arXiv:2607.20459v1cs.CL공통 태그 Question Answering, Reading Comprehension

THOR: 멀티홉 QA를 위한 Theta-Gamma 계층적 진동 추론 프레임워크

THOR: A Theta-Gamma Hierarchical Oscillatory Reasoning Framework for Multi-hop QA

멀티홉 질의응답은 여러 맥락에서 증거를 검색하고 통합하는 것을 요구한다. 현재 연구가 빠르게 진전하고 있음에도 불구하고, 멀티홉 추론은 두 가지 지속적인 한계에 의해 제약받는다: 어텐션 감쇠(attention decay), 즉 추론 체인이 길어질수록 주요 질문에 대한 모델의 집중이 저하되는 현상, 그리고 오류 누적(error accumulation), 즉 실수가 홉을 거치며 전파되어 최종 실패로 누적되는 현상이다. 전역 계획을 지역 검색과 분리하고, 홉 간 효율적인 어텐션 전달을 가능하게 하며 잘못된 경로에서의 오류 누적을 차단하는 검증 및 복구 메커니즘을 제공하는 Theta-Gamma 계층적 진동에서 영감을 받아, 우리는 뇌에서 영감을 받은 Theta-Gamma 계층적 진동 추론 프레임워크인 THOR를 제안한다. 멀티홉 QA 벤치마크에 대한 광범위한 비교 실험과 구체적인 검증 실험은 THOR가 한계를 완화하면서 답변 정확도와 견고성을 향상시키며, 다양한 백본에 걸친 일반화 성능을 보여준다는 것을 입증한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.