arXiv:1809.05726

Answering Science Exam Questions Using Query Rewriting with Background Knowledge

Ryan Musa, Xiaoyan Wang, Achille Fokoue, Nicholas Mattei, Maria Chang, Pavan Kapanipathi, Bassem Makni, Kartik Talamadupula, Michael Witbrock

제출 2018-09-15

원문 초록

Open-domain question answering (QA) is an important problem in AI and NLP that is emerging as a bellwether for progress on the generalizability of AI methods and techniques. Much of the progress in open-domain QA systems has been realized through advances in information retrieval methods and corpus construction. In this paper, we focus on the recently introduced ARC Challenge dataset, which contains 2,590 multiple choice questions authored for grade-school science exams. These questions are selected to be the most challenging for current QA systems, and current state of the art performance is only slightly better than random chance. We present a system that rewrites a given question into queries that are used to retrieve supporting text from a large corpus of science-related text. Our rewriter is able to incorporate background knowledge from ConceptNet and -- in tandem with a generic textual entailment system trained on SciTail that identifies support in the retrieved results -- outperforms several strong baselines on the end-to-end QA task despite only being trained to identify essential terms in the original source question. We use a generalizable decision methodology over the retrieved evidence and answer candidates to select the best answer. By combining query rewriting, background knowledge, and textual entailment our system is able to outperform several strong baselines on the ARC dataset.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.15941v1cs.CL공통 태그 Natural Language Inference, Information Retrieval

치의학 교육에서 읽기 자료와 학습 목표의 정렬 및 주제 균형 평가를 위한 자연어 처리

Natural Language Processing for Aligning Readings with Learning Objectives and Assessing Topic Balance in Dental Education

교육과정 개발팀은 지정된 읽기 자료가 학습 목표(LO)를 뒷받침하는지, 그리고 주제 범위가 균형 있게 다루어지는지 검토할 시간이 부족한 경우가 많습니다. 본 연구에서는 근거 기반의 읽기 자료 목록 큐레이션을 지원하는 자연어 처리(NLP) 워크플로를 제시합니다. 이 워크플로는 검색을 위한 PubMedBERT 문장 임베딩(embedding) 및 코사인 유사도, 근거 확인을 위한 자연어 추론(NLI), 그리고 범위 분석을 위한 토픽 모델링을 결합합니다. 치의학 교육 분야에서 13개의 강좌 수준 LO와 PubMed 기반의 3,837개 LO-초록 쌍으로 구성된 코퍼스를 활용해 이 접근법을 테스트했습니다. 13개 LO 전반에서 중앙값 코사인 유사도는 0.86에서 0.91 사이로 나타나 전반적으로 높은 의미적 유사성을 보였습니다. 토픽 모델링 결과 영역별로 1~2개의 지배적인 토픽이 나타나며 범위는 넓으나 불균형한 것으로 확인되었습니다. 읽기 자료를 선정하는 데는 유사도만으로는 충분하지 않았습니다. 높은 유사도를 보인 쌍(코사인 0.90~1.00) 중 22.9%가 NLI에 의해 중립(neutral) 또는 모순(contradictory)으로 분류되었습니다. 전문가가 라벨링한 49개 쌍의 검증(validation) 세트에서 코사인 기반 검색(코사인 >= 0.90)은 0.69의 정확도를 기록한 반면, 코사인과 NLI를 결합한 접근법은 전문가 정렬(alignment) 라벨 대비 0.73의 정확도를 달성했습니다. 전반적으로 이 워크플로는 오탐(false positive)을 줄이고 의도한 LO에 더 잘 부합하는 읽기 자료 선정을 지원함으로써 AI가 교육과정 정렬을 어떻게 도울 수 있는지 보여줍니다.

arXiv:2609.27376v1cs.CL공통 태그 Natural Language Inference, Information Retrieval

베트남 노동법 교차 언어 법률 QA: 검색, 번역, 검증기 기반 교정

Cross-Lingual Legal QA for Vietnamese Labour Law: Retrieval, Translation, and Verifier-Guided Correction

교차 언어 법률 질의응답은 근거 없는 법적 주장을 막으면서 여러 언어에 걸쳐 법령을 검색(retrieval)해야 한다. 본 연구는 베트남 노동법에서 수집한 231개의 베트남어-영어 질문-답변 쌍으로 구성된 이중언어 평가 스위트를 제안한다. 이 중 75개는 다섯 가지 어려운 법률 추론 현상에 대해 추가 주석이 달려 있다. 답을 주장(claim)으로 분해하고, 인용의 도달 가능성(reachability)과 함의(entailment)를 검사하며, 인용 실패와 모순을 교정하는 검증기(verifier) 기반 파이프라인을 평가한다. 또한 검색된 증거에 대한 충실성(faithfulness)을 위한 여섯 가지 자동 진단 지표를 제안하며, 인용, 양상(modality), 예외, 절차, 결론, 증거적 지지를 다룬다. 실험 결과, 학습 기반 sparse 검색(learned-sparse retrieval)은 영어→베트남어 검색에서 성능이 낮으며(R@5~=~0.032), dense 검색은 0.358에 도달해 hybrid 검색을 약간 능가한다. 통제 비교 및 민감도 분석에서 번역 배치(translation placement)는 이러한 자동 진단 지표에 통계적으로 검출 가능한 영향을 주지 않았다. 검증기 기반 교정은 시스템 수준에서 인용 보존을 $0.022$--$0.034$만큼 개선하지만, 나머지 차원에서는 신뢰할 만한 향상을 보이지 않는다. Human evaluation은 자동 진단 지표가 답변 품질에 대한 인간 판단과 완전히 일치하지 않음을 추가로 보여준다.

arXiv:2609.28290v1cs.CL공통 태그 Natural Language Inference, Information Retrieval

기하학보다 계산: 의미 동일성은 임베딩에 담겨 전달되는 것이 아니라 계산된다

Computation Over Geometry: Meaning Identity Is Computed, Not Shipped in the Embeddings

의미 동일성(표현이 바뀐 뒤에도 두 문장이 같은 내용을 말하는지 여부)은 검색과 RAG에서 독립적으로 인코딩된 문장 벡터의 기하학적 사실로 취급된다. 본 논문은 고정된(frozen) 기성 인코더와 언어 모델에서는 그렇지 않음을 보인다. 동일성은 두 문장이 하나의 순전파를 공유할 때 계산되며, 해당 시스템들이 제공하는 임베딩 기하학의 속성이 아니다. 중첩(overlap)을 맞춘 PAWS-X에서 목적 특화 인코더(BGE, E5, GTE, MiniLM, E5-Mistral-7B)는 영어 confirm AUC가 0.55-0.65에 그친다(dense 최고치 0.70). Llama 3, Mistral, Qwen의 독립적으로 인코딩된 마지막 토큰 상태도 더 나은 성능을 보이지 못하며, 두 벡터의 후기 융합(late fusion)은 우연 수준에 가깝다. 반면 동일한 프로브를 결합된 순전파에 적용하면 1.5B에서 32B까지 0.90-0.96에 도달하고, 짝을 섞으면(partner shuffle) 성능이 붕괴하며, 중간 깊이에서 나타나고, 3B 무렵 0.94 부근에서 포화되며, GPT-2 XL에서는 더 약하게(0.76) 나타난다. 이러한 격차는 Llama 계열을 넘어 다른 인과적 언어 모델, 양방향 인코더(DeBERTa, RoBERTa), 인코더-디코더(Flan-T5, T5, BART)에서도 유지된다. 고정된 독립 인코딩 위의 고정형 또는 선형 리더는 동일성을 끝내 복원하지 못하며, 비선형 쌍(pair) 리더는 전체 49k 쌍의 PAWS 학습 분할에서만 일부를 복원한다(0.68-0.87). 기성 리랭커는 결과가 갈린다. BGE-reranker-large는 0.94에 도달하는 반면, MS-MARCO와 Jina는 0.55-0.64에 머문다. 독립적으로 학습된 모델 계열들이 동일한 관계를 계산하며, 1.5B 결합 리더는 레이블 없는 교사(teacher) 점수로부터 이를 지식 증류할 수 있지만, 교사 자신의 독립 벡터에 대한 어떤 선형 함수로도 이는 불가능하다. 바이 인코더(bi-encoder)를 PAWS에 맞게 파인튜닝할 수는 있으나(0.87-0.93), 전이 성능과 STS-B 성능이 저하된다. 코사인 유사도는 표현의 이웃 관계를 비교할 뿐이며, 동일성은 어느 쪽 문장 벡터의 속성도 아닌, 저렴하게 계산되는 연산자이다.

arXiv:2609.25046v1cs.CL공통 태그 Natural Language Inference, Information Retrieval

Peerify: 동료 심사 주장 검증 벤치마킹

Peerify: Benchmarking Peer-Review Claim Verification

동료 심사는 학술 출판에서 핵심적인 역할을 하지만, 리뷰어 주장이 원고 증거에 의해 뒷받침되는지 검증하는 일은 여전히 대부분 수동적이고 시간이 많이 드는 과정으로 남아 있다. 본 논문은 동료 심사 주장의 원고 기반(grounded) 검증을 위한 파이프라인인 Peerify를 제시한다. 원고와 리뷰 코멘트가 주어지면 Peerify 파이프라인은 리뷰를 원자적 주장으로 분해하고, 관련 원고 증거를 검색(retrieve)하며, 각 주장이 논문에 의해 뒷받침되는지 판별한다. 파이프라인의 개발과 평가(evaluation)를 지원하기 위해, NeurIPS 2024와 ICLR 2024에서 수집한 실제 동료 심사 상호작용에서 파생된 800개 주장으로 구성된 벤치마크를 구축하였으며, 자동 supervision을 감사(audit)하는 데 사용되는 300개 주장의 수동 라벨링 부분집합을 포함한다. Peerify 파이프라인 내에서 최신(state-of-the-art) 언어 모델과 검색(retrieval) 전략을 함께 함의(entailment) 기준선과 함께 평가한다. 결과는 검색 중심 검증과 주장 분해의 중요성을 보여 주며, 모호하고 해석적인 리뷰어 주장이 제기하는 난제를 부각한다. 감사된 주장의 90.3%에서 자동 라벨이 인간 합의와 일치하며 ($\kappa = 0.87$), 기성 함의(entailment) 모델은 macro-F1 0.24 미만에 머문다.

arXiv:2607.11400v1cs.CL공통 태그 Natural Language Inference, Information Retrieval

법률 정보 처리를 위한 크로스 아키텍처 LLM 앙상블, 특징 기반 재순위화 및 검색-증강 프롬프팅

Cross-Architecture LLM Ensembles, Feature-Based Reranking and Retrieval-Augmented Prompting for Legal Information Processing

법률 정보 처리는 검색, 함의(entailment), 판결 예측 문제를 포괄하며, 제한된 감독 하에서 텍스트 매칭, 추론, 강건한 일반화를 요구한다. 우리는 Team DU의 COLIEE 2026 전체 5개 태스크 참여 결과를 보고하며, 법률 판례 검색, 판례 함의, 법령 검색 및 함의, 법률 판결 예측에 오픈 가중치 시스템을 사용하였다. 태스크 3과 4의 경우, 모든 모델은 규정에서 요구하는 2025년 7월 15일 마감 기준일 이전의 것이다. 태스크 4(법령 함의)에서, 세 개 계열의 9개 모델로 구성된 크로스 아키텍처 앙상블이 96.3% 정확도를 달성하여 11개 팀의 33개 제출물 중 1위를 기록하였다. 파일럿 태스크(불법행위 예측 및 근거 추출)에서, 5개의 청구 수준 모델을 결합하고 청구 예측에서 도출된 특징을 사용하여 판결을 정제하는 멀티뷰 시스템이 비공식 제출물로서 73.1% TP 정확도와 68.2% RE F1을 달성하여, TP에서 모든 공식 제출물을 상회하고 RE에서 최고 점수와 동등하였다. 태스크 2(법률 판례 함의)에서, 프롬프트를 단일 선택에서 다중 선택으로만 변경하면 공개된 정답 레이블에 대한 대회 후 평가에서 F1이 0.343에서 0.555로 향상되어 최고 공식 제출물(F1 = 0.490)을 초과하였다. 태스크 3(법령 검색 및 함의)에서, 함의 모델을 Qwen3-235B와 구조화된 법률 추론 프롬프트로 교체하면 대회 후 분석에서 정확도가 79.3%에서 91.5%로 향상되었다. 태스크 1(법률 판례 검색)에서, 어휘적 및 의미적 검색을 구조적, 인용 권위, 시간적 특징(총 34개)과 결합한 학습-투-랭크(learning-to-rank) 시스템이 F1 = 0.314를 달성하였다(22개 팀의 54개 제출물 중 11위). 전반적으로, 법률 정보 처리는 태스크별로 서로 다른 귀납적 편향(inductive bias)으로부터 이점을 얻으며, 크로스 아키텍처 앙상블링, 특징 기반 재순위화, 검색-증강 프롬프팅 각각이 서로 다른 환경에서 가장 효과적임이 입증되었다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.