PyTorchKR Papers

최신 논문

총 4편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.22537v1cs.AI

EvidenT: 증거 그라운딩과 추적 가능성을 통한 신뢰할 수 있는 기업용 어시스턴트 구축

EvidenT: Building Trustworthy Enterprise Assistants through Evidence Groundedness and Traceability

기업용 AI 어시스턴트는 검증 가능하고 출처 증거까지 추적 가능한 응답을 생성해야 한다. 그러나 이질적인 기업 데이터에 대한 검색-증강 생성(RAG)은 인용 표류(citation drift), 근거 없는 내용, 약한 출처 추적 가능성 등의 문제를 겪을 수 있다. 본 논문은 EvidenT(T = Trust + Transparency + Traceability)를 제안한다. 이는 모델 재학습 없이 답변 생성 전에 추출된 증거를 검색된 문서와 대조하여 검증하는 경량 파이프라인이다. EvidenT는 구조화된 구절 추출과 결정론적 어휘 정렬(lexical alignment)을 결합하여 근거 없는 내용을 걸러내고, 인용 표류를 교정하며, 출처 구간(source-span) 추적 가능성을 유지한다. 실제 기업 쿼리 약 500건에서 EvidenT는 프롬프팅 베이스라인 대비 gold-source hit rate를 평균 29% 향상시키고, 검색되지 않은 URL에 대한 인용을 생성하지 않으며, 답변-출처 간 어휘 커버리지가 거의 포화 수준에 달한다.

arXiv:2606.20873v1cs.CL

SciLens: 에이전틱 함의 및 그라운딩을 통한 멀티모달 과학적 주장 검증

SciLens: Multi-modal Scientific Claim Verification with Agentic Entailment and Grounding

과학적 발견은 점점 더 가설을 생성하고 멀티모달 증거를 검토하며 대규모로 주장을 검증하는 자동화 시스템에 의존하고 있다. 그러나 과학적 주장 검증은 비전-언어 모델에게 직접적인 이진 판단을 요구하는 방식으로는 잘 해결되지 않는다. 주장은 종종 수치 결과, 비교, 범위 한정어, 설명적 맥락을 결합하는 반면, 증거는 표와 그림에 서로 다른 그라운딩 구조로 인코딩된다. 본 논문은 멀티모달 과학적 주장 검증을 위한 증거 조건화 원자적 함의 프레임워크인 SciLens를 제시한다. SciLens는 각 주장을 중심 경험적 원자와 배경 원자로 분해하고, 중심 원자를 모달리티별 증거 위트니스에 그라운딩하며, 원자 수준 함의 규칙으로 최종 레이블을 예측한다. 표의 경우 원자는 행, 열, 셀, 산술 관계, 표 범위에 그라운딩되고, 그림의 경우 패널, 축, 범례, 시각적 인코딩, 범주, 추세, 순위, 한정어 검사를 통해 그라운딩된다. 이를 통해 주장은 모든 중심 경험적 원자가 현재 증거에 의해 함의될 때만 지지되는 통합 검증 절차가 만들어진다. SciClaimEval 개발 세트에서 SciLens는 79.2% macro-F1과 63.1% pair accuracy를 달성하여, 구조화된 에이전틱 검증이 증거 민감도와 해석 가능성 모두를 향상시킴을 보여준다.

arXiv:2509.11208v3stat.ML

예측 가능한 압축 실패: 증거 기반 이진 판정을 위한 순서 민감성과 정보 예산 책정

Predictable Compression Failures: Order Sensitivity and Information Budgeting for Evidence-Grounded Binary Adjudication

증거 기반 이진 판정(evidence-grounded binary adjudication, 예: 지지/반박, 예/아니오, 또는 검증기 기반 통과/실패 결정)에 사용되는 트랜스포머는 교환 가능한 증거가 제시되는 순서에 민감할 수 있으며, 이는 순열 전반에 걸친 분산을 유발하고 검증기 상대적 베르누이 술어(verifier-relative Bernoulli predicate) 하에서 신뢰할 수 없는 답변 시도를 초래합니다. 우리는 증거 순서를 교란 변수(nuisance variable)로 취급하고 기대-실현 격차(expectation-realization gap)를 공식화합니다: 다음 토큰 학습(next-token training)은 순서에 대한 기대 조건부 기술 길이를 최소화할 수 있지만, 고정된 순서는 여전히 위치 민감성(position-sensitive)을 유지합니다. 정량화된 마팅게일 위반(Quantified Martingale Violation, QMV) 경계는 인접 순위 위치 민감성(adjacent-rank positional sensitivity)으로 유발되는 분산을 예측하며, 조화 영역(harmonic regime)에서는 $O(\log n)$의 성장을 보입니다. 기대 수준 압축 해제 법칙(Expectation-level Decompression Law, EDFL)은 KL 볼록성/데이터 처리 경계(KL convexity/data-processing bound)를 베르누이 술어(Bernoulli predicates)에 특화하여, 답변/사퇴(answer/abstain) 결정을 위한 신뢰도 비트(Bits-to-Trust, B2T), 환각 위험(Risk-of-Hallucination, RoH), 정보 충분도 비율(Information Sufficiency Ratio, ISR) 게이트를 산출합니다. FEVER, HotpotQA, NQ-Open, PopQA 및 Controls의 3,059개 그라운딩 항목(grounded items)에서, 우리는 로그 분산(logarithmic dispersion)과 균일 순열 혼합(uniform permutation mixtures)으로부터의 양의 젠슨 이득(positive Jensen gains)을 관찰했습니다. 하나의 사전 지정 홀드아웃 감사(pre-specified held-out audit, 528개 항목)에서, 해석적으로 고정된 ISR$=1$ 게이트는 95% 신뢰 구간 하에서 20.6-27.9% 사퇴(abstention)와 함께 0.0-0.7% 환각(hallucination)을 달성하여, 모든 모델 계열(model families) 또는 제한 없는 생성(unrestricted generation)에 대한 보편적 보정(universal calibration)을 주장하지 않으면서 해당 운용 지점(operating point)을 뒷받침합니다.

arXiv:2606.07130v1cs.CL

구조화된 인라인 인용 생성을 통한 명시적 증거 그라운딩

Explicit Evidence Grounding via Structured Inline Citation Generation

AI 시스템이 더 널리 도입됨에 따라 사실적이고 충실한 생성에 대한 수요가 증가하고 있습니다. 따라서 인용을 통해 정보에 적절히 출처를 표시하는 것이 중요해집니다. 본 연구는 FullCite를 소개합니다. 이 프레임워크는 대부분의 이전 연구와 달리, 각 주장을 소스 문서와 뒷받침하는 증거 모두에 연결하는 구조화된 인라인 인용을 생성합니다. FullCite는 인라인 인용 생성을 위한 세 가지 전략을 제안합니다: 프롬프트 기반 생성, 인용 문법에 대한 제약 디코딩, 그리고 사후 스판 정렬입니다. ASQA, BioASQ, ExpertQA라는 세 가지 질의응답 벤치마크를 사용하여, 우리는 문서 수준 정확도, 증거 스판 식별, 주장-인용 충실도라는 세 가지 차원에서 인용 품질과 충실도를 평가합니다. 평가 결과, 대규모 언어 모델(LLM)이 관련 문서를 식별하는 데는 일반적으로 효과적이지만, 문서 내 정확한 뒷받침 스판을 식별하는 데는 어려움을 겪는 것으로 나타났습니다. 이러한 격차는 충실한 속성 QA를 달성하기 위해서는 정확한 증거 스판 식별에 더 큰 비중을 두는 연구가 필요함을 시사합니다.