PyTorchKR Papers

최신 논문

총 1,234편
태그·기간 등 상세 필터

카테고리 탐색

arXiv:2611.19074v1cs.IR

TokenFormer V2: 통합 추천의 해상도와 계산 복잡도 사이의 딜레마 해소

TokenFormer V2: Breaking the Resolution-Complexity Dilemma in Unified Recommendation

산업용 추천에는 해상도와 복잡도 사이의 딜레마가 있다. 행동 간 상호작용을 조밀하게 다루면 긴 행동 이력을 세밀하게 모델링하는 비용이 커진다. 이력을 압축한 요약을 사용하면 예측에 활용할 수 있는 근거가 줄어든다. 통합 백본은 엄격한 서비스 연산 예산 내에서 행동의 세부 정보를 보존해야 한다. 표현 해상도와 상호작용 밀도를 명시적으로 분리하는 통합 아키텍처 TokenFormer V2를 소개한다. 이 모델은 그룹별 토큰 배치를 통해 행동 구간과 비시퀀스 문맥을 함께 인코딩한다. 계층적으로 그룹을 병합해 상호작용 범위를 넓히고, NS Fusion과 Global Sync 모듈로 분산된 그룹을 조율한다. 이 국소·전역 분해 방식은 세부 근거를 보존하면서 구조화된 상호작용에 연산을 집중한다. 따라서 Full-Resolution Readout 모듈은 인코딩된 모든 이벤트에 직접 접근할 수 있다. Tencent Advertising Algorithm Competition 2026(TAAC 2026) 벤치마크에서 TokenFormer V2는 통합 추천 기준선 가운데 최상위 정확도를 기록했다. 주요 기준선보다 FLOP을 5.1$\times$ 적게 사용했으며, 긴 이력과 행동 영역 간 불균형이 있는 조건에서도 우위를 유지했다. WeChat Channels 광고에서 수십억 매개변수 규모로 평가한 결과, 최신 산업용 기준선을 일관되게 앞섰고 전체 AUC가 최대 0.07%포인트 높아졌다. 운영 모델과 비교한 실시간 온라인 A/B 테스트에서는 총거래액(GMV)이 통계적으로 유의하게 2.33% 증가했다. 이 결과는 TokenFormer V2가 산업용 추천에서 행동 이력을 원래 해상도로 모델링하는 확장 가능한 설계로 실환경에서 검증됐음을 보여 준다.

arXiv:2611.18878v1cs.IR

무작위 바꿔쓰기를 통한 LLM 기반 추천 시스템의 구조적 편향 무라벨 탐지: 장황함 사례

Label-Free Detection of Structural Bias in LLM-Based Recommender Systems via Randomized Paraphrasing: The Case of Verbosity

대규모 언어 모델(LLM)은 전자상거래와 대화형 쇼핑 시스템에서 추천기로 점점 더 많이 배포되고 있으며, 자연어로 기술된 검색된 후보 집합에서 상품을 선택한다. 이들의 결정은 사용자 질의와의 관련성에 의존해야 하지만, 설명의 길이와 같은 표면적 속성의 영향도 받을 수 있다. 관련성 라벨이 거의 없기 때문에 이러한 구조적 편향을 탐지하기는 어렵다. 본 논문은 LLM 기반 추천 시스템의 구조적 편향을 감사하기 위한 무라벨 프레임워크를 제안한다. 후보 설명은 무작위로 할당된 바꿔쓰기 모델에 의해 다시 작성되고 무작위 순서로 제시된다. 추천기의 선택이 이러한 다시 쓰기에 불변이면 모든 바꿔쓰기 모델이 동일한 확률로 선택됨을 증명하며, 이로써 관련성 라벨이 필요 없는 통계 검정이 도출된다. 네 단계의 통계 파이프라인은 이 성질을 검정하고, 질의-상품 관련성을 통제하면서 각 설명 특징의 기여를 정량화한다. 이 프레임워크를 2만 건의 상품 질의와 다섯 모델 계열의 아홉 개 추천용 LLM에서의 장황함 편향에 적용한다. 측정된 관련성 신호를 통제한 후에도 설명 길이는 아홉 개 모델 모두에서 선택에 양의 효과를 미치며, 길이의 표준편차당 선택 오즈를 최대 38%까지 높인다. 관련성은 여전히 추천의 주된 요인이며, 장황함은 강도가 모델 계열에 따라 달라지는 일관된 보조 신호로 작용한다. 이 프레임워크는 블랙박스 접근만 필요하고 주석이 필요 없으므로 배포된 쇼핑 어시스턴트에 대한 정기 감사로 실행할 수 있으며, 비용과 표본 크기에 대한 지침이 포함된 감사 프로토콜을 제공한다.

arXiv:2611.18634v1q-bio.QM

Brain AI Scientist: 정밀 정신의학을 위한 중개 신경영상의 근거 기반 다중 에이전트 시스템

Brain AI Scientist: An Evidence-Based Multi-Agent System for Translational Neuroimaging in Precision Psychiatry

안정 상태 기능적 자기공명영상(rs-fMRI)은 정신 질환에서 광범위한 뇌 네트워크 변화를 밝혀 왔지만, 이러한 발견을 개별 맞춤형 임상 의사결정 지원으로 옮기는 일은 여전히 어렵다. 본 논문은 환자별 fMRI, 임상 정보, 과학적 근거를 검색, 검증, 우선순위화를 통해 통합하는 자율 다중 에이전트 프레임워크 Brain AI Scientist를 소개한다. 연구 영역 기준(Research Domain Criteria)과 근거 중심 의학을 지침으로 삼아, 표현형, 해부학적 이상, 바이오마커, 기전, 중재, 검증 전략을 잇는 추적 가능한 연쇄를 구축한다. 대표적인 자폐 사례에서 Brain AI Scientist는 37개의 해부학적 가설을 생성하고 문헌 검증 후 26개를 유지했으며, 90편의 고유한 문헌으로부터 근거가 뒷받침되는 65개의 바이오마커를 도출하여 환자별 치료 및 검증 지침을 생성했다. 17개의 자폐 스펙트럼 장애 사례 전반에서, 근거 기반성, 개인화, 임상적 실행 가능성, 바이오마커-치료 추론 측면에서 fMRI 소견 포함 여부와 관계없이 GPT-3.5 기준 모델을 능가했다. 따라서 Brain AI Scientist는 환자별 신경영상을 정밀 정신의학을 위한 개별 맞춤형 임상 의사결정 지원으로 옮기는 감사 가능한 프레임워크를 제공한다.

arXiv:2611.18617v1cs.CL

탐색자로서의 내재적 어텐션: 멀티홉 질의를 위한 비생성적 검색 방법

Intrinsic Attention as Navigator: A Non-Generative Retrieval Method for Multi-Hop Queries

검색 증강 생성(RAG)에서 멀티홉 질의를 처리하려면 증거 조각을 정확하게 확보하는 것이 중요하다. 본 연구에서는 멀티홉 질의 검색을 위한 학습이 필요 없는 방법인 내재적 탐색 기반 비생성적 검색(Intrinsic Navigating-based Non-Generative Retrieval, IN-Retriever)을 제안한다. 이 방법은 중간 추론 텍스트를 생성하는 대신, 현재 문맥과 검색된 후보 문서를 바탕으로 임베딩 모델의 내부 어텐션에서 연결 단서를 추출한다. IN-Retriever는 단서 추출과 문서 검색을 반복하는 과정에서, 이미 드러난 단서를 임베딩된 질의 벡터에서 제거한 뒤 후보 문서를 목표 지향적으로 재순위화하여, 검색이 숨겨진 다음 홉의 증거를 향하도록 유도한다. 실험을 통해 내재적 어텐션 신호를 활용하여 외부 멀티홉 검색을 안내하는 방식이 실현 가능하고 효과적임을 확인한다. 실험 결과, 본 방법은 멀티홉 질의를 뒷받침하는 충분한 문서를 정확하게 수집하며 희소 검색 및 밀집 검색 방법을 크게 능가한다.

arXiv:2611.18588v1cs.CL

대규모 언어 모델을 활용한 문헌 선별 및 지식 종합의 자동화

Automating literature screening and knowledge synthesis with large language models

과학 문헌은 빠르게 증가하고 있으나, 크고 이질적인 문헌 코퍼스를 탐색하는 데 막대한 작업량이 필요하기 때문에 그 지식의 상당 부분은 체계화하고 재사용하기 어렵다. 본 연구에서는 문헌 선별, 구조화된 정보 추출, 지식 종합을 하나의 통합된 워크플로에서 자동화하는, 일반화 가능한 대규모 언어 모델(LLM) 기반 프레임워크를 개발한다. 범위, 코퍼스 규모, 클래스 불균형이 서로 다른 세 가지 재료과학 선별 과제에서 최신 상용 및 오픈 가중치 LLM 11개를 벤치마크하였다. 일곱 개의 LLM이 모든 과제에서 0.90을 넘는 균형 정확도를 달성했고 최고 성능 LLM은 0.96–0.98에 도달하여, LLM이 크고 매우 불균형한 과학 코퍼스를 정확하게 선별할 잠재력을 보였다. 이 프레임워크는 수작업 선별에 약 83 인시(person-hour)가 소요되는 것과 비교해 10,000건의 기록을 4분 이내에 선별함으로써 수작업 부담도 크게 줄인다. 문헌 선별을 넘어, 이 프레임워크는 전문 논문에서 구조화된 정보를 추출하여 출판 메타데이터에 기반한 전통적 계량서지 분석을 확장하는 연구 지형의 내용 수준 정량화를 가능하게 한다. 이러한 능력은 콘크리트 재료과학의 기계학습 사례에서 보듯이 방법론적 추세와 충분히 탐구되지 않은 방향을 드러낸다. 또한 기존 검색 전략으로는 찾기 어려운 규ㅅ산염 유리 밀도 데이터를 포함한 논문을 식별함으로써 정보 및 데이터 발견에서의 유용성을 보이며, 이는 후속 가설 개발, 연구 설계, 데이터 기반 과학적 발견을 뒷받침할 수 있다. 종합하면 이러한 결과는 LLM 기반 문헌 분석이 여러 과학 분야에 폭넓게 적용 가능하며, 크고 구조화되지 않은 문헌 코퍼스를 대규모로 구조화되고 분석 가능한 지식으로 전환할 잠재력이 있음을 보여 준다.

arXiv:2611.15328v2cs.CV

확장 가능한 다국어 텍스트 기반 인물 검색을 위한 시각 기반 의미 학습 및 정렬

Vision-Grounded Semantic Learning and Alignment for Scalable Multilingual Text-Based Person Retrieval

다국어 텍스트 기반 인물 검색(TBPR)은 여러 언어의 텍스트로 개인을 검색하는 것을 목표로 한다. 실용적 중요성에도 불구하고, 주로 영어 전용 검색에 초점을 맞춘 기존 연구에서는 간과되어 왔다. 다국어 TBPR에 대한 유일한 선행 시도는 (1) 대규모 다국어 사전 학습 데이터셋의 부재와 (2) 다국어 텍스트 인코딩 및 교차 모달 정렬을 위한 차선의 모델 아키텍처라는 문제를 안고 있다. 이 아키텍처는 언어적 이질성을 간과하는 공유 인코더를 사용하고 교차 모달 정렬에서 영어를 피벗으로 의존하여 영어 중심 편향을 초래한다. 이에 우리는 최초의 대규모 보행자 중심 다국어 사전 학습 데이터셋인 MultiPedes를 제공한다. 이 데이터셋은 다국어 품질 인식 데이터 구축 파이프라인으로 구축된 네 개 언어에 걸친 1,000만 개의 이미지-텍스트 쌍을 포함한다. 또한 우리는 새로운 프레임워크인 ViSeLA(Vision-grounded Semantic Learning and Alignment)를 제안한다. 이는 (1) 언어 불변 의미를 전문화된 전문가에게 라우팅하여 다국어 특징 학습을 개선하도록 전문가 혼합 아키텍처를 확장한 의미 인식 다국어 학습 모듈과, (2) 의미 프로브를 사용해 모달리티 간의 세밀한 의미를 포착함으로써 피벗 언어에 의존하지 않고 직접 교차 모달 정렬을 가능하게 하는 시각 기반 교차 모달 정렬 모듈을 특징으로 한다. 다국어 및 영어 전용 TBPR 데이터셋 모두에 대한 폭넓은 실험이 ViSeLA의 효과를 입증한다. 데이터셋과 코드는 https://github.com/Flame-Chasers/ViSeLA 에서 이용할 수 있다.

arXiv:2611.06044v2cs.IR

검색 증강 추천기는 가장 최근의 검색 에피소드를 사용하는가?

Do Search-Augmented Recommenders Use the Latest Search Episode?

사용자가 검색 후 추천 피드로 돌아올 때, 가장 최근의 검색 에피소드는 다음 아이템의 순위를 매기는 데 도움이 되는가? 집계된 순위 향상만으로는 검색 증강 추천기가 예측 시점에 가장 최근의 검색을 사용하는지, 아니면 더 넓은 검색 상태와 표현 학습으로부터 이득을 얻는지 알 수 없다. FocalSwap은 목표, 후보, 추천 이력, 학습된 스코어러를 고정한 채 가장 최근 에피소드 또는 전체 검색 이력을 마스킹하거나 교체하는 반사실적 감사이다. 심어진 신호 테스트와 GenSAR의 고유 검색-아이템 예측 과제는 FocalSwap이 알려진 검색 의존성을 탐지함을 검증한다. 대리 분석에서 KuaiSAR의 라우팅 이득은 셔플 임계값 아래로 떨어지고, Qilin의 가장 뚜렷한 매칭 검색 이점은 높은 분류체계 중첩에서 나타난다. SESRec과 UniSAR의 주요 비교는 가장 최근 검색 에피소드만으로 순위 향상이 긍정적임을 입증하지 못한다. 전체 검색 이력의 경우 추정된 기여도는 통제 방식에 따라 달라진다. UniSAR 체크포인트 세 개에 걸친 공유 인스턴스 66,139개에서 중립 마스킹은 평균 역순위(RR)를 일관되게 낮춘다. 이력을 범주와 활동 프로필이 일치하는 관측된 검색으로 교체하면 목표 순위의 44.1~44.8퍼센트가 바뀌지만, 원래 이력의 평균적 이점은 거의 없다. 주요 할당에서 일치 교체는 체크포인트에 따라 중립 마스킹보다 평균 RR이 0.002770에서 0.006604만큼 더 높다. 이 차이에 대한 조정된 구간은 주요 할당과 체크포인트당 다섯 개의 대안 할당 모두에서 0 위에 있다. 검색 감사는 어떤 입력이 바뀌었고 무엇으로 대체되었는지를 명시하고, 순위가 얼마나 자주 움직이는지와 원래 검색이 얼마나 도움이 되는지를 모두 보고해야 한다.

arXiv:2610.19608v2cs.IR

LLM 답변 속 브랜드 언급 예측: 수 시간에서 수 주에 걸친 동결 예측 평가

Forecasting Brand Mentions in LLM Answers: Frozen Predictions Evaluated from Hours to Weeks

기업과 에이전시는 이제 구매자가 추천을 요청할 때 대규모 언어 모델(LLM)이 어떤 브랜드를 언급하는지 모니터링한다. 답변은 실행마다 달라지므로 한 번의 확인은 오해를 낳을 수 있고, 반복 확인에는 비용이 든다. 본 연구는 이전의 20일 재현 연구를 확장하여, 과거의 브랜드 언급이 7주에 걸쳐 이후의 언급을 얼마나 잘 예측하는지 살펴본다. 동일한 54개의 구매자 질문에 대한 Gemini 3.1 Pro 답변의 전향적 수집 4개 웨이브 각각에 앞서 확률적 예측을 동결하였다. 질문은 영어, 에스토니아어, 핀란드어로 구성된 9개 질문군을 각각 두 시장에 대해 구성한 것이며, 질문마다 추적 대상 12개 브랜드 중 4개를 포함한다. 웨이브는 가장 이른 예측에 사용된 이력으로부터 1.5시간에서 52일 사이에 수집되었고, 각 웨이브는 162개 답변에서 얻은 648개의 브랜드 및 답변 라벨로 채점되었다. 평활화된 질문별 이력은 1.5시간 시점에서 Brier 점수 0.0599를 기록하였으며, 브랜드별 비율은 0.1131, 상수 0.5는 0.25였다. 첫 시험 이전에 도전자로 지정된 0.05–0.95로 클리핑된 통합 비율은 8시간 후 0.0259, 30일 후 0.0269, 52일 후 0.0328을 기록하였다. 이전 답변 전체 또는 전무에서 언급된 브랜드-질문 셀 중 94.5%~97.5%는 이후 각 웨이브에서도 그 패턴을 유지하였으며, 항상 언급에서 전혀 언급하지 않음으로, 또는 그 반대로 바뀐 경우는 없었다. 검색 지시를 주었을 때 162개 답변 중 100개에서 검색 활동이 나타난 반면, 이전의 Pro 답변은 540개 중 1개였다. 이 경우에도 언급은 예측 가능하였으며(Brier 0.0563), Pro의 이력은 더 작은 모델의 답변을 덜 잘 예측하였다(0.0787). 사람의 코딩은 샘플링된 300개 자동 라벨 중 298개와 일치하였고, 두 코더는 공유 항목 100개 중 99개에서 일치하였다(kappa = 0.98). 결과는 하나의 제공자 계열, 고정된 후보 집합, 어휘적 언급에 한정된다. 이 결과는 질문별 이력이 LLM 브랜드 언급에 대한 모든 예측 또는 모니터링 방법이 능가해야 할 기준선임을 뒷받침한다.

arXiv:2610.05107v3cs.IR

SearchJev: 검색 에이전트를 위한 보정된 System-1 모델

SearchJev: A Calibrated System-1 Model for Search Agents

검색 에이전트는 관련성, 증거 충분성, 검색 행동에 관한 짧은 결정을 반복적으로 내린다. 이러한 결정에 생성형 언어 모델을 사용하면 지연 시간이 늘고 신뢰도가 불안정해진다. 본 논문은 검색 결정을 System-2의 추론 및 생성과 분리하는 보정된 System-1 모델 SearchJev를 제시한다. 검색 상태와 결정 스키마가 주어지면 SearchJev는 자기회귀적 출력 생성 없이 유효한 선택지에 점수를 매긴다. 불확실한 지도 신호로부터 결정 확률을 학습하고 결정 신뢰도의 신뢰성을 높이기 위해 보정된 결정을 위한 소프트 라벨 학습(SLCD)을 제안한다. 이중 시스템 검색 에이전트에서 SearchJev는 짧은 결정을 처리하고 불확실한 판단은 계획, 질의 생성, 답변 작성을 담당하는 System 2에 위임한다. 또한 학습과 평가를 위해 여섯 가지 유형의 검색 결정을 통합한 벤치마크 SearchDecision-Bench를 도입한다. SearchDecision-Bench에서 SearchJev는 동일 크기의 Qwen3.5 자기회귀 모델보다 결정 품질을 향상시키고, 결정 속도가 5.2~5.3배 빠르며, 평균 기대 보정 오차를 41~74% 줄인다. BrowseComp-Plus에서 이중 시스템 에이전트는 능동 검색 시간에서 3.7~4.7배의 속도 향상을 달성하면서 답변 정확도를 45%에서 최대 54%까지 높인다.

arXiv:2609.04504v2cs.AI

BioSync: 멀티모달 웨어러블 디지털 바이오마커를 위한 트랜스포머 융합

BioSync: Transformer Fusion for a Multimodal Wearable Digital Biomarker

멀티모달 웨어러블 디지털 바이오마커는 이질적인 생리 신호, 누락되거나 손상된 센서 스트림, 그리고 엄격한 온디바이스 메모리 예산을 처리해야 한다. 우리는 연속적인 웨어러블 배포를 위해 설계된 소형 트랜스포머 기반 교차 모달 융합 아키텍처 BioSync(매개변수 1,119개, FP32에서 4.6 kB, INT8 가중치 양자화 시 1.3 kB)를 제시한다. 11개의 합성 생리 체제와 다섯 개의 실제 데이터셋(RESILIENT, AI-READI, WESAD, 스트레스 회복탄력성 HCI 데이터셋, PADS; N = 15~469)에 걸쳐, 품질 게이트 변형, 용량 라우팅 혼합 모델, 고전적 및 신경망 베이스라인과 함께 BioSync를 평가한다. BioSync는 체제 전반에서 가장 작은 최악 사례 후회값(베이스라인은 0.048~0.107인 데 비해 0.034)을 달성하면서 실제 웨어러블 벤치마크에서도 경쟁력을 유지한다. 또한 품질 게이팅, 테스트 시점 토큰 마스킹, 용량 라우팅 가중치에 대해 실제 데이터에서 엇갈린 결과를 보고하여, 소형 트랜스포머 융합이 도움이 되는 경우와 단순한 베이스라인이 여전히 강한 경우에 대한 실증적 특성을 제공한다.

arXiv:2609.02486v3cs.IR

ViSAR: 문서 시각 질의응답을 위한 학습이 필요 없는 적응형 $k$ 검색

ViSAR: Training-Free Adaptive-$k$ Retrieval for Document Visual Question Answering

문서 시각 질의응답(DocVQA)은 검색 증강 생성(RAG)을 활용하는 경우가 많으며, 여기서는 대규모 시각-언어 모델(LVLM)이 답변을 생성하기 전에 사용자 질의와 관련된 문서 페이지를 식별하는 데 후기 상호작용 인코더가 흔히 사용된다. 기존 접근법은 일반적으로 질의의 복잡도와 무관하게 고정된 top-$k$ 개수의 페이지를 검색하는데, 이는 LVLM의 지연 시간을 늘리고 더 적은 페이지로 충분한 경우 답변 정확도를 떨어뜨릴 수 있다. 우리는 후기 상호작용 시각 문서 검색을 위한, 학습이 필요 없고 예산을 인지하는 적응형 $k$ 검색 방법인 ViSAR(Visual Semantic Activation Retrieval)를 제안한다. ViSAR는 임베딩 공간에서 직접 동작하여 질의와 관련된 의미를 강조하는 질의 조건부 페이지 수준 유사도 행렬을 구성하고, 주어진 페이지 예산 내에서 검색할 페이지 수를 동적으로 결정한다. 우리는 여러 데이터셋, 인코더, LVLM에 걸쳐 본 방법을 평가한다. ViSAR는 간결하고 질의에 적응된 페이지 집합을 검색하여, 고정 top-$k$ 및 적응형 검색 휴리스틱과 비교해 통계적으로 유의한 정확도 손실 없이, 그리고 여러 설정에서는 유의한 향상과 함께, 종단 간 RAG 지연 시간을 최대 58.9\%까지 줄인다. 더 나아가 유사도 행렬의 구조가 답변 정확도와 상관관계가 있음을 보이며, 이는 검색 품질을 인지하는 문서 이해라는 향후 방향을 시사한다.

arXiv:2608.30468v2cs.CL

Hi-Q: 멀티홉 질의응답을 위한 계층적 증거 기반 쿼리 정제

Hi-Q: Hierarchical Evidence-guided Query Refinement for Multi-Hop Question Answering

멀티홉 질의응답(Question Answering, QA)의 핵심적인 병목점은 질문이 표현되는 세분성(granularity)과 말뭉치(corpus) 증거를 검색할 수 있는 세분성이 서로 다른 경우가 많다는 점이다. 기존 방법들은 말뭉치에 고정된 그래프 구조를 부여하거나, 쿼리를 반복적으로 재구성하거나, 쿼리에 대해 생성된 프로그램을 실행함으로써 이러한 불일치를 해결하려 하지만, 이러한 전략들은 쿼리 단위가 이미 증거에 의해 뒷받침되는 시점과 정제되어야 하는 시점을 명시적으로 결정하지 못한다. 본 연구에서는 이 병목점을 검색 가능한 세분성 발견(retrievable granularity discovery) 문제로 정의하고, 계층적 쿼리 정제를 위한 증거 조건부 프레임워크인 Hi-Q를 소개한다. 각 쿼리 노드(node)에서 해결 연산자(resolution operator)는 검색된 증거가 현재 쿼리 단위를 뒷받침하는지 테스트하며, 해결된 노드는 종료되는 반면 미해결 노드는 의존성을 보존하는 이항 연산자에 의해 확장되고 의미론적 커버리지 검증기(semantic coverage verifier)를 통해 검증된다. 따라서 Hi-Q는 고정된 분해 템플릿이나 사전에 구축된 그래프 대신 말뭉치의 뒷받침 신호에 의해 위상이 결정되는 쿼리 트리를 성장시킨다. 저자들은 세 가지 멀티홉 QA 벤치마크에서, 주로 소규모의 주석 풀 내부가 아닌 오픈 도메인 방해 요소들 사이에서 의존적 증거를 찾아야 하는 전체 말뭉치 검색(full-corpus retrieval) 환경을 바탕으로 Hi-Q를 평가한다. 이 설정에서 Hi-Q는 말뭉치 전반의 그래프 구축 없이 세 벤치마크 평균 52.3 EM 및 64.0 F1을 달성하여, 동일한 평균에서 반복 검색 기준선(baseline)인 IRCoT를 15.1 EM / 18.2 F1 차이로 앞서고 MuSiQue-full에서는 그래프 기반 검색-증강 생성(RAG) 기준선인 PropRAG를 11.5 EM / 12.0 F1 차이로 앞선다. 이전 연구에서 사용된 제한된 지지/방해 요소 설정에서도 Hi-Q는 평균 57.9 EM 및 69.3 F1으로 최고 정확도를 달성하며, PropRAG를 5.6 EM / 3.9 F1, IRCoT를 13.7 EM / 15.8 F1 차이로 앞선다. 프로젝트 페이지는 https://hi-q-project.github.io/ 에서 확인할 수 있다.

arXiv:2606.25787v2cs.IR

브랜드에 관한 LLM 답변에 인용된 웹 출처: 다국어 감사

Cited Web Sources in LLM Answers about Brands: A Multilingual Audit

표시되는 인용은 생성형 검색의 일부를 관찰 가능하게 하지만, 그 전체 검색 과정을 드러내지는 않는다. 본 감사는 128개 브랜드, 13개 언어, 12개 본거지 시장에 걸쳐 URL이 포함된 인용 항목 167,551건을 담은 세 개의 아카이브 데이터셋을 대상으로 한다. 주요 구성 요소인 북유럽-발트 지역에서는 21,033개의 등록 가능 도메인 중 3,863개가 131,514건의 인용 중 80%를 차지한다. 12개 질의 언어 중 11개에서 Wikipedia가 선두이다. 복원된 별도의 브랜드 연관 웹사이트 분류는 131,512개 항목을 유지하며, 이 중 108,410건(82.4%)은 브랜드 연관 범주 밖에, 23,102건(17.6%)은 범주 안에 속한다. 이 분류는 법적 소유권을 확립하지 않는다. 57개 브랜드 전체의 폴란드어 집계에서는 채용 관련 호스트 네 곳이 637건의 인용을 받은 반면 폴란드어 Wikipedia는 297건을 받는다. 이러한 결과는 정규화, 분류 규칙, 분모가 인용 감사에 포함되어야 하는 이유를 보여 준다. 이 결과는 표시된 링크를 기술할 뿐이며 브랜드 평판에 대한 인과적 효과를 추정하지는 않는다.

arXiv:2605.12335v3cs.IR

EHR-RAGp: 임상 예측 모델을 위한 종단적 전자 건강 기록의 프로토타입 유도 검색

EHR-RAGp: Prototype-Guided Retrieval of Longitudinal Electronic Health Records for Clinical Prediction Models

전자 건강 기록(EHR)은 풍부한 종단적 환자 정보를 담고 있으며 예측 모델링 응용에 널리 사용된다. 그러나 긴 궤적, 이질적인 사건, 시간적 불규칙성, 과거 임상 맥락의 가변적인 관련성 때문에 과거 데이터를 효과적으로 활용하기는 여전히 어렵다. 기존 접근법은 고정된 윈도우나 균일한 집계에 의존하는 경우가 많아 임상적으로 중요한 신호를 가릴 수 있다. 본 연구는 다양한 임상 사건 유형으로 구성된 가장 관련성 높은 환자 이력을 동적으로 통합하는 검색 기반 프레임워크 EHR-RAGp를 제안한다. 정렬 메커니즘으로 작동하며 주어진 예측 과제에 대해 검색된 과거 청크의 관련성을 추정하여 모델이 가장 유익한 맥락으로 향하도록 유도하는 프로토타입 유도 검색 모듈을 제안한다. 여러 임상 예측 과제와 두 개의 벤치마크 데이터셋에서 EHR-RAGp는 최신 EHR 기반 및 트랜스포머 기반 기준 모델을 일관되게 능가한다. 더욱이 EHR-RAGp는 모델 비종속적이어서 다양한 백본 모델과 통합할 때 상당한 성능 향상을 가져온다. 종합하면, EHR-RAGp는 검색을 통해 하위 작업 성능을 개선하기 위해 장거리 임상 맥락을 모델링하는 새로운 방향을 제시한다.

arXiv:2605.00087v3cs.NI

DeGenTWeb: MGT 우세 웹사이트에 대한 첫 고찰

DeGenTWeb: A First Look at MGT-dominant Websites

많은 뉴스 보도가 대규모 언어 모델(LLM)이 생성한 기계 생성 텍스트(MGT)가 웹을 장악하고 있다고 주장해 왔다. 그러나 이러한 주장은 대개 웹의 대표 표본에 기반하지 않으며, 그 근거가 되는 방법론도 불투명한 경우가 많다. 그 결과 웹에서 MGT가 실제로 얼마나 널리 퍼져 있고 어떤 특성을 갖는지에 대한 이해가 부족하다. 본 논문은 정보성 산문 콘텐츠가 대부분 MGT이고 사람의 개입이 거의 없는 사이트, 즉 MGT 우세 웹사이트를 체계적으로 식별하는 DeGenTWeb을 소개한다. 우리는 MGT 탐지기를 웹 페이지에 적용하도록 조정하는 방법과, 정확한 사이트 수준 분류를 위해 한 사이트의 여러 페이지에서 얻은 탐지 결과를 집계하는 방법을 제시한다. DeGenTWeb은 사람이 작성한 사이트 중 0.12%만을 MGT 우세로 잘못 분류한다. 분석 결과, 2026년 1월부터 7월까지 Common Crawl이 아카이빙한 사이트의 20.9%와 2025년 Bing 검색 결과에 링크된 사이트의 13.6%가 MGT 우세로 나타났다. 이 수치는 MGT 우세 사이트 비율의 하한이다. 또한 MGT 우세 사이트의 비율이 시간이 지남에 따라 증가하고 있으며, 이러한 사이트 중 다수가 동일한 소유자를 공유함을 확인했다. 논문 게재 후 모든 코드와 데이터를 공개할 예정이다.

arXiv:2603.27910v3cs.AI

GAAMA: 에이전트를 위한 그래프 증강 연상 메모리

GAAMA: Graph Augmented Associative Memory for Agents

여러 세션에 걸쳐 사용자와 대화하는 AI 에이전트는 일관성과 개인화를 유지하기 위해 장기 메모리가 필요하다. 기존 접근법은 기억 간의 연결을 무시하는 단순 검색 증강 생성(RAG)을 사용하거나, 개체 중심 지식 그래프를 사용한다. 개체 중심 그래프는 각 메시지를 별개의 트리플로 분할하여 맥락을 잃게 하며, 대화에서는 화자가 거의 모든 메시지와 연결된 허브가 되므로 이를 통한 전파는 검색에 거의 정보를 주지 못한다. 본 논문은 대화를 주제 중심으로 조직하는 그래프 증강 연상 메모리 GAAMA를 제안한다. GAAMA는 원문 에피소드를 그대로 보존하고, LLM을 사용해 이를 원자적 사실과 주제 개념으로 정제한 뒤, 상위 수준의 성찰을 합성한다. 이 네 가지 노드 유형은 다섯 종류의 구조적 엣지로 연결되며, 주제 개념이 교차 경로를 제공하므로 거대 허브가 형성되지 않는다. 검색은 최근접 이웃 유사도 검색과, 전이가 엣지 유형에 따라 달라지는 Personalized PageRank를 결합한다. 또한 오프라인 복구 단계인 GRAFT(Graph Repair by Augmenting Facts & Topology)를 도입한다. 검색된 근거가 부족했던 질문에 대해 제한된 ReAct 에이전트가 메모리를 다시 검색하고 근거에 기반한 답을 새로운 사실로 기록하여, 이후 질문이 추가적인 질의 시점 비용 없이 이를 직접 찾을 수 있게 한다. LoCoMo10에서 GAAMA는 비교한 모든 방법 중 가장 높은 평균 점수(79.1%)를 달성하였으며 모든 질문 범주에서 경쟁력을 보이고, GRAFT는 소폭의 추가 향상을 가져온다. 통제된 비교에서 GAAMA의 개념 연결 사실을 개체-관계 트리플로 대체하면 보상이 3.0 pp 낮아진다. MemoryArena에서도 GAAMA는 세 데이터셋에 걸쳐 가장 좋은 평균 성능을 보인다.

arXiv:2602.12612v3cs.IR

Self-EvolveRec: LLM 기반 방향성 피드백을 활용한 자기 진화형 추천 시스템

Self-EvolveRec: Self-Evolving Recommender Systems with LLM-based Directional Feedback

신경망 구조 탐색(NAS)과 같은 추천 시스템 설계 자동화의 전통적 방법은 인간의 사전 지식으로 정의된 고정된 탐색 공간에 제약받는 경우가 많아, 혁신이 사전에 정의된 연산자에 한정된다. 최근 LLM 기반 코드 진화 프레임워크는 고정된 탐색 공간을 개방형 프로그램 공간으로 전환하지만, 주로 NDCG, Hit Ratio와 같은 스칼라 지표에 의존하므로 모델 실패에 대한 정성적 통찰이나 개선을 위한 방향성 지침을 제공하지 못한다. 이를 해결하기 위해 본 논문은 정성적 비평을 위한 사용자 시뮬레이터와 정량적 내부 검증을 위한 모델 진단 도구를 통합하여 방향성 피드백 루프를 구축하는 새로운 프레임워크인 Self-EvolveRec을 제안한다. 또한 추천 아키텍처가 진화함에 따라 평가 기준도 동적으로 적응하도록 하는 진단 도구-모델 공진화 전략을 도입한다. 광범위한 실험을 통해 Self-EvolveRec이 추천 성능과 사용자 만족도 모두에서 최신 NAS 및 LLM 기반 코드 진화 기준 모델을 크게 능가함을 보인다. 코드는 https://github.com/Sein-Kim/self_evolverec 에서 확인할 수 있다.

arXiv:2602.02343v4cs.CL

스티어링이 작동하는 이유: 언어 모델 파라미터 동역학의 통합적 관점을 향하여

Why Steering Works: Toward a Unified View of Language Model Parameter Dynamics

국소 가중치 미세 조정, LoRA 기반 적응, 활성화 기반 개입을 포함하여 대규모 언어 모델(LLM)을 제어하는 방법들은 흔히 개별적으로 연구되어 서로의 연관성이 가려지고 비교가 어렵다. 본 연구에서는 이러한 개입을 제어 신호에 의해 유도되는 동적 가중치 갱신으로 규정하여 하나의 개념적 틀 안에 놓는 통합적 관점을 제시한다. 이 관점에 기반하여, 우리는 제어 효과를 선호(preference)와 유용성(utility)으로 분리하는 통합 선호-유용성 분석을 제안한다. 여기서 선호는 목표 개념을 향한 경향으로, 유용성은 일관되고 과제에 타당한 생성으로 정의되며, 극성이 짝지어진 대조 예시를 사용해 두 가지를 공통의 로그 오즈 척도에서 측정한다. 여러 방법에 걸쳐 선호와 유용성 사이에 일관된 상충 관계가 관찰되며, 제어를 강하게 할수록 선호는 증가하는 반면 유용성은 예측 가능하게 감소한다. 우리는 이러한 거동을 활성화 매니폴드 관점으로 추가 설명한다. 즉 제어는 표현을 목표 개념 방향으로 이동시켜 선호를 높이고, 유용성은 주로 개입이 표현을 모델의 유효 생성 매니폴드 밖으로 밀어낼 때 감소한다. 마지막으로, 이 분석에 기반하여 선호를 높이면서 유용성을 더 잘 보존하는 새로운 스티어링 방식 SPLIT을 제안한다. 코드는 https://github.com/zjunlp/EasyEdit/blob/main/examples/SPLIT.md 에서 확인할 수 있다.

arXiv:2601.00821v5cs.AI

구조보다 충실도: 장기 대화 LLM 메모리에서 원문 청크가 손실성 아티팩트 추출을 능가한다

Fidelity Before Structure: Verbatim Chunks Beat Lossy Artifact Extraction in Long-Conversation LLM Memory

점점 늘어나는 대화형 메모리 시스템은 대화 이력을 구조화된 산출물(추출된 사실, 결정 또는 사건)로 압축한다. 그 전제는 정제된 구조가 원문 텍스트보다 더 잘 검색된다는 것이다. 본 연구는 통제된 절제 실험으로 이 전제를 검증한다. 하나의 고정된 검색-재순위화-추론 파이프라인 안에서 저장되는 표현(LLM이 추출한 유형별 산출물 대 원문 그대로의 대화 청크)만 바꾸고, 모델, 검색기, 재순위화기, 판정기는 동일하게 유지하였다. 원문 청크는 LoCoMo에서 15.9포인트(43.9% 대 28.0%), LongMemEval-S에서 22.0포인트(67.4% 대 45.4%) 앞섰다. 의미 그래프도 이 격차를 만회하지 못했으며, 여섯 가지 교란 요인 통제 실험에서도 같은 효과가 재현되었다. 그 원인은 구조 자체가 아니라 손실이 있는 정제이다. 정확도는 저장소에 원문 텍스트가 얼마나 남아 있는지에 비례하며, 추출 산출물 파이프라인은 전체 정확도에서 단순 RAG를 능가하지 못한다(다만 청크 방식은 응답 보류 성능이 더 나쁘다. 한계점 참조). 본 연구에서 시험한 추출 설계에 한해, 구조화된 메모리는 원문 텍스트를 대체하기보다 보강해야 한다. 청크와 함께 산출물을 추가하는 것은 검출 가능한 정확도 손실이 없는 반면, 산출물로 대체하면 그 격차의 이점을 잃는다. 코드와 데이터는 https://github.com/tao-hpu/cog-canvas 에서 확인할 수 있다.

arXiv:2512.16795v2cs.CL

증거에서 판단으로: 상충하는 증거 하에서의 추적 증강 추론

From Evidence to Judgment: Trace-Augmented Reasoning under Conflicting Evidence

검색된 문서들은 서로 모순되거나, 오래된 정보를 담고 있거나, 어떤 답도 뒷받침하지 못하는 경우가 많으며, 검색 증강 생성(RAG) 시스템은 어떤 문서를 신뢰할지 결정할 신뢰할 만한 방법이 없다. 본 연구는 이를 추론 문제로 보고 답변 생성과 분리하여 시험한다. 943개의 학습 및 검증 예제와 서로 겹치지 않는 736개 예제의 벤치마크를 공개하고, 답변 전에 구조화된 사고 추적을 작성하도록 네 개의 언어 모델을 미세조정한다. 모델은 각 문서를 판단하고, 충돌 패턴을 추론하며, 근거에 기반한 답변 또는 정당화된 거절을 작성한다. 본 평가 프레임워크인 CATS(Conflict-Aware Trust Score)는 근거 기반 거절, 행동 준수, 사실적 근거성, 단일 진실 재현율을 평가하며, 사람 평가를 통해 사실적 근거성과 단일 진실 재현율을 검증하였다(kappa=0.78 및 0.79). 사고 추적은 답변/거절 결정을 개선한다. 세 가지 프롬프트 모두에서 미조정 모델의 Refusal F1(거절을 양성 클래스로 한 F1)은 최대 0.429인 반면 추적 조정 모델은 최소 0.826이다. 모델이 답변하는 답변 가능 예제에서 40단어 프롬프트 하의 사실적 근거성은 미조정 모델이 최대 0.11, 추적 조정 모델이 0.86-0.88이다. 프롬프트를 1,965단어에서 40단어로 줄여도 추적 조정 모델의 점수는 벤치마크의 측정 잡음(+/-0.034) 범위 내에 머문다. 답변만 사용한 미세조정은 최소 프롬프트 하에서 모든 지표에서 추적 지도 방식에 뒤처진다.