PyTorchKR Papers

최신 논문

총 1,234편
태그·기간 등 상세 필터

카테고리 탐색

arXiv:2611.17030v1cs.CL

유사하지만 중복은 아니다: 고세분도 토픽 모델을 위한 임베딩 게이트 정제

Similar but Not Redundant: Embedding-Gated Refinement for High-Granularity Topic Models

고세분도 토픽 모델링은 코퍼스에서 수백 개의 틈새 토픽을 추출하지만, 이 영역은 거의 연구되지 않았으며 일관된 주제가 중복된 하위 토픽으로 쪼개지는 "과잉 군집화"라는 실패 양상으로 더 흔히 다뤄진다. 본 논문은 이러한 시각이 진정한 중복과, 의미적으로 유사하지만 의미 있게 구별되는 토픽을 혼동하며, 고세분도 모델링의 핵심 과제는 이 둘을 분리하는 것이라고 주장한다. 최근의 사후 정제 방법은 임베딩 기반 유사도 임계값 설정 또는 LLM 기반 병합으로 토픽 중복을 다룬다. 본 논문은 고세분도 환경에서는 어느 쪽도 충분하지 않음을 보이고, 임베딩 게이트 반복 병합(EGIM)이라는 하이브리드 접근법을 제안한다. EGIM은 문맥이 풍부한 토픽 표현을 반복적으로 생성하고, 임베딩 유사도를 사용해 토픽 공간 전반에서 병합 후보를 제안한 뒤, LLM 판단을 적용하여 진정으로 중복된 쌍만 수락하고 틈새 구분은 보존한다. 두 개의 특허 코퍼스와 하나의 법률 코퍼스에서 LLM 판단은 임베딩이 식별한 후보의 83%를 중복이 아니라고 기각한다. EGIM은 기존의 반복적 LLM 기준선 대비 병합된 토픽의 판별성을 25-55% 향상시키면서 원래의 토픽 분포를 더 잘 보존한다.

arXiv:2611.17226v1cs.IR

협업 필터링을 위한 LightGCN의 쉬프(sheaf) 영감 구조화 점수화 확장

Sheaf-Inspired Structured Scoring Extensions of LightGCN for Collaborative Filtering

그래프 기반 협업 필터링은 사용자-아이템 상호작용 그래프 위에서 임베딩을 전파하여 사용자와 아이템 표현을 학습한다. 우리는 3계층 LightGCN 백본 위에 얹은 모듈식의 쉬프 영감 점수화 확장을 연구한다. 동기는 국소 벡터 공간이 선형 제한 사상으로 연결되는 셀룰러 쉬프에서 비롯되며, 여기서는 이 아이디어가 그래프 전파의 변경이 아니라 사용자와 아이템 임베딩의 구조화된 쌍 의존적 변환을 동기화한다. 우리는 항등 내적 점수기, 대각, 랭크-1 저랭크, 전체 행렬 잔차 점수기, 그리고 파라미터 수를 맞춘 잔차 MLP 기준선(\texttt{mlp\_full})을 Amazon-Book, Gowalla, MovieLens-1M, Yelp2018에서 비교한다. 컷오프 10과 20에서의 순위 품질과 카탈로그 커버리지를 보고한다. 선택된 구조화 변형은 순위 품질에서 데이터셋에 따라 달라지는 미미한 변화를 보였고, 때로는 커버리지에서 상당한 변화를 보였다. 우리의 방법은 쉬프 기하에서 영감을 얻었으나 셀룰러 쉬프를 구성하거나 쉬프-라플라시안 확산을 구현하지는 않으므로, 실험은 쉬프 기하 자체로부터의 인과적 이점을 입증하지 못한다.

arXiv:2611.16060v1cs.DB

REWEAVE: 워크로드 적응형 HNSW 인덱스를 위한 온라인 학습

REWEAVE: Online Learning for Workload-Adaptive HNSW Indexes

벡터 데이터베이스는 유사도 검색에 계층적 탐색 가능 작은 세계(HNSW) 인덱스를 사용하지만, 데이터만으로 구축된 그래프는 치우치거나 변화하는 질의 워크로드와 잘 맞지 않을 수 있다. 본 논문은 질의 피드백으로부터 간선 효용을 학습하고 노드별 차수 상한 내에서 최하위 계층을 주기적으로 재배선하는 온라인 인덱스 유지 방법인 REWEAVE(Reward-Guided Rewiring of Vector Graphs)를 제시한다. 이 방법은 자기 레이블과 결합된 희소한 정확 이웃 피드백을 지원하며, 적응을 비활성화하면 학습 오버헤드 없이 표준 HNSW 서빙으로 동작한다. 명시적 가정 하에서 가치 추정 및 그래프 안정화 보장을 증명한다. 정상적인 치우침 하에서 REWEAVE는 보류 재현율을 HNSW 대비 최대 23.3퍼센트포인트 향상시킨다. 최대 1억 개 벡터에서 질의 인지 기준선과 비교할 때, recall@100이 0.80인 조건에서 NGFix의 질의 처리량의 최대 3.3배를 달성한다. 질의 드리프트가 있는 Amazon-ESCI에서 스트림 recall@100을 0.745에서 0.979로 높이며, 고정된 HNSW보다 검색 거리 계산이 34% 적다. 이러한 결과는 기존 그래프 차수 예산 내에서 검색 품질을 개선하고 검색 노력을 줄일 수 있는 잠재력을 보여 주며, 적응 중에는 추가 작업이 발생한다.

arXiv:2611.16148v1cs.DB

제약 벡터 검색을 위한 최적성 격차가 한정된 보정된 조기 종료

Calibrated Early Termination with Bounded Optimality Gaps for Constrained Vector Search

학습된 임베딩에 대한 벡터 검색은 추천 및 검색 증강 생성의 검색 계층이며, 많은 응용에서는 하나의 범주가 기여할 수 있는 답변 항목의 수에 상한을 둔다. 그래프 인덱스는 최선 우선 순회로 질의에 답하며, 순회를 멈추는 지점이 비용과 답의 정확성 여부를 결정한다. 본 연구는 일반 $k$-최근접 이웃($k$-NN)을 특수한 경우로 포함하는 이러한 제약 $k$-NN 질의의 조기 종료를 연구하며, 답이 정확할 확률이 최소 $1-\varepsilon$인 가장 저렴한 종료 규칙을 찾고자 한다. 학습 기반 조기 종료 방법들은 대신 평균 재현율을 목표로 하는데, 이는 정확한 답을 보장하지 않는다. 다중 검정은 임의의 매개변수화된 종료 규칙을 우리의 목표에 맞게 보정할 수 있으나, 동일한 위험과 관측을 가진 더 나은 규칙이 얼마나 절감할 수 있는지는 알려 주지 못한다. 이에 답하려면 열거하기에는 너무 큰 규칙 족의 최적값에 대한, 질의 모집단에 유효한 하한이 필요하다. 핵심 아이디어는 규칙이 사용할 수 있는 관측을 선언하고, 그 관측에 대해 단조인 모든 규칙을 고려하는 것이다. 그러면 위험 제약 종료는 순서 다면체 위의 선형 계획이 되며, 그 라그랑주 최소화 해들은 동적 계획법으로 정확히 계산되는 계단형 규칙의 중첩 사슬을 이룬다. 이 사슬을 따라 고정 순서 이항 검정을 수행하여 우리의 규칙인 CaST를 보정하며, CaST의 실패 확률은 신뢰도 $1-\delta$로 최대 $\varepsilon$이다. 라그랑주 약한 쌍대성은 규칙들에 대한 합집합 한계 없이 모든 위험 수준에서 동시에 선언된 클래스의 최적값에 대한 하한을 제공한다. 각각 100만 개 항목으로 구성된 두 데이터셋에서, 기록된 검색에 재생한 CaST의 비용은 위험 수준 0.03~0.10에서 설정별 95% 결합 신뢰도로 클래스 최적값의 최대 1.132배이다. 따라서 더 큰 절감을 위해서는 이 클래스 밖의 규칙이 필요하다. 보류된 질의에 대해 공통 위험 목표에서 CaST는 우리가 시간을 측정한 다른 모든 보정된 규칙보다 빠르며, 그 규칙들은 평균 시간이 4.8%~45.5% 더 걸린다.

arXiv:2611.16425v1cs.IR

TREC RAG 2026에서의 RMIT-ADM+S: 연구 에이전트, 검색기 절제 실험, 오픈 웨이트 재현

RMIT-ADM+S at TREC RAG 2026: Research Agents, Retriever Ablations, and Open-Weight Replication

우리는 ClimbMix 코퍼스를 사용한 TREC 2026 검색 증강 생성(RAG) 트랙에 대한 RMIT-ADM+S 팀의 참여를 기술한다. 독점 OpenAI 모델과 오픈 웨이트 모델을 사용하여 서로 다른 검색 전략, 작성자 모델, 에이전트 워크플로를 탐구한 일곱 개의 연구 에이전트 실행을 제출했다. 제출 전 절제 실험에서는 작성자 선택과 인접 청크 확장이 답변 품질에 영향을 미치는 주요 요인으로 확인되었다. 공식 NIST 평가에서 일곱 개 실행 중 여섯 개가 세 가지 루브릭/너깃 컬렉션 모두에서 트랙 중앙값을 넘어섰다. 가장 성능이 좋았던 실행인 brief-hybrid는 우리 제출물 중 가장 높은 전체 항목 커버리지를 달성했으며, Batch-1 핵심 커버리지에서 트랙 최대값(0.892)과 동률을 이루었다. 인간의 나란히 비교 선호도는 평가 배치에 따라 달랐다. 오픈 웨이트 모델인 owa-glm5는 자동 커버리지가 더 낮음에도 Batch 1에서 앞섰고, sol-research-first는 Batch 2에서 앞섰다. 이러한 결과는 자동 커버리지 측정과 인간 선호도 간의 차이, 그리고 연구 에이전트 시스템에서 저비용 오픈 웨이트 모델의 잠재력을 보여준다.

arXiv:2611.14938v1econ.GN

추천은 언제 호기심을 불러일으키는가? 이론, 측정, 현장 증거

When Does a Recommendation Spark Curiosity? Theory, Measurement, and Field Evidence

호기심은 아는 것과 알고 싶은 것 사이의 간극을 메우려는 욕구로, 소비자를 익숙한 콘텐츠 너머로 이끌고 참여를 지속시키며 반복적이고 관련성만 따지는 추천의 필터 버블에서 벗어나게 한다. 그 중요성에도 불구하고, 형식적 측정 수단이 없어 호기심은 현대 추천 시스템에 거의 반영되지 않는다. 호기심의 정보 간극 이론은 추천 시스템이 활용할 수 있는 형식적 정량 모델을 제공하지 않으며, 기존의 대용 지표는 추천된 항목이 불러일으키는 호기심을 정확하게 측정하지 못한다. 이러한 연구 공백을 메우기 위해, 본 연구는 정보 간극 이론을 호기심의 다섯 가지 공리로 형식화하고, 추천된 항목이 소비자에게 불러일으키는 호기심에 대한 계산적 측정의 표준 정식화를 구성한다. 본 연구는 설문 기반 연구를 통해 호기심 측정을 검증하며, 이 측정은 소비자가 스스로 보고한 호기심과 일치하고 대안적 대용 지표보다 우수하다. 이어서 이 측정을 효용 함수 설계에 통합한 호기심 인지 추천 시스템을 구축하고, 세 개의 실제 데이터셋에 대한 오프라인 실험을 통해 이것이 최첨단 방법을 유의하게 능가함을 보인다. 나아가 아시아의 주요 동영상 스트리밍 플랫폼에서 대규모 온라인 통제 실험을 수행하여, 본 방법이 최신 운영 시스템보다 클릭률, 동영상 조회수, 이용 시간을 유의하게 높이며 해당 기업에 실질적인 경제적 효과를 가져옴을 보인다. 본 방법은 이후 해당 플랫폼에 배포되어 운영 중이다. 본 연구의 결과는 소비자의 호기심이 추천 시스템의 측정 가능하고 실행 가능한 목표임을 입증하며, 디지털 플랫폼이 소비자가 궁금해하는 것을 추천하는 데 중요한 경영적 시사점을 제공한다.

arXiv:2611.13972v1cs.IR

멀티모달 관광 추천 시스템의 데이터 품질 과제

Data Quality Challenges in Multimodal Tourism Recommender Systems

현대의 추천 시스템은 모델 성능을 높이기 위해 다양한 데이터 모달리티를 점점 더 많이 고려한다. 그러나 기반이 되는 멀티모달 데이터(예: 소셜 미디어 플랫폼의 데이터)의 품질은 지금까지 제한적인 관심만 받아 왔다. 본 연구는 관광 추천에 초점을 맞추어 Yelp와 Instagram의 데이터셋을 사용할 때 마주치는 실제 과제를 살펴본다. 문제로는 가짜 리뷰로 인한 노이즈, LLM이 생성한 환각 콘텐츠, 모달리티 간 모순, 인구통계학적 편향이 있다. 또한 품질 인식 융합, 환각을 줄이기 위한 구조화되고 통제된 LLM 기반 콘텐츠 생성, 멀티모달 추천 시스템의 견고성과 신뢰성을 높이기 위한 사용자 집단 구분 등의 향후 방향을 제시한다.

arXiv:2611.13966v1cs.IR

도구 기반 LLM 에이전트와 런타임 적응형 정책을 이용한 분류체계 유도를 위한 통제된 지식 공학

Controlled Knowledge Engineering for Taxonomy Induction with Tool-Grounded LLM Agents and Runtime-Adaptive Policies

분류체계(taxonomy)는 의미 검색, 추천, 제품 카탈로그 구성, 검색 증강 생성을 지원하는 구조화된 지식 표현이다. 고정된 후보 개체 집합으로부터 이를 자동으로 구축하려면 그럴듯한 텍스트 생성 이상이 필요하며, 결과 계층 구조는 완전하고 구조적으로 유효하며 의미적으로 일관되어야 한다. 대규모 언어 모델(LLM)은 이 과제에 유망하지만, 반복적인 자유 형식 생성은 개체의 누락이나 환각, 유효하지 않은 계층 관계, 일관성 없는 조직 원칙에 여전히 취약하다. 본 연구는 분류체계 유도를 명시적 상태와 제약된 행동 공간 위의 반복적 의사결정 과정으로 정식화하는 지식 공학 아키텍처인 TIGA(Taxonomy Induction with Tool-Grounded Agents)를 제안한다. TIGA는 실행 가능한 분류체계 편집 도구, 도구 호출과 근거 및 결과를 기록하는 메모리, 에이전트가 추론 중에 수정하는 런타임 적응형 조직 정책을 결합한다. 선택적 전역 검토자는 구축된 분류체계를 후보 집합과 현재 정책에 비추어 평가한다. 두 가지 LLM 백본을 사용하여 네 개의 벤치마크 분류체계에서 TIGA를 평가하고, 단일 시도 및 반복 프롬프팅 기반 기준선과 비교한다. TIGA는 평가한 대부분의 구성에서 가장 우수한 구조적 품질 결과를 달성하지만 모든 정밀도 지표에서 우위를 보이지는 않는다. 이러한 이득에는 토큰 소비량, API 호출량, 추론 시간의 상당한 증가가 수반된다. 절제 실험 결과는 정책 및 상호작용 메모리 구성요소가 일관된 이점을 제공하는 반면, 전역 검토의 효과는 데이터셋과 가용한 수정 예산에 따라 달라짐을 보여 준다. 이러한 결과는 도구 기반화와 런타임 정책 적응이 구조화된 지식 표현의 통제된 구축을 개선하는 유망하지만 비용이 큰 메커니즘임을 특징짓는다.

arXiv:2611.13914v1cs.AI

반사실적 편집에서 인간 서사로: 추천 시스템 설명을 위한 LLM 기반 해석

From Counterfactual Edits to Human Narratives: LLM-Driven Interpretations for Recommender System Explanations

추천 시스템은 사용자가 온라인에서 무엇을 발견하고 소비하는지에 점점 더 큰 영향을 미치지만, 그 출력의 의사결정 논리는 여전히 불투명한 경우가 많다. 반사실적 설명(CFX) 방법은 사용자의 상호작용 이력에서 어떤 변경이 추천을 바꿀지 보여주는 효과적인 방식을 제공한다. 그러나 추천 환경에서 CFX는 다수의 편집을 요구하는 경우가 많아, 사용자가 해석하기 어려운 길고 저수준의 목록을 만들어 낸다. 더욱이 대부분의 평가는 편집 횟수를 강조하는 반면, 결과로 얻어진 CFX가 사용자에게 일관되고 실행 가능한지는 대체로 간과한다. 우리는 유효한 CFX를 생성하는 것과 모델 행동을 전달하는 것 사이의 이러한 간극이 사용자 중심 추상화의 부재와 제한적인 정성 평가에서 비롯된다고 주장한다. 이 간극을 메우기 위해, 원시 CFX 상호작용 편집 목록을 더 높은 수준의 선호 패턴을 설명하는 간결한 자연어 설명으로 요약하는 매개자로서 대규모 언어 모델을 연구한다. 우리는 이러한 매개자를 선호 최적화를 통해 정확성, 정보성, 언어적 품질에 대해 최적화하고, 별도의 인간 라벨링 데이터셋에서 도출한 인간 보정 지표로 결과 설명을 평가한다. MovieLens-1M 데이터셋에서 여러 반사실 생성기와 언어 모델에 걸쳐, 결과 요약은 전반적으로 높은 언어적 품질을 달성했으며, 가장 우수한 의미적 결과는 ACCENT와 SPINRec 같은 성공률이 높은 CFX 방법에서 얻어졌다. 직접 선호 최적화(Direct Preference Optimization)는 평가한 거의 모든 설정에서 의미적 지표를 향상시킨다.

arXiv:2611.14004v1cs.IR

LUMIR: 다음 POI 추천을 위한 이질적 데이터 기반의 분리형 멀티모달 표현 학습

LUMIR: Decoupled Multimodal Representation Learning from Heterogeneous Data for Next-POI Recommendation

이질적인 데이터 소스에서 수집된 멀티모달 관광 관련 정보의 이용 가능성이 점점 높아지면서, 추천 성능을 향상시키기 위한 효과적인 표현 학습이 주목받고 있다. 기존 접근법은 멀티모달 융합을 특정 다운스트림 모델의 구조 및 최적화 목표와 긴밀하게 결합하는 경우가 많아, 학습된 표현의 일반성과 재사용성이 제한된다. 이러한 한계를 해결하기 위해 우리는 대조 학습에 기반한 분리형 멀티모달 표현 학습 프레임워크인 LUMIR를 제안한다. 먼저 이질적인 데이터 소스에서 수집된 멀티모달 정보를 대규모 언어 모델(LLM)을 사용하여 공유 텍스트 표현 공간으로 의미적으로 통합한다. 이후 모달 간 상호작용을 모델링하도록 상호작용 인식 융합 메커니즘을 설계하고, 순차적 신호를 구조적 제약으로 도입하여 표현 학습을 유도한다. 학습된 표현을 평가하기 위해, 여러 순차 추천 백본에 걸쳐 다음 POI 추천 설정에서 멀티모달 관심 지점(POI) 데이터셋으로 실험을 수행한다. 결과는 LUMIR가 정확도 중심 지표와 정확도 이외의 지표 모두에서 기존 멀티모달 융합 기준선을 일관되게 능가함을 보여주며, 표현 학습을 다운스트림 최적화로부터 분리하는 것이 재사용 가능한 멀티모달 표현을 학습하는 효과적인 패러다임임을 입증한다. 코드는 https://github.com/wzehui/LUMIR 에 공개되어 있다.

arXiv:2611.14325v1cs.CL

실적 발표 컨퍼런스콜을 위한 시점 기준 인코더

Point-in-Time Encoders for Earnings Calls

텍스트 인코더는 실적 발표 컨퍼런스콜을 검색, 검색된 구절로 답하는 언어 모델, 예측 모델을 위한 벡터로 변환한다. 실시간 검색기는 금융 검색기처럼 사용 가능한 모든 텍스트로 한 번 학습된 인코더를 사용할 수 있지만, 백테스트에는 각 벡터의 날짜 이후에 작성된 텍스트를 읽지 않은 인코더가 필요하다. 이러한 선행 편향을 해결하기 위해, 우리는 412,248건의 콜로부터 네 가지 사전학습 방식에 따라 2010년부터 2024년까지 연도별 기준 시점을 갖는 빈티지들을 학습하며, 각 빈티지는 기준 시점 당일 또는 그 이전의 텍스트만 읽는다. 이후 각 빈티지를 콜 자체의 질의응답 쌍으로 미세 조정한다. 콜만으로 학습한 33.8M 파라미터의 빈티지는 모든 테스트 분기에서 우리가 시험한 범용 검색기보다 보류된 콜에 대한 답변을 더 잘 검색한다. 또한 이들의 벡터는 과거 수익률과 기업 규모로 만든 예측과 익일 수익률 간의 순위 상관을 약 절반만큼 높인다. 각 빈티지가 이전 빈티지에서 이어 학습될 때, 이후 빈티지는 당시 이용 가능했던 빈티지보다 이전 분기에서 더 잘 검색하며, 이후 빈티지가 검색한 구절로 답하는 시점 기준 언어 모델은 그 이득을 물려받는다. 우리 계열의 2024년 빈티지는 이익 서프라이즈도 더 잘 예측하지만, 어떤 빈티지도 읽지 않은 콜에서는 이 이득의 구간이 0을 포함한다. 수익률 예측은 더 낫지 않으므로, 시점 기준 빈티지는 검색에서 가장 중요하고 수익률 예측에서는 거의 중요하지 않다.

arXiv:2611.14236v1cs.CL

StaRSE: 부호 코드 정적 인코더를 이용한 소형 러시아어 문장 임베딩

StaRSE: Compact Russian Sentence Embeddings with a Sign-Coded Static Encoder

트랜스포머 문장 인코더는 강력한 검색 품질을 제공하지만, CPU에서 임베딩을 생성하거나 자주 갱신해야 할 때 추론 비용이 병목이 된다. 본 논문은 배포 시점에 트랜스포머 추론을 제거한 소형 러시아어 정적 문장 인코더 StaRSE를 제안한다. 토큰 방향은 부호 비트로 저장하고 토큰 노름은 별도로 저장하며, 문장은 노름으로 스케일된 부호 방향에 대한 평균 풀링으로 인코딩된다. StaRSE는 ruBERT-base로 초기화되고, 러시아어 인접 문장 쌍과 과제 형태의 쌍으로 미세 조정되며, 부호 투영된 토큰 테이블을 직접 최적화하는 대조 학습 단계로 사후 학습된다. RuMTEB에서 StaRSE는 과제 평균 $51.16$을 달성하여, 포함된 가장 강력한 정적 기준 모델보다 $7.98$점 높다. 패키징된 모델은 $11.3$ MiB를 차지하고 문장당 평균 CPU 지연 시간이 $0.08$ ms인 반면, 품질이 가장 근접한 문맥 인코더는 16비트 파라미터 기준 추정 $55.7$ MiB의 용량과 평균 CPU 지연 시간 $1.43$ ms를 갖는다. 어블레이션에서는 인접 문장 지도, 토큰 노름, 부호 투영 직접 사후 학습의 효과를 검토한다.

arXiv:2611.14477v1cs.IR

FERN: 고정 검색기와 학습된 순위화를 이용한 Text-to-SQL용 교차 벤치마크 테이블 검색

FERN: Cross-Benchmark Table Retrieval for Text-to-SQL with Frozen Retrievers and Learned Ranking

대규모 통합 카탈로그를 대상으로 하는 Text-to-SQL 시스템은 먼저 질문에 필요한 테이블을 검색해야 한다. 우리는 통합된 BIRD, Spider, Fiben 카탈로그에서, Claude 3.5 모델을 사용해 키워드를 추출하고 테이블을 선택하는 RASL이 발표한 테이블 재현율과 비교한다. 반면 FERN(Feature-Engineered Ranking with No generative LLM)은 세 가지 고정 검색기를 융합하여 100개의 후보를 만들고, 각 후보를 최대 120개의 특징으로 기술하며, BIRD의 학습 질문으로 한 번만 학습시킨 LightGBM 랭커로 재정렬한다. 학습에 사용되지 않은 Spider에서는 후보 풀만으로도 15개 테이블 기준 RASL의 발표 재현율(98.0)에 도달하며, 랭커는 상위 5개에 모든 정답 테이블이 포함된 질문의 비율(complete@5)을 83.9%에서 95.6%로 높인다. 5개 테이블 기준으로 FERN의 재현율은 Spider(96.7 대 97.0)와 증거 힌트를 사용한 BIRD(96.6 대 97.5)에서 RASL과 1점 이내이며, 증거 힌트가 없는 BIRD(89.3)에서는 8.2점 낮다. 실제 BEAVER 질문 121개에서 BEAVER 학습 없이 15개 기준 재현율(82.1)은 BEAVER로 학습된 두 검색기(80.8, 84.5)의 사이에 위치하지만, complete@15는 둘 모두보다 낮다(49.6 대 54.5 및 62.0). Fiben에서는 15개 테이블 기준으로 크게 못 미치지만(54.2 대 69.2, 질문 집합이 다름), 50개 기준 재현율은 RASL의 질문 전용 검색 결과와 수치상 가깝다(80.7 대 79.4). 증거를 사용한 BIRD 개발 세트에서 비검색 특징은 검색 신호만 사용할 때보다 complete@5를 7.7점 높인다. BIRD 개발 세트에서 중앙값 지연 시간은 호스팅 모델 호출 없이 A100 한 장에서 질문당 208 ms이다.

arXiv:2611.13595v1cs.CL

IFRS 준수 검증: 공개 다중 LLM 벤치마크와 내용 조건부 앙상블 분류기

IFRS Compliance Verification: An Open Multi-LLM Benchmark and Content-Conditioned Ensemble Classifier

기업 재무 공시를 국제회계기준(IFRS)에 비추어 검증하는 일은 전문가가 공시를 수백 개의 세분화된 규정 문단과 대조해야 하는 핵심 감사 과제로, 힘들고 비용이 많이 들며 오류가 발생하기 쉬운 과정이어서 준수 보조 도구로서 대규모 언어 모델(LLM)에 대한 관심이 커지고 있다. 그러나 단일 모델의 정확도는 중대한 용도에는 여전히 불충분하며, 단순한 앙상블은 모델별 체계적 편향에 취약하여 집계 정확도가 가장 강한 개별 주석자보다 낮아질 수 있다. 이러한 격차는 다단계 프레임워크로 해결되며, 이는 만장일치 다중 LLM 레이블 11,161개와 LLM 간 의견이 갈린 항목에 대한 인간 주석 8,837개로 구성된 19,998개의 IFRS 규정-공시 쌍의 새로운 벤치마크로 뒷받침된다. 이 프레임워크는 3단계 도메인 적응 문장 임베딩 파이프라인(SEC EDGAR 공시 문서에 대한 BERT 마스크 언어 모델링, 비지도 TSDAE 및 SimCSE 적응, 지도 대조 정렬)을, 고정된 임베딩과 GPT-4.1, Claude Sonnet 4, Gemini 2.5 Pro의 LLM 확률 특징을 Tree-structured Parzen Estimator(TPE)로 최적화한 그래디언트 부스팅 트리를 통해 융합하는 학습된 앙상블 분류기와 결합한다. 의견 불일치 세트에서 이 앙상블은 가중 F1 81.7%를 달성하여 가장 강한 단일 LLM을 10.4포인트, 다수결을 14.6포인트 앞서며, 11개의 비지도 집계 기준선을 능가한다. 검색 파이프라인은 보지 못한 규정에 대해 Recall@15 45.3%를 달성한다. 데이터셋, 모델 체크포인트, 주석 플랫폼, 분류기 구현은 공개될 예정이다.

arXiv:2611.13539v1cs.IR

Exploiting Feature-invariant Scaling Laws for Efficient A/B Experimentation in Recommendation Systems

Researchers and engineers improve recommendation systems by performing A/B experiments with new model architectures, optimization methods, and data features. However, running full-scale experiments (e.g., full-model training with online data) for every feature change is prohibitively computationally intensive, while the result from a single small-scale experiment is often misleading. To address this challenge, we show that modern recommendation models exhibit feature-invariant scaling: the change of a model's performance follows a predictable scaling-law even when different feature changes are applied to the baseline model. We introduce an efficient method that exploits scaling-laws and uses statistical inference to predict (with confidence intervals) the full-scale effect of an A/B experiment in recommendation systems. This enables practitioners to efficiently filter out neutral or regressive feature changes with only small-scale experimentation. We validate our method on three distinct recommendation model families---Wukong, HSTU, and LLM-based recommendation models---across more than 40 architectural, optimization, and data changes. Our method accurately distinguishes beneficial feature changes from neutral and regressive ones while using only a fraction of the compute required for full-scale evaluation. It also identifies several changes that improve HSTU's state-of-the-art performance on MovieLens-20M. Our results demonstrate that scaling laws can be practically exploited to make compute-efficient decisions for improving industrial-scale recommendation systems.

arXiv:2611.13361v1cs.AI

A Technique to Model Product Information and User Reviews (MPIUR)

Modern e-commerce platforms naturally provide three complementary modalities: textual item descriptions, item images, and user reviews. However, existing multimodal recommendation methods often omit reviews or do not integrate all three modalities within a unified framework. In this paper, we propose MPIUR, a multimodal graph-based recommendation model that encodes reviews in heterogeneous graphs, aligns image and text representations, and adapts collaborative--semantic alignment to item interaction density. Experiments on the Amazon Reviews 2023 Musical Instruments and Baby categories show that MPIUR achieves the best global nDCG@10 and Recall@10 among the evaluated methods on both datasets. It also obtains the best nDCG@10 and Recall@10 on sparse items, indicating that jointly exploiting reviews and multimodal item content is particularly useful when interaction histories are limited.

arXiv:2611.13127v1cs.AI

언어 모델 시스템에서의 인지적 기억 재구성을 위한 활성화 유도 그래프 검색

Activation-Guided Graph Retrieval for Cognitive Memory Reconstruction in Language Model Systems

검색 증강 언어 모델 시스템은 일반적으로 질의 조건부 관련성에 따라 맥락을 선택한다. 우리는 장기간 운영되는 AI 시스템에는 두 번째 연산자인 활성화 조건부 기억 가용성이 필요하다고 주장한다. 우리는 요청 및 목표 단서가 권한이 부여된 기억 그래프에 시드를 제공하고, 활성화와 팬 감쇠가 제한된 순회 프런티어를 할당하며, 검색된 개체가 재귀적으로 단서를 방출하고, 생성 전에 유형화된 증거 그래프가 재구성되는 아키텍처를 명세한다. 이 명세는 후보 선택, 순회 제어, 그래프 정규화, 증거 재구성, 강화에 관한 다섯 가지 아키텍처적 결과를 도출한다. 또한 구현 수준의 비용 추정치를 도출하고, 절제 실험, 실패 조건, 재현 가능한 평가 프로토콜을 정의한다. 동일한 예산 하에서 더 단순한 그래프 재순위기가 인과 및 시간 복구에서 전체 순회와 동등한 성능을 보인다면 핵심 주장은 축소되거나 반증된다. 이 아키텍처 및 분석 프리프린트는 벤치마크 측정 결과를 보고하지 않는다. 주장이 성립한다면, 검색은 순위가 매겨진 목록뿐 아니라 기억을 가용하게 만드는 증거 경로를 반환한다.

arXiv:2611.13069v1cs.LG

INTENT: 사용자 이벤트 시퀀스에 대한 표본 외, 시점 외, 콜드 스타트 평가

INTENT: Out-of-Sample, Out-of-Time, and Cold-Start Evaluation on User Event Sequences

은행은 이제 거래, 앱 세션, 승인 등 고객 이벤트의 순서열로 파운데이션 모델을 학습한다. 배포된 이러한 모델은 시간상 앞을 예측하며, 학습에 없던 고객과 가맹점에 대해 예측하는 경우도 많지만, 각 모델은 비공개 데이터로 평가되므로 서로 비교할 수 없다. 이러한 시퀀스를 위한 공개 벤치마크는 모델이 보지 못한 기간을 시험하는 경우가 드물며, 추천 연구는 대개 각 사용자의 마지막 이벤트를 대신 홀드아웃한다. 우리는 사용자, 기간, 목표 항목이 학습에 등장했는지에 따라 정의되는 일곱 개의 셀로 모델을 평가하는 공개 벤치마크 INTENT(INTEraction, Novelty, and Transfer evaluation for next-action prediction)를 제시한다. 59개 공개 데이터셋 계열을 감사하여 다섯 개 데이터셋을 남겼으며, 가장 흔한 결함은 이벤트를 정렬하는 달력 타임스탬프의 부재이다. 다섯 데이터셋 모두의 기간에 공통으로 속하는 날짜가 없으므로, 각 데이터셋은 어떤 모델도 평가하기 전에 고정한 하나의 규칙에 따라 정한 자체 기준 시점에서 분할된다. 데이터셋 전체를 합산하면 모든 셀이 최소 111,769명의 사용자를 포함한다. 참조 결과에서는 셀이 최고 모델을 결정한다. 트랜스포머는 기준 시점 이후 이미 본 항목에서는 앞서지만 새로운 항목에서는 0점을 기록하고, 항목 메타데이터를 임베딩하는 변형은 주로 MicroLens에서 도움이 되며, 사용자의 마지막 항목을 반복하는 방식은 다섯 데이터셋 중 네 곳에서 새로운 항목에서 앞선다. 이 무매개변수 대조군은 또한 세 데이터셋에서 기준 시점 이후 잃은 점수의 대부분이 모델이 아니라 행동 변화를 반영함을 보여 준다. 파이프라인, 기준 시점 규칙, 셀별 사용자 수는 공개되어 있다.

arXiv:2611.13055v1cs.SE

문서를 넘어서: 모든 업무 산출물을 위한 컴파일된 컨텍스트와 통제되는 에이전트

Beyond the Document: Compiled Context and Governed Agents for Any Work Product

문서는 전문적 업무의 가시적 결과물을 보존하지만, 그 이면에 있는 조사, 계산, 가정, 근거, 권한 경계는 흔히 버려진다. 본 연구는 이와 다른 전달 단위, 즉 업무 산출물과 함께 컴파일된 컨텍스트, 근거, 출처 정보, 이후 상호작용을 위한 규칙을 담은 Portable Agent Format(PAF) 패키지를 연구한다. 이 컨텍스트가 이를 만들어 낸 과정 밖에서도 유용한지 검증하기 위해, 호스팅 리더와 오프라인 리더를 고정한 이후에 만든 네 개의 새 패키지(투자 제안서, 펀드 리서치, 재무제표 분석, 엔지니어링 사고 검토)를 평가한다. 두 패키지는 전문 에이전트가, 나머지 두 패키지는 범용 어시스턴트의 패키징 스킬을 통해 제작되었다. 고정된 400개 질문과 12,000개의 평가 응답 전반에서, 호스팅된 통제형 리더는 질문의 96%에서 성공했으며, 지침과 원본 파일 검색을 함께 쓴 경우는 86%였다(Holm 보정 p < 10^-7). 조건별로 답변 가능한 260개 질문에서는 성공률이 94% 대 79%였으며, 그 격차는 패키지에 따라 다르다. 원본 자료 채팅과 지침만 사용한 경우의 전체 성공률은 각각 48%와 74%이다. 별도의 0.8B 파라미터 오프라인 리더는 전체 69%, 답변 가능한 질문에서는 54%의 성공률을 보인다. 실질적으로 틀린 답변과 권한 없는 답변을 합친 -1 응답 비율은 2.9%이며, 원본과 지침만 사용한 경우는 56%이다. 절제 실험은 통합 선택기와 패키지에 맞게 조정된 작성기의 이점을 시사하지만, 표현 방식의 효과를 학습 효과와 분리하지는 못한다. 같은 실행에서 실패 사례도 드러났는데, 한 금융 데이터 패키지의 과거 기록 질문 40개에 대해 오프라인 검색은 하나도 해결하지 못했다. 이러한 결과는 컴파일된 지식을 전달되는 업무 산출물의 일부로 다루는 것을 뒷받침하지만, 독립적인 표준 상호운용성과 종단 간 거버넌스 적합성은 아직 입증되지 않은 채로 남는다.

arXiv:2611.12918v1cs.CL

IntentTwin: 오프라인 웹 행동 예측에서 후보 지지 교란 제거와 오라클-배포 간 격차

IntentTwin: Deconfounding Candidate Support and the Oracle-to-Deployment Gap in Offline Web Behavior Prediction

오프라인 웹 행동 벤치마크는 시연된 행동을 유한한 후보 집합에 삽입한 뒤 재순위화를 측정하는 경우가 많다. 본 연구는 이 프로토콜이 후보 지지 교란을 만들 수 있음을 보인다. 정답이 학습 지지 범위 밖에 있고 모든 방해 후보는 그 지지 범위에서 추출되면, 행동을 모델링하지 않고도 지지 범위 소속 여부만으로 정답 행동을 식별할 수 있다. 우리는 이 효과를 지지 식별 가능률(SIR)로 정式화하고, 지지 균형 후보 집합을 구성하며, 지지 검색과 개방 어휘 DOM/LM 제안을 결합한 정답 비의존(target-free) 이중 경로 제안기를 평가한다. 필터링된 OPeRA(학습/개발/테스트 4,282/469/992 단계)에서 원래 프로토콜은 정답 OOV 행에서 SIR이 1.0000이며, 지지 범위만 이용하는 규칙이 OOV Exact@1 1.0000에 도달한다. 지지 균형화는 SIR을 0.0000으로 낮추며, 가장 강력한 조건부 재순위기는 전체 Exact@1 0.7214, IV 행 0.7988, OOV 행 0.5668을 얻는다. 정답 비의존 이중 경로 시스템은 Proposal Recall@16 0.6915와 종단 간 Exact@1 0.5212에 도달하며, 이는 오라클 조건부 Exact@1 0.7450과 비교된다. Mind2Web에서 같은 감사를 수행하면 SIR은 0.2380, 오라클-제안 간 격차는 0.2125이다. 200개 행의 의미 감사에서는 정확 키 OOV 정답의 0.7150이 의미적으로 새로운 것, 0.2450이 로케이터/문자열 변형, 0.0400이 모호한 것으로 분류되었다(Cohen's $\kappa=0.8173$). 이러한 측정은 오프라인 결과로 배포 성능을 추론할 때 후보 정확도와 함께 지지 구성도 통제해야 하는 이유를 보여준다.