arXiv:2509.25522v3 cs.AI

모델 스케일링 관점에서 시맨틱 ID를 활용한 생성형 추천 이해

Understanding Generative Recommendation with Semantic IDs from a Model-scaling View

Jingzhe Liu, Liam Collins, Jiliang Tang, Tong Zhao, Neil Shah, Clark Mingxuan Ju

제출 2025-09-29

한국어 초록

생성형 모델의 최근 발전으로 추천 시스템(RS)의 유망한 패러다임인 생성형 추천(GR)이 등장했으며, 이는 풍부한 아이템 시맨틱과 협업 필터링 신호를 통합하고자 한다. 대표적인 현대적 접근 방식은 시맨틱 ID(SID)를 사용하는 것으로, 이는 모달리티 인코더(예: 대규모 언어 모델 또는 비전 모델)의 임베딩으로부터 양자화된 이산 코드이며, 자기회귀적 사용자 상호작용 시퀀스 모델링 방식으로 아이템을 표현한다(이하 SID 기반 GR). 다른 도메인의 생성형 모델들이 잘 정립된 스케일링 법칙을 따르는 반면, 본 연구는 SID 기반 GR이 모델 규모를 확장할 때 심각한 병목 현상을 보임을 밝힌다. 특히, SID 기반 GR의 성능은 모달리티 인코더, 양자화 토크나이저, RS 자체 등 각 구성 요소를 확장함에 따라 빠르게 포화 상태에 이른다. 본 연구에서는 아이템 시맨틱 정보를 인코딩하는 SID의 제한된 용량을 근본적인 병목 중 하나로 규명한다. 이 관찰에 착안하여, 더 나은 스케일링 거동을 갖는 GR 모델을 얻기 위한 초기 시도로서, 대규모 언어 모델(LLM)을 추천 시스템으로 직접 활용하는 또 다른 GR 패러다임(이하 LLM-as-RS)을 재검토한다. 실험 결과, LLM-as-RS 패러다임은 우수한 모델 스케일링 특성을 보이며, 스케일링을 통해 SID 기반 GR의 최고 달성 성능 대비 최대 20% 향상을 달성한다. 또한, LLM이 협업 필터링 정보를 포착하는 데 어려움을 겪는다는 통념에 의문을 제기하며, LLM이 스케일 업됨에 따라 사용자-아이템 상호작용을 모델링하는 능력이 향상됨을 보인다. 44M에서 14B 파라미터에 이르는 모델 크기에 걸쳐 SID 기반 GR과 LLM 모두를 분석한 결과는 SID 기반 GR의 내재적 스케일링 한계를 강조하고, LLM-as-RS를 GR을 위한 파운데이션 모델로 나아가는 유망한 경로로 자리매김한다.

원문 초록

Recent advancements in generative models have allowed the emergence of a promising paradigm for recommender systems (RS), known as Generative Recommendation (GR), which tries to unify rich item semantics and collaborative filtering signals. One popular modern approach is to use semantic IDs (SIDs), which are discrete codes quantized from the embeddings of modality encoders (e.g., large language or vision models), to represent items in an autoregressive user interaction sequence modeling setup (henceforth, SID-based GR). While generative models in other domains exhibit well-established scaling laws, our work reveals that SID-based GR shows significant bottlenecks while scaling up the model. In particular, the performance of SID-based GR quickly saturates as we enlarge each component: the modality encoder, the quantization tokenizer, and the RS itself. In this work, we identify the limited capacity of SIDs to encode item semantic information as one of the fundamental bottlenecks. Motivated by this observation, as an initial effort to obtain GR models with better scaling behaviors, we revisit another GR paradigm that directly uses large language models (LLMs) as recommenders (henceforth, LLM-as-RS). Our experiments show that the LLM-as-RS paradigm has superior model scaling properties and achieves up to 20 percent improvement over the best achievable performance of SID-based GR through scaling. We also challenge the prevailing belief that LLMs struggle to capture collaborative filtering information, showing that their ability to model user-item interactions improves as LLMs scale up. Our analyses on both SID-based GR and LLMs across model sizes from 44M to 14B parameters underscore the intrinsic scaling limits of SID-based GR and position LLM-as-RS as a promising path toward foundation models for GR.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2509.25522v3제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.01533v1cs.AI공통 태그 Quantization, Collaborative Filtering, Recommendation Systems, generative recommendation

흑백의 이분법을 넘어: 그래프 기반 시맨틱 ID(GrIS)를 통한 시맨틱 및 협업 신호의 균형

Neither Black nor White: Balancing Semantic and Collaborative Signals with Graph-Informed Semantic IDs (GrIS)

생성형 추천을 위한 시맨틱 ID(Semantic ID, SID)에 관한 기존 연구들은 SID 구축을 표현 학습(representation learning) 문제로 취급하여, 아이템을 양자화된 잠재 공간으로 인코딩하고 코드를 읽어내는 방식을 취합니다. 본 논문에서는 이러한 관점이 본질적이지 않다고 주장합니다. SID 구축은 본질적으로 재귀적 클러스터링(recursive clustering) 문제이며, 이렇게 정의하면 클러스터링할 자연스러운 대상은 노드가 시맨틱 콘텐츠를 담고 에지가 협업 신호(collaborative signal)를 전달하는 그래프가 됩니다. 즉, SID 할당은 계층적 그래프 분할(hierarchical graph partition)이 됩니다. 이러한 재구성을 통해 기존 접근 방식을 대체하기보다는 포괄하는 통합 프레임워크인 그래프 기반 시맨틱 ID(Graph-Informed Semantic IDs, GrIS)를 도출합니다. RQ-VAE 및 RQ-KMeans는 그래프가 비어 있는 특수한 경우로 환원되며, 이는 콘텐츠 전용 양자화가 지금까지 하나로 뭉쳐져 있던 두 축인 그래프 구축과 재귀적 분할 알고리즘으로 이루어진 더 큰 설계 공간의 한 단면에 불과함을 보여줍니다. 본 연구에서는 두 가지 대조적인 구현체를 탐색합니다. 하나는 미분 가능한 그래프 풀링(pooling)을 통해 계층적 할당을 수행하는 RecDMoN이고, 다른 하나는 그래프 인식 아이템 표현과 그래프 재구성 목적 함수를 통해 RQ-VAE를 확장하는 RQ-GAE입니다. 여러 실제 데이터셋에서 GrIS는 협업 필터링(CF) 인식 최신 기술(SOTA) 대비 일관되게 향상된 성능을 보여주며, Hit@10에서 최대 +52%의 성능 향상을 달성합니다. 그래프 구축과 분할이 명시적이고 개별적으로 구성 가능한 컴포넌트이기 때문에, 두 축 중 어느 한쪽의 개선점이라도 결합하여 체계적으로 평가할 수 있습니다.

arXiv:2610.13767v1cs.LG공통 태그 Quantization, Large Language Model

DualQuant: LLM을 위한 이중 스케일 캘리브레이션 프리 가중치 및 활성화 양자화

DualQuant: Dual-scale Calibration-free Weight-and-Activation Quantization for LLMs

네이티브 4비트를 지원하는 가속기에서 저비트 추론(inference)을 수행할 때 해당 포맷이 제공하는 전체 처리량 향상을 온전히 달성하려면 가중치(weight)와 활성화(activation)를 모두 양자화해야 합니다. 사후 학습(post-training) 가중치 양자화는 광범위하게 연구되어 왔지만, 활성화 양자화는 여전히 훨씬 더 까다로우며 일반적으로 캘리브레이션 데이터를 필요로 합니다. 본 연구에서는 가중치 재구성 평균 제곱 오차(MSE)를 직접 최소화하고, 그 직접적인 부산물로서 활성화 양자화에 앞서 채널별 활성화 재스케일링을 생성하는 이중 스케일(dual-scale) 캘리브레이션 프리 사후 학습 양자화 프레임워크인 DUALQUANT를 소개합니다. 우리의 핵심 관찰은 가중치 재구성 오차를 최소화하여 얻은 스케일링 팩터가 효과적인 활성화 재스케일링을 제공하여, 캘리브레이션 데이터 없이도 경쟁력 있는 활성화 양자화를 가능하게 한다는 점입니다. 우리는 DUALQUANT를 미분 불가능한 가중치 재구성 문제로 공식화하고, 각 하위 문제가 닫힌 형식의 해(closed-form update)를 갖는 변수 분할(variable splitting) 및 블록 좌표 강하법(block coordinate descent) 기반의 효율적인 솔버를 개발했습니다. DUALQUANT는 전체 MX 패밀리와 NVFP4를 포함한 광범위한 포맷을 지원하는 통합 알고리즘을 제공합니다. 우리가 아는 한, DUALQUANT는 MX 및 NV 블록 포맷을 공식적으로 지원하는 최초의 이중 스케일링 기법입니다. WikiText-2, C4 및 제로샷(zero-shot) 다운스트림 태스크에서 평가된 Llama 및 Qwen 모델 전반에 걸쳐, DUALQUANT는 대부분의 모델 및 포맷에서 캘리브레이션 기반 SmoothQuant의 정확도에 필적하거나 이를 능가하며, 캘리브레이션 프리 베이스라인들을 크게 능가하고 MX 및 NV 블록 포맷에 대해 큰 폭의 향상을 달성했습니다. 우리는 RTX 4090 환경에서 Llama-3.1-8B에 대한 실제 패킹된 W4A4 추론 경로를 통해 이러한 성능 향상을 검증했습니다. 그 결과 구현체는 가상 양자화(fake quantization)의 정확도와 거의 일치하면서도 BF16 대비 최대 2.61배의 메모리 절감과 최대 2.46배의 처리량 속도 향상을 제공합니다.

arXiv:2610.10641v1cs.LG공통 태그 Quantization, Large Language Model

진단 예측을 위한 의료 토큰 기반 커버리지 인식 추론

Coverage-Aware Reasoning with Medical Tokens for Diagnosis Prediction

대규모 언어 모델(LLM)은 종단적 임상 근거를 통합하고 이를 자연어로 추론하는 능력을 바탕으로 다음 방문 진단 예측에서 유망한 잠재력을 보여줍니다. 그러나 LLM 추론을 위한 강화학습(RL)은 일반적으로 최종 답변의 정확성에 따라 각 궤적(trajectory)에 보상을 부여합니다. 다음 방문 진단 예측에서는 여러 진단이 동시에 유효할 수 있지만, 궤적당 하나의 진단에 독립적으로 보상을 부여하는 방식은 반복된 적중과 서로 다른 진단의 포괄(coverage)을 구별하지 못합니다. 따라서 정책(policy)이 소수의 정답 진단에만 집중하고 다른 진단들은 다루지 못하는 문제가 발생할 수 있습니다. 한편, LLM 토크나이저는 ICD 코드를 임상적 의미가 제한된 여러 일반 토큰으로 분할할 수 있어, 각 진단을 예측하기 위해 여러 디코딩 단계가 필요하고 방대한 질병 어휘에 대한 추론을 저해합니다. 이러한 두 가지 문제를 해결하기 위해, 우리는 진단을 조합형 의미론적 ID(Semantic ID, SID)로 표현하고 다중 레이블 커버리지를 위해 추론 궤적을 최적화하는 프레임워크인 CARing을 제안합니다. 구체적으로, 먼저 잔차 양자화(residual quantization)를 통해 온톨로지가 풍부한 질병 의미론을 컴팩트한 SID로 인코딩하며, 다중 태스크 정렬 및 추론 강화 학습을 통해 생성된 SID 토큰을 자연어 및 종단적 EHR 컨텍스트에 그라운딩(grounding)하여 전이 가능한 LLM 추론을 가능하게 합니다. 나아가 CARing은 강화학습을 위한 커버리지 보상과 다중 양성(multi-positive) 감독을 통해 순서가 없는 다중 레이블 예측을 개선합니다. 추론(inference) 시점에 이 모델은 효율적인 직접 제약 디코딩과 순위 융합을 결합한 다중 체인 추론을 모두 지원합니다. MIMIC-III 및 MIMIC-IV에서 CARing은 가중치 적용 F1에서 모든 EHR 학습 기반 베이스라인을 능가하며, 추론 모드에서 46.04% 및 46.52%의 R@30을 포함해 보고된 모든 컷오프에서 가장 높은 top-k 재현율(recall)을 달성합니다. 코드와 로그는 https://github.com/zmlxzyh/CARing-Codes-Logs 에서 확인할 수 있습니다.

arXiv:2610.02598v1cs.LG공통 태그 Quantization, Large Language Model

오프로딩된 가중치에서 더 빠른 LLM 디코딩을 위한 가중치 근사 기반 활성화 희소성

Activation Sparsity with Weight Approximation for Faster LLM Decoding on Offloaded Weights

가중치를 모두 담기에 메모리가 부족한 소비자용(consumer-grade) GPU에 LLM을 배포하면 추론 속도가 지나치게 느려질 수 있는데, 이는 디코딩 과정에서 오프로딩된 가중치를 시스템 RAM이나 플래시 스토리지에서 GPU로 반복적으로 전송해야 하며, 이 전송 대역폭이 로컬 GPU 메모리 접근보다 훨씬 낮기 때문이다. 활성화 희소성(activation sparsity)은 0이거나 0에 가까운 활성화(activation)와 연관된 가중치를 건너뜀으로써 이러한 전송을 줄인다. 그러나 더 많은 활성화 기여분을 생략할수록 모델 품질이 결국 급격히 저하되는데, 이는 작은 크기의 활성화와 연관된 가중치들이 전체적으로 모델 품질에 큰 영향을 미친다는 것을 보여준다. 본 연구에서는 활성화 희소성을 활용할 때 모델 품질과 디코딩 성능 간의 trade-off를 개선한다. 핵심 아이디어는 가중치를 읽을지 여부에 대한 이진 선택을, 완전히 유지하거나, 압축된 가중치 표현(compressed weight representation)을 사용해 근사하거나, 완전히 생략하는 세 가지 옵션으로 대체하는 것이다. SpAx는 0에 가장 가까운 활성화와 연관된 가중치를 건너뛰고, 더 작은 크기의 활성화에 대해서는 근사된 가중치를 읽으며, 가장 큰 크기의 활성화에 대해서는 원본 가중치를 읽는다. 더 작은 크기의 활성화는 근사 가중치로 인해 발생하는 오차를 완화시키며, 압축된 가중치 표현은 전송해야 할 바이트 수를 줄인다. 가중치를 CPU 메모리로 오프로딩한 경우, SpAx는 16비트 가중치에서 평균 3.86배(최대 5.57배), 4비트 가중치에서 평균 2.06배(최대 2.74배)의 디코딩 속도 향상을 달성하며, WikiText-2 퍼플렉시티(perplexity) 증가는 최대 10%에 그친다. 가중치를 플래시 스토리지로 오프로딩한 경우, 속도 향상은 평균 3.31배(최대 4.81배) 및 평균 1.54배(최대 2.03배)이다.

arXiv:2610.02968v1cs.AI공통 태그 Recommendation Systems, Large Language Model

단순한 근거 제시를 넘어 증거에 기반한 추론: LLM 기반 추천을 위한 검증 가능한 선호도 증명

Reasoning with Evidence, Not Merely Rationales: Verifiable Preference Proofs for LLM-Based Recommendation

대규모 언어 모델(LLM)은 상호작용 이력과 리뷰로부터 사용자의 선호도를 추론할 수 있지만, 모델이 생성하는 설명(rationale)은 추천에 실제로 사용된 정보를 반영하지 못할 수 있습니다. 선호도 주장이 선택된 증거에 의해 미약하게 뒷받침되거나 최종 순위에 거의 영향을 미치지 못할 수 있으며, 본 논문에서는 이러한 두 가지 실패를 그라운딩-영향력 격차(grounding-influence gap)라고 정의합니다. 본 연구에서는 LLM 기반 추천에서 검증 가능한 선호도 추론을 위한 일반적 프레임워크인 PROVE-REC을 소개합니다. 패스 A는 타깃 이전의 전체 이력을 선택된 증거 항목들과 연결된 긍정 및 회피 주장으로 구성된 간결한 선호도 증명으로 변환합니다. 패스 B는 이 증명과 선택된 증거만을 사용하여 다음 아이템을 예측함으로써 추천 시스템이 추론 경로를 우회하지 못하도록 방지합니다. 증거-증명 간 그라운딩을 검증하기 위해, 선택된 증거를 마스킹했을 때의 효과를 비교 가능한 대조군 항목을 마스킹했을 때와 비교합니다. 증명-추천 간 영향력을 검증하기 위해, 선호도 주장을 제거하고 그에 따른 타깃 아이템의 랭킹 마진(ranking margin) 감소를 측정합니다. 또한 순위 보존 목적함수를 통해 전체 이력에서 유용한 정보를 추가로 유지합니다. 다양한 실제 데이터셋에 대한 포괄적인 실험을 통해 PROVE-REC이 강력한 순차적, 생성형 및 LLM 강화 베이스라인을 일관되게 능가하며 최대 7.45%의 성능 향상을 달성함을 입증합니다. 통제된 소거 연구(ablation study)는 2단계 패스 아키텍처와 검증 목적함수의 효과를 확인해 줍니다. 나아가 PROVE-REC은 순위 품질을 보존하면서도 과거 증거에 더욱 강력하게 그라운딩되고 추천에 더 큰 영향력을 미치는 주장을 생성합니다.

arXiv:2610.02979v1cs.AI공통 태그 Recommendation Systems, Large Language Model

RASPER: EHR 결과 예측을 위한 임상 기록의 보상 정렬 요약

RASPER: Reward-Aligned Summarization of Clinical Notes for EHR Outcome Prediction

전자의무기록(EHR)의 비정형 퇴원 요약지는 종종 정형화된 의료 코드와 상호보완적인 신호를 지니며, 표준화된 코호트 수준의 코드만으로는 포착할 수 없는 환자별 근거를 담고 있습니다. 그러나 이러한 임상 기록 내 근거는 특정 임상 예측을 염두에 두고 작성되지 않은 길고 노이즈가 많은 텍스트 속에 묻혀 있는 경우가 많습니다. 요약은 직관적인 해결책이지만, 결과 예측보다는 유창성에 맞춰 조정된 일반적인 요약은 그럴듯하지만 정보성이 없는 세부 사항을 유지하면서 결정적인 근거를 일상적으로 누락합니다. 이를 위해 본 논문에서는 다운스트림 임상 작업에 맞춰 임상 기록 요약을 직접 최적화하는 EHR 예측용 보상 정렬 요약기인 RASPER를 제안합니다. RASPER는 미세조정 가능한 대규모 언어 모델(LLM) 기반 요약기를 활용하여 퇴원 요약지에서 작업 관련 근거를 추출하고, 다운스트림 예측기의 손실(loss)에서 도출된 보상(reward)을 사용하여 예측 피드백 기반 강화학습(reinforcement learning)으로 이를 학습합니다. 요약기를 그라운딩하기 위해 종단적 인코더가 정형 코드를 소프트 프롬프트로 변환하여 각 환자의 임상적 맥락을 임상 기록 요약에 반영합니다. 최종적인 멀티모달 예측 품질에 보상을 제공함으로써, RASPER는 요약기가 정형 코드로 포착된 정보를 중복하기보다는 이를 보완하는 환자별 근거를 유지하도록 유도합니다. RASPER는 MIMIC-III 및 MIMIC-IV 전반에서 재입원 예측과 약물 추천 모두에 대해 강력한 베이스라인을 일관되게 능가합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.