생성형 추천을 위한 시맨틱 ID(Semantic ID, SID)에 관한 기존 연구들은 SID 구축을 표현 학습(representation learning) 문제로 취급하여, 아이템을 양자화된 잠재 공간으로 인코딩하고 코드를 읽어내는 방식을 취합니다. 본 논문에서는 이러한 관점이 본질적이지 않다고 주장합니다. SID 구축은 본질적으로 재귀적 클러스터링(recursive clustering) 문제이며, 이렇게 정의하면 클러스터링할 자연스러운 대상은 노드가 시맨틱 콘텐츠를 담고 에지가 협업 신호(collaborative signal)를 전달하는 그래프가 됩니다. 즉, SID 할당은 계층적 그래프 분할(hierarchical graph partition)이 됩니다. 이러한 재구성을 통해 기존 접근 방식을 대체하기보다는 포괄하는 통합 프레임워크인 그래프 기반 시맨틱 ID(Graph-Informed Semantic IDs, GrIS)를 도출합니다. RQ-VAE 및 RQ-KMeans는 그래프가 비어 있는 특수한 경우로 환원되며, 이는 콘텐츠 전용 양자화가 지금까지 하나로 뭉쳐져 있던 두 축인 그래프 구축과 재귀적 분할 알고리즘으로 이루어진 더 큰 설계 공간의 한 단면에 불과함을 보여줍니다. 본 연구에서는 두 가지 대조적인 구현체를 탐색합니다. 하나는 미분 가능한 그래프 풀링(pooling)을 통해 계층적 할당을 수행하는 RecDMoN이고, 다른 하나는 그래프 인식 아이템 표현과 그래프 재구성 목적 함수를 통해 RQ-VAE를 확장하는 RQ-GAE입니다. 여러 실제 데이터셋에서 GrIS는 협업 필터링(CF) 인식 최신 기술(SOTA) 대비 일관되게 향상된 성능을 보여주며, Hit@10에서 최대 +52%의 성능 향상을 달성합니다. 그래프 구축과 분할이 명시적이고 개별적으로 구성 가능한 컴포넌트이기 때문에, 두 축 중 어느 한쪽의 개선점이라도 결합하여 체계적으로 평가할 수 있습니다.
Semantic-ID 기반 생성형 추천은 아이템을 공유 semantic 토큰의 시퀀스로 표현하여, 고립된 item ID를 넘어서는 토큰 재조합을 가능하게 한다. 그러나 폐쇄 세계(closed-world) 재조합이 반드시 시간적 개방-토큰 콜드스타트 유도(temporal open-token cold-start induction)를 의미하는 것은 아니다. 여기서 새로운 아이템은 보지 못한 원자적 토큰(unseen atomic tokens)이나 약하게 지원되는 SID 경로와 함께 item 카탈로그에 진입한다. 본 연구에서는 절대 시간 기반 시간 프로토콜 하에서 SID 기반 생성형 추천을 재검토한다. 이 프로토콜은 seen/unseen 타깃을 분리하고 토큰 수준에서 콜드 아이템 도달 가능성(cold item reachability)을 진단한다. seen/unseen 적중 분석, coldness 분류체계(coldness taxonomy), oracle-접두 문맥 탐색(oracle-prefix probing)을 통해, 현재 SID 기반 모델이 관측된 토큰과 접두 문맥으로 지원되는 미래 아이템에 때로는 도달할 수 있지만, 보지 못한 원자적 토큰과 지원되지 않는 SID 경로에서는 어려움을 겪는다는 것을 보인다. 우리는 SID 생성을 계층적 semantic bucketing으로 해석함으로써 이러한 경계를 추가로 설명한다. 초기 토큰은 coarse semantic 영역을 선택하고, 이후 토큰은 item-specific 경로를 정교화한다. 이러한 발견은 SID 생성이 조합적(compositional)이지만 완전히 개방적(open-ended)이지는 않음을 보여주며, 보다 독립적인 SID 공간, 점수 기반 인터페이스(scoring-based interfaces), 동적 텍스트 문맥(dynamic textual context)에서의 향후 방향을 제시한다.
AI 네이티브 애플리케이션의 물결은 쇼핑 경험을 페이지·피드 기반 브라우징에서 대규모 언어 모델(LLM) 에이전트가 조율하는 인텐트 중심 경험으로 전환시키고 있다. 일반적인 설계 방식은 기존 검색·추천 파이프라인을 LLM으로 감싸는 형태인데, 이는 복잡한 인텐트를 저대역폭 검색 또는 랭킹 인터페이스로 억지로 통과시켜 언어 이해와 아이템 공간 이행 사이에 간극을 남긴다. 생성적 추천(Generative Recommendation)은 시맨틱 ID(SID)를 통해 LLM에 직접적인 아이템 공간 인터페이스를 제공하지만, 기존 모델들은 유연한 인텐트를 아이템 공간 결과로 변환하기보다 검색을 위한 후보를 생성하는 데 그친다. 우리는 이 병목을 해결하기 위해 ShopX를 제안한다. ShopX는 인텐트 이해, 실행 계획, 그리고 유연한 SID 네이티브 아이템 공간 연산을 단일 파운데이션 모델로 통합한다. 우리는 모델 대면 액션 프로토콜을 정의하고 컨텍스트 접근, 카탈로그 그라운딩, 상태 관리를 위한 지원 인터페이스를 제공하는 서빙 하네스를 갖춘 모델 네이티브 아이템 이행 프레임워크를 통해 ShopX를 에이전트 쇼핑 워크플로에 배포한다. 이 프레임워크 내에서 ShopX는 SID 빔 서치 검색, 리스트와이즈 랭킹, 상품 번들링 등 SID 기반 아이템 공간 연산을 계획하고 조합한다. 이러한 모델 중심 설계는 에이전트 조율과 아이템 공간 실행 사이의 손실성 핸드오프를 줄인다. ShopX 구축을 위해 시맨틱 복원 가능하고 LLM이 조작 가능한 SID와, 일반 LLM을 유연한 멀티턴 아이템 공간 이행에 적합하게 만들면서 동시에 쇼핑 에이전트에 필요한 지식 및 인스트럭션 따르기 능력을 유지하는 학습 레시피를 설계한다. 우리는 ShopX 프레임워크를 익명화된 Taobao 프로덕션 로그에서 도출한 단일턴 및 멀티턴 이행 태스크에서 도구 매개 에이전트 시스템과 비교 평가하여, 모델 네이티브 이행이 전반적인 프레임워크 동작을 개선하며 특히 복잡하거나 모호한 요청에서 효과적임을 보인다.
대규모 추천에서 고정 차원 임베딩의 표현 한계와 텍스트 기반 사용자 토큰의 한계를 보완하기 위해, TokenMinds는 PLUM을 확장해 사전학습 LLM 기반 인코더-디코더로 Semantic ID(SID) 기반 이산 사용자 토큰과 밀집 사용자 임베딩을 동시에 생성한다. YouTube 전면 트래픽에서 오프라인·온라인 실험으로 검증했으며, 랭킹 등 다운스트림에서 토큰과 임베딩이 상호 보완적이고 장·단편 영상 교차 시나리오를 단일 모델로 통합해 학습·서빙 비용을 크게 줄인다.
생성형 추천(GR)은 추천 시스템의 유망한 방향으로 부상했습니다. 최근 대규모 언어 모델(LLM)이 GR에 점점 더 많이 채택되고 있는데, 이는 LLM의 풍부한 사전학습 지식이 전통적인 암기 지향적 기준 모델이 포착할 수 있는 일반적인 사용자 행동 패턴을 넘어선 일반화를 돕기를 기대하기 때문입니다. 그러나 기존 LLM 기반 GR 연구들은 LLM의 잘 알려진 암기화 경향을 대부분 무시하고 있습니다. 만약 GR을 위해 파인튜닝된 LLM에서 이러한 경향이 나타난다면, 사전학습 지식의 활용을 제한할 것입니다. 본 연구에서는 모델이 학습 데이터 내 아이템의 직접적인 후속 아이템을 추천하는 1-홉 암기(one-hop memorization)를 분석하여 이러한 우려를 조사합니다. 우리는 LLM이 비(non)-LLM 기반 GR 모델보다 이러한 행동을 더 많이 보인다는 것을 보여줍니다. 사실 GR 기준 모델 대비 LLM의 성능 향상 대부분은 1-홉 암기를 통해 타겟 아이템을 예측할 수 있는 사용자에게서 발생합니다. 우리는 나머지 사용자에 대한 성능을 향상시키기 위해서는 LLM이 1-홉 전이를 넘어선 더 풍부한 아이템 간 관계를 학습해야 한다고 직관합니다. 이를 달성하기 위해 우리는 IIRG라는 새로운 학습 전략을 제안합니다. IIRG는 LLM이 (1) 사용자 시퀀스에서 여러 홉(hop)에 걸친 아이템 동시 출현에서 파생된 협업적 관계와 (2) 유사한 주제를 가진 아이템 간의 의미적 관계를 포착하도록 가르치며, 이 두 가지 모두 유용한 추천 신호로 작용할 수 있습니다. 우리는 IIRG가 표준 다음 아이템 예측으로만 학습된 LLM보다 유의미하게 더 우수함을 보여줍니다. 특히 학습 시점의 1-홉 전이에 포함되지 않는 테스트 아이템을 가진 사용자에게서 큰 향상을 보였습니다.
생성형 모델의 최근 발전으로 추천 시스템(RS)의 유망한 패러다임인 생성형 추천(GR)이 등장했으며, 이는 풍부한 아이템 시맨틱과 협업 필터링 신호를 통합하고자 한다. 대표적인 현대적 접근 방식은 시맨틱 ID(SID)를 사용하는 것으로, 이는 모달리티 인코더(예: 대규모 언어 모델 또는 비전 모델)의 임베딩으로부터 양자화된 이산 코드이며, 자기회귀적 사용자 상호작용 시퀀스 모델링 방식으로 아이템을 표현한다(이하 SID 기반 GR). 다른 도메인의 생성형 모델들이 잘 정립된 스케일링 법칙을 따르는 반면, 본 연구는 SID 기반 GR이 모델 규모를 확장할 때 심각한 병목 현상을 보임을 밝힌다. 특히, SID 기반 GR의 성능은 모달리티 인코더, 양자화 토크나이저, RS 자체 등 각 구성 요소를 확장함에 따라 빠르게 포화 상태에 이른다. 본 연구에서는 아이템 시맨틱 정보를 인코딩하는 SID의 제한된 용량을 근본적인 병목 중 하나로 규명한다. 이 관찰에 착안하여, 더 나은 스케일링 거동을 갖는 GR 모델을 얻기 위한 초기 시도로서, 대규모 언어 모델(LLM)을 추천 시스템으로 직접 활용하는 또 다른 GR 패러다임(이하 LLM-as-RS)을 재검토한다. 실험 결과, LLM-as-RS 패러다임은 우수한 모델 스케일링 특성을 보이며, 스케일링을 통해 SID 기반 GR의 최고 달성 성능 대비 최대 20% 향상을 달성한다. 또한, LLM이 협업 필터링 정보를 포착하는 데 어려움을 겪는다는 통념에 의문을 제기하며, LLM이 스케일 업됨에 따라 사용자-아이템 상호작용을 모델링하는 능력이 향상됨을 보인다. 44M에서 14B 파라미터에 이르는 모델 크기에 걸쳐 SID 기반 GR과 LLM 모두를 분석한 결과는 SID 기반 GR의 내재적 스케일링 한계를 강조하고, LLM-as-RS를 GR을 위한 파운데이션 모델로 나아가는 유망한 경로로 자리매김한다.