PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.19635v1cs.IR

Token Factory: 대규모 추천 모델에 다양한 신호를 효율적으로 통합

Token Factory: Efficiently Integrating Diverse Signals into Large Recommendation Models

대규모 추천 모델(LRM)은 산업 규모의 추천 작업에서 유망한 성능을 보여주었습니다. 그러나 트랜스포머 기반 아키텍처에 기존 신호를 포괄적이고 효율적으로 통합하는 것은 여전히 주요한 과제로 남아 있습니다. 이러한 신호를 직접 "텍스트화"하거나 이산적인 아이템 표현을 생성하는 기존 접근 방식은 종종 과도하게 긴 프롬프트, 상당한 메모리 사용량, 그리고 높은 계산 오버헤드를 초래합니다. 이러한 제한 사항을 극복하기 위해, 우리는 기존 신호를 LRM이 직접 처리할 수 있는 "소프트 토큰(soft tokens)"으로 변환하도록 설계된 "Token Factory" 프레임워크를 제안합니다. 이 접근 방식은 이질적인 입력 특징의 효율적인 통합과 압축을 가능하게 하여, 프롬프트 길이 폭발을 방지함과 동시에 모델 성능을 향상시킵니다. 본 논문에서는 Token Factory의 아키텍처를 상세히 설명하고, 실제 운영 규모의 추천 환경에서 그 효과를 검증한 실험 결과를 제시합니다.