Chat-REC: Towards Interactive and Explainable LLMs-Augmented Recommender System
원문 초록
Large language models (LLMs) have demonstrated their significant potential to be applied for addressing various application tasks. However, traditional recommender systems continue to face great challenges such as poor interactivity and explainability, which actually also hinder their broad deployment in real-world systems. To address these limitations, this paper proposes a novel paradigm called Chat-Rec (ChatGPT Augmented Recommender System) that innovatively augments LLMs for building conversational recommender systems by converting user profiles and historical interactions into prompts. Chat-Rec is demonstrated to be effective in learning user preferences and establishing connections between users and products through in-context learning, which also makes the recommendation process more interactive and explainable. What's more, within the Chat-Rec framework, user's preferences can transfer to different products for cross-domain recommendations, and prompt-based injection of information into LLMs can also handle the cold-start scenarios with new items. In our experiments, Chat-Rec effectively improve the results of top-k recommendations and performs better in zero-shot rating prediction task. Chat-Rec offers a novel approach to improving recommender systems and presents new practical scenarios for the implementation of AIGC (AI generated content) in recommender system studies.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
PromptPack: 온라인 추천을 위한 LLM 어노테이션 에이전트 스케일링
PromptPack: Scaling LLM Annotation Agents for Online Recommendation
온라인 추천 플랫폼은 광고 소재에서 구조화된 특징을 추출하기 위해 대규모 언어 모델(LLM)을 점점 더 많이 사용하고 있다. 단일 호출 LLM 어노테이션 에이전트를 배포하면 실제 프로덕션 환경에서 클릭률(CTR)이 크게 개선되지만, 소재별 프롬프팅은 스케일링하기에는 비용이 지나치게 높다. 매 요청마다 전송되는 중복된 시스템 지시문이 청구된 입력 토큰의 94%를 차지한다. 이 비용 병목을 해소하기 위해, 확장 가능하고 높은 처리량을 갖춘 LLM 어노테이션 에이전트인 PromptPack을 제안한다. PromptPack은 컨텍스트 내 배치(in-context batching)를 통해 이 규모를 달성하며, 공유 시스템 프롬프트, 엄격한 XML 구조적 엔벨로프, 출력 교정 층을 결합하여 여러 소재에 대해 동시에 결정론적이고 파이프라인에 바로 투입 가능한 특징 추출을 보장한다. 하류 로지스틱 회귀 순위 모델을 사용한 오프라인 검색 벤치마크를 통해 PromptPack을 평가한다. 에이전트의 동작을 깊이 프로파일링하기 위해 AUC를 측정하고, 생성된 특징의 신호 품질을 포착하는 새로운 지표인 Volume-Weighted Absolute Lift(VWAL)를 도입한다. 배치되지 않은 실제 프로덕션 기준선과 비교했을 때, 배치 크기 20의 PromptPack은 LLM 비용을 89% 절감하고 처리량을 2.5배 가속하면서 AUC를 완전히 유지한다.
PaperRouter-Agent: 개인화된 계층적 논문 라우팅을 위한 내용 기반 LLM 에이전트
PaperRouter-Agent: A Content-Grounded LLM Agent for Personalized Hierarchical Paper Routing
연구자들은 문헌 관리 도구에서 수집한 논문을 개인 폴더 계층 구조로 정리하고, 새로운 논문이 들어올 때마다 적절한 폴더로 라우팅한다. 이 작업은 표준 계층적 텍스트 분류(classification)와 다르다. 사용자의 폴더 계층 구조는 고정된 공유 분류 체계가 아니라, 폴더 의미가 주제 기반, 약칭, 발표 장소 기반, 또는 프로세스 지향적일 수 있는 사적이고 진화하는 개인 분류 체계(folksonomy)이며, 그 의미는 이미 저장된 논문들에 의해 정의되는 경우가 많다. 우리는 이 설정을 개인화된 계층적 논문 라우팅(PHPR, personalized hierarchical paper routing)으로 공식화한다: 사용자별 학습(training) 없이 사용자 고유 계층 구조의 폴더에 입력 논문을 할당하는 것이다. 우리는 폴더 이름만이 아니라 폴더 내 구성원 논문에 라우팅 결정을 근거하는 학습 불필요 LLM 에이전트(agent)인 PaperRouter-Agent를 제안한다. 이 에이전트는 먼저 후보 계층 구조를 좁히고, 폴더별 증거를 검색하며, 구성원 논문을 검사하여 적합성을 검증하고, 과거 사용자 거절 이력으로부터 유사도 게이팅 피드백을 반영한다. 실제 개인 문헌 라이브러리에 대한 형성적 연구에서 PaperRouter-Agent는 전체 Recall@1을 0.39에서 0.61로, Recall@3을 0.57에서 0.83으로 향상시켰으며, 발표 장소나 연도 등 메타데이터로 정의된 조직적 폴더에서 가장 큰 성능 향상을 보였다(Recall@1 0.09에서 0.50). 단일 시도 방법이 이러한 폴더에서 무력화되는 반면, 공개 LaMP-2 벤치마크(benchmark)에서는 동일한 접근법이 단일 시도 기준선(baseline) 대비 정확도를 44.5%에서 51.5%로 향상시켰으며(매크로-F1 +9.0), 실용적 사용에 적합한 낮은 비용을 유지하였다.
PraMem: 장기 행동 예측을 위한 실전 기반 경험적 메모리
PraMem: Practice-derived Experiential Memory for Long-horizon Behavior Prediction
장기 행동 예측(long-horizon behavior prediction)은 긴 이력 시퀀스를 기반으로 사용자의 다음 행동을 추론하는 것을 목표로 하며, 인공지능 분야에서 중요한 역할을 담당한다. 대규모 언어 모델(LLM)의 부상은 순차적 행동 예측에 유망한 방향을 제시하지만, LLM은 장기 행동 예측에 있어 잠재적 행동 패턴 귀납 및 모델 내재적 인지 편향 문제를 겪는다. 기존의 메모리 관리 방법들은 이력 시퀀스의 부담을 완화하여 이 문제를 해결하려는 컨텍스트 압축 패러다임을 따르지만, 핵심 과제를 해결하지 못한다. 본 논문에서는 긴 이력 시퀀스를 부담이 아닌 활용 가능한 가치 있는 자원으로 재정의하는 패러다임 전환을 제안하며, 이에 따라 PraMem을 제안한다. PraMem은 긴 이력 시퀀스에 대해 사전 실전 훈련(practice)을 수행하여 경험적 메모리(experiential memory)를 구축하고, 이를 정확한 장기 행동 예측을 위한 보조 입력으로 활용한다. 다양한 태스크에 걸친 광범위한 실험을 통해 PraMem이 기존 방법보다 우월한 성능을 달성함을 입증하며, 심층 분석을 통해 경험적 메모리의 메커니즘과 발전 과정에 대한 유의미한 인사이트를 제공한다. 코드: https://github.com/icip-cas/PraMem.
만족을 넘어서: 콘텐츠, 리뷰, 웰빙 간의 연관성 학습
Beyond Satisfaction: Learning Associations Between Content, Reviews, and Well-Being
추천 알고리즘은 사람들이 온라인에서 소비하는 것을 형성하지만, 주로 별점, 좋아요, 감성과 같은 사용자 만족의 신호에 맞추어 최적화된다. 이러한 신호가 순간적 선호를 넘어 사용자에게 무엇이 좋은지를 포착하는지는 대체로 검토되지 않았다. 웰빙은 만족을 넘어서는, 심리학에 기반한 대안적 목표를 제공한다. 본 연구는 이를 리뷰에 나타난 PERMA 다섯 측면의 즉각적 표현과 지속적 표현으로 조작화한다. 실증적으로, 즉각적인 긍정 정서와 몰입은 더 쾌락적(즐거움 지향)으로 군집을 이루는 반면, 관계, 의미, 성취, 그리고 지속적인 긍정 정서와 몰입은 더 행복주의적(의미 및 성장 지향)으로 나타난다. Goodreads 리뷰 1,370만 건과 도서 1만 6천 권의 내용을 분석하여, PERMA 표현이 만족 목표와 어떻게 다른지, 그리고 어떤 도서 내용 특징이 이와 연관되는지를 연구한다. 첫째, 만족 신호(별점과 리뷰 감성)는 즉각적인 쾌락적 웰빙과는 중간 정도의 상관을 보이나(r = .43-.50) 그 지속적 표현과는 상관이 더 낮고(r <= .28), 행복주의적 측면과는 거의 연관이 없다(r <= .09). 둘째, 도서 내용 특징은 만족 신호(|r| <= .15)보다 PERMA 측면과 더 강하게 연관된다(r 최대 .46). 즉각적 쾌락적 웰빙과 연관된 내용은 지속적 및 행복주의적 웰빙과 연관된 내용과 다르다. 3인칭 대명사와 과거 지향 언어는 즉각적 몰입과 양의 관계를 보이지만(d=1.14, 1.05) 모든 지속적 측면과는 음의 관계를 보이며(d 최저 -1.58, -1.32), 친사회적 언어와 성취 지향 언어는 각각 관계와 성취와 관련된다(d=.45, .96). 이러한 결과는 만족 신호가 사용자가 표현하는 웰빙의 일부만을 포착하며, 웰빙에 기반한 목표를 사용하면 플랫폼이 상당히 다른 콘텐츠를 추천하게 될 수 있음을 시사한다.
Build2SPARQL: 빌딩 지식 그래프 쿼리를 위한 대규모 Text-to-SPARQL 벤치마크 데이터셋
Build2SPARQL: A Large-Scale Text-to-SPARQL Benchmark Dataset for Building Knowledge Graph Querying
빌딩 자동화 시스템은 Brick 및 ASHRAE 223P와 같은 온톨로지를 사용하는 시맨틱 지식 그래프(KG)로 점점 더 많이 표현되고 있으며, 이는 인공지능 응용을 위한 기계 판독 가능한 기반을 형성합니다. 유망한 응용 분야 중 하나는 자연어 질문을 SPARQL로 변환하는 Text-to-SPARQL로, 빌딩 관리자가 언어 에이전트를 통해 이러한 그래프를 쿼리할 수 있게 해주지만 대규모 자연어/SPARQL 벤치마크의 부족으로 발전이 제한되고 있습니다. 본 논문에서는 지식 그래프 기반(KG-grounded) 파이프라인으로 생성된 빌딩 지식 그래프용 대규모 벤치마크인 Build2SPARQL을 제시합니다. 이 파이프라인은 SPARQL 쿼리를 전적으로 그래프 순회 코드로 생성 및 검증하는 반면, 대규모 언어 모델(LLM)은 자연어 질문만을 생성하도록 하여 쿼리의 정확성을 모델의 동작과 독립적으로 유지합니다. 해당 파이프라인은 선형 체인, 분기, UNION, 집계, OPTIONAL, 속성 필터링의 6가지 쿼리 패턴 패밀리를 추출하며, 각 쿼리를 5가지 어휘 레지스터에 걸쳐 표현합니다. 201개의 빌딩 지식 그래프(Brick 180개, ASHRAE 223P 21개)에 적용하여 6,136개의 실행 가능한 SPARQL 쿼리와 30,680개의 질문을 도출했습니다. 300개 질문에 대한 2인 평가자 인적 검증 결과 98.8%의 시맨틱 충실도, 98.8%의 자연스러움, 84.0%의 운영 타당성을 확인했습니다. 3개의 공개 가중치(open-weight) 언어 모델에 걸친 검색-증강 평가에서는 완전 일치(exact-match) 정확도가 0.2~20%(제로샷)에서 56~65%(3샷 검색)로 향상되었습니다.
입력 경로는 소형 트랜스포머의 퓨샷 바인딩을 형성하지만 제로샷은 아니다: 완전 열거 가능한 연구
Input Pathways Shape Few-Shot, Not Zero-Shot, Binding in Tiny Transformers: A Fully-Enumerable Study
정보가 트랜스포머에 도달하는 방식, 즉 기호 토큰, 요인별로 깔끔한 "오라클" 코드, 또는 얽힌 지각 벡터 중 어느 방식인지가 트랜스포머가 그 정보를 조합적으로 결합(binding)하는지 여부를 어떻게 좌우하는가? 본 연구는 전수 열거된 유한 요인 세계에서 약 6~10K 파라미터의 트랜스포머를 연구하며, 따라서 모든 측정이 입력 공간 전체를 포괄하고 정보를 담은 경로들은 정보량이 일치한다(정확한 베이즈 상한 1.0). 네 가지 발견이 있다. (1) 종점 불변성: 보류된 결합 질의에서 어떤 정보 경로도 수렴된 제로샷 합성에 도달하지 못하며, 각 경로는 우연 수준 이하에서 끝난다. 따라서 이 실패는 정보 부족이 아니라 룩업만으로 충분한 목적함수 하에서의 귀납 편향을 반영한다. 이는 상태를 모든 토큰에 더하지 않고 고유한 시퀀스 위치에 두어도 마찬가지이다. (2) 가독성이 퓨샷 결합을 좌우한다: 보류된 유형의 작은 일부를 학습에 유출시키면 표본 효율이 코드의 가독성을 따른다. 가독성이 가장 낮은 얽힌 코드가 가장 나쁘며(통합 -0.147, 두 방식 모두), 차원을 맞춘 대조군과 단계적 가독성 스윕으로 가독성을 입력 차원과 분리하였다. (3) 경로가 아니라 주입 위치가 결정한다: v1은 가독성이 있는 경로들 사이에 남은 순서를 경로 파라미터 공유로 해석하였으나, 이는 철회한다. 비교된 경로들은 블록 분해가 가능하여 하나의 함수 클래스에 속하므로 공유는 애초에 조작된 적이 없으며, 이 순서는 브로드캐스트로 더해지는 상태의 초기화 스케일에서 비롯되고 상태에 고유한 위치를 부여하면 사라진다(+0.057 -> -0.006, 셀당 20개 쌍체 시드). (4) 실패의 해부: 기호 경로는 읽어내는 단계에서 답을 잃고, 인덱스 경로는 잘못 결합한다. 즉 답은 여전히 디코딩 가능하지만 입력 개입을 통해 보면 출력이 엉뚱한 슬롯을 따라간다. 핵심적인 긍정적 주장은 가독성이며, 나머지는 경로 비교로 확립할 수 있는 범위를 한정한다. 코드, 매니페스트, 시드별 로그를 공개한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.