Large Language Models (LLMs) have demonstrated remarkable ability in generating personalized content by leveraging user histories and contextual cues. However, most existing personalization approaches rely on implicit representations within model parameters, making it difficult to interpret user-specific preferences or effectively handle long-context dependencies. To address these challenges, we propose PrefReward, a novel preference-aware generative framework that explicitly models user styles through a structured preference matrix and integrates it into the decoding process as a reward signal. PrefReward consists of two stages: (1) extracting a user-specific preference matrix that summarizes individual stylistic tendencies, and (2) using the matrix to guide generation via a KL-divergence-based reward function. Experiments on the LongLaMP dataset show that PrefReward outperforms retrieval-based baselines and context steering method in both generation quality and personalization interpretability.
개인화 텍스트 생성은 모델이 과거 데이터로부터 사용자 고유의 문체를 포착해야 한다. 검색, 매개변수 효율적 미세조정, 또는 활성화 스티어링(activation steering)에 기반한 기존 접근법은 추론 및 저장 오버헤드를 유발하거나, 문체적 신호와 의미적 내용을 분리하는 데 어려움을 겪는다. 우리는 희소 사전(sparse priors)을 활용한 전역-지역 활성화 스티어링(Global-Local Activation Steering)을 통해 개인화 생성을 수행하는 학습 없는(training-free) 프레임워크인 GLASS를 제안한다. GLASS는 희소 오토인코더(sparse autoencoders)를 사용하여 과거 응답으로부터 전역 사용자 문체 사전을 추출하고, 클러스터링된 상호작용 시나리오에 대해 지역적 대조적 문체 벡터를 구성한다. 추론 시, 전역 및 지역 벡터를 서로 다른 모델 레이어에 공동으로 주입하여, 검색이나 매개변수 업데이트 없이 문맥 인식 개인화를 가능하게 한다. LaMP 및 LongLaMP에서의 실험은 GLASS가 ROUGE 지표와 LLM-as-judge 평가 전반에 걸쳐 검색-, 미세조정-, 스티어링 기반 베이스라인을 능가함을 보여준다. 추가 분석은 SAE 기반 표현이 주제 및 길이 변화에 더 강건하여, 문체 정보와 의미적 잔여(semantic residue)의 더 나은 분리를 시사함을 보여준다.
최근 음성 대규모 언어 모델(Speech LLM)은 풍부한 준언어적(paralinguistic) 단서를 활용하여 더욱 복잡하고 개인화된 상호작용을 가능하게 합니다. 그러나 이러한 민감성이 어떻게 고정관념화로 이어질 수 있는지를 조사한 연구는 드물며, 기존 평가는 유익한 개인화와 고정관념적 행동을 구별하지 않은 채 주로 인구통계학적 격차만을 측정합니다. 본 연구에서는 세 가지 축을 통해 이 두 측면을 분리하도록 설계된 벤치마크인 BASIS-Bench를 소개합니다. (1) 화자 전반에 걸친 콘텐츠 기반 작업의 격차 및 인구통계학적 분류 기능을 측정하는 인구통계학적 강건성, (2) 감지된 인구통계학적 단서가 유도되지 않은 고정관념적 행동을 촉발하는지 측정하는 고정관념 바이어스, (3) 명시적으로 요청되었을 때 모델이 인구통계학적 특성에 맞춰 응답을 맞춤화할 수 있는지를 측정하는 개인화입니다. 우리는 8개의 최근 음성 LLM을 평가한 결과, 모델들이 인구통계학적 단서를 인식하는 경우가 많음에도 불구하고 대부분 적절한 개인화로 전환하는 데 실패함을 발견했습니다. 명시적인 인구통계학적 레이블은 개인화를 향상시키지만 텍스트 백본에 이미 존재하는 고정관념적 연상을 증폭시키기도 합니다. 이러한 결과는 음성 LLM이 인구통계학적 단서를 인식할 뿐만 아니라, 언제 그러한 단서가 응답을 형성해야 하는지 학습하도록 훈련할 필요가 있음을 강조합니다.
개인화(personalization)는 전통적으로 발신자와 수신자가 나뉘는 양자 간 문제입니다. 발신자는 전달할 내용을 선택하고, 독립적인 목표를 가진 수신자는 행동 여부를 결정합니다. 동일한 분석 제품을 제안하는 영업 사원은 병원에는 HIPAA 준수를 강조하고 소매업체에는 실시간 보고 기능을 내세우며, 상대에 따라 서로 다른 논리가 통할 것으로 기대합니다. 기존의 대규모 언어 모델(LLM) 개인화 벤치마크는 더 좁은 범위의 단자 간(one-party) 속성을 측정합니다. 즉, RLHF가 어시스턴트를 해당 사용자에 정렬(alignment)시키는 것처럼 발신자와 수신자가 동일하여 출력이 서비스를 제공하는 사용자의 선호도와 일치하는지만을 평가합니다. 양자 간 사례는 특정 콘텐츠와 관찰된 수신자의 행동을 연결하는 정답(ground truth)이 필요하기 때문에 자동으로 연구하기가 더 어렵습니다. 세일즈 아웃리치는 이를 제공합니다. 한 잠재 고객을 위해 작성된 메시지와 그것이 답장, 통화 또는 거래 성사로 이어졌는지의 기록이 남아있기 때문입니다. 본 논문에서는 대규모 양자 간 생성형 개인화를 벤치마킹하기 위한 프레임워크인 SDR-Arena와 22개 산업군, 3,500개 기업에 걸친 50,000건의 고객 성공 사례로 구성된 공개 말뭉치인 SDR-Bench를 소개합니다. 결과 이전의 정보만 주어진 상태에서, 에이전트(agent)는 거래를 성사시킨 논리를 재구성해야 하며 가중 너깃 재현율(recall) 지표(WCS)로 평가됩니다. 최고 성능의 모델(model)인 Claude Sonnet 4.6은 55.8%의 WCS를 기록하여 성공적인 콘텐츠의 절반만 복원함을 보여주었으며, 이는 비용이 많이 드는 딥 리서치 파이프라인으로도 좁혀지지 않고 여러 모델 제품군 전반에서 관찰되는 정체 구간입니다. 제거 연구(ablation) 결과 그 원인은 추론이 아닌 검색(retrieval)에 있음을 확인했습니다. 인간 연구원이 수집할 법한 사실 정보가 주어지면 모델 성능은 크게 향상되지만, 웹 검색만으로는 이를 거의 찾아내지 못했습니다. 전문 SDR을 대상으로 한 두 가지 연구는 본 지표를 뒷받침합니다. 생성된 피치 중 수정 없이 사용 가능한 수준으로 평가된 것은 48%에 불과했으며, WCS는 모델 출력과 무관하게 독립적으로 작성된 전문가 전략에 대한 평가와 일관된 모델 순위를 산출했습니다.
개인화된 대규모 언어 모델(LLM)은 종종 각 사용자에 대해 완전한 적응(adaptation) 상태를 필요로 합니다. 그러나 이러한 패러다임은 사용자 수가 증가함에 따라 확장성이 떨어집니다. 본 연구에서는 개인화 용량 할당(personalization capacity allocation)이라는 관점에서 이러한 설계를 재검토합니다. 즉, 사용자 간에 얼마나 많은 적응 용량을 공유할 수 있는지, 공유된 용량을 어떻게 구성해야 하는지, 그리고 얼마나 많은 부분이 사용자 전용으로 남아 있어야 하는지를 탐구합니다. 우리는 세 가지 상호보완적인 실증 분석을 통해 이에 답합니다. 독립적인 사용자 어댑터에는 상당한 수준의 사용자 간 재사용 가능한 구조가 포함되어 있고, 재사용 가능한 방향의 유용성은 사용자 관련성과 쿼리 전반의 변동성을 모두 반영하며, 사용자 이력은 컴팩트한 개별 보정을 위한 전이 가능한 신호를 제공한다는 점을 발견했습니다. 이러한 발견에 착안하여, 우리는 LINEUP을 제안합니다. 이 방법은 재사용 가능한 저랭크(low-rank) 개인화 팩터 뱅크를 학습하고, 사용자 조건부 재현율(recall) 및 쿼리 의존적 캘리브레이션을 통해 이를 구성하며, 대상 사용자 적응을 공유 보정 공간 상의 극소형 사용자 코드로 제한합니다. 이러한 설계는 표현력 있는 개인화 용량을 사용자별 학습 가능 상태와 분리합니다. 모든 공유 컴포넌트가 고정된 상태에서 각 대상 사용자는 단 8개의 스칼라만을 최적화합니다. 이에 비해 평가된 프라이빗 LoRA 구성은 사용자당 419만 개의 파라미터를 사용합니다. 우리의 이론적 분석은 유한 스텝, 유한 이력 위험 한계(risk bound)와 사용자 코드 개선이 이력 초기화(initialization)보다 향상되기 위한 충분조건을 제시합니다. 개인화 분류(classification), 예측, 생성을 아우르는 6개 태스크에서 LINEUP은 3회의 독립적인 실행을 거쳐 평균화된 12개 지표 모두에서 우위를 점했습니다(예: 가장 강력한 기준선(baseline) 대비 LaMP-3 RMSE 11.4% 감소). 또한 제한된 이력 환경에서도 우위를 유지합니다. 이러한 결과는 풍부한 개인화가 주로 재사용 가능하고 조건부로 구성된 공유 용량에 의해 지원될 수 있으며, 독립적인 사용자 적응은 아주 작은 보정 상태로만 국한되어도 충분함을 보여줍니다.
장기 메모리는 세션을 거치며 더 유능해지고, 상호작용을 통해 형성된 사용자에 대한 정확하고 진화하는 이해를 유지하는 LLM 에이전트를 약속한다. 그러나 실제로는 이러한 메모리가 이후 응답, 개인화 품질, 과제 성공과 같은 하류 행동을 통해 대부분 평가되며, 그 이해는 간접적으로만 검증되고 메모리 산출물 자체는 거의 감사되지 않는다. 우리는 장기 메모리를 대신 상호작용 후 감사 가능한 산출물로 평가해야 한다고 주장한다. 일반적인 지원 이후, 에이전트가 남긴 메모리로부터 어떤 구조화된 사용자 상태를 재구성할 수 있는가? 우리는 이 관점을 MEMPROBE에 구현한다. MEMPROBE는 메모리를 갖춘 에이전트가 각각 숨겨진 분류체계 기반 사용자 상태 뱅크를 지닌 시뮬레이션 사용자를 유출 제어된 과제 궤적에 걸쳐 지원한 뒤, 전체 저장소(full-store) 및 top-k 접근 모두에서 에이전트의 결과 메모리로부터 그 뱅크를 재구성하는 벤치마크이다. 효율적이고 확장 가능한 측정을 위해 합성 ground truth 위에 구축된 MEMPROBE는 사용자당 31개의 숨겨진 차원을 가진 50명의 시뮬레이션 사용자(복구 대상 1,550개)를 포괄하며 5개의 대표적 메모리 시스템을 시험한다. 최신 메모리 에이전트를 시험한 결과, 성공적인 지원과 복구 가능한 메모리는 서로 다른 역량으로 작동함을 확인한다. 과제 완료율은 메모리 없는 기준선에서도 거의 포화에 가깝지만, 범주 균형 복구는 중간 수준(약 0.6)을 유지하고 top-k 검색에서는 더 낮아진다. MEMPROBE는 메모리 복구를 직접 연구하는 최초의 벤치마크로, 시스템이 보유한 사용자 상태를 재구성하고 ground truth와 대조해 채점한다. 우리는 복구를 향후 메모리 에이전트가 최적화할 구체적 목표로 보고, MEMPROBE를 에이전트가 사용자를 기억하도록 학습되는 환경으로 나아가는 한 걸음으로 본다. 사용자를 더 오래 알수록 더 충실해지도록.
개인화는 오랫동안 고객 데이터를 활용하여 개인이 무엇을 가치 있게 여길지 추론하는 방식에 의존해 왔습니다. 우리는 이를 고객의 과거 행동 및 선호도인 '고객 증거(customer evidence)'라고 부릅니다. 생성형 AI(Generative AI)는 모든 조건을 사전에 인코딩하지 않고도 응답이 생성되는 시점에 제공자가 변화하는 상황적 정보를 공급할 수 있도록 하여 개인화를 확장합니다. 우리는 이러한 제공자 측 문맥을 현재 무엇이 가능하고, 허용되며, 권장되는지에 대한 정보로 정의합니다. 이러한 유연성은 새로운 문제를 야기합니다. 일단 문맥을 제공하기 쉬워지면, 더 많다고 해서 반드시 더 좋은 것은 아니라는 점입니다. 우리는 문맥의 양보다 고객의 현재 의도와의 관련성이 더 중요한 '문맥 충분성(context sufficiency)' 이론을 개발합니다. 이 이론은 불충분성(insufficiency), 충분성(sufficiency), 포화(saturation), 간섭(interference)의 네 가지 상태를 규명하고, 최소한의 관련 집합을 찾기 위한 '문맥-충분성 프론티어(Context-Sufficiency Frontier)'를 도입합니다. 대형 홈퍼니싱 소매업체의 생성형 추천 시스템을 대상으로 한 완전 요인 실험에서, 관련 문맥은 적절성을 향상시킨 반면, 무관한 문맥은 적절성을 떨어뜨리고 검색을 불안정화했습니다. 이 프레임워크는 개인화의 초점을 단순히 더 많은 문맥을 제공하는 것에서 현재 상호작용이 실제로 요구하는 것을 식별하고 서비스 프로세스 전반에 걸쳐 제약 조건을 강제하는 방향으로 전환합니다.
대규모 언어 모델(LLM)을 개인화하려면 생성 동작을 전체적인 평균 품질이 아닌 사용자별 선호도에 정렬(alignment)시켜야 합니다. 직접 선호 최적화(DPO)는 선호도 학습을 위한 안정적인 프레임워크를 제공하지만, 개인화된 환경에서의 효과는 선호도 쌍을 어떻게 선택하느냐에 크게 의존합니다. 기존 접근 방식은 일반적으로 가능도(likelihood) 기반 극단값과 같은 휴리스틱 기준에 의존하므로, 최적화가 명시적인 사용자 효용과 분리되어 개인화 성능 저하로 이어질 수 있습니다. 본 연구에서는 기대 사용자 효용의 그래디언트와 DPO 업데이트 방향 간의 1차 상호작용을 분석하여, 개인화된 선호도 학습을 기하학적으로 정렬된 최적화 문제로 공식화합니다. 분석 결과, 오프-정책(off-policy) 샘플링 하에서 선호도 마진이 효용 그래디언트와 방향적으로 정렬될 때 DPO 업데이트가 순수한 오류 수정 신호에서 강화 형태의 업데이트로 전환됨을 확인했습니다. 이러한 관점은 쌍 선택이 선호도 최적화가 개인화를 촉진하는지 저해하는지를 좌우하는 기하학적 결정임을 보여줍니다. 이러한 통찰을 바탕으로, 에포크(epoch)별 재생성을 통해 분포 변화를 제어하면서 효용을 인지하고 기하학적으로 정렬된 쌍 선택을 수행하는 반복 알고리즘인 GAP-DPO(Geometry-Aligned Preference DPO)를 제안합니다. 개인화된 텍스트 생성 벤치마크에 대한 실험은 GAP-DPO가 표준 DPO 변형들과 비교하여 문체 충실도, 선호도 정렬 및 생성 품질을 지속적으로 향상함을 보여줍니다. 종합적으로 본 연구의 결과는 그래디언트 정렬을 개인화된 선호도 최적화를 위한 통합 원리로 확립하며, 쌍 선택이 휴리스틱 전처리 단계가 아니라 최적화 기하학의 본질적인 구성 요소임을 입증합니다.
텍스트-이미지 확산 모델(diffusion model)의 지속적 개인화(continual personalization)는 이전에 학습한 개념을 보존하면서 새로운 개념을 순차적으로 획득하는 것을 요구합니다. 그러나 기존 방식들은 파국적 망각(catastrophic forgetting)을 겪거나 개념별 추가 매개변수 및 공간적 구성 요소를 저장하는 데 의존하여 개념 스트림이 증가함에 따라 매개변수 차지 공간(footprint)이 커지게 됩니다. 이는 긴 시퀀스의 개인화 작업으로 확장하는 능력을 제한합니다. 본 논문에서는 단일 고정 크기 하이퍼네트워크(hypernetwork)를 사용하여 동결된 확산 모델을 지속적으로 개인화하는 리허설 없는(rehearsal-free) 접근 방식을 제안합니다. 새 개념이 획득됨에 따라 모델을 확장하는 대신, 하이퍼네트워크는 이전에 학습된 개념을 보존하면서 개인화에 필요한 개념별 적응을 동적으로 생성합니다. 또한 본 프레임워크는 공간 제어를 개인화 과정에 통합하여 개념별 구성 요소를 추가로 도입하지 않고도 개인화된 개념이 나타나야 할 위치를 사용자가 지정할 수 있도록 합니다. 이러한 공식화를 통해 압축된 개념 표현을 제외하면 학습된 개념 수와 무관하게 매개변수 크기가 유지되는 지속적 개인화가 가능해집니다. 실험을 통해 이전에 학습된 개념의 강력한 보존과 신뢰할 수 있는 공간적 그라운딩(grounding)을 입증하였으며, 기존 방법과 대등하거나 개선된 성능을 보이는 동시에 긴 개인화 작업 스트림으로도 효과적으로 확장됨을 보입니다.
대규모 언어 모델(LLM)이 다양한 벤치마크에서 뛰어난 성과를 거두었지만, 규범적 가치에 맞춘 정렬(alignment)은 종종 다양한 사용자 선호도를 반영하지 못하는 획일화된 응답을 초래합니다. 기존의 학습(training) 불필요 방식은 프롬프트 엔지니어링을 통해 귀중한 컨텍스트 윈도우(context window)를 차지하는 경우가 많으며, 학습 기반 방식은 일반적으로 사후 학습(post-training) 이후 정적인 상태로 유지되어 실제 환경에서 요구되는 지속적인 최적화를 지원하지 못합니다. 이러한 문제를 해결하기 위해, 희소한 사용자 피드백이 존재하는 실제 상호작용 환경에 맞춘 새로운 최적화 프레임워크인 COPE(Continual Optimization with Personalized embedding and self-Evaluation)를 제안합니다. 본 프레임워크는 각 사용자에게 학습 가능한 개인화 임베딩을 할당하고, 단일 업데이트 단계 내에서 선호도 포착, 자체 평가 보정, 개인화된 응답 최적화를 시너지 있게 통합합니다. 본 연구의 핵심적인 혁신은 자체 평가를 활용하여 대리 보상(proxy reward)을 생성함으로써 명시적인 사용자 피드백이 제공되지 않는 경우에도 지속적인 모델 업데이트를 가능하게 한다는 점입니다. 실험 결과에 따르면 COPE는 희소한 피드백 환경에서 강력한 학습 불필요 및 학습 기반 베이스라인 모델들을 일관되게 능가하며, 검색-증강 프롬프팅(RAP)과도 상호보완적으로 작동함을 보여줍니다. 추가 분석을 통해 COPE의 신뢰할 수 있는 자체 평가, 유의미한 선호도 패턴, 안정적인 일반 성능, 그리고 선호도 변화 및 대체 평가자 환경에서의 견고성을 확인했습니다.
대규모 언어 모델(LLM)은 개별 사용자 간의 상당한 차이에도 불구하고 일반적으로 집단 수준의 선호도에 맞춰 정렬(alignment)됩니다. 본 논문에서는 자연어 인터페이스로 연결된 두 가지 구성 요소로 문제를 분리하는 사용자 수준 개인화 프레임워크인 POPI를 소개합니다. 두 구성 요소는 이질적인 사용자 신호를 간결한 선호도 요약으로 증류(distillation)하는 공유 추론 모델과, 이 요약을 조건으로 하여 개인화된 응답을 생성하는 공유 생성 모델입니다. 두 구성 요소는 모두 통합된 선호도 최적화(preference-optimization) 목적 함수에 따라 학습(training)되며, 미분 불가능한 추론 단계는 강화학습(reinforcement learning)을 통해 처리됩니다. 이 목적 함수는 생성 모델 근사 오차와 요약의 정보성으로 분해되어, 단일 손실(loss)이 어떻게 정확한 생성과 유익한 요약을 동시에 이끌어내는지를 보여줍니다. 인터페이스가 자연어로 구성되어 있으므로, 학습된 요약은 사용자당 한 번만 추론되어 동결된 블랙박스 상용 API를 포함한 다양한 생성 모델 전반에서 재사용될 수 있습니다. 4개의 개인화 벤치마크 전반에서 POPI는 일반적으로 개인화 품질을 향상시키면서 컨텍스트 오버헤드를 최대 10배(an order of magnitude)까지 줄입니다.
사람들이 금융 조언을 위해 생성형 AI를 이용하면서, 이러한 시스템은 소통 방식과 전달 내용을 개인화할 수 있다. 이러한 형태의 개인화가 의사결정에 서로 다르게 영향을 미치는지는 아직 불분명하다. 우리는 사전 등록된 2×2 피험자 간 요인설계 실험(N=240)을 수행했다. 참가자들은 비슷한 수준으로 타당한 세 종목 주식의 순위를 매긴 뒤 AI와 논의하고 다시 순위를 매겼다. 참가자들은 두 형태의 개인화를 모두 인지했지만, 맥락 기반 개인화만이 순위 행동을 일관되게 바꿨다. 이는 재검토를 늘리고 순위를 AI가 배정한 추천 쪽으로 이동시켰다. 참가자들은 AI를 더 정확하거나, 신뢰할 만하거나, 지능적이거나, 호감이 가거나, 고품질이라고 판단하지 않으면서도 더 영향을 받았다고 느꼈다. 처음에 그 추천과 더 멀었던 사람들은 조언을 덜 정확하다고 판단하면서도 더 많이 그쪽으로 이동했으며, 탐색적 분석은 전문성이 낮은 참가자일수록 더 큰 수용성을 시사한다. 이러한 결과는 개인화된 AI가 최소한의 평가적 흔적만으로도 정당화 가능한 선택지들 사이에서 의사결정을 유도할 수 있음을 보여 주며, 개인화된 의사결정 지원의 설계와 거버넌스에 대한 우려를 제기한다.
개인화된 대규모 언어 모델(LLM)은 종종 명시적 스타일 지시를 따를 것으로 기대되지만, 우리는 그러한 지시가 개인화 방법이 보존하려는 사용자 고유 특성을 약화시킬 수 있음을 발견한다. 우리는 이러한 실패 양식을 개인화 붕괴(personalization collapse)라 부른다: 명시적 스타일 제어는 암시적 사용자 선호와 충돌할 수 있다. 이 문제에 대응하기 위해 우리는 요청된 스타일을 반영한 뒤 사용자별 잔차(residual)를 학습하는 경량 플러그인 PsPLUG를 제안한다. PsPLUG는 또한 추론 시 개인화 강도를 조절할 수 있게 한다. 실험 결과, 명시적 스타일 지시는 기존 방법에서 개인화를 약화시킬 수 있는 반면, PsPLUG는 사용자 선호를 더 잘 보존하면서 개인화와 스타일 준수 사이의 균형에 대한 정밀한 제어를 제공한다.
대규모 언어 모델(LLM)을 개별 사용자에 맞게 적응시키는 것은 세밀한 개인화와 확장 가능한 배포 사이의 긴장 때문에 여전히 어렵다. 우리는 점진적 정교화를 통해 효과적인 개인화를 달성하는 계층적 프레임워크인 CARD를 제안한다. CARD는 먼저 공유된 스타일 패턴에 따라 사용자를 클러스터링하고 그룹별 LoRA 어댑터를 학습하여, 견고한 일반화와 저자원 환경에서의 강한 성능을 가능하게 한다. 각 클러스터 내 개인 차이를 포착하기 위해, 사용자가 작성한 텍스트와 클러스터 수준 생성물을 대조하는 암시적 선호 학습 메커니즘을 제안하여, 모델이 수동 주석 없이 사용자별 스타일 선호를 추론할 수 있게 한다. 추론 시 CARD는 기본 모델을 고정한 채, 경량 사용자 선호 벡터와 저랭크 로짓 보정을 통해 디코딩 단계에서만 개인화를 주입한다. LaMP 및 LongLaMP 벤치마크 실험에서 CARD는 기준선 대비 우수한 생성 품질을 달성하면서, 실용적 개인화 텍스트 생성을 위한 효율성과 확장성을 크게 개선함을 보여준다.
대규모 언어 모델(LLM)의 최근 발전으로 웹 에이전트가 복잡한 작업을 자율적으로 수행할 수 있게 되었다. 실제로 사용자는 종종 불완전하게 명시된 지시를 제공하며, 이 경우 에이전트는 원시 브라우징 기록에서 누락된 문맥을 추론해야 한다. 기존 벤치마크는 작업을 완전히 명시적인 프롬프트로 제한하거나 웹 상호작용 기록을 단순화된 형태로 추상화하기 때문에, 이러한 형태의 개인화를 포착하지 못한다. 이 격차를 메우기 위해, 관리형 개방 웹 환경에서 동작하는 개인화 웹 에이전트를 위한 벤치마크인 PersonaTrail을 제안한다. 현실적인 브라우징 궤적을 사용자 기록으로 활용함으로써, PersonaTrail은 에이전트가 사용자 선호를 추론하고 과거 브라우징 세션에서 정보를 회상하는 능력을 평가한다. 또한 원시 브라우징 기록을 두 유형의 구조화된 메모리로 분해하는 프레임워크인 Preference-Aware Contextual Memory(PACMem)를 제안한다: 개별 세션을 요약하는 사실적 메모리와 반복되는 행동 패턴을 정제하는 선호 메모리. 추론 시점에 에이전트는 이러한 메모리에서 가장 관련성 높은 항목을 검색하여 개인화된 탐색을 안내한다. 광범위한 실험 결과, PACMem은 두 작업 모두에서 기존 메모리 기반 베이스라인을 일관되게 능가한다.
독성을 줄이는 문제는 종종 전역 정렬(alignment) 문제로 프레이밍되지만, 유해한 언어에 대한 인식은 주관적이고 문맥에 의존적이다. 우리는 사용자별 독성 민감도에 맞게 언어 생성을 정렬하기 위한 학습 없는(training-free) 방법들에 대한 최초의 비교 평가를, 세 가지 추론(inference) 시점 개입 단계—디코딩 전(프롬프트 조건화 및 재작성), 디코딩 중(토큰, 로짓, 표현 스티어링), 디코딩 후(후보 재순위화)—에 걸쳐 제시한다. PRISM 데이터셋에서 도출한 독성 민감도 목표에 대해 평가한 결과, 모든 방법이 정렬 오류를 28-47% 줄였다. 그러나 결과는 정렬 효과, 개인화, 일반적인 언어 품질 사이의 근본적인 트레이드오프를 보여 주며, 독성 민감도 정렬이 본질적으로 다목적 문제임을 드러낸다.
대규모 언어 모델(LLM)은 매우 설득력 있는 허위 정보를 생성할 수 있지만, 언어와 인구통계 집단에 걸쳐 이를 얼마나 효과적으로 개인화하는지에 대해서는 알려진 바가 거의 없다. 우리는 LLM에 의한 페르소나 대상 허위 정보 생성에 대한 최초의 대규모 다국어 연구를 제시한다. 레드팀 테스팅(red-teaming) 방법론을 사용하여, 네 가지 언어(영어, 러시아어, 포르투갈어, 힌디어)에서 324개의 거짓 내러티브와 150개의 인구통계 페르소나로 8개의 선도 모델에 프롬프트를 제공하고, 160만 개의 개인화된 허위 정보 텍스트로 구성된 데이터셋 AI-TRAITS를 구축했다. 모델이 안전 고지를 동반하든 직접적으로든 요청된 거짓을 생성할 때마다 안전장치가 무력화된 것으로 본다. 모델 전반에 걸쳐, 안전장치는 비개인화 프롬프트의 80%와 개인화 프롬프트의 77.7%에서 실패했으며, Grok는 94% 이상의 사례에서 허위 정보를 생성했다. 모든 모델은 대상 페르소나에 맞게 출력을 효과적으로 맞춤화했으며, 비개인화 콘텐츠보다 상당히 더 많은 설득 기법을 사용했다. 추가 분석은 페르소나별 언어적·심리적 패턴을 드러내고, 안전장치의 효과가 언어에 따라 현저히 달라짐을 보여준다. 이러한 결과는 현재 LLM 안전 메커니즘의 중대한 약점을 드러내며, 개인화된 AI 생성 허위 정보에 대응하는 더 견고한 다국어 안전장치의 필요성을 강조한다.
개인화 다중모달 대규모 언어 모델(MLLM)은 사용자별 맞춤 응답을 생성하는 것을 목표로 하지만, 기존 방법은 주로 프로필 수준 정보에 의존하고 다양한 사용자 선호를 간과한다. 우리는 그룹 선호 붕괴(group preference collapse)를 확인했는데, 이는 다중 사용자 개인화 MLLM이 개별 선호에 둔감해지고 생성 과정에서 억제된 선호 신호와 신뢰할 수 없는 선호 활용으로 인해 지배적인 집단 수준 선택으로 표류하는 현상이다. 우리는 안정적인 프로필 정보와 선호 관련 표현을 분리하는 선호 중심 프레임워크인 PrefMoE를 제안한다. PrefMoE는 선호를 공유 프로토타입과 개인화 잔차로 분해하고, 불균형 인식 학습, 반사실적 가상 사용자 증강, 잔차 탈상관을 통해 개별화된 잔차를 보존하며, 프로필과 선호 요인을 별도의 LoRA 적응 경로로 라우팅한다. 여러 MLLM 백본에 걸친 실험은 PrefMoE가 선호 민감 개인화를 향상시키면서 선호 붕괴를 실질적으로 줄인다는 것을 보여준다. 프로젝트 페이지: https://prefmoe.github.io/.
대규모 언어 모델(LLM)은 AI 서비스를 혁신했지만, 중요한 긴장이 발생한다. 개인화는 모델 성능을 향상시키지만, 사용자들이 공유해야 하는 희소한 계산 자원을 소비한다. 사용자는 언제 값비싼 지도 미세조정(SFT)에 투자해야 하고, 언제 경량적인 문맥 내 학습(ICL)을 선택해야 하는가? 다른 사용자들의 개인화 선택으로 인한 혼잡이 이러한 인센티브를 어떻게 재편하는가? 그리고 플랫폼이 여러 개인화 알고리즘을 제공할 때 어떤 전략을 채택해야 하는가? 우리는 사용자가 직면하는 통계-경제적 트레이드오프를 포착하는 LLM 서빙을 위한 다루기 쉬운 프레임워크를 개발한다. 우리의 분석은 여러 놀라운 통찰을 제공한다. 첫째, ICL과 SFT는 사전학습(pre-training) 커버리지와 데이터 신호 대 잡음비(signal-to-noise ratio) 간의 상호작용에 의해 결정되는 서로 다른 영역에서 각각 우세함을 보임을 보인다. 그러나 혼잡은 이러한 순위를 뒤바꿀 수 있다. 둘째, 균형 상태에서의 자원 소비는 뚜렷한 비단조성(non-monotonicity)을 보인다. 사전학습 정밀도를 높이면 혼잡이 감소하지만, 더 넓은 사전학습 커버리지와 더 어려운 태스크는 때때로 혼잡을 증가시킨다. 셋째, 계산 부하를 잠재적으로 증가시킬 수 있음에도 불구하고, 두 개인화 방법을 모두 제공하는 것이 플랫폼의 최대 수익을 절대로 해치지 않음을 증명한다. 선형 회귀 태스크에서 GPT-2를 사용한 실험은 알고리즘 성능에 대한 우리의 이론적 예측을 검증한다. 이 결과를 보완하여, 21개 주요 AI 플랫폼의 문서를 검토한 결과, SFT와 ICL을 모두 제공하는 비율이 2021년 9.5%에서 2025년 71.4%로 증가했으며, 이는 우리의 플랫폼 설계 시사점과 일치한다.
확산 모델(DM)은 텍스트-투-이미지(T2I) 합성을 크게 발전시켰지만, 개인화(personalization) 기능은 심각한 프라이버시 및 저작권 문제를 야기한다. 악의적 행위자는 이러한 모델을 오용하여 무단 초상화 또는 예술적 스타일 복제물을 생성할 수 있다. 기존의 선제적 방어는 주로 참조 이미지에 적대적 교란(adversarial perturbation)을 적용하여 학습을 방해하는 방식에 의존한다. 그러나 이러한 접근법은 한계가 있다: 모든 학습 이미지가 사전 교란되었다고 가정하며, 데이터셋에 교란되지 않은 이미지가 포함되거나 사소한 데이터 변환을 겪을 때 실패하기 쉽다.
본 논문에서는 사전학습된 T2I 확산 모델의 무단 개인화를 방지하도록 설계된 새로운 백도어 기반 프레임워크인 PersGuard를 제안한다. 교란 기반 방법과 달리, 보호자가 모델 공개 전에 보호용 백도어를 모델에 내장할 수 있다고 가정한다. 이 메커니즘은 다운스트림 사용자가 보호된 이미지로 모델을 미세조정할 경우 모델이 백도어를 유지하고 사전 정의된 보호 출력을 생성하도록 보장한다. 반대로 보호되지 않은 이미지의 경우 미세조정 과정에서 백도어가 효과적으로 제거되어 정상적인 모델 유틸리티가 보장된다.
우리는 백도어 주입을 세 가지 목표를 통합한 최적화 문제로 공식화한다: 보호를 활성화하는 백도어 행동 손실, 표준 생성 능력을 유지하는 사전 보존 손실, 그리고 새로운 백도어 유지 손실. 유지 손실은 개인화 손실을 모방하도록 특별히 설계되어 다운스트림 미세조정 동안 백도어가 견고하게 유지되도록 한다. 그레이 박스 및 블랙 박스 설정, 다중 객체 보호, 얼굴 정체성 보호에 걸친 광범위한 실험은 PersGuard가 기존 교란 기반 방법 대비 우수한 프라이버시 보호를 제공함을 보여준다.