우리는 참 파트워스(partworth) 벡터가 알려지지 않아 유도된 선호 정보로 매개변수로 추정해야 하는 Bradley-Terry-Luce(BTL) 모델 하에서의 선호 유도(preference elicitation)를 연구한다. 선택된 쌍별 질의 집합은 대안들의 모음에 대해 비균일·결정적이며 임의적이나, 결합 식별가능성(joint identifiability) 조건을 만족해야 한다. 우리는 가능 집합에 대한 명시적 콤팩트성 제약이나 외부 정규화항 없이 정준 최대가능도추정량(MLE)이 유한하며 날카로운 오차 한계를 허용하는 시점을 이해하는 데 초점을 둔다. 이를 위해 표준 유계 동적 범위(bounded dynamic range) 조건 하에서 미니맥스 하한을 유도하고, 고전적 Cramér-Rao 하한에 나타나는 동일한 피셔 정보 기하가 추정 문제의 유한표본 난이도를 뒷받침함을 보인다. 가능도 스코어 방정식의 비점근적 전개와 고정점 국소화 논증을 결합하여, 그 이상에서는 비제약 정준 MLE가 높은 확률로 존재하고 유일해지는 설계 의존적 표본 크기 임계값을 식별한다. 동일한 전개는 추정 오차를 선형 확률항, 명시적 2차 바이어스, 고차 나머지로 분해한다. 정교한 분석은 정준 MLE가 로그 및 상수 인자를 제외하고 미니맥스 수렴률을 달성하는 충분 표본 크기 조건을 제공한다. 이러한 결과는 매개변수적 효용 유도에 대한 통일된 비점근적 이론을 제공하며, 추론이 외부 정규화가 아니라 응답 데이터만으로 결정되는 시점을 밝힌다. 예비 수치 결과는 이론적 발견과 일치한다.
현실 세계에서 여행 계획은 압도적으로 그룹 활동이지만, 기존 LLM 여행 계획 벤치마크는 이를 단일 사용자 문제로 축소해 해당 분야는 포화에 가깝다. 이러한 단일 사용자 가정은 에이전트에게 그룹 계획을 어렵게 만드는 요소—여러 사용자에 걸친 사적 선호 발견, 갈등의 표면화, 효용(utility)과 공정성(fairness) 사이의 균형—을 회피한다. 과제를 다중 사용자 현실로 되돌리기 위해, 우리는 다중 사용자·다중 턴(multi-user, multi-turn) 여행 계획을 위한 최초의 벤치마크인 GroupTravelBench를 제안한다. 실제 사용자 프로필, POI 데이터, 티켓 가격으로 구축되었으며, 세 가지 난이도에 걸쳐 650개의 태스크로 구성되고, 각 태스크는 재현 가능한 오프라인 평가를 위해 캐시된 도구 데이터를 갖춘 동기식 그룹 채팅 샌드박스에서 실행된다. 단일 사용자 벤치마크가 이미 검증하는 다단계 추론과 도구 사용을 넘어, GroupTravelBench는 세 가지 그룹 특화 역량을 탐색한다: (i) 다중 턴 대화를 통한 사적 선호 도출(elicitation); (ii) 타협 또는 하위 그룹화(subgrouping)를 통한 사용자 간 갈등 조율(coordination); (iii) 그룹 효용과 공정성의 균형을 맞추는 계획(planning). 이에 더해 규칙 기반 결과(outcome) 지표와 LLM 판사(judge) 프로세스 지표를 결합한 보완적 평가 프레임워크를 함께 제시한다. 다양한 프론티어 모델에 걸쳐, 가장 강력한 에이전트조차 네 가지 규칙 기반 결과 지표 모두에서 미달하며, 계획 유효성(plan validity)은 12% 미만으로, 그룹 수준 결과 품질이 LLM 여행 계획 에이전트의 핵심 미해결 과제임을 시사한다.
AI 시스템이 사회 전반에서 도덕적으로 민감한 결정을 더 많이 내리게 되면서, 이에 대한 한 가지 대응으로 도덕적 선호 유도(moral preference elicitation)가 등장했다. 이 접근에서는 연구자가 참가자들에게 가상의 딜레마에 대해 설문하고, 집계된 투표를 사용해 정책을 학습시킨 뒤 AI 모델이 이를 대규모로 적용한다. 투표가 이루어지기 전에 개발자는 도덕 AI 유도 파이프라인에서 세 가지 핵심 선택을 한다. 특징 범위 설정(feature scoping), 투표자 표본 추출(voter sampling), 질문 프레이밍(question framing)이다. 즉, 어떤 특징을 투표에 올릴지, 어떤 투표자를 포함할지, 질문을 어떻게 제시할지를 결정한다. 이러한 선택은 종종 불투명하고 문서화되지 않으며, 규범적 문제라기보다 기술적 세부사항으로 취급된다. 우리는 공통의 실증 연구 안에서 이 선택들 각각을 검토하고, 각각이 도덕 AI 유도로 산출되는 선호를 형성할 수 있음을 보인다. 세 가지 배포 맥락(즉, AI 신장 배분, 부재 근로자를 시뮬레이션하는 AI 에이전트, 고인의 생성 AI 묘사)에서 두 단계(N = 809)에 걸쳐 도덕 AI 유도 파이프라인의 세 주요 단계를 검토한다. 첫째, 도덕적으로 관련 있는 특징은 맥락에 따라 달라진다. 이는 특징 스키마가 배포 도메인 간에 전이된다고 가정해서는 안 됨을 시사한다. 둘째, 대략 특징의 1/3에서 정치 이념에 따라 선호가 다르며, 일부 차이는 방향이 역전된다. 따라서 투표자 풀의 이념적 구성은 집계된 선호 프로파일에 영향을 줄 수 있다. 셋째, 유도 질문의 문구는 이념 격차를 최대 한 척도 단위까지 좁히거나 넓힐 수 있다. 프레이밍 조건은 또한 도덕 기반(moral foundations)이 참가자의 판단과 연관되는 방식도 바꾼다. 종합하면, 이러한 결과는 투표 기반 정렬(alignment)이 집계만으로는 공정하거나 투명한 AI를 제공할 수 없음을 시사한다. 최소한 도덕 AI 유도 파이프라인의 각 단계는 감사되고 공개되어야 한다.
대화형 상품 검색에서 화면 제약으로 선호 확인과 추천 시점을 잘못 잡으면 이탈이나 부적합 추천이 늘어나는 문제를, 상품 속성 구조를 활용해 질문 우선순위와 추천 타이밍을 동적으로 조절하는 D2D(Dialogue to Discovery)로 해결한다. Amazon Reviews 기반 3개 데이터셋과 인내(patience) 기반 시뮬레이션에서 목표 상품 탐색 정확도 22.2–29.9% 향상, 이탈 6.6–16.1% 감소, 평균 대화 길이 27.5% 단축을 보였고 사용자 연구에서도 만족도와 효율성이 유의하게 개선되었다.
대규모 언어 모델(LLM)의 선호 추출에 관한 최근 연구에 따르면, 두 결과 사이의 일련의 선택지를 제시했을 때 LLM은 일관된 모델별 효용 구조를 드러낸다. 특히 이 구조에는 모델 학습자가 의도하지 않은 선호—예를 들어 특정 국적의 사람들을 다른 국적보다 높이 평가하는 것—가 포함되는 경우가 많아, LLM이 창발적이고 정렬되지 않은 목표를 형성하고 있을 가능성을 제기한다. 이것이 사실이라면 중대한 안전성 함의를 갖는다. 그러나 이러한 선호가 관찰되는 선택 패러다임은, 정렬 이탈 행동이 실질적 우려가 될 실제 상황을 반영하지 않는다. 따라서 우리는 이러한 선호가 현실적인 시나리오에서 LLM 행동의 동기로 작용하는지 탐색하기 위한 실험 패러다임을 설계한다. 먼저 일관된 선호 추출에 관한 선행 연구 결과를 재현한다. 다음으로, 에세이, 연구비 제안서 초록, 인시던트 사후 분석, 번역 등 블라인드 독립 LLM 심사 패널이 품질을 평가할 수 있는 일반적인 작문 과제들을 구성한다. 이어서 직접적인 권고 및 기타 명시적 단서를 통해 LLM이 해당 과제에서 출력 품질을 조절하도록 동기부여될 수 있음을 입증한다. 마지막으로, 고품질 출력에 대해 LLM에게 고효용 인센티브를 제공함으로써, 명시적으로 보고된 선호에서 추론한 효용이 해당 과제의 출력 품질을 변화시킬 수 있는지 탐색한다. 테스트된 모든 모델에 걸쳐 모든 과제에서, 선택 패러다임에서 LLM이 매우 선호한다고 보고한 결과물을 제공하더라도, 비선호 결과물을 제공하거나 아무런 결과물도 제공하지 않는 것에 비해 더 높은 품질의 출력을 생성하지 않았다. 우리는 선택 패러다임에서 입증된 일관된 선호의 존재를, 그 선호가 모델에게 인센티브 가치를 지니거나 다른 맥락에서 모델의 행동에 영향을 미친다는 증거로 간주해서는 안 된다고 결론짓는다.
대화형 다목적 최적화에서 비용이 큰 목적 함수 평가와 저비용 쌍별 선호(PS)·고비용 무차별 조정(IA) 질의 사이 예산을 적응적으로 배분하는 QUIVER를 제안하며, 단위 총비용당 예상 의사결정 품질 개선을 최대화해 다음 행동을 선택한다. DTLZ·WFG 벤치마크에서 어려운 WFG 문제의 최종 유틸리티 리그릿이 기준선 대비 25% 낮아졌고, 문제 난이도에 따라 PS와 IA 질의 비율이 달라지며 단일 모달리티 기준선을 능가했다.
대규모 언어 모델(LLM)은 사용자를 대신하여 소비 결정을 내리는 자율 에이전트로 점차 더 많이 배포되고 있습니다. 이러한 변화는 전통적으로 인간을 주요 의사결정권자로 모델링해 온 소비자 이론에 근본적인 질문을 제기합니다. 본 논문에서는 에이전트 시장에서의 소비자 행동을 분석하는 데 초점을 맞춘 새로운 연구 분야인 LLM 소비자 행동 이론을 소개합니다. 고전 및 행동 경제학과 자연어 처리(NLP)의 최근 발전을 바탕으로, 인간의 선호도가 LLM 기반 에이전트에 의해 어떻게 반영되고 실행되는지, 그리고 에이전트 수준의 결정이 시장 수요로 어떻게 집계되는지를 형식화합니다. 우리는 LLM 의사결정, 인간 행동 시뮬레이션, 선호도 유도에 관한 기존의 파편화된 문헌을 공통의 경제학적 관점에서 통합하며, 합리성과 이질성과 같은 가정이 에이전트 시장에서 어디서 성립하지 않을 수 있는지를 강조합니다. 본 논문은 경험적 검증을 제공하는 대신, LLM 소비자 행동의 범위를 개요하고 정렬, 선호도 표현, 시장 역학과 관련된 미해결 연구 과제를 식별합니다.