LLM 제어 보조 로봇을 이끄는 기본 가치와 도덕적 가치의 개인화
Personalization of Basic and Moral Values Guiding LLM-Controlled Assistant Robots
한국어 초록
대규모 언어 모델(LLM)로 구동되는 개인 보조 로봇은 향후 10년 안에 일상생활에 들어올 가능성이 높지만, 그 행동을 이끌어야 할 가치는 대부분 명시되지 않은 채 남아 있다. 현재의 정렬 관행은 단일 모델을 인간 가치의 집합적 평균에 맞추어 조정하므로, 개별 사용자가 자신과 다른 가치 프로파일을 가진 로봇을 선호할 수 있다는 점을 간과한다. 우리는 단순화된 슈워츠 가치 조사(SVS), 초상 가치 설문(PVQ-21), 도덕 기반 설문(MFQ)이라는 세 가지 확립된 심리측정 도구의 자기 대상 및 로봇 대상 병렬 버전을 잠재적 미래 사용자(N=22)에게 실시하여, 개인의 가치와 보조 로봇이 구현하기를 원하는 가치를 모두 파악하였다. UEQ-S를 사용해 세 도구를 개인화 수단으로서 비교하고, 15개의 최신 LLM을 그 결과 프로파일에 대해 벤치마크하였다. 참가자들은 자신의 로봇이 개인 중심 가치에서는 자신보다 현저히 낮은 점수를, 사회 중심 가치에서는 더 높은 점수를 받기를 원했으며, 도덕 프로파일은 거의 동일하였다. 로봇처럼 행동하도록 프롬프트된 LLM은 원하는 프로파일 쪽으로 약하게만 이동하였으며, 이는 기본 모델 행동과 프롬프트 엔지니어링이 명시적인 가치 개인화를 대체할 수 없음을 시사한다.
원문 초록
Personal assistant robots powered by large language models (LLMs) are likely to enter everyday life within the next decade, but the values that should guide their behaviour remain largely unspecified. Current alignment practice steers a single model toward an aggregate of human values, ignoring that individual users may prefer a robot whose value profile differs from their own. We administer parallel self- and robot-targeted versions of three established psycho-metric instruments - the simplified Schwartz Values Survey (SVS), the Portrait Values Questionnaire (PVQ-21), and the Moral Foundations Questionnaire (MFQ) - to potential future users (N=22), capturing both their personal values and the values they would want an assistant robot to embody. We compare the three instruments as personalization tools using the UEQ-S and benchmark fifteen contemporary LLMs against the resulting profiles. Participants wanted their robot to score markedly lower than themselves on personal-focus values and higher on social-focus values; moral profiles were nearly identical. LLMs prompted to act as robots shifted only weakly toward the desired profile, indicating that default model behaviour and prompt engineering are no substitute for explicit value personalization.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.
저자 비고
arXiv Comments
18 pages, 6 figures. Version accepted for publication in: Value Engineering in Artificial Intelligence: Fourth Inter-national Workshop, VALE 2026, Bremen, Germany, August 15, 2026, Proceedings. Work-shop affiliated with 35th International Joint Conference on Artificial Intelligence (IJCAI-ECAI 2026)