PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.24706v1cs.HC

"MeBo는 당신의 흔적을 남깁니다": 노인을 위한 관계형 음성 기반 기억 동반자 설계

"MeBo Leaves a Piece of You Behind": Designing a Relational Voice-Based Memory Companion for Older Adults

자전적 기억 회상은 노년기의 정체성, 웰빙, 사회적 유대감을 지원하지만, 기존의 음성 기반 기억 기술은 대체로 고립된 프롬프트(prompt)에 의존하고 있습니다. 본 연구에서는 11명의 노인과의 참여형 설계를 통해 완전한 기능을 갖춘 관계형 음성 기반 기억 동반자인 MeBo를 설계하고 제작했습니다. 이들의 경험담은 MeBo의 상호작용 설계와 다중 에이전트(multi-agent) 구현을 이끈 4가지 '디자인 전략'을 형성했습니다. 20명의 노인을 대상으로 한 혼합 방법 평가(mixed-methods evaluation)에서 참가자들은 MeBo가 매우 유용하며(SUS = 87.75), 즐겁고, 사교적이며, 정서적으로 반응하고 신뢰할 수 있다고 평가했습니다. 참가자들은 세션 전보다 세션 후에 더 높은 긍정 정동과 순간적인 사회적 유대감을 보고했으며, 부정 정동은 더 낮아졌다고 답했습니다. 참가자들은 MeBo가 자신들의 이야기를 따라가고, 이전 기억으로 되돌아가며, 선호도에 맞게 적응하고, 점차 쌓여가는 기억을 시각화하고 제어할 수 있도록 만든 방식을 설명했습니다. MeBo의 관계적 프레이밍은 시스템이 무엇을 기억해야 하는지, 상호작용을 통해 생성된 기억에 누가 접근할 수 있는지, 사용자가 더 이상 존재하지 않거나 MeBo가 없을 때 이 기억들이 어떻게 되는지를 둘러싼 긴장감을 드러냅니다.

arXiv:2607.21757v1cs.CY

LLM 기반 선호도 에이전트의 공동 설계: 참여가 과신을 유발할 수 있다

Co-design of LLM-based preference agents: participation may drive overtrust

대규모 언어 모델(LLM)은 연구 및 실무 응용에서 인간의 선호를 시뮬레이션하는 데 점점 더 많이 사용되고 있으며, 이는 검증, 왜곡된 대표, 배제에 대한 우려를 불러일으킨다. 에이전트가 대표하는 사람들과 함께 에이전트를 공동 설계하는 것은 이러한 우려를 해결하는 유망한 방법이지만, 참여는 겉으로 해결하는 것처럼 보이는 문제를 오히려 가릴 수도 있다. 본 논문은 배경 설문, 공동 설계 인터뷰, 검증 설문을 통해 12명의 참가자가 가정 에너지 영역에서 개인 선호도 에이전트를 공동 설계한 주로 질적 연구를 통해 그 긴장을 탐구한다. 참가자들은 적극적으로 참여했으며, 대부분 자신의 에이전트가 자신을 잘 대표한다고 보게 되었다. 그러나 독립적인 검증은 혼재된 인간-에이전트 정렬(alignment)을 드러냈으며, 에이전트 응답은 인간 표본보다 현저히 더 동질적이고, 단호하며, 추상적이었다. 본 논문은 참여와 프로세스 투명성이 신뢰를 촉진하면서 체계적인 불일치를 숨기는 "과신 엔진(overtrust engine)"으로 작용할 수 있으며, 이는 규모가 커질 때 잠재적인 구조적 결과를 초래할 수 있다고 주장한다. 이를 참여형 선호도 에이전트 설계의 핵심 메커니즘으로 발전시키며, 개별 정렬을 고정된 상태가 아닌 수행되는 과정으로 다룬다.