arXiv:2610.02631v1 cs.AI

생성형 AI를 위한 사용자 피드백의 미래 설계

Designing the Future of User Feedback for Generative AI

Alisa Frik, Julia Bernd, Amitis Karami, Mohammad Tahaei

제출 2026-10-02

한국어 초록

배포 후 사용자 피드백은 생성형 AI 시스템과 기능을 모니터링하고 개선하기 위한 비용 효율적이며 확장 가능하고 대표성 있는 수단이 될 수 있습니다. 효과적으로 구현될 경우, 이러한 피드백 제공은 생성형 AI(GenAI) 시스템에 대한 사용자의 참여도와 신뢰를 높일 수 있습니다. 정부 규제와 업계 가이드라인은 배포 후 사용자 참여를 요구하고 있지만, 소비자가 사용하기 쉽고 제품 팀에는 실행 가능한 인사이트를 제공하는 메커니즘을 설계하는 데 대한 지침은 거의 없습니다. 본 연구는 학계 연구진과 eBay 간의 협업을 통해 다단계 연구를 수행했습니다. 현재 업계 접근법에 대한 벤치마크 평가를 통해 발견 용이성(discoverability) 부족, 불명확한 용어, 사용자 가치에 대한 무관심 등의 공통적인 문제를 확인했습니다. 이러한 발견을 바탕으로 모범 사례 권고안을 개발하고 프로토타입 피드백 수집 도구를 설계 및 테스트했습니다. 이 도구는 사용자에게 효율적이고 유연하며 긍정적인 피드백 제공 경험을 선사하고, 제품 팀에는 성능과 잠재적 문제에 대한 풍부한 데이터를 활용 가능한 형태로 제공하는 것을 목표로 합니다.

원문 초록

Post-deployment feedback from users can be a cost-effective, scalable, and representative means to monitor and improve generative AI systems and features. When implemented effectively, giving such feedback can increase users' engagement with and trust in GenAI systems. Government regulations and industry guidelines call for post-deployment user engagement, but there is little guidance on designing mechanisms that are usable for consumers and provide actionable input for product teams. We conducted a multi-phase study as a collaboration between academic researchers and eBay. Our benchmark evaluation of current industry approaches identified common issues including lack of discoverability, unclear terminology, and inattention to user value. Based on these findings, we developed best-practice recommendations and designed and tested a prototype feedback-collection tool. The tool aimed to provide users with an efficient, flexible, and positive feedback-giving experience, and provide product teams with rich data on performance and potential problems in a usable format.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.02631v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.10770v1cs.HC공통 태그 human-ai interaction

AI 매개 자아: 인간-컴퓨터 상호작용(HCI)이 자아를 정의하고 관계 맺는 방식

AI-Mediated Self: How HCI Defines and Relates to the Self

AI는 우리가 자아(self)를 이해하고 경험하는 방식을 어떻게 변화시킬 수 있을까요? 본 주제 범위 고찰(scoping review)에서는 102편의 논문을 분석하여 인간-컴퓨터 상호작용(HCI) 분야에서 자아가 어떻게 정의되는지, AI와 자아의 관계가 어떻게 개념화되는지, 그리고 AI가 자아성과 얽힐 때 어떠한 위험이 발생하는지 살펴봅니다. 본 연구의 종합적 고찰은 세 가지 기여점을 제시합니다. 첫째, 교육, 직장, 건강, 창작 활동 전반에 흩어져 있는 연구들을 연결하는 개념적 포괄 개념(umbrella term)으로서 'AI 매개 자아(AI-mediated self)'를 정의합니다. 둘째, 자아에 대한 여섯 가지 프레이밍을 주체성/자율성, 정체성/저작권(authorship), 관계적 역량, 의미 부여라는 네 가지 윤리적 위험 영역과 통합하여, 다양한 맥락에서 재사용 가능한 어휘를 제공하는 개념도를 구축합니다. 셋째, AI와 자아의 관계를 근접성 스펙트럼상에 위치시키는 'AI-자아 포함(Inclusion of AI-Self)' 프레임워크를 도입합니다. 이러한 기여점들을 종합하여, 본 연구는 자아성을 HCI의 핵심 디자인 공간으로 자리매김합니다.

arXiv:2506.09354v5cs.HC공통 태그 human-ai interaction

"이 사람이 정말 인간 동료 지원가인가요?": LLM 지원 상호작용에서 동료 지원가와 전문가 간의 불일치

"Is This Really a Human Peer Supporter?": Misalignments Between Peer Supporters and Experts in LLM-Supported Interactions

정신 건강은 전 세계적으로 커져가는 문제이며, 이는 심리사회적 지원에 대한 접근성을 확대하기 위한 AI 기반 솔루션에 대한 관심을 불러일으키고 있습니다. 실제 경험에 기반한 동료 지원(peer support)은 전문적인 치료를 보완하는 귀중한 대안을 제공합니다. 그러나 훈련(training), 효과성, 정의의 다양성으로 인해 품질, 일관성 및 안전성에 대한 우려가 제기됩니다. 대규모 언어 모델(LLM)은 특히 실시간 텍스트 기반 상호작용에서 동료 지원 상호작용을 향상시킬 수 있는 새로운 기회를 제공합니다. 본 논문에서는 LLM으로 시뮬레이션된 고통받는 내담자(SimClient), 문맥을 고려한 LLM 생성 제안(Suggestions), 실시간 감정 시각화 기능을 갖춘 AI 지원 시스템을 제시하고 평가합니다. 12명의 동료 지원가와 6명의 정신 건강 전문가를 대상으로 한 2건의 혼합 연구 방법(mixed-methods)을 통해 시스템의 효과성과 실무적 시사점을 검토했습니다. 두 그룹 모두 교육을 강화하고 상호작용 품질을 개선할 수 있는 잠재력을 인정했습니다. 그러나 우리는 핵심적인 긴장 관계가 나타남을 발견했습니다. 동료 지원가들은 유의미하게 참여한 반면, 전문가들은 고통 신호 누락 및 조급한 조언 제공 등 동료 지원가의 응답에서 나타나는 중대한 문제점들을 일관되게 지적했습니다. 이러한 불일치는 특히 안전성과 모범 사례 준수가 필수적인 감정적으로 격앙된 상황에서 현재 동료 지원 교육의 잠재적 한계를 부각합니다. 본 연구 결과는 특히 동료 지원이 전 세계적으로 확장됨에 따라 표준화되고 심리학적 근거를 갖춘 교육의 필요성을 강조합니다. 또한 세심하게 설계되고 전문가의 감독을 받는다면 LLM 지원 시스템이 이러한 역량 개발을 어떻게 뒷받침할 수 있는지 보여줍니다. 본 연구는 정신 건강 분야에서의 책임 있는 AI 통합과 동료 제공 치료를 증강하는 LLM의 진화하는 역할에 관한 새로운 논의에 기여합니다.

arXiv:2505.08894v2cs.HC공통 태그 human-ai interaction

WaLLM -- WhatsApp 기반 범용 LLM의 사용 및 참여도 이해

WaLLM -- Understanding Use and Engagement with a General-Purpose LLM on WhatsApp

대규모 언어 모델(LLM) 챗봇이 메시징 플랫폼(예: WhatsApp)을 통해 사용자에게 점점 더 많이 다가가고 있습니다. 그러나 이러한 시스템은 대체로 독점적이고 불투명한 상태로 남아 있으며, 학술 연구는 좁은 특정 도메인 전용 어시스턴트에 집중되어 왔습니다. 이로 인해 사람들이 범용 LLM을 어떻게 사용하고 그러한 시스템을 어떻게 설계해야 하는지에 대한 의문이 여전히 남아 있습니다. 이러한 간극을 해소하기 위해, 본 연구에서는 범용 LLM 챗봇인 WaLLM을 개발하고 실제 환경에서의 개방형 AI 사용을 연구하기 위한 디자인 프로브(design probe)로서 WhatsApp에 배포했습니다. 연구 결과, 건강 및 웰빙 관련 질문이 가장 큰 비중을 차지하여 사용자들이 조언과 정보를 얻기 위해 WaLLM을 찾았음을 보여주었습니다. 참여도(engagement) 기능들은 도입률과 관련된 사용 패턴에서 차이를 보였습니다. 능동적 커뮤니케이션(proactive communication)은 서비스의 가시성을 지원하고 더 높은 사용자 활동과 상관관계를 보인 반면, 공유 목록(communal lists)은 콘텐츠 탐색을 촉진했습니다. 본 논문에서는 이러한 기능들이 WhatsApp의 행동 유도성(affordance)에 어떻게 적응되었는지를 보고하고, 메시징 플랫폼 기반 범용 LLM 서비스를 설계하기 위한 시사점을 논의합니다.

arXiv:2610.00163v1cs.HC공통 태그 human-ai interaction

AI가 재단실을 떠날 때: 대규모 언어 모델(LLM) 조언자가 복잡한 문제 해결에 남기는 영향 측정

When the AI Leaves the Tailorshop: Measuring What an LLM Advisor Leaves Behind in Complex Problem Solving

복잡한 문제 해결은 효과적으로 행동하는 것과 시스템의 작동 방식을 이해하는 것에 달려 있습니다. AI의 조언은 이러한 결과들을 불균등하게 지원할 수 있습니다. 사전 등록된 두 건의 실험에서 대규모 언어 모델(LLM) 조언자의 지원을 받거나 받지 않은 상태로 시뮬레이션 의류 공장을 관리하는 참가자들을 비교했습니다. 연구 전반에서 AI 지원을 받은 참가자들은 더 적은 노력으로 더 높은 자신감과 이해도를 보고했습니다. 첫 번째 연구(N=200)에서 AI 지원은 기업 가치를 높였으나 예측 정확도에서는 감지 가능한 차이를 만들어내지 못했습니다. 지원이 중단된 후, 이전에 지원을 받았던 참가자들은 이전 선택을 반복하는 것을 기준으로 점수를 매겼을 때는 통제군보다 우수한 성과를 보였으나 기본 설정을 기준으로 했을 때는 그렇지 않았습니다. AI 지원 그룹 내에서는 추천을 더 자주 수정할수록 지원 없는 상태에서의 성과가 더 우수할 것으로 예측되었습니다. 두 번째 연구(N=198)에서 AI 지원을 받은 참가자들은 파산 빈도가 낮았으며 사전 등록된 분석에서 약간의 지식 우위를 보였는데, 이는 주로 지급 능력을 유지한 것과 관련이 있었습니다. AI 지원 그룹 내에서는 추천을 더 자주 수정할수록 더 높은 지식을 보일 것으로 예측되었습니다. 응용 인간-AI 상호작용(HAI) 평가는 AI 지원을 통해 달성한 성과뿐만 아니라 사용자의 이해도와 독립적인 역량도 함께 평가해야 합니다.

arXiv:2609.27824v1cs.CL공통 태그 human-ai interaction

"AI가 너무 인간답게 변하고 있다": 청소년이 일상에서 AI를 경험하고 협상하는 방식

"AI Is Turning Too Human": How Teenagers Experience and Negotiate AI in Everyday Life

생성 AI는 인지·사회·정서 발달의 중요한 시기에 청소년의 일상에 빠르게 들어오고 있다. 그러나 채택 속도는 청소년 스스로가 AI의 확대되는 역할을 어떻게 경험·이해·협상하는지에 대한 근거를 앞서고 있다. 우리는 검증된 키워드 기반 검색과 human-in-the-loop, LLM 보조 주제 분석을 사용하여 2023년 1월부터 2026년 7월까지 r/teenagers에서 AI 관련 담화를 조사했다. AI 관련 논의는 시간이 지남에 따라 크게 증가했으며, 분석적으로 코딩된 11,083개 게시물은 상호 연결된 8개의 경험 영역을 드러냈다. 일상 및 사회적 사용이 가장 많았으며(36.8%), 담화는 점차 진정성, 개인적 통제와 안전성, 그리고 미래 인간의 역할 쪽으로 이동했다. 영역 전반에 걸쳐 청소년들은 AI가 인간의 사고와 창의성을 언제 지원하고 대체해야 하는지, 대화형 AI가 관계와 주체성(agent) 인식을 어떻게 바꾸는지, 무엇이 여전히 진정성 있는 것으로 볼 수 있는지, 누가 개인 정보와 표현을 통제하는지, 어떤 기회와 역할이 인간에게 남아야 하는지를 질문했다. 이 발견은 청소년의 AI 사용을 단순한 기술 채택이 아니라, 일상 속 AI의 위치와 경계에 대한 새로운 협상으로 위치시킨다. 이 전환을 지원하려면 발달 단계에 맞는 AI 리터러시, 심리·사회적 지원, 청소년의 주체성·프라이버시·관계·인간 발달 기회를 보호하는 AI 시스템과 정책이 필요할 것이다.

arXiv:2609.26204v1cs.SE공통 태그 user feedback

WatchPoint: 실제 환경의 에이전트(agent) 기반 웹 개발을 위한 실행 가능한 사용자 피드백

WatchPoint: Executable User Feedback for Real-World Agentic Web Development

전문 웹 개발자의 코드가 테스트에 실패했을 때, 개발자는 단순히 스택 트레이스(stack trace)를 다시 읽는 데 그치지 않습니다. 브라우저에서 애플리케이션을 열고, 버튼을 클릭하고, 계산된 스타일(computed styles)을 검사하며, 진단 명령어를 실행하여 무엇이 잘못되었는지 파악합니다. 기존 코딩 에이전트(agent)용 피드백 메커니즘은 스크린샷, LLM-as-a-judge 점수 산정, 또는 자연어 수정에 의존하지만, 개발자가 하듯이 실제 실행 중인 애플리케이션과 상호작용하는 경우는 거의 없습니다. 본 논문에서는 실행 중인 애플리케이션을 대상으로 진단 스크립트를 생성 및 실행하여 코딩 모델의 재시도를 안내하는 구조화된 관찰 결과를 생성함으로써 실제 개발자의 행동을 모방하는 가상 사용자 시스템인 WatchPoint를 소개합니다. 단일 파일 수정만을 대상으로 하거나 실행 불가능한 지표로 평가했던 이전 접근법과 달리, 본 연구는 결정론적 엔드투엔드(end-to-end) 테스트로 검증된 순차적 의존 관계를 갖는 1,000개의 작업으로 구성된 50개의 다중 파일 웹 프로젝트 벤치마크인 Web-Bench에서 작동합니다. WatchPoint는 진단한 작업의 57.6%를 복구하며, 통제된 사용자 연구를 통해 시뮬레이션의 현실성을 확인했습니다. 즉, 인간 테스터가 이와 유사한 복구율(54.5%)을 달성하여 자동화된 진단 스크립트가 순차적 웹 개발 작업에서 대화형 인간 테스트를 대체할 수 있다는 증거를 제공합니다. 나아가 가상 사용자 피드백이 유용한 경우와 이를 보류해야 하는 경우를 결정짓는 역량 격차 패턴을 규명합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.