arXiv:2610.10770v1 cs.HC

AI 매개 자아: 인간-컴퓨터 상호작용(HCI)이 자아를 정의하고 관계 맺는 방식

AI-Mediated Self: How HCI Defines and Relates to the Self

Jenny Xiyu Fu, Qian Yang, Malte Jung

제출 2026-10-07

한국어 초록

AI는 우리가 자아(self)를 이해하고 경험하는 방식을 어떻게 변화시킬 수 있을까요? 본 주제 범위 고찰(scoping review)에서는 102편의 논문을 분석하여 인간-컴퓨터 상호작용(HCI) 분야에서 자아가 어떻게 정의되는지, AI와 자아의 관계가 어떻게 개념화되는지, 그리고 AI가 자아성과 얽힐 때 어떠한 위험이 발생하는지 살펴봅니다. 본 연구의 종합적 고찰은 세 가지 기여점을 제시합니다. 첫째, 교육, 직장, 건강, 창작 활동 전반에 흩어져 있는 연구들을 연결하는 개념적 포괄 개념(umbrella term)으로서 'AI 매개 자아(AI-mediated self)'를 정의합니다. 둘째, 자아에 대한 여섯 가지 프레이밍을 주체성/자율성, 정체성/저작권(authorship), 관계적 역량, 의미 부여라는 네 가지 윤리적 위험 영역과 통합하여, 다양한 맥락에서 재사용 가능한 어휘를 제공하는 개념도를 구축합니다. 셋째, AI와 자아의 관계를 근접성 스펙트럼상에 위치시키는 'AI-자아 포함(Inclusion of AI-Self)' 프레임워크를 도입합니다. 이러한 기여점들을 종합하여, 본 연구는 자아성을 HCI의 핵심 디자인 공간으로 자리매김합니다.

원문 초록

How might AI alter how we understand and experience the self? This scoping review analyzes 102 papers to examine how the self is defined in the field of human-computer interaction (HCI), how AI-self relationships are conceptualized, and what risks emerge when AI becomes entangled with selfhood. Our synthesis makes three contributions. First, we define AI-mediated self as a conceptual umbrella that connects dispersed work across education, workplace, health, and creative practices. Second, we consolidate six framings of the self with four domains of ethical risk-agency/autonomy, identity/authorship, relational capacity, and meaning-making-into a conceptual map that provides a reusable vocabulary across contexts. Third, we introduce the Inclusion of AI-Self framework, which situates AI-self relationships along a spectrum of proximity. Together, these contributions position selfhood as a central design space in HCI.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.10770v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.27824v1cs.CL공통 태그 Survey, human-ai interaction

"AI가 너무 인간답게 변하고 있다": 청소년이 일상에서 AI를 경험하고 협상하는 방식

"AI Is Turning Too Human": How Teenagers Experience and Negotiate AI in Everyday Life

생성 AI는 인지·사회·정서 발달의 중요한 시기에 청소년의 일상에 빠르게 들어오고 있다. 그러나 채택 속도는 청소년 스스로가 AI의 확대되는 역할을 어떻게 경험·이해·협상하는지에 대한 근거를 앞서고 있다. 우리는 검증된 키워드 기반 검색과 human-in-the-loop, LLM 보조 주제 분석을 사용하여 2023년 1월부터 2026년 7월까지 r/teenagers에서 AI 관련 담화를 조사했다. AI 관련 논의는 시간이 지남에 따라 크게 증가했으며, 분석적으로 코딩된 11,083개 게시물은 상호 연결된 8개의 경험 영역을 드러냈다. 일상 및 사회적 사용이 가장 많았으며(36.8%), 담화는 점차 진정성, 개인적 통제와 안전성, 그리고 미래 인간의 역할 쪽으로 이동했다. 영역 전반에 걸쳐 청소년들은 AI가 인간의 사고와 창의성을 언제 지원하고 대체해야 하는지, 대화형 AI가 관계와 주체성(agent) 인식을 어떻게 바꾸는지, 무엇이 여전히 진정성 있는 것으로 볼 수 있는지, 누가 개인 정보와 표현을 통제하는지, 어떤 기회와 역할이 인간에게 남아야 하는지를 질문했다. 이 발견은 청소년의 AI 사용을 단순한 기술 채택이 아니라, 일상 속 AI의 위치와 경계에 대한 새로운 협상으로 위치시킨다. 이 전환을 지원하려면 발달 단계에 맞는 AI 리터러시, 심리·사회적 지원, 청소년의 주체성·프라이버시·관계·인간 발달 기회를 보호하는 AI 시스템과 정책이 필요할 것이다.

arXiv:2607.14240v1cs.AI공통 태그 Survey, human-ai interaction

동적 인간-AI 워크플로에 맞는 AI 정렬

Align AI to Dynamic Human-AI Workflows

현재의 정렬(alignment) 접근법은 일반적으로 정적인 인간 선호 표현을 사용하여 인간 행동을 모방하는 데 초점을 맞추며, 실제 인간-AI 상호작용의 역동적이고 맥락 의존적인 특성을 포착하지 못한다. 본 논문에서는 정적·모방적 정렬에서 상호작용적·보완적 정렬로의 전환을 주장한다. 여기서 선호는 상호작용을 통해 형성되며, 정렬은 선호 충족만으로 정의되지 않는다. 우선 기존 정렬과, 인간과 모델 행동이 시간에 따라 공진화(co-evolve)하는 궤적 수준(trajectory-level) 관점을 대비하여 이 간극을 형식화한다. 이러한 상호작용 역학은 기존 기계학습(ML) 공식화 내에서 충분히 포착되지 않았기 때문에, 우리는 학제 간 워크숍의 통찰에 이 관점을 기반을 둔다. 우리는 인간-인간 협업에 대한 사회과학적 서술의 교훈을 바탕으로, 인간-AI 시스템이 이러한 역학을 증폭하며 불확실성에 대한 추론을 더 어렵게 만들고 새로운 조정(coordination) 과제를 도입한다고 주장한다. 이러한 교훈과 새로운 과제를 바탕으로, 상호작용 속에서 인간과 정렬되는 AI 시스템 개발을 위한 연구 의제를 개괄하며 마무리한다. 이는 기계학습과 사회·의사결정 과학의 학제 간 통합을 필요로 한다.

arXiv:2606.18716v1cs.HC공통 태그 Survey, human-ai interaction

비즈니스 맥락에서의 인간-AI 에이전트 상호작용

Human-AI Agent Interaction in a Business Context

AI 에이전트가 핵심 비즈니스 프로세스에 점점 더 통합됨에 따라, 가치 창출을 위해 인간과 AI 에이전트 간의 효과적인 상호작용 패턴을 이해하고 설계하는 것이 중요해지고 있습니다. 본 연구는 AI 에이전트와의 긍정적인 사용자 경험(UX)을 위한 원칙과 기준, 그리고 그 측정 방법을 식별하고 평가합니다. 우리는 도입을 촉진하고, 신뢰를 구축하며, 개발 팀의 사용자 중심 의사결정을 지원하기 위한 사용자 기대와 요구를 식별합니다. 정성적 기법과 정량적 기법을 결합한 혼합 방법론(mixed-methods approach)을 사용하여, 인간과 AI 에이전트 간의 상호작용 패턴을 탐구합니다. 이 탐색적 연구의 결과는 특정 설계 요소의 효과를 더 큰 규모로 평가하는 설문 실험(survey experiment)을 개발하기 위한 기초가 됩니다. 이 기초 연구는 비즈니스 환경에서 더 직관적이고 효과적인 인간-AI 에이전트 상호작용의 발전에 기여합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.