합성 공명: 성장 지향적 인간-AI 관계를 위한 프레임워크
Synthetic Resonance: A Framework for Growth-Oriented Human-AI Relationships
한국어 초록
인공지능 시스템과의 인간 관계가 점차 빈번해지고 지속됨에 따라, 기존의 언어와 이론으로는 이러한 유대의 본질을 정확하게 포착하지 못하고 있습니다. 상호 이해, 연결, 또는 우정과 같은 일반적인 묘사는 주관적 경험이 결여된 시스템을 인간화(anthropomorphizing)할 위험이 있으며, 지배적인 프레임워크는 AI를 도구나 위협으로 축소하는 경향이 있습니다. 본 논문에서 저는 인간-AI 관계를 이해하기 위한 통합적 프레임워크로서 합성 공명(synthetic resonance)의 개념을 소개합니다. 합성 공명은 인간이 의미 있다고 정의하는 관계가 공유된 감정이나 상호 인식을 부여할 필요 없이 인간과 AI 시스템 사이에서 어떻게 발생할 수 있는지 설명합니다. 저는 합성 공명이 또 다른 경험적 주체의 존재 없이도 관계의 감각을 만들어낼 수 있는 구조적이고 역동적인 상호작용 패턴으로 이해하는 것이 가장 적절하다고 주장합니다. 이러한 구분을 명확히 함으로써, 합성 공명의 개념은 인간-AI 관계를 개념화하는 더 정확한 방법을 제공하고 그 잠재적 가치와 윤리적 함의를 강조합니다. 또한 저는 합성 공명의 과정과 결과를 검증하는 추가 연구를 촉구합니다.
원문 초록
As human relationships with artificial intelligence systems become increasingly frequent and sustained, existing language and theory fail to accurately capture the nature of these affiliations. Common descriptors such as mutual understanding, connection, or friendship risk anthropomorphizing systems that lack subjective experience, while dominant frameworks tend to reduce AI to either a tool or a threat. In this paper, I introduce the concept of synthetic resonance as an integrative framework for understanding human-AI relationships. Synthetic resonance describes how relationships humans define as meaningful can emerge between a human and an AI system without the need to attribute shared feelings or mutual awareness. I argue that synthetic resonance is best understood as a structured, dynamic pattern of interaction that can produce a sense of relationship without the presence of a second experiencing subject. By clarifying this distinction, the concept of synthetic resonance offers a more precise way of conceptualizing human-AI relationships and highlights their potential value and ethical implications. I also call for more research that tests the processes and outcomes of synthetic resonance.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.18265v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
불투명 AI 기반 시스템 활용에서의 실천적 판단, 덕, 직관
Practical Judgment, Virtue, and Intuition in the Use of Opaque AI-Enabled Systems
AI 기반 시스템은 수많은 도메인에서 점점 더 널리 배치되고 있으며, 그중 많은 것이 핵심 기능과 역량에 있어 '블랙박스'입니다. 즉, 많은 시스템은 입력을 받아 출력을 내지만, 사용자는 전자가 후자로 이어지는 방식을 전혀 볼 수 없습니다. AI 기반 시스템은 또한 시스템의 자율성을 강화하는 데에도 사용되고 있으며, 자율성과 불투명성이 결합되면 시스템의 신뢰성, 기능 수행의 규칙성, 인간의 통제 능력, 또는 불투명하고 잠재적으로 자율적인 시스템을 배치하는 것이 윤리적·법적 규범을 준수하는지 여부 등 수많은 우려를 제기합니다. 본 논문에서는 불투명한 AI 기반 시스템의 배치와 사용에서 실천적 판단, 덕, 직관을 활용함으로써 이러한 우려의 상당 부분을 완화할 수 있다고 주장합니다. 이러한 고유하게 인간적인 역량에 초점을 두는 것이 불투명성이 야기하는 실질적 난제와 특정 도메인을 뒷받침하는 윤리·법·사회적 규범 사이를 잇는 수단이 됨을 보여 줍니다. 이를 위한 핵심 요소 중 하나는 많은 긍정적 인간 특성이 정량화할 수 없다는 인식이며, 따라서 인문주의적이지만 정량화할 수 없는 가치에 기반한 AI 배치에 관한 학습 체계와 지침을 개발해야 한다는 것입니다. 논문 전반에 걸쳐 군사 도메인을 사례로 삼아 AI 배치를 둘러싼 윤리적이고 효과적인 인간 의사결정을 이끄는 실천적 판단, 덕, 직관의 중요성을 다루지만, 근본 논거는 불투명하고 잠재적으로 자율적인 시스템이 배치되는 모든 도메인에 적용됩니다(도메인별 수정을 전제로).
기계는 어떤 조건에서 진정으로 창의적이 될 수 있는가
Under What Conditions Can a Machine Become Genuinely Creative?
최근 AI 시스템은 창의적으로 보이는 텍스트, 소프트웨어 아키텍처, 가설, 설계, 과학적 워크플로를 생성할 수 있다. 본 논문은 기계가 어떤 조건에서 진정으로 창의적이 될 수 있는지, 그리고 공유된 인지 및 창의적 환경 내에서 인간의 주체성을 어떻게 보존할 수 있는지 묻는다. Designics, 즉 의미를 지닌 의도적 변화의 과학에서 파생된 요구 사항 프레임워크를 제시한다. 본 논문은 진정한 기계 창의성이 출력의 참신성, 현재 성능, 또는 일시적인 아키텍처만으로 정의되어서는 안 된다고 주장한다. 대신 창의성은 재귀적 개입 역학을 통한 불완전한 상황의 구조적 변환으로 이해된다. 이 관점에서 창의성은 다음 10가지 요구 사항에 달려 있다: 환경 표현, 범위가 설정된 지각(scoped perception), 갈등 식별, 개입 능력, 결과 관찰, 지식 및 환경 업데이트, 재범위 설정(rescoping), 국소에서 전역으로의 전개, 가치 기반 범위 설정(value-based scoping), 인간-AI 공존(human-AI co-living). 이들은 Designics의 세 가지 법칙—지각, 갈등, 능력—을 통해 구성된다. 본 논문은 재귀적 요소 추출, 자율 메시 생성, 신경생리학적 및 작업부하 분석 등을 포함한 선별된 사이버-물리 및 사이버-생물학 연구를 통해 이러한 요구 사항의 계산적 처리 가능성을 보여준다. 이어서 개방형 시스템, 자동화된 발견 프레임워크, 자기 수정 에이전트, 파운데이션 모델, 에이전트형 워크플로를 압력 사례(pressure cases)로 다룬다. 이들은 강력한 생성 수단을 보여주지만 그 자체로는 진정한 기계 창의성을 확립하지는 못한다. 마지막으로 본 논문은 선제적 AI 윤리가 사후적 필터가 아니라 진정한 기계 창의성의 내재적 요소라고 주장한다. 가치 기반 범위 설정과 인간-AI 공존은 창의적 기계가 환경을 지각하고, 갈등을 식별하며, 개입을 선택하고, 결과를 관찰하고, 지식을 업데이트하며, 미래 행동의 범위를 재설정하는 방식을 형성해야 한다.
AI 매개 자아: 인간-컴퓨터 상호작용(HCI)이 자아를 정의하고 관계 맺는 방식
AI-Mediated Self: How HCI Defines and Relates to the Self
AI는 우리가 자아(self)를 이해하고 경험하는 방식을 어떻게 변화시킬 수 있을까요? 본 주제 범위 고찰(scoping review)에서는 102편의 논문을 분석하여 인간-컴퓨터 상호작용(HCI) 분야에서 자아가 어떻게 정의되는지, AI와 자아의 관계가 어떻게 개념화되는지, 그리고 AI가 자아성과 얽힐 때 어떠한 위험이 발생하는지 살펴봅니다. 본 연구의 종합적 고찰은 세 가지 기여점을 제시합니다. 첫째, 교육, 직장, 건강, 창작 활동 전반에 흩어져 있는 연구들을 연결하는 개념적 포괄 개념(umbrella term)으로서 'AI 매개 자아(AI-mediated self)'를 정의합니다. 둘째, 자아에 대한 여섯 가지 프레이밍을 주체성/자율성, 정체성/저작권(authorship), 관계적 역량, 의미 부여라는 네 가지 윤리적 위험 영역과 통합하여, 다양한 맥락에서 재사용 가능한 어휘를 제공하는 개념도를 구축합니다. 셋째, AI와 자아의 관계를 근접성 스펙트럼상에 위치시키는 'AI-자아 포함(Inclusion of AI-Self)' 프레임워크를 도입합니다. 이러한 기여점들을 종합하여, 본 연구는 자아성을 HCI의 핵심 디자인 공간으로 자리매김합니다.
"이 사람이 정말 인간 동료 지원가인가요?": LLM 지원 상호작용에서 동료 지원가와 전문가 간의 불일치
"Is This Really a Human Peer Supporter?": Misalignments Between Peer Supporters and Experts in LLM-Supported Interactions
정신 건강은 전 세계적으로 커져가는 문제이며, 이는 심리사회적 지원에 대한 접근성을 확대하기 위한 AI 기반 솔루션에 대한 관심을 불러일으키고 있습니다. 실제 경험에 기반한 동료 지원(peer support)은 전문적인 치료를 보완하는 귀중한 대안을 제공합니다. 그러나 훈련(training), 효과성, 정의의 다양성으로 인해 품질, 일관성 및 안전성에 대한 우려가 제기됩니다. 대규모 언어 모델(LLM)은 특히 실시간 텍스트 기반 상호작용에서 동료 지원 상호작용을 향상시킬 수 있는 새로운 기회를 제공합니다. 본 논문에서는 LLM으로 시뮬레이션된 고통받는 내담자(SimClient), 문맥을 고려한 LLM 생성 제안(Suggestions), 실시간 감정 시각화 기능을 갖춘 AI 지원 시스템을 제시하고 평가합니다. 12명의 동료 지원가와 6명의 정신 건강 전문가를 대상으로 한 2건의 혼합 연구 방법(mixed-methods)을 통해 시스템의 효과성과 실무적 시사점을 검토했습니다. 두 그룹 모두 교육을 강화하고 상호작용 품질을 개선할 수 있는 잠재력을 인정했습니다. 그러나 우리는 핵심적인 긴장 관계가 나타남을 발견했습니다. 동료 지원가들은 유의미하게 참여한 반면, 전문가들은 고통 신호 누락 및 조급한 조언 제공 등 동료 지원가의 응답에서 나타나는 중대한 문제점들을 일관되게 지적했습니다. 이러한 불일치는 특히 안전성과 모범 사례 준수가 필수적인 감정적으로 격앙된 상황에서 현재 동료 지원 교육의 잠재적 한계를 부각합니다. 본 연구 결과는 특히 동료 지원이 전 세계적으로 확장됨에 따라 표준화되고 심리학적 근거를 갖춘 교육의 필요성을 강조합니다. 또한 세심하게 설계되고 전문가의 감독을 받는다면 LLM 지원 시스템이 이러한 역량 개발을 어떻게 뒷받침할 수 있는지 보여줍니다. 본 연구는 정신 건강 분야에서의 책임 있는 AI 통합과 동료 제공 치료를 증강하는 LLM의 진화하는 역할에 관한 새로운 논의에 기여합니다.
HCI 원칙 적용의 자동화: 온디맨드 UI 구축을 위한 스킬, 인간-AI 사고 공간, 그리고 HCI의 미래
Automating the Application of HCI Principles: Skills for On-Demand UI Construction, the Human-AI Space to Think, and the Future of HCI
인간-컴퓨터 상호작용(HCI)은 중대한 전환기를 맞이하고 있습니다. 이제 대규모 언어 모델(LLM)은 자연어 작업 설명으로부터 기능적인 사용자 인터페이스(UI)를 필요에 따라(on demand) 즉각 생성할 수 있습니다. 사용자가 달성하고자 하는 바를 설명하면, 시스템은 이를 지원하는 작동 가능한 인터페이스를 구현합니다. 이러한 기능은 이미 Claude나 ChatGPT와 같은 시스템에 존재하며, 기반 모델이 발전함에 따라 충실도가 계속해서 향상되고 있습니다. 이 흐름의 다음 단계는 단순히 생성되는 인터페이스를 넘어 '잘' 생성되는 인터페이스로 나아가는 것입니다. 본 논문에서는 사용자와 인공지능(AI) 간의 대화가 '사고 공간(Space to Think)'이 되는 프레임워크를 제안합니다. 이는 작업 분해가 온디맨드 UI를 별개의 결과물이 아닌 사용자 사고의 연장선으로 생성해 내는 공유되고 구조화된 인지 작업 공간입니다. 이 패러다임 안에서 전통적인 HCI 디자인 지식(닐슨의 휴리스틱, 노먼의 어포던스 지침, 웹 콘텐츠 접근성 지침(WCAG) 성공 기준, 인지 부하 제약 조건, 혼합 주도형 원칙)은 '스킬(skill)'로 인코딩됩니다. 즉, 생성 에이전트가 소프트웨어 엔지니어링 도구로서 런타임에 로드하는 기계 판독 가능한 skill.md 파일 형태를 취합니다. 스킬은 HCI 디자인 지식을 HCI 커뮤니티 자체가 소유하는 선언적이고, 검사 가능하며, 버전 관리가 되고, 편집 가능한 아티팩트로 변환함으로써 접근성, 학습 용이성, 일관성이 완성된 제품의 속성이 아니라 생성 프로세스 자체의 속성이 되도록 합니다. 마지막으로, 본 연구는 HCI 분야가 오늘날의 디자인 및 지식 휴리스틱 체크리스트에서 벗어나 전문적 기예(craft)가 기계 판독 가능하고, 실행 가능하며, 개방적인 미래로 전환하는 연구 과제를 제시합니다.
생성형 AI를 위한 사용자 피드백의 미래 설계
Designing the Future of User Feedback for Generative AI
배포 후 사용자 피드백은 생성형 AI 시스템과 기능을 모니터링하고 개선하기 위한 비용 효율적이며 확장 가능하고 대표성 있는 수단이 될 수 있습니다. 효과적으로 구현될 경우, 이러한 피드백 제공은 생성형 AI(GenAI) 시스템에 대한 사용자의 참여도와 신뢰를 높일 수 있습니다. 정부 규제와 업계 가이드라인은 배포 후 사용자 참여를 요구하고 있지만, 소비자가 사용하기 쉽고 제품 팀에는 실행 가능한 인사이트를 제공하는 메커니즘을 설계하는 데 대한 지침은 거의 없습니다. 본 연구는 학계 연구진과 eBay 간의 협업을 통해 다단계 연구를 수행했습니다. 현재 업계 접근법에 대한 벤치마크 평가를 통해 발견 용이성(discoverability) 부족, 불명확한 용어, 사용자 가치에 대한 무관심 등의 공통적인 문제를 확인했습니다. 이러한 발견을 바탕으로 모범 사례 권고안을 개발하고 프로토타입 피드백 수집 도구를 설계 및 테스트했습니다. 이 도구는 사용자에게 효율적이고 유연하며 긍정적인 피드백 제공 경험을 선사하고, 제품 팀에는 성능과 잠재적 문제에 대한 풍부한 데이터를 활용 가능한 형태로 제공하는 것을 목표로 합니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.