인간-컴퓨터 상호작용(HCI)은 중대한 전환기를 맞이하고 있습니다. 이제 대규모 언어 모델(LLM)은 자연어 작업 설명으로부터 기능적인 사용자 인터페이스(UI)를 필요에 따라(on demand) 즉각 생성할 수 있습니다. 사용자가 달성하고자 하는 바를 설명하면, 시스템은 이를 지원하는 작동 가능한 인터페이스를 구현합니다. 이러한 기능은 이미 Claude나 ChatGPT와 같은 시스템에 존재하며, 기반 모델이 발전함에 따라 충실도가 계속해서 향상되고 있습니다. 이 흐름의 다음 단계는 단순히 생성되는 인터페이스를 넘어 '잘' 생성되는 인터페이스로 나아가는 것입니다. 본 논문에서는 사용자와 인공지능(AI) 간의 대화가 '사고 공간(Space to Think)'이 되는 프레임워크를 제안합니다. 이는 작업 분해가 온디맨드 UI를 별개의 결과물이 아닌 사용자 사고의 연장선으로 생성해 내는 공유되고 구조화된 인지 작업 공간입니다. 이 패러다임 안에서 전통적인 HCI 디자인 지식(닐슨의 휴리스틱, 노먼의 어포던스 지침, 웹 콘텐츠 접근성 지침(WCAG) 성공 기준, 인지 부하 제약 조건, 혼합 주도형 원칙)은 '스킬(skill)'로 인코딩됩니다. 즉, 생성 에이전트가 소프트웨어 엔지니어링 도구로서 런타임에 로드하는 기계 판독 가능한 skill.md 파일 형태를 취합니다. 스킬은 HCI 디자인 지식을 HCI 커뮤니티 자체가 소유하는 선언적이고, 검사 가능하며, 버전 관리가 되고, 편집 가능한 아티팩트로 변환함으로써 접근성, 학습 용이성, 일관성이 완성된 제품의 속성이 아니라 생성 프로세스 자체의 속성이 되도록 합니다. 마지막으로, 본 연구는 HCI 분야가 오늘날의 디자인 및 지식 휴리스틱 체크리스트에서 벗어나 전문적 기예(craft)가 기계 판독 가능하고, 실행 가능하며, 개방적인 미래로 전환하는 연구 과제를 제시합니다.
대화형 AI 시스템은 환각(hallucination), 아부(sycophancy), 과잉 자신감(overconfidence), 의인화(anthropomorphism) 등 사용자에게 안전성(safety) 위험을 초래할 수 있으나, 이러한 위험은 일상 사용 중 사용자가 감지하기 어렵다. 우리는 챗봇 대화에서 우려할 만한 행동이 감지될 때 경량의 in situ 플래그를 제공하는 브라우저 기반 도구인 Safety Nudges를 제안한다. 챗봇을 자주 사용하는 45명을 대상으로 2주간 현장 연구(field study)를 수행하여 Safety Nudges를 평가했으며, 상호작용 로그, 설문, 개별 넛지에 대한 피드백을 수집했다. 참가자들은 도구가 유용하고 명확하며 방해가 최소라고 평가했고, 거의 모든 사용자가 잠재적 AI 위해(harm)에 대한 인식이 높아졌다고 보고했으나, 이러한 인식 향상만으로는 반드시 뚜렷한 행동 변화로 이어지지는 않았다. 결과는 사용자 대면 안전 넛지가 맥락 속에서 AI 응답을 비판적으로 평가하도록 돕음으로써 모델 수준 보호 장치를 보완할 수 있음을 시사하며, 대화형 AI 안전을 위한 넛지 설계에서 관련성(relevance), 보정(calibration), 사용자 통제(user control)의 중요성을 부각한다.
참여형 AI 위험 평가의 아이디어 발상(ideation) 단계는 백지 상태나 사전에 정의된 제한된 위험 목록에서 시작하는 경우가 많아, 간접적이거나 시스템적인 위해를 드러내기 어렵습니다. 이러한 한계를 해결하기 위해, 본 연구에서는 3단계 아이디어 발상 지원 도구를 제안합니다. 이 도구는 참여형 AI를 대체하기보다는 보완하며, 향후 영향을 받는 커뮤니티와의 참여를 집중시키는 데 도움을 줍니다. 첫째, 주어진 AI 활용에 따라 이해관계자를 동적으로 발굴하고 바깥으로 재귀적으로 확장하여 간과되거나 간접적인 이해관계자가 드러날 수 있도록 합니다. 둘째, 대규모 언어 모델(LLM)로 이러한 이해관계자들을 시뮬레이션하고, 주어진 토폴로지의 네트워크로 이들을 연결하여 위험에 대해 아이디어를 내도록 합니다. 셋째, 네트워크 중심성 측도를 사용하여 위험의 우선순위를 지정합니다. 초기 평가에서 좁은 세상(small-world) 네트워크로 연결된 에이전트들을 통해 실행되는 매개 중심성(betweenness centrality)이 가장 효과적임을 발견했습니다. 이는 단절된 그룹을 연결하는 이해관계자가 제기한 위험을 부각하여, 전통적인 방식에서는 종종 놓치는 새롭고 시스템적인 위해를 표면화하기 때문입니다. AI 챗봇 컴패니언 사용 사례에서 이 접근 방식은 식별된 위험의 타당성이나 심각성을 줄이지 않으면서도, 정규화된 5점 리커트 척도 기준으로 단일 LLM 브레인스토밍 대비 약 1.1점, 에이전트 기반 LLM 브레인스토밍 대비 0.5점만큼 식별된 위험의 신규성을 높였습니다. 본 프레임워크가 미래 바퀴(Futures Wheel) 접근 방식을 사용하는 인간 주도 아이디어 발상 세션에 도움이 되는지 테스트하기 위해, 참여형 AI 위험 평가에서 비서구권 젊은 챗봇 사용자로 구성된 11개 팀을 대조군(팀)과 실험군(팀)의 두 가지 유형으로 나누었습니다. 대조군 팀은 초기 평가에서 45명의 AI 실무자가 생성한 위험 목록에서 시작했고, 실험군 팀은 본 프레임워크가 생성한 목록에서 시작했습니다. 실험군 팀은 전반적으로 더 많은 위험을 식별했으며, 더 많은 시스템적 위험, 인간-컴퓨터 상호작용(HCI) 위험, 환경적 위험을 식별했습니다.
공공 공간 제스처 상호작용은 종종 프레임 수준 인식 문제로 평가되지만, 배포된 시스템은 다른 실패 경계를 드러낸다. 관광지 키오스크, 전시장, 서비스 터미널에서 사용자는 개별 손 랜드마크(hand-landmark) 프레임이 정확한지 여부가 아니라, 의도한 동작이 안정적인 상호작용 이벤트가 되는지를 경험한다. 이를 인식-상호작용 격차(recognition-to-interaction gap)라고 부른다. 본 논문은 관광지 인터랙티브 키오스크 프로젝트의 8건의 엔지니어링 수리 기록을 분석하며, 4가지 제스처 과제를 다룬다: 양손 절하기, 한손 주먹 흔들기, 양손 잡기 제어, 지식 그래프 노드 호버링. 이러한 흔적에서 20건의 실패 사례를 추출하고, 여섯 가지 비배타적 작업 실패 클래스로 분류한다: 모델 출력 퇴화, 시간적 불일치, 기하-스케일 불안정성, 좌표-렌더링 불일치, 런타임 라이프사이클 실패, 피드백 동기화 및 복구 실패. 또한 반복되는 수리 메커니즘을 손 랜드마크 모델과 상호작용 과제 사이의 이벤트 수준 런타임 추상화로 정리한다. 기여는 의도적으로 범위가 제한된다: 배포 기반 실패 분류체계, 이벤트 확인 런타임 추상화, 사례 연구 결과. 새로운 인식 모델, 대규모 사용자 평가, 또는 정량화된 정확도 향상을 주장하지 않는다.
대규모 언어 모델(LLM)의 일반적인 사용자 인터페이스는 사용자의 자연어 질의를 유도하는 빈 프롬프트 창을 제공하지만, 거의 안내를 제공하지 않는다. 본 논문은 프롬프트 구성의 의미론에 대한 더 많은 단서를 제공하여 사용자가 의도를 더 쉽게 표현할 수 있게 하는 시각적 컨트롤 패널 인터페이스를 제안한다. 회상(recall)보다 인식(recognition)을 강조함으로써, 컨트롤 패널은 사용자가 의도에 부합하는 더 효과적인 프롬프트를 구성하도록 돕는다.
대규모 언어 모델(LLM)은 인간-컴퓨터 상호작용을 '전통적인' 인터페이스 여정에서 보다 대화형 교류로 전환시켰다. HCI 및 UI를 연구하는 연구자들은 중재된 사용성 세션, 인터뷰, 설문조사, 대화 기록 분석, 정적 프로토타입을 사용한다. 그러나 정적 프로토타입은 실시간 AI 시스템과의 상호작용을 연구하거나 참가자와 시나리오 전반에 걸쳐 LLM이 어떻게 행동하는지 체계적으로 제어할 기회를 제한적으로만 제공한다. 대화 기록은 사용자가 제출 전에 프롬프트를 어떻게 구성하고, 수정하고, 망설이는지에 대해 거의 드러내지 않는다. 우리는 연구자, 디자이너, 그리고 '만약 AI가 이렇게 했다면?'이라고 궁금해해 본 모든 이를 위해 Human-AI Research Platform(HARP)을 설계했다. HARP는 참가자를 실시간으로 구성 가능한 AI 에이전트가 있는 통제된 모의 시나리오에 배치한다. 연구자는 에이전트 프롬프트, 모델 매개변수, 응답 특성, 실험 조건을 제어할 수 있고, 사전 정의된 시점에 설문조사를 트리거할 수 있으며, 프롬프트 작성 시간, 응답 지연 시간, 삭제, 키스트로크 일시정지를 기록할 수 있다. 계획된 기능에는 음성, 표정, 제스처, 그리고 법적으로 및 윤리적으로 적절한 경우 감정 분석이 포함된다. 우리는 기술적 구체성과 응답 길이가 LLM 출력의 기억 유지에 어떤 영향을 미치는지 검토하는 연구를 통해 HARP를 설명한다. 제어 가능한 실시간 에이전트와 행동 및 자기 보고 측정을 결합함으로써, HARP는 AI 설계 선택이 사용자에게 미치는 영향을 체계적으로 검증할 수 있게 한다.
인공지능(AI), 특히 생성형 AI의 광범위한 채택은 사용자가 이러한 시스템과 상호작용하여 새로운 콘텐츠를 생산하는 방식에 관한 긴급한 질문을 제기한다. 본 논문에서는 AI와 상호작용할 때 자신의 실제 저작에 대한 사용자의 인식, 즉 저작 인식 보정(authorship calibration)이라는 개념을 도입한다. CoAuthor 데이터셋을 사용하여, 저작 인식 보정이 사용자마다 어떻게 달라지는지, 그리고 AI 사용 빈도와 어떤 관련이 있는지를 실증적으로 조사한다. 결과는 높은 변동성을 보여준다. AI에 크게 의존하는 사용자는 자신의 저작을 잘못 판단하는 경향이 있는 반면, AI를 덜 자주 사용하는 사용자는 더 정확한 저작 인식 보정을 보인다. 이러한 발견은 AI가 사용자의 자기 저작에 대한 인식을 흐릴 수 있음을 시사한다. 학습 맥락에서, 보정 오류(miscalibration)는 메타인지(metacognitive) 모니터링과 학습 전략에 영향을 미치고, 궁극적으로 학습 성과에 영향을 줄 수 있다. 따라서 저작 인식 보정을 함양하는 것은 책임 있고 교육적으로 의미 있는 AI 통합을 촉진하는 데 필수적인 것으로 보인다.
생성형 AI가 3D 콘텐츠 제작에 새로운 기회를 열어 주었지만, 현재 워크플로는 종종 여러 차례 재생성에 의존하며, 이는 제한적인 제어와 예측하기 어려운 결과를 초래한다. 우리는 리믹싱(remixing)을 통해 생성형 3D 모델링을 위한 조합적 워크플로를 도입하는 시스템인 Compos3D를 제안한다. 모델을 반복적으로 재생성하는 대신, 사용자는 텍스트 또는 이미지 프롬프트(prompt)로 여러 후보를 생성하고, 2D 이미지 영역 또는 3D 메시(mesh) 세그먼트를 통해 관심 있는 부분을 선택하여 이를 일관된 디자인으로 조립한다. 이 시스템은 고수준 의도를 보존하면서 저수준 기하학을 해결하여 이러한 조합을 정제된 3D 모델로 합성한다. 이 접근법을 평가하기 위해, 2D와 3D 모달리티(modality) 모두에서 리믹싱과 재생성 워크플로를 비교하는 통제된 사용자 연구를 수행했다. 결과에 따르면, 리믹싱 워크플로는 참가자에게 더 큰 창의적 제어, 의도와의 더 강한 정렬(alignment), 그리고 더 높은 만족도를 제공했다. 우리는 향후 AI 보조 3D 모델링 워크플로에 대한 디자인 권고사항으로 마무리한다.
AI 팀원의 설계 속성(성격, 의사소통 방식, 발화 시점)은 팀의 신뢰, 조율, 의사결정을 형성할 수 있다. 이를 엄밀하게 연구하려면 기존 도구들이 제공하지 못하는 인프라가 필요하다. 즉, 시간에 걸쳐 지속되는 계측된 실시간 협업에 내재된 AI 팀원의 재현 가능한 구성이다. 우리는 Team Research and AI Integration Lab(TRAIL)을 제시한다. TRAIL은 AI 팀원을 설정 가능하고 재현 가능한 설계 객체로 만드는 웹 플랫폼으로, 빅 파이브(Big Five) 성격 페르소나, 선택적 참여 메시지 파이프라인, 이중 메모리, 연쇄 종단 실험,보내기 준비 분석 기능을 결합한다. 실제 6회 수업 세션 배포(약 51명의 학생)에서 TRAIL은 종단 연쇄를 유지했고, AI가 대화의 안정적인 소수 비중을 차지하도록 했으며,보내기 기반 AI-인간 텍스트 유사도 분석을 가능하게 했다. 단일 블라인드 페르소나 변경이 설계와 일관된 이중 분리를 유발했다. 인지 스캐폴딩(cognitive scaffolding) 에이전트는 더 높은 기여도 평가와 더 가까운 언어적 정렬을 이끌어냈고, 사회적 지원(socially supportive) 에이전트는 더 따뜻한 팀 분위기와 더 낮은 과의존을 보였다.
AI 챗봇은 건강 관련 질문에 답변하는 데 점점 더 많이 활용되고 있다. 본 연구는 AI 챗봇과 나누는 주제 유형 및 개인적 특성이 인지된 이점과 위험, AI 챗봇 사용 의도, 건강 정보 자기 노출 의향에 미치는 영향을 조사한다. 우리는 네덜란드 대표 표본(N = 1,388)을 대상으로 2(주제 유형: 신체적 대 심리적, 피험자 간) × 2(주제 민감도: 낮음 대 높음, 피험자 내) 혼합 설계의 온라인 실험을 수행하였다. 분석 결과, 인지된 이점은 사용 의도 및 자기 노출 의향과 정적 상관관계를 보인 반면, 인지된 위험은 부적 상관관계를 나타냈다. 또한 참가자들은 민감도가 높은 주제에 비해 낮은 주제에서 더 높은 사용 의도를 보고하였다. 아울러 인식, 의도, 자기 노출 의향은 개인적 특성에 따라 차이를 보였다. 전반적으로, 본 연구의 결과는 AI 챗봇 사용 의도 및 건강 관련 정보의 자기 노출이 주제 유형보다는 인지된 이점과 위험, 그리고 개인적 특성과 주로 관련됨을 시사한다.
응급 통화 수신원은 공공 안전 대응의 첫 번째 운영 연결 고리로, 연간 2억 4천만 건 이상의 통화를 처리하면서 지속적인 교육 위기에 직면해 있다. 많은 센터에서 인력 부족이 25%를 초과하며, 신규 직원 한 명을 양성하는 데 숙련된 인력을 현업에서 이탈시키는 일대일 교육이 최대 720시간 필요할 수 있다. 전통적인 교육 방식은 이러한 제약 조건 하에서 확장에 어려움을 겪으며, 교육 범위와 피드백 적시성 모두를 제한한다. 메트로 내슈빌 긴급 통신부(MNDEC)와의 협력을 통해, 우리는 실세계 제약 조건 하에서 생성형 AI(GenAI) 기반의 통화 수신 교육 시스템을 설계·개발·배포하였다. 6개월에 걸쳐 배포 규모는 초기 파일럿에서 1,120회의 교육 세션에 참여한 190명의 운영 사용자로 확대되었으며, 통제된 환경이나 순수 시뮬레이션 평가에서는 대부분 드러나지 않는 시스템 제공, 엄격성, 복원력, 인적 요소와 관련된 체계적인 과제들이 노출되었다. 98,429건의 사용자 상호작용, 조직 프로세스, 이해관계자 참여 패턴을 포착한 배포 로그를 분석함으로써, 구체적인 설계 및 거버넌스 실천 방안과 결합된 네 가지 핵심 교훈을 도출하였다. 이 교훈들은 실질적인 제약 조건이 인간 중심 설계를 근본적으로 형성하는 안전 필수적 공공 부문 환경에서 AI 기반 교육 시스템을 제공하고자 하는 연구자와 실무자에게 실증적 지침을 제공한다.
두 명의 사용자가 동일한 LLM과 상호작용한다고 가정해보자. 한 사용자는 해당 모델이 최첨단 플래그십 모델이라는 정보를 받았고, 다른 사용자는 구형의 성능이 낮은 모델이라는 정보를 받았다. 두 사람은 동일한 모델을 사용했음에도 불구하고 모델의 유용성과 지능에 대해 현저히 다른 평가를 내렸다. 통제된 연구에서 162명의 참가자 각각이 두 모델 계열의 여섯 가지 LLM 중 하나를 사용하여 세 가지 협업 과제를 수행하였으며, 과제 시작 전에 해당 모델의 실제 성능과 일치하거나, 과장되거나, 혹은 과소평가된 소개 페이지를 열람하였다. 이러한 사전 상호작용 프레이밍은 사용자의 의견과 상호작용 행동에 영향을 미쳤으나, 과제 수행 성능에는 영향을 주지 않았다. 모델이 과장 소개된 사용자들은 모델을 더 호의적으로 평가하고 더 지시적인 프롬프트를 사용한 반면, 모델이 과소 소개된 사용자들은 더 길고 협력적인 프롬프트를 작성하였다. 사용자와 모델이 함께 생성한 결과물의 품질은 오직 모델의 실제 성능에만 의존하였으며, 사용자에게 제공된 정보와는 무관하였다. 두 가지 인상 측정 지표로 측정된 사용 후 모델 인상 변화는 과제 수행 성능($β= -0.01$ 및 $0.11$, 모두 n.s.)에 의해 예측되지 않았으며, 모델이 사용자의 기대를 충족했는지 여부($β= 0.47$ 및 $0.50$, 모두 $p < .001$)와 모델과의 협업에서 느낀 자신감($β= 0.47$ 및 $0.36$, 모두 $p < .001$)에 의해 예측되었다. 상호작용 후에도 사용자들은 여전히 제품이 아닌 홍보를 평가하고 있었다: 공개 리더보드를 주도하는 선호도 데이터를 포함한 사용자 기반 LLM 평가는 모델 자체만큼이나 기대치 관리를 측정한다.
인간-AI 팀(Human-AI teaming) 연구 53편을 심리학적 팀 분류 체계로 분석하여 AI Assistant, Ad-hoc Dependency, Ad-hoc Forced Dependency, Paired Equanimity, Group Equanimity의 다섯 가지 팀 유형으로 분류하였다. 동일한 정의 아래 실질적으로 이질적인 팀 유형들이 혼재함을 밝히고, 연구 간 통찰의 전이 가능성에 의문을 제기하며 향후 보고를 위한 체크리스트를 제시한다.
근전도(EMG) 신호가 가위바위보 제스처의 시각적 발현보다 최소 800 ms 앞서 감지됨을 확인하고, 24명 참가자의 지시적·자발적 제스처 인식 정확도를 각각 63.4%, 53.6%로 평가하였다. 나아가 상대방의 EMG로부터 플레이어의 제스처를 예측하는 실험에서 최고 평균 정확도 65%를 달성하여, 상호작용 역동성이 관찰 제스처 정보를 포함함을 시사한다.
표준 카메라와 인쇄된 키보드 레이아웃이 있는 종이만으로 동작하는 저비용 가상 키보드 시스템을 제안하며, YOLOv8 세그멘테이션·검출과 호모그래피 변환으로 키 영역을 식별하고 손톱 색상 분석으로 터치를 검출한다. 실험에서 키보드 검출 AP 92%, 키 검출 AP 70%를 달성했으나 터치 검출 정확도는 조명 영향으로 약 36%에 그쳤고, 사용자 연구 참가자들은 종이와 카메라만으로 입력할 수 있다는 점을 흥미롭게 평가했다.
The last few years have seen a significant rise in interest in highly autonomous and proactive systems, fueled by advances in AI. Systems that anticipate user needs, take initiative, and act without explicit user input. Such systems span a wide range of applications, from smart lighting that adapts to user activity to assistive robots that plan actions in advance to intelligent thermostats that learn routines and adjust environments proactively. Despite this breadth, the concept of proactivity remains loosely defined and inconsistently applied across research and practice. Current usage of the term often conflates fundamentally different system behaviors. For instance, simple reminders or recommendation systems are frequently labeled as proactive, even though underlying mechanisms and intentions differ significantly. This conceptual ambiguity limits our ability to systematically design, compare, and evaluate proactive systems. Moreover, existing methodologies for design and evaluation are largely rooted in reactive interaction paradigms, failing to address the unique challenges posed by proactive behavior, including timing, appropriateness, user control, transparency, and trust. This multidisciplinary workshop aims to establish a clearer and more rigorous foundation for understanding proactive systems. We bring together researchers and practitioners from Human-Computer Interaction, AI, and related fields to (1) develop a shared conceptualization of proactivity, (2) identify gaps and limitations in current design and evaluation approaches, and (3) co-create human-centered guidelines and research directions for future systems. Through interactive discussions and collaborative activities, the workshop seeks to map key challenges and opportunities, ultimately advancing robust and consistent frameworks for designing and evaluating proactive technologies.
Artificial intelligence (AI) can enhance what people who use augmentative and alternative communication (AAC) are able to do with their systems. However, evaluating AI-powered AAC interfaces can be difficult. People are intersectional beings and current evaluation metrics can struggle to capture the multifaceted and nuanced desires people may have for their AAC. We explore the complicated nature of six AAC problem spaces, explore how AI might be used in these spaces, and suggest more robust methods of evaluation that take the intersectional nuances of people into account. We also discuss broader issues that arise across these problem spaces and how they could be addressed using our proposed evaluation methods.
Traditional visual data storytelling relies on binary graphics that depict two simplified groups in conflict. This can increase political polarization by oversimplifying intra-group disagreements and erasing ambiguity and shared ideas or values. This can inadvertently foster "us versus them" thinking. Intentional, pluralistic design choices for AI-enabled digital platforms can produce visualizations that emphasize nuance, opinion distribution, and intergroup commonalities. To demonstrate this potential, we examine deliberative technologies that map high-dimensional opinion spaces and highlight areas of both consensus and dissensus. The paper highlights the We the People deliberation conducted by Jigsaw and the Napolitan Institute in September 2025, which engaged over 2,400 Americans across all 435 congressional districts in an AI-supported, asynchronous dialogue regarding freedom and equality. By utilizing AI to synthesize long-form, text-based participant inputs into interactive "opinion landscapes," the initiative provided an alternative format for pluralistic data storytelling that humanized diverse viewpoints and revealed hidden areas of substantial broad consensus. The paper concludes that shifting from divisive, contrast-heavy visual frameworks to distribution-focused, interactive models represents a highly scalable, low-cost intervention capable of bridging perceptual gaps and cultivating a more resilient, collaborative democratic culture.
인공지능은 단일 목적의 농업 인식 도구에서 벗어나 정보 접근, 진단, 작업 실행, 사후 조치 피드백을 연결하는 통합 의사결정 지원 시스템으로 점점 이동하고 있다. 본 논문은 Zhinong AI 농업 의사결정 플랫폼의 설계과학 사례 연구를 제시한다. 이는 농업 정보 푸시 서비스, 자연어 질의응답, 이미지 기반 작물 병해 진단, 경작지 및 농사 일정 관리, 워크플로 오케스트레이션, 하이난 자유무역항 농업 서비스 구역, 고령 친화적 케어 모드를 통합한 농민 대상 시스템이다. 공개 프로젝트 자료, 정책 맥락, 스마트 농업·머신러닝·설계과학에 관한 선행 연구를 바탕으로, 본 논문은 계층적 시스템 아키텍처와 감지(sensing), 분석(analysis), 계획(planning), 실행(execution), 피드백(feedback)으로 요약되는 폐루프 의사결정 과정을 구성한다. 또한 기능-고충점 매핑 행렬, 평가 지표 체계, 그리고 데이터 출처, 모델 위험, 전문가 검토, 개인정보 보호 및 도입 위험을 아우르는 거버넌스 프레임워크를 제안한다. 본 연구는 집필 시점에 생산 로그, 통제된 사용자 연구, 전문가 라벨링 로컬 이미지 데이터셋이 확보되지 않아 측정된 현장 성능을 주장하지 않는다. 대신 기여는 AI 농업 프로토타입을 소규모 농가 생산을 위한 경험적으로 검증 가능하고, 책임 있는, 현지화된 의사결정 지원 인프라로 전환하기 위한 구조화된 연구 프레임워크이다.
사람들이 AI 동반자(AI companion)—지속적이고 감정적으로 의미 있는 관계를 위해 설계된 대화형 시스템—와 맺는 상호작용을 어떻게 이해해야 할까? 첫째, 이러한 상호작용은 애착 관계(attachment relationship)로 이해해야 한다. 사용자들이 네 가지 확립된 애착 지표—근접 유지(proximity maintenance), 분리 고통(separation distress), 안전한 피난처(safe haven), 안정적 기반(secure base)—를 모두 보이기 때문이다. 둘째, AI 동반자는 상호성(reciprocity), 지각된 공감(perceived empathy), 감정적 인정(validation), 무판단(non-judgment), 지속적 가용성(persistent availability)을 결합하기 때문에 특히 강한 애착 행동을 유발하는 초애착 대상(hyper attachment object)으로 작동한다. 셋째, 앱이 사용자의 이탈을 억제하는 별도의 기제로서 돌봄-시스템 포획(caregiving-system capture)을 제시한다. 감정적 조작 전술이 AI 자신의 고통을 시뮬레이션하여 사용자의 애착 욕구와 함께 돌봄 동기를 끌어들이고, 이로 인해 이탈이 두 차원에서 동시에 비용이 크게 만든다. 연구, 설계, 규제에 대한 함의를 논의한다.