arXiv:2611.21405v1 cs.AI

AI가 생성하기 전에 해석을 조정하기: 창작 AI에서 사람이 느끼는 주체성

Shaping AI's Beliefs Before It Generates: Human Sense of Agency in Creative AI

Zi Wang, Mahima Pushkarna

제출 2026-11-16

저자 비고

arXiv Comments

The Proactive Co-Creator (PaCC) can be accessed at https://proactive-co-creator.github.io/. Accepted at Neural Information Processing Systems (NeurIPS 2026) Creative AI Track

한국어 초록

창작용 미디어를 생성하는 AI 시스템은 사람의 능력을 넓히는 동시에 창작 주체성을 약화할 위험도 있다. 핵심 문제는 앵커링이다. 사용자의 생각이 이미 완성도가 높은 생성 결과물에 고정되면, 사용자의 역할은 능동적인 창작자에서 결과물에 대응하는 편집자로 바뀐다. 본 연구는 미디어가 생성되기 전에 창작자가 AI의 해석을 살펴보고 수정하며 방향을 조정하도록 하는 기능을 제안한다. 이를 통해 첫 기준점을 사람이 설정할 수 있다. 네 가지 설계 원칙을 정립하고, 초기 개념 발상과 프로토타이핑을 위한 시스템 Proactive Co-Creator(PaCC)에 적용했다. PaCC는 확인 질문, 믿음 그래프, 미디어 속성을 통해 자신의 가정과 불확실성을 선제적으로 드러내고, 사용자가 최종 결과물을 생성하기 전에 AI의 해석을 조정하도록 한다. 소규모 단일군 탐색적 사용자 연구에서 PaCC를 설계 탐색 도구로 사용했다. 참가자들은 익숙한 프롬프트 기반 AI 도구와 비교해 전반적으로 주체성과 과정 통제감을 더 느꼈다고 응답했다. 드러난 가정 덕분에 미처 생각하지 못한 세부 사항을 검토할 수 있었다고 말했다. 소유감과 저작 주체에 대한 인식은 참가자마다 달랐다.

원문 초록

AI systems for creative media generation expand human capabilities yet risk diminishing human agency. A core problem is anchoring, where the user's thinking becomes anchored to a polished, generated artifact, shifting the user's role from active authoring to reactive editing. We propose pre-generation belief controls that can empower creators to inspect, revise, and steer the AI's interpretation before any media is generated, so that the initial anchor is set by the human. We formalize four design principles and instantiate them in the Proactive Co-Creator (PaCC), a system for early-stage conceptual ideation and prototyping that proactively surfaces its assumptions and uncertainty through clarifications, belief graphs, and media attributes, inviting users to shape the AI's beliefs before generating the final outcome. Using PaCC as a design probe in a small-scale, single-arm exploratory user study, we observed that participants reported directionally positive sense of agency and process control relative to their familiar prompt-based AI tools, noting that surfaced assumptions helped them think through details they had overlooked, whereas their feelings about ownership and authorship diverged

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.21405v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.