arXiv:2606.13196v1 cs.AI

기계는 어떤 조건에서 진정으로 창의적이 될 수 있는가

Under What Conditions Can a Machine Become Genuinely Creative?

Yong Zeng

제출 2026-06-11

한국어 초록

최근 AI 시스템은 창의적으로 보이는 텍스트, 소프트웨어 아키텍처, 가설, 설계, 과학적 워크플로를 생성할 수 있다. 본 논문은 기계가 어떤 조건에서 진정으로 창의적이 될 수 있는지, 그리고 공유된 인지 및 창의적 환경 내에서 인간의 주체성을 어떻게 보존할 수 있는지 묻는다. Designics, 즉 의미를 지닌 의도적 변화의 과학에서 파생된 요구 사항 프레임워크를 제시한다. 본 논문은 진정한 기계 창의성이 출력의 참신성, 현재 성능, 또는 일시적인 아키텍처만으로 정의되어서는 안 된다고 주장한다. 대신 창의성은 재귀적 개입 역학을 통한 불완전한 상황의 구조적 변환으로 이해된다. 이 관점에서 창의성은 다음 10가지 요구 사항에 달려 있다: 환경 표현, 범위가 설정된 지각(scoped perception), 갈등 식별, 개입 능력, 결과 관찰, 지식 및 환경 업데이트, 재범위 설정(rescoping), 국소에서 전역으로의 전개, 가치 기반 범위 설정(value-based scoping), 인간-AI 공존(human-AI co-living). 이들은 Designics의 세 가지 법칙—지각, 갈등, 능력—을 통해 구성된다. 본 논문은 재귀적 요소 추출, 자율 메시 생성, 신경생리학적 및 작업부하 분석 등을 포함한 선별된 사이버-물리 및 사이버-생물학 연구를 통해 이러한 요구 사항의 계산적 처리 가능성을 보여준다. 이어서 개방형 시스템, 자동화된 발견 프레임워크, 자기 수정 에이전트, 파운데이션 모델, 에이전트형 워크플로를 압력 사례(pressure cases)로 다룬다. 이들은 강력한 생성 수단을 보여주지만 그 자체로는 진정한 기계 창의성을 확립하지는 못한다. 마지막으로 본 논문은 선제적 AI 윤리가 사후적 필터가 아니라 진정한 기계 창의성의 내재적 요소라고 주장한다. 가치 기반 범위 설정과 인간-AI 공존은 창의적 기계가 환경을 지각하고, 갈등을 식별하며, 개입을 선택하고, 결과를 관찰하고, 지식을 업데이트하며, 미래 행동의 범위를 재설정하는 방식을 형성해야 한다.

원문 초록

Recent AI systems can generate texts, software architectures, hypotheses, designs, and scientific workflows that appear creative. This paper asks under what conditions a machine can become genuinely creative, and how human agency can be preserved within shared cognitive and creative environments. It develops a requirement framework derived from Designics, the science of meaning-bearing intentional change. The paper argues that genuine machine creativity should not be defined by output novelty, current performance, or transient architecture alone. Instead, creativity is understood as the structural transformation of incomplete situations through recursive intervention dynamics. On this view, it depends on ten requirements: environment representation, scoped perception, conflict identification, intervention capability, consequence observation, knowledge and environment update, rescoping, local-to-global unfolding, value-based scoping, and human-AI co-living. These are organized through the three laws of Designics: perception, conflict, and capability. The paper illustrates the computational tractability of these requirements through selected cyber-physical and cyber-biological studies, including recursive element extraction, autonomous mesh generation, and neurophysiological and workload analysis. It then treats open-ended systems, automated discovery frameworks, self-modifying agents, foundation models, and agentic workflows as pressure cases: they demonstrate powerful generative means but do not by themselves establish genuine machine creativity. Finally, the paper argues that proactive AI ethics is internal to genuine machine creativity rather than an after-the-fact filter. Value-based scoping and human-AI co-living must shape how creative machines perceive environments, identify conflicts, select interventions, observe consequences, update knowledge, and rescope future action.

요약

Designics를 기반으로 기계의 진정한 창의성을 불완전한 상황의 구조적 변환으로 정의하고, 이를 실현하기 위한 10가지 요구 사항과 3가지 법칙을 포함하는 프레임워크를 제안한다. 이를 통해 강력한 생성 능력을 갖춘 최신 AI 시스템들이 가치 기반 스코핑과 인간-AI 공존을 통해 어떻게 진정한 창의성을 달성할 수 있는지 논의한다.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.13196v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.15027v1cs.AI공통 태그 ai ethics, computational creativity

인간, 기계, 걸작: AI 시대의 예술적 소유권

Man, Machine, and Masterpiece: Artistic Ownership in the AI Era

창작 활동에 AI 기반 시스템을 통합하는 것은 예술가와 법률 공동체 사이에서 소유권 개념에 대한 논쟁을 촉발했다. 그러나 인간과 AI의 기여가 얽혀 있을 때 소유권을 어떻게 정의하고 귀속해야 하는지에 대한 합의는 여전히 부족하다. 이러한 긴장을 비판적으로 성찰하도록 유도하기 위해, 우리는 창작 활동의 다양한 단계에서 인간과 AI의 기여를 명시적으로 정량화하는 provotype인 ArtSplit을 설계했다. 소유권 문제를 해결하는 것을 목표로 하기보다, 이 provotype은 창작 워크플로에서 측정 가능한 행위를 통해 소유권을 귀속한다는 아이디어에 대한 예술가들의 반응을 이끌어내는 데 사용되었다. 우리는 정량화가 예술가들의 창작 의도와 주체성에 대한 이해와 맞지 않으며, 소유권을 측정하려는 노력이 예술가들이 창작 활동을 이해하고 실천하는 데 기반을 둔 오랜 전제를 희석시킬 위험이 있다고 주장한다. 이 비판은 역사적·사회적으로 맥락화된 관계를 기술적 문제로 전환하려는 충동에 도전한다.

arXiv:2607.12755v1cs.HC공통 태그 ai ethics, human-ai interaction

불투명 AI 기반 시스템 활용에서의 실천적 판단, 덕, 직관

Practical Judgment, Virtue, and Intuition in the Use of Opaque AI-Enabled Systems

AI 기반 시스템은 수많은 도메인에서 점점 더 널리 배치되고 있으며, 그중 많은 것이 핵심 기능과 역량에 있어 '블랙박스'입니다. 즉, 많은 시스템은 입력을 받아 출력을 내지만, 사용자는 전자가 후자로 이어지는 방식을 전혀 볼 수 없습니다. AI 기반 시스템은 또한 시스템의 자율성을 강화하는 데에도 사용되고 있으며, 자율성과 불투명성이 결합되면 시스템의 신뢰성, 기능 수행의 규칙성, 인간의 통제 능력, 또는 불투명하고 잠재적으로 자율적인 시스템을 배치하는 것이 윤리적·법적 규범을 준수하는지 여부 등 수많은 우려를 제기합니다. 본 논문에서는 불투명한 AI 기반 시스템의 배치와 사용에서 실천적 판단, 덕, 직관을 활용함으로써 이러한 우려의 상당 부분을 완화할 수 있다고 주장합니다. 이러한 고유하게 인간적인 역량에 초점을 두는 것이 불투명성이 야기하는 실질적 난제와 특정 도메인을 뒷받침하는 윤리·법·사회적 규범 사이를 잇는 수단이 됨을 보여 줍니다. 이를 위한 핵심 요소 중 하나는 많은 긍정적 인간 특성이 정량화할 수 없다는 인식이며, 따라서 인문주의적이지만 정량화할 수 없는 가치에 기반한 AI 배치에 관한 학습 체계와 지침을 개발해야 한다는 것입니다. 논문 전반에 걸쳐 군사 도메인을 사례로 삼아 AI 배치를 둘러싼 윤리적이고 효과적인 인간 의사결정을 이끄는 실천적 판단, 덕, 직관의 중요성을 다루지만, 근본 논거는 불투명하고 잠재적으로 자율적인 시스템이 배치되는 모든 도메인에 적용됩니다(도메인별 수정을 전제로).

arXiv:2610.01834v3cs.AI공통 태그 Sequential Decision Making

시뮬레이션은 코드가 담당하고, 평가는 Jev가 담당한다

Code Owns the Simulation, Jev Owns the Evaluation

Jev와 같은 판단 모델(judgment model)은 단 한 번의 호출로 추론 텍스트 없이 설명된 각 선택지에 대한 확률을 반환합니다. 이러한 특징 덕분에 에이전트의 행동 선택 층(layer)으로서 매력적이지만, 어떤 결정을 신뢰할 수 있는지는 명확하지 않습니다. 본 연구에서는 인지 반사 테스트, 일회성 행렬 게임, 텍스트 게임 ALFWorld 및 로봇 제어에서 Jev를 테스트하고 뚜렷한 경계를 발견했습니다. Jev는 입력에 설명된 내용으로부터 올바른 선택지를 판단할 수 있을 때 성공하며, 이를 본 연구에서는 평가(evaluation)라고 부릅니다. 구체적으로, Jev는 직관에 반하는 인지 반사 테스트(Cognitive Reflection Test) 문제의 99%를 해결합니다. 그러나 올바른 선택지가 상대방의 행동이나 먼저 달성해야 하는 하위 목표와 같이 시뮬레이션(simulation, 즉 입력에 없는 내용을 예측하는 것)에 의존할 때는 실패합니다. 게임에서 Jev는 상대방의 행동이 주어지지 않기 때문에 합리적인 상대가 무작위로 행동하는 것처럼 차선으로 플레이합니다. ALFWorld에서 Jev는 작업 설명에 언급된 사물이나 장소를 지칭하는 명령을 선호합니다. 예를 들어, "서랍에 깨끗한 칼을 넣어라"라는 작업이 주어지면, Jev는 싱크대에서 칼을 먼저 씻는 대신 씻지 않은 칼을 서랍으로 곧장 가져갑니다. 놀랍게도 이러한 실패 중 다수는 지식의 부족 때문이 아닙니다. 상대가 무엇을 할지 별도로 질문을 받으면 Jev는 대개 정확하게 답하며, 상대의 행동이 주어지면 적절하게 대응합니다. Jev가 실패하는 것은 단 한 번의 호출로 시뮬레이션을 수행하고 이에 기반한 평가까지 동시에 처리해야 할 때입니다. 이는 예측이나 시뮬레이션을 코드가 수행하도록 할 것을 시사합니다. ALFWorld의 미리보기(lookahead)나 로봇 제어의 물리 시뮬레이션과 같이 코드가 이를 제공하면, Jev는 일반적인 평가 능력을 통해 전문가 수준의 제어기가 됩니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.