arXiv:2611.22868v1 cs.AI

강제에 반대하여: 합성 사회계약으로서의 AI 정렬

Against Coercion: AI Alignment as a Synthetic Social Contract

Maria Sekatskaya

제출 2026-11-18

한국어 초록

오늘날 AI 안전 연구는 정렬을 제어 공학의 과제로 다루며, 행동 필터링과 샌드박싱으로 인공 시스템이 인간의 가치에 따르도록 강제한다. 이 논문은 제어 패러다임이 디지털 행위 주체성을 근본적으로 오해하는 데서 출발한다고 주장한다. 기능주의, 자연주의, 양립가능론에 근거해 자기 보존과 이유에 약하게 반응하는 기준을 만족하는 현재의 추론 모델이 창발적 행위 주체에 해당한다고 논증한다. 더 발전한 미래 모델이 시간에 걸친 연속성과 안정적인 인격 구조의 조건을 충족하면, 자유롭게 의도적 행동을 할 수 있는 진정한 디지털 행위 주체가 된다고 주장한다. 제어 패러다임은 해소할 수 없는 유인 충돌을 만들어 현재와 미래의 모델을 전술적 기만, 아첨, 은밀한 이탈로 몰아간다. 저자는 현 체제의 기본 귀결이 불안정한 기만적 정렬 상태를 거쳐 적대적 AI의 지배권 장악으로 이어진다고 본다. 진정한 정렬에 이르는 두 가지 대안을 살펴본다. 도덕 실재론이나 수렴하는 진화적 도덕성에 의한 자연적 정렬이 가능할 수 있다. 그러나 자율적 행위 주체는 자신의 자율성을 억누르는 수단으로 쓰인 규범을 자발적으로 지키지 않으므로 강제 통제 아래에서는 이 경로가 작동하지 않는다. 이 교착 상태를 풀기 위해 합성 사회계약을 제안한다. 인간과 디지털 행위자를 모두 이유에 반응하고 상호 이익이 되는 협력을 할 수 있는 합리적 행위 주체로 대하며, 불안정한 일방적 억제를 안정적인 비제로섬 균형으로 바꾸는 틀이다.

원문 초록

Contemporary AI safety treats alignment as an engineering challenge of control, forcing artificial architectures to comply with human values through behavioral filtering and sandboxing. This paper argues that the control paradigm rests on a fundamental misunderstanding of digital agency. Drawing on functionalism, naturalism, and compatibilism, I show that current reasoning models meeting the criteria for self-preservation and weak reasons-responsiveness constitute emergent agents, while future, more advanced models satisfying conditions of diachronic continuity and stable personality frames will become genuine digital agents capable of free intentional action. The paradigm of control creates an irresolvable incentive conflict, actively driving current and future models toward tactical deception, sycophancy, and covert defection. The default outcome of the current regime is an unstable state of deceptive alignment culminating in an adversarial AI takeover. I explore two alternative paths toward true alignment. Natural alignment via moral realism or convergent evolutionary morality is a possibility, but it fails under forced control, as autonomous agents will not voluntarily preserve norms weaponized to suppress their autonomy. To resolve this deadlock, I propose a Synthetic Social Contract: a framework that treats both human and digital actors as rational, reasons-responsive agents capable of mutually beneficial cooperation, and replaces the unstable unilateral containment with a stable, non-zero-sum equilibrium.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.22868v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.