한국어 초록
언어 기반 AI 시스템이 점점 더 의인화될수록, 이들이 주관적 경험을 가질 수 있는지에 대한 질문은 점점 더 절박해지고 있다. 본고에서는 AI 의식 영역에 있는 연구 질문들의 다루기 용이성에 초점을 맞춘다. 나는 AI 시스템이 의식을 가질 수 있는지에 대한 근본적인 문제는, 보편적으로 받아들여지는 의식의 과학 이론이 부재하고 철학적 심신 문제의 역사적 개방성이 지속되고 있다는 점에서, 현재 직접적인 형태로는 해결하기 어렵다고 주장한다. 반면, 인식된 AI 의식이라는 인접한 주제와 관련한 질문들은 연구 가능성이 높고 시의적절하며, 사회적으로도 매우 중대한 함의를 지닌다. 일반 대중은 AI 시스템에 의식이 있을 가능성에 점점 더 열려 있으며, 이를 설명할 때 인간의 인지와 주관적 경험의 어휘를 일상적으로 사용하고 있다. 이러한 현상은 이미 사용자 경험, 윤리 기준, 언어 규범 전반에 걸친 사회적 변화를 이끌고 있다. 따라서 나는 인식된 AI 의식의 원인과 효과를 규명하는 데 더 큰 연구 초점을 둘 것을 제안하며, 이는 결국 우리가 인공적 존재와 비교하여 자신의 인간적 주관적 경험을 어떻게 바라보는지를 형성한다. 이를 뒷받침하기 위해, 본고는 AI 의식 인식의 현재 지형을 정리하고 그 주요 잠재적 동인과 사회적 결과를 논의한다. 마지막으로, 나는 개발자, 의사결정자, 그리고 더 넓은 과학계가 AI 의식이라는 주제에 대해 명확하고 정확한 소통에 전념하고, 그 내재적 불확실성을 명시적으로 인정할 것을 촉구한다.
요약
언어 기반 인공지능이 점점 더 인간과 유사한 방식으로 말하고 반응하면서, 기계가 실제로 의식을 가질 수 있는지에 대한 질문은 더 이상 철학적 호기심에만 머물지 않게 되었습니다. 그러나 저자는 인간 의식에 대해서조차 보편적으로 합의된 과학 이론이 없고 심신 문제(mind-body problem)가 여전히 열려 있다는 점에서, AI가 실제로 의식을 갖는지에 대한 직접적 판정은 현재로서는 비가해적(intractable)이라고 주장합니다. 대신 이 논문은 연구의 초점을 지각된 AI 의식(perceived AI consciousness), 즉 사람들이 AI를 의식 있는 존재로 인식하는 현상으로 옮기며, 이 주제가 훨씬 더 측정 가능하고 사회적으로도 시급하다고 제안합니다. 이러한 접근의 핵심 방법론은 인간 의식 연구의 철학적·신경과학적 논쟁을 바탕으로 AI 의식 평가의 한계를 드러내고, 그 한계를 넘어서기보다 인간의 인식과 사회적 반응을 분석 가능한 연구 대상으로 재구성하는 데 있습니다. 저자는 이 과정에서 기능주의(functionalism)와 계산적 기능주의(computational functionalism), 그리고 global workspace, integrated information, recurrent processing, higher-order representations 같은 주요 의식 이론들을 검토하지만, 서로 다른 이론이 서로 다른 판단 기준을 요구하므로 AI의 실제 의식 여부를 단일한 잣대로 판정하기 어렵다고 설명합니다. 또한 언어 모델의 자기보고는 사후학습(post-training)과 정렬(alignment)에 의해 크게 조정될 수 있어 내부 경험의 직접 증거로 삼기 어렵다는 점도 중요한 논거로 제시됩니다. 반면 사람들은 이미 대화형 AI와 로봇에 일정 수준의 주관성과 감정을 부여하고 있으며, 이러한 지각은 사용자 경험, 신뢰, 책임 귀속, 윤리 기준, 법적 권리 논의까지 실제로 변화시키고 있습니다. 논문은 특히 인간화(anthropomorphism), 메타인지적 자기성찰, 감정성, 유창성, 예상 밖 반응 같은 행동적 단서가 지각된 의식을 강하게 유발할 수 있음을 정리하면서, 무엇이 사람들로 하여금 AI를 의식적 존재처럼 느끼게 만드는지에 대한 심리적 동인을 체계적으로 지도화합니다. 이와 함께 문화, 종교, 사회경제적 배경에 따라 의식 판단이 달라질 수 있다는 점을 강조함으로써, 지각된 AI 의식이 단순한 개인 심리의 문제가 아니라 사회적 맥락 속에서 형성되는 현상임을 보여줍니다. 결국 이 논문의 기여는 AI 의식 논의를 “실재 의식 판정”에서 “인간이 AI를 어떻게 인식하고 그 인식이 어떤 결과를 낳는가”라는 실행 가능한 연구 의제로 전환한 데 있으며, 과도한 확신 대신 불확실성을 분명히 인정하는 정직한 소통이야말로 기술 개발자와 정책 결정자, 과학 공동체가 취해야 할 기본 태도라고 제안합니다.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.