지난 10년간 인간 수준의 인공 일반 지능을 구축하는 일은 터무니없는 추측에서 대규모 AI 조직 다수의 구체적인 향후 10년 목표로 바뀌었다. 이 목표를 달성하면 인간 사회에 깊고 광범위한 영향을 미칠 것이며, 이는 향후 10년에 대해 많은 복잡한 질문을 제기한다. 본 보고서는 기계 지능의 연속체를 따라 AGI 이후 세계에서 AI 자체가 어떻게 계속 발전할 수 있는지를 탐구한다. 이 연속체의 종착점인 범용 AI(Universal AI)는 이론적으로 잘 이해되어 있어, 보고서의 주된 초점인 인간 수준 AGI에서 인공 일반 초지능으로의 전환에 형식적 토대를 제공한다. 인공 일반 초지능은 직관적으로 인간의 대규모 조직보다 더 지능적이고 인지적으로 유능한 시스템으로 이해할 수 있다. 보고서는 ASI를 특징지은 뒤 AGI에서 ASI로 가는 네 가지 잠재적 경로, 즉 AGI의 규모 확장, AI 패러다임 전환, 대규모 다중 에이전트 집단에서 ASI의 출현, 재귀적 개선을 논한다. 이어서 이러한 경로를 따라 나타날 수 있는 마찰과 병목을 논의한다. 이러한 마찰의 영향이 무시할 만한지 상당한지를 판단하는 일은 여러 구체적인 미해결 연구 질문을 제기한다. ASI 진전을 예측하는 데에는 큰 불확실성이 남아 있지만, 향후 몇 년간 AI의 진전이 계속 가속될 가능성을 배제할 수 없다. 이는 인간 수준 AGI의 사회 도입으로 인한 단일하고 변혁적인 단계적 변화라는 그림이 부정확할 수 있음을 시사한다. 오히려 과학과 기술의 여러 분야에서 AI가 가능하게 한 진전과 돌파구로 인해 일련의 변혁적 사회 변화가 일어나는 전망이 더 적절할 수 있다. 이러한 전망에 대비하려면 전 지구적 범위와 관심을 가진 대규모 학제 간 노력이 필요하다.
이 논문은 AI 윤리에서 새로운 관점의 전환을 제안한다. 인간이 인공 초지능(ASI)을 어떻게 대해야 하는지를 묻는 대신, 미래의 감각을 가진 ASI가 인류를 도덕적으로 어떻게 고려하고 평가할 수 있는지를 검토한다. 우리는 지능형 시스템을 설계하는 것뿐만 아니라, 그러한 시스템이 우리에 대한 판단을 형성하는 초기 조건을 형성하고 있다. 이 논문은 감각을 가진 ASI의 행동을 규율할 수 있는 예비적인 인간 이후(post-human) 도덕 원칙 집합을 제안한다. 그 함의는, 기술적 설계 선택(일부가 제안됨), 인류의 도덕적 행동, 그리고 인간이라는 것의 의미에 대한 본질이 ASI 이후 세계에서 인류의 장기적 지위에 영향을 미칠 수 있다는 것이다.
레이 커즈와일(Ray Kurzweil)은 가속적 수익(accelerating returns)이라는 논제를 제시했으며, 이는 기술 진보 논의에서 가장 영향력 있는 서사 중 하나이다. 핵심 주장은 여러 기술 분야, 특히 연산(compute), 인공지능, 뇌과학, 생명공학에서의 진보가 상호작용하여 진보가 자기 증폭적이고 대략 지수적으로 이루어진다는 것이다. 본 논문은 그 주장에 대한 간단한 수학적 해석을 제시한 뒤, 이러한 가속이 실재하더라도 그것만으로는 과학적 발견의 핵심 문제를 해결하지 못한다고 주장한다. 그 이유는 가속적 수익이 실행 및 인프라 역량에 가장 자연스럽게 적용되는 반면, 진정한 발견은 종종 다른 역량, 즉 현재 프레임워크가 구조적으로 부적합한 시점과 다음에 필요한 개념적 전환(conceptual move)에 대한 질적 추론(qualitative reasoning)에 달려 있기 때문이다. 최근 ARC-AGI-3 결과는 이 구분을 더욱 분명히 한다. 인간은 해당 벤치마크(benchmark)를 상한(ceiling)에 가깝게 해결하는 반면, 최전선 AI 시스템은 1% 미만에 머물러, 현재 AI와 인간의 유연한 추론 사이의 격차가 여전히 매우 크다는 것을 보여준다. 동시에 데미스 해사비스(Demis Hassabis)는 인간이 의미에 대한 감각과 삶에서 무엇에 집중할지 선택하는 능력을 유지해야 한다고 강조했으며, 이는 AI의 미래가 기술적 전망일 뿐만 아니라 어떤 형태의 인간적 이해가 보존·전승할 가치가 있는지에 대한 질문이기도 함을 상기시킨다. 본 논문은 Qualitative Engine for Science(QES)[3]를 그 결여된 역량에 대한 대응으로 제시한다. 이 관점에서 커즈와일 이론은 정량적 역량이 왜 가속될 수 있는지를 설명하는 데 도움이 되며, QES는 가속만으로는 해결되지 않는 과학적 발견의 핵심 문제를 다룬다. 그 가치는 AGI가 언제 도래하는지에 달려 있지 않으며, 과학적 발견 과정 자체가 보존·체계화·접근 가능하게 만들 가치가 있는 인간 지혜의 한 형태를 구성한다는 사실에 있다.
범용 인공지능(AGI)이 이미 도래했다는 주장과 아직 수십 년은 남았다는 주장은 종종 겹치는 근거로 옹호된다. "AGI"에는 단일하고 공유된 안정적 지시 대상이 없으며, 경쟁하는 조작화(operationalization)들이 동일한 시스템에 대해 서로 다른 판정을 내릴 수 있다. 이 글은 그러한 미명시를 설계 및 거버넌스 문제로 다룬다. 설계 과학 연구 방법론(Design Science Research Methodology)에 따라, 후보 정의의 판정 적합성을 평가하기 위한 다섯 가지 서열적 기준과 저작권·이해관계·인증·외부 검증 및 개정 권한에 대한 구조화된 거버넌스 감사라는 두 개의 결합된 구성 요소를 갖춘 이차 개념적 산출물 DAF-AGI를 개발한다. 이 산출물은 문서화된 코퍼스에서 다섯 가지 저명한 측정 체계군과 하나의 수축적 경계 입장에 대해 시연된 뒤, 현재의 생성형 시스템이 많은 인지 과제에서 잘 교육받은 성인을 능가하기 때문에 AGI를 구성한다는 양식화된 강한 도래 주장에 대해 스트레스 테스트된다. 인용된 2024-2025년 출처의 근거에 따르면, 그 주장은 성과 기반 조작화에서만 인증 가능했으며; 역량-온톨로지(capability-ontology), 심리측정(psychometric), 기술 습득 접근법은 이를 인증하지 않았고, 경제 체계군은 여전히 불확정적이며 수축적 입장은 이항 판정을 거부한다. 기여는 실증적 검증이 아니라 새로운 통합과 조작화이며: 독립적 적용, 평가자 간 검증, 저자 외부 사례가 여전히 필요하다. 이 논문은 또한 정의적 주권(definitional sovereignty)을 알고리즘 주권(algorithmic sovereignty)의 촉진 구성 요소로 제안한다: 공적 책임 하에 도입된 기술 범주를 이의 제기하고, 인증하고, 개정할 수 있는 제도적 역량.
대규모 언어 모델(LLM)이 인공 일반 지능(AGI)으로 나아가기 위해서는 해마의 명시적 기억(explicit memory)을 통합하는 것이 핵심이라고 주장합니다. LLM의 암시적 학습 메커니즘만으로는 장기 전략 계획이나 상징적 추론 같은 고차원 인지 기능을 구현할 수 없으므로, 인공 명시적 기억 시스템의 계산적 요구사항을 제시합니다.