설계자 없는 아키텍처인가? 분열된 세계 속 인공지능의 글로벌 거버넌스
Architecture Without an Architect? Global Governance of Artificial Intelligence in a Divided World
한국어 초록
인공지능은 글로벌 거버넌스에 유례없이 까다로운 문제를 제기한다. 기술은 빠르게 발전하고 국경을 쉽게 넘나들며, 국가에 필적하는 자원과 역량을 지닌 주체들에 의해 형성된다. 그러나 국제적 대응은 여전히 파편화되어 있고 대표성이 불균등하며 압도적으로 비구속적인 성격을 띤다. 따라서 당면한 과제는 단순히 적절한 규칙이나 제도를 식별하는 데 그치지 않고, 이를 생성·집행·적응시킬 역량과 유인을 누가 지니고 있는지 이해하는 것이다. 본 리뷰 에세이는 마티스 마스(Matthijs Maas)의 저서 『Architectures of Global AI Governance』를 통해 이러한 질문들을 검토한다. 마스는 사회기술적 변화, 거버넌스 단절, 레짐 복합성이라는 렌즈를 통해 AI 거버넌스를 고찰하는 야심 찬 프레임워크를 제시한다. 그의 설명은 기술결정론과 단일한 제도적 청사진 탐색 모두를 유의미하게 경계하며, 대신 파편화되고 진화하는 거버넌스 아키텍처의 가능성을 강조한다. 그러나 본 에세이는 제도적 설계가 권력의 분포와 분리될 수 없다고 주장한다. 마스는 AI와 관련해 '우리'가 무엇을 해야 하는지 자주 언급하지만, 이러한 집합적 주체는 국가, 국제기구, 기술 기업 간의 중요한 차이를 가린다. 국가는 시장, 인프라, 전략적 투입 요소, 그리고 기업 자체에 대해 여전히 막강한 권한을 유지하고 있다. 동시에 프론티어 AI에 관한 많은 중대한 결정—무엇을 구축할 것인지, 얼마나 빠르게 진행할 것인지, 어떠한 안전장치를 둘 것인지, 언제 배포할 것인지—은 소수의 민간 기업에 집중되어 있다. 따라서 글로벌 AI 거버넌스의 핵심 문제는 설계자 없는 아키텍처라기보다는, 서로 다른 형태의 권력과 상이한 유인을 지니고 공통된 계획이 없는 복수의 주체들에 의해 형성되는 신흥 아키텍처에 가깝다고 볼 수 있다.
원문 초록
Artificial intelligence presents an unusually difficult problem for global governance. The technology develops rapidly, crosses borders easily, and is shaped by actors whose resources and capabilities may rival those of states. Yet international responses remain fragmented, unevenly representative, and overwhelmingly non-binding. The challenge is therefore not simply to identify appropriate rules or institutions, but to understand who has the capacity and incentive to create, enforce, and adapt them. This review essay examines these questions through Matthijs Maas's Architectures of Global AI Governance. Maas offers an ambitious framework for thinking about AI governance through the lenses of sociotechnical change, governance disruption, and regime complexity. His account usefully resists both technological determinism and the search for a single institutional blueprint, emphasizing instead the possibilities of a fragmented and evolving governance architecture. The essay argues, however, that institutional design cannot be separated from the distribution of power. Maas frequently invokes what "we" should do about AI, but that collective subject obscures important differences among states, international institutions, and technology companies. States retain formidable powers over markets, infrastructure, strategic inputs, and firms themselves. At the same time, many consequential decisions about frontier AI - what is built, how quickly, with what safeguards, and when it is released - are concentrated within a small number of private companies. The central problem of global AI governance may therefore be less architecture without an architect than an emerging architecture shaped by multiple actors possessing different forms of power, divergent incentives, and no common set of plans.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
Towards Trustworthy Physical Intelligence: From Theory to Practice Across Life Cycle
TRACE: 프로덕션 AI 시스템의 설명가능성 부채 측정을 위한 거버넌스 프레임워크
TRACE: A Governance Framework for Measuring Explainability Debt in Production AI Systems
중대한 영향을 미치는 고위험(high-stakes) 영역에 배포된 프로덕션 AI 시스템에는 기존 모니터링 프레임워크로는 감지하지 못하는 거버넌스 부채가 축적됩니다. 바로 규제 기관, 감사인 또는 영향을 받는 개인이 책무성을 요구할 때 개별 결정을 설명하지 못하는 능력이 점진적으로 심화되는 현상입니다. 본 논문에서는 프로덕션 AI 시스템에서 설명가능성 부채(Explainability Debt)를 측정, 추적 및 개선하기 위한 7가지 도구 기반의 거버넌스 프레임워크인 TRACE(Transparency, Risk, Accountability, Compliance, and Explainability)를 소개합니다. 핵심 도구인 설명가능성 부채 점수(EDS, Explainability Debt Score)는 임의의 시점에서 거버넌스에서 정의한 설명가능성 신뢰도 임계값에 미치지 못하는 프로덕션 결정의 비율을 정량화합니다. 보완 도구로는 DART(위반 예측을 위한 부채 축적률 추적기), SHIV(일일 거버넌스를 위한 시나리오 건전성 및 무결성 검증기), FDE(인과 관계 귀속을 위한 특징 드리프트 평가기), HVE(인간 검증 엔진), AIDE(감사 개입 결정 엔진), ZERO(개선을 위한 무결점 설명가능성 위험 최적화기)가 포함됩니다. 매일 50,000건의 금융 거래를 처리하며 98.46%의 정확도와 0.9990의 ROC-AUC를 달성한 프로덕션 이상거래 탐지(fraud detection) 시스템에 대한 12개월간의 종단적 사례 연구를 통해, 감사 당일 0.23의 EDS를 DART 궤적 분석을 통해 6개월 전에 통계적으로 예측할 수 있었음을 입증했습니다(beta = 0.008/주, R-squared = 0.94, 95% CI: [0.006, 0.010]). 또한 설명가능성 부채의 78%가 가장 규제 위험이 높은 결정 범주(10,000달러 초과 거래)에 집중되어 있었으며, 이는 시스템 수준의 지표로는 전혀 감지할 수 없는 위험 비대칭성이었습니다. TRACE는 프로덕션 AI 배포 환경에서 EU AI 법(EU AI Act) 제13조 준수를 위한 최초의 정량적 운영 아키텍처를 제공하며, 설명 생성(explanation generation)과는 구별되는 설명 거버넌스(explanation governance)라는 새로운 하위 분야를 정립합니다.
ECHO: 바이어스에 기반한 참여형 AI 위해 예측 프레임워크
ECHO: A Participatory Framework for Bias-Anchored AI Harm Anticipation
인공지능(AI) 시스템은 중요한 결정에 점차 많은 영향을 미치며, 가치를 창출하는 동시에 개인, 사회 집단 및 사회 전반에 잠재적 위해(harm)를 초래하기도 합니다. 이에 따라 AI 수명주기 초기 단계에서 위해를 선제적으로 예측하는 접근 방식에 대한 요구가 커지고 있습니다. 기존 연구들은 AI의 바이어스를 위해의 원인으로 지목하고 있으나, 특정 수명주기 바이어스와 위해 간의 구체적인 연관성은 여전히 충분히 규명되지 않았습니다. 본 연구에서는 수명주기 바이어스에 초기 위해 예측을 연계하고, 잠재적 위해와의 인지된 연관성을 도출하는 체계적이고 맥락 인식형(context-sensitive) 참여 프레임워크인 \texttt{ECHO}를 소개합니다. \texttt{ECHO}는 도메인별 이해관계자를 식별하고, 비네트(vignette)를 통해 바이어스를 구체화하며, 인간 참가자와 대규모 언어 모델(LLM)로부터 위해성 판단을 수집하여 이를 기술적 및 추론적 윤리 매트릭스로 구성합니다. 질병 진단 및 채용 도메인에 적용한 결과, \texttt{ECHO}는 특정 AI 바이어스의 그럴듯한 결과로 어떤 위해가 인식되는지를 보여주는 비균일적이고 맥락에 민감한 바이어스-위해 패턴을 포착했습니다. 이러한 패턴의 이론적 해석 가능성과 특정 연관성에 대한 추론적 뒷받침은 도출된 매핑의 타당성을 강화합니다. \texttt{ECHO}는 이해관계자별로 예상되는 위해를 수명주기 바이어스에 연결함으로써, 원인 수준의 위해 예측을 지원하고 향후 AI 거버넌스 조치를 위한 구조화된 입력을 제공합니다.
Jev 시대의 판단: 평가 희소성에서 평가 풍요로
Judgement in the Age of Jev: From Evaluation Scarcity to Evaluation Abundance
생성형 인공지능이 그럴듯한 기호적 인공물(symbolic artefact)의 생성 비용을 낮춤에 따라, 최근 조직학 연구에서는 생산 풍요의 조건 하에서 평가와 식별을 제약 요인으로 주목해 왔다. 본 연구는 여기서 한 걸음 더 나아가, 기계 평가 자체가 일상적이면서도 대규모로 배포될 수 있을 만큼 저렴해지는 또 다른 가능성을 검토한다. 이 조사는 타입화된 확률적 의사결정을 위한 TypeSafe AI의 특화 모델(model)인 Jev에서 촉발되었다. TypeSafe는 윌리엄 스탠리 제번스(William Stanley Jevons)를 명시적으로 인용하며, 더 저렴해진 기계 지능이 이전에는 비경제적이었던 활용처를 열어젖힐 수 있다고 주장한다. 본 논문은 이를 확립된 실증적 결과라기보다는 기술적 도발로 다루며, 기계 평가에 대한 조건부 제번스 역설 가설을 수립한다. 즉, 잠재 수요가 상당하고 보완적 비용이 지배적이지 않은 경우, 활용 가능한 기계 평가의 총 한계 비용이 충분히 크게 감소하면 조직 내 소비가 증가할 수 있다는 것이다. 본 논문은 이러한 잠재적 희소성 전환을 조사하기 위해 반등 효과 경제학과 저비용 예측, 생산 풍요, 기계 평가, 의사결정 배분, 권한, 의존성 및 경영 판단(Executive Judgement)에 관한 연구를 통합한다. 또한 예측, 기계 평가, 조직적 판단, 권한 부여를 비용이 반드시 함께 하락하지는 않는 기능적 활동으로 구분한다. 평가는 증거, 기준, 오류를 공유할 수 있고, 잘못 명시된 루브릭을 확장할 수 있으며, 중대한 단서 조항이 사라진 표현을 기반으로 작동할 수 있고, 임계값과 예외 라우팅을 통해 실질적인 의사결정 권한을 변화시킬 수 있다. 이에 따른 연구 과제는 저렴한 기계 평가가 언제 인간의 평가 업무를 대체하는지, 언제 판단에 대한 수요를 재분배하거나 새로 창출하는지, 그리고 중대한 조직적 의사결정 시점에 활용 가능한 근거에 어떤 영향을 미치는지 규명하는 것이다.
오픈 PACS-AI 플랫폼을 활용한 의료영상 AI 배포에서 얻은 교훈
Lessons learned from deploying imaging AI with the open PACS-AI platform
본 논문에서는 오픈 자체 호스팅(self-hosted) 플랫폼인 PACS-AI를 통해 6개 병원에 영상 AI를 배포한 경험을 설명합니다. 주요 병목(binding constraint)은 모델의 정확도가 아니라 검사 영상(study)을 라우팅하고, 결과를 표시하며, 피드백을 수집하고, 실행 내용을 감사(audit)하는 인프라에 있습니다. 한 병원에서는 혈관조영술(angiography) 모델이 607건의 작업 중 515건(84.8%)을 완료했으며, 실패 원인은 진단용 뷰(view)의 부재 때문이었고, 638건의 임상의 평가 중 78.1%가 긍정적이었습니다. 모든 모델에 대해 정직한 준비도 수준(readiness level)을 공개하는 것 자체가 하나의 거버넌스 실천 방식입니다.
"나중에 고치죠": 교육, AI, 그리고 에듀테크의 프라이버시 유예
"We'll Fix It Later": Education, AI, and the Deferral of Privacy in EdTech
교육 기술(EdTech) 플랫폼은 행동 로그, 장애 기록, 학적 기록을 포함한 매우 민감한 학생 데이터를 수집합니다. 그러나 프라이버시 고려 사항은 기초적인 설계 요구사항으로 다루어지기보다는 종종 뒤로 미뤄집니다. 본 연구에서는 12건의 에듀테크 전문가 반구조화 인터뷰와 5개 차원에 걸쳐 코딩된 48개 플랫폼의 개인정보 처리방침 감사를 결합한 혼합 연구 방법론(mixed-methods study)을 제시하며, 높은 평가자 간 신뢰도(평균 Cohen's Kappa = 0.781)를 확보했습니다. 인터뷰 결과, 조직들이 제품 기능, 성장, 자금 조달, 즉각적인 교육적 성과를 우선시함에 따라 프라이버시가 중요하다고 인식되면서도 제품 수명 주기 전반에 걸쳐 유예되는 반복적인 조직적 패턴이 드러났습니다. 책임은 종종 클라우드 제공업체, 정책 문서, 또는 하위 기관으로 위임되며, 제한적인 프라이버시 관련 피드백으로 인해 조직들이 이러한 관행을 바꿀 만한 압박을 거의 받지 않습니다. 정책 분석 역시 이러한 패턴을 반영합니다. 플랫폼들은 수집하는 데이터에 대해서는 비교적 잘 설명하지만, 해당 데이터가 이후 어떻게 관리·통제(governed)되는지에 대해서는 실질적으로 훨씬 적은 정보를 제공합니다. 가시적인 인공지능(AI) 기능이 있음에도 불구하고 33%는 유의미한 AI 관련 공개를 하지 않았으며, 73%는 일반적인 책임성 및 침해 사고 대응 문구만을 제공했습니다. 규제가 명시적인 요구사항을 생성하는 아동 동의 영역에서는 K-12 플랫폼이 더 나은 성과를 보였으나, 이러한 이점이 AI 거버넌스나 책임성으로까지 이어지지는 않았습니다. 이러한 발견은 자발적인 프라이버시 약속만으로는 부족하며, 의미 있는 개선을 위해 집행 가능한 제도적 및 규제적 메커니즘이 필요함을 시사합니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.