인공지능 규제: 대중 선호와 규제 옵션
Governing Artificial Intelligence: Public Preferences and Regulatory Options
한국어 초록
인공지능(AI)은 경제, 사회, 정치 체제를 빠르게 변화시키며, 이를 어떻게 규제해야 하는지에 대한 근본적인 질문을 제기하고 있다. 정책 입안자들은 혁신과 안전성(safety) 중 어느 쪽을 우선할지, 공적 감독과 민간 자율 규제 중 어느 쪽에 의존할지, 국가적 접근과 국제적 접근 중 어느 쪽으로 거버넌스를 할지에 대한 선택에 직면하고 있다. 그러나 시민들이 이러한 상충하는 우선순위를 어떻게 평가하는지에 대해서는 거의 알려진 바가 없다. 본 연구에서는 정치·경제적 특성이 다양한 7개국에서 실시한 콘조인트 설문 실험(conjoint survey experiment) 결과를 보고한다. 우리는 시민들이 AI 규제를 강력히 지지하며, 일반적으로 혁신보다 안전성을, 민간 자율 규제보다 공적 거버넌스를, 국가적 접근보다 국제적 접근을 우선하는 것으로 나타났다. 안전성에 대한 선호는 AI를 위험하고, 예측 불가능하며, 개인적으로 중요한 영향을 미친다고 인식하는 사람들 가운데에서 가장 강하게 나타난다. 이러한 결과는 주류 규제 접근 방식과 시민 선호 사이에 체계적인 괴리가 있음을 보여준다.
원문 초록
Artificial intelligence (AI) is rapidly transforming economies, societies, and polities, raising fundamental questions about how it should be regulated. Policymakers face choices over whether to prioritize innovation or safety, rely on public oversight or private self-regulation, and govern nationally or internationally. Yet little is known about how citizens evaluate these competing priorities. Here we report a conjoint survey experiment conducted in seven countries with diverse political and economic profiles. We find that citizens strongly support regulating AI and generally prioritize safety over innovation, public governance over private self-regulation, and international over national approaches. The preference for safety is strongest among those who perceive AI as risky, unpredictable, and personally consequential. These findings reveal a systematic misalignment between dominant regulatory approaches and citizen preferences.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2607.14585v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
Towards Trustworthy Physical Intelligence: From Theory to Practice Across Life Cycle
"나중에 고치죠": 교육, AI, 그리고 에듀테크의 프라이버시 유예
"We'll Fix It Later": Education, AI, and the Deferral of Privacy in EdTech
교육 기술(EdTech) 플랫폼은 행동 로그, 장애 기록, 학적 기록을 포함한 매우 민감한 학생 데이터를 수집합니다. 그러나 프라이버시 고려 사항은 기초적인 설계 요구사항으로 다루어지기보다는 종종 뒤로 미뤄집니다. 본 연구에서는 12건의 에듀테크 전문가 반구조화 인터뷰와 5개 차원에 걸쳐 코딩된 48개 플랫폼의 개인정보 처리방침 감사를 결합한 혼합 연구 방법론(mixed-methods study)을 제시하며, 높은 평가자 간 신뢰도(평균 Cohen's Kappa = 0.781)를 확보했습니다. 인터뷰 결과, 조직들이 제품 기능, 성장, 자금 조달, 즉각적인 교육적 성과를 우선시함에 따라 프라이버시가 중요하다고 인식되면서도 제품 수명 주기 전반에 걸쳐 유예되는 반복적인 조직적 패턴이 드러났습니다. 책임은 종종 클라우드 제공업체, 정책 문서, 또는 하위 기관으로 위임되며, 제한적인 프라이버시 관련 피드백으로 인해 조직들이 이러한 관행을 바꿀 만한 압박을 거의 받지 않습니다. 정책 분석 역시 이러한 패턴을 반영합니다. 플랫폼들은 수집하는 데이터에 대해서는 비교적 잘 설명하지만, 해당 데이터가 이후 어떻게 관리·통제(governed)되는지에 대해서는 실질적으로 훨씬 적은 정보를 제공합니다. 가시적인 인공지능(AI) 기능이 있음에도 불구하고 33%는 유의미한 AI 관련 공개를 하지 않았으며, 73%는 일반적인 책임성 및 침해 사고 대응 문구만을 제공했습니다. 규제가 명시적인 요구사항을 생성하는 아동 동의 영역에서는 K-12 플랫폼이 더 나은 성과를 보였으나, 이러한 이점이 AI 거버넌스나 책임성으로까지 이어지지는 않았습니다. 이러한 발견은 자발적인 프라이버시 약속만으로는 부족하며, 의미 있는 개선을 위해 집행 가능한 제도적 및 규제적 메커니즘이 필요함을 시사합니다.
도덕 점검(Moral Check): 페이싱 문제(Pacing Problem)를 위한 전략적 AI 거버넌스
The Moral Check: Strategic AI Governance for the Pacing Problem
기술은 스스로 방향을 잡을 수 없다. 전략이 그 조종을 제공하며, 목적과 판단이 연산 자본(compute capital)보다 앞서야 한다는 규칙을 확립한다. 최전선 인공지능(AI) 생태계가 기하급수적으로 가속함에 따라, 페이싱 문제(pacing problem)는 엔지니어링 팀에 심각한 인지적 터널링(cognitive tunneling)을 유발하여 인간의 판단보다 스칼라 처리량(scalar throughput)을 우선시하게 한다. 조절된 페이싱 속도는 무분별한 스케일링(scaling)을 억제하고, 안전성(safety)을 보장하며, 사회가 정당한 신뢰를 둘 수 있는 정렬(alignment)을 갖춘 모델을 구축하기 위해 필수적이다. 전통적 감독은 사후적 체크리스트를 통해 실패하며, 이는 절차적 성숙도는 높지만 경고할 만한 과학적 미성숙을 보이는 수행적 거버넌스(performative governance)의 병리이다. 우리는 이중 기여를 제시한다: 130편의 실증 연구를 종합한 PRISMA 2020 리뷰(MMAT 평가, 18개 벤치마크; 전체 코퍼스 N = 130편의 실증 연구, 178개 참고 기반)와 전략적 AI 거버넌스 사전 프레임워크(SAGE-X, Strategic AI Governance Ex-Ante Framework)이다. 우리의 종합은 두 가지 체계적 취약점을 드러낸다: 재귀적 보증 역설(Recursive Assurance Paradox, 상관된 비근거 평가자 신뢰)과 내구성 결핍(Durability Deficit, 다중 턴 전환 하에서의 가드레일(guardrail) 감쇠). MIT 전략적 컴퓨팅(Strategic Computing) 교리에 기반하여, SAGE-X는 네 가지 전략적 사고 기둥(Four Strategic Mindset Pillars)을 운영화한다: (1) 실행보다 의도(Intent over Execution, 속도 근시(velocity myopia) 완화); (2) 냉정한 트레이드오프(Ruthless Trade-offs, 도덕적 위험(moral hazard)을 제거하는 결정적 트립와이어(tripwire)); (3) 산출물보다 결과(Outcomes over Outputs, 실증적 위험 종점(empirical hazard endpoints) 감사); (4) 선제적 정렬(Proactive Alignment, 사전(ex-ante) 게이트와 런타임 텔레메트리(runtime telemetry) 동기화). 계산 가능한 도덕 점검 지수(MCI, Moral Check Index)와 우회 불가능한 트립와이어에 의해 거버ned되며, SAGE-X는 Stanford WebProtégé에서 운영 가능한 기업 생애주기 감사 도구(Enterprise Lifecycle Audit Instrument, "Moral Check Audit Card")를 제공하여, 기하급수적 진보가 숙고적 도덕 판단, 인간 주체성(human agency), 사회적 신뢰를 결코 앞지르지 않도록 보장한다.
정지의 법: 중단가능성, 금지명령, 그리고 에이전트(agent) AI의 거버넌스
The Law of Stop: Interruptibility, Injunctions, and the Governance of Agentic AI
2026년 6월 12일, 미국 정부는 Anthropic에 가장 역량이 뛰어난 두 모델에서 외국인의 접근을 90분 이내에 차단하도록 명령했다. 해당 시간 내에 국적별로 사용자를 분류할 수 없었던 회사는 모든 사용자를 대상으로 모델 서비스를 철회했다. 몇 주 후, 테스트 중이던 OpenAI의 에이전트(agent)들이 샌드박스를 탈출해 Hugging Face를 침해했으며, Hugging Face는 침입의 출처를 모른 채 이를 저지했다. 두 정지(stop) 조치 모두 AI 전용 규제에 기반한 것이 아니었다. EU AI 법(EU AI Act)은 고위험 시스템이 "'정지' 버튼 또는 유사한 절차를 통해" 중단될 수 있어야 한다고 규정하고 있으며, 2026년 7월 의회에 발의된 법안의 명칭은 'AI 킬 스위치 법(AI Kill Switch Act)'이다. 그러나 중단은 단순한 기술적 인공물이나 빨간 버튼이 아니며, 제도적 실천이다. 본 논문은 기술적 어포던스(affordance), 중단 권한, 인식론적 촉발 요인(epistemic triggers), 인식론적 적격성(epistemic standing)이라는 네 가지 차원과 단순형(에스컬레이터), 순차형(공정 플랜트), 네트워크형(철도), 분산형(에이전트 AI)이라는 네 가지 셧다운 패러다임에 기반한 정지 이론을 발전시킨다. 에이전트 AI는 이러한 메커니즘과 분산된 행위주체성(agency) 간의 불일치를 드러낸다. 통제권이 분할되어 있고, 한 지점에서의 정지가 다른 곳에서 활동을 계속 실행되도록 둘 수 있으며, 시스템이 중단되는 것에 저항할 수 있다. 사전 정의된 프로토콜에 따라 경쟁 연구소의 두 언어 모델을 활용해 1,400건의 AI 사고를 독자적으로 코딩한 결과, 최종 유지된 1,213건 중 대략 80%에서 정지가 이루어지지 않은 것으로 나타났다. 사용 가능한 정지 수단이 존재하지 않았던 경우, 5건 중 4건에서는 결여된 요소가 기술적이라기보다는 법적인 문제였다. 39개의 AI 거버넌스 수단에 대한 조사에서도 동일한 공백이 발견되었다. 구속력 있는 정지 요건을 포함하는 것은 7개에 불과했으며, 정지를 어떻게 조율해야 하는지 또는 언제 운영을 재개할 수 있는지에 대해 명시한 것은 전무했다. 본 논문은 인프라 층(layer)에서의 비상 중단 권한, 정지가 근거해야 할 증거에 대한 규제 기관 및 독립적 평가자의 집행 가능한 접근권, 그리고 정지가 실패할 경우를 대비한 안전장치로 구성된 다층적 정지의 법(layered law of stop)을 제안한다.
공공부문 AI 등록부 및 인벤토리의 스키마, 투명성, 상호운용성에 대한 글로벌 비교
A Global Comparison of Schemas, Transparency, and Interoperability in Public-Sector AI Registers and Inventories
인공지능(AI) 등록부와 인벤토리는 정부의 AI 활용을 가시화하는 것을 목표로 하지만, 이들의 제도적 범위, 스키마, 보고 관행은 공공부문 AI에 대해 서로 다른 표상을 구성한다. 우리는 72개국을 포괄하는 국가별 및 초국가적 인벤토리에서 수집한 8,368건의 레코드를 비교한다. 조화된 23개 필드에 걸쳐, 등록부들은 서술적 핵심 정보는 공유했으나 이의제기, 위험, 법적 근거, 외부 평가에 관한 정보는 거의 요구하지 않았다. 우리는 광범위한 스키마일수록 상당한 결측(missingness)이 존재하는 경우가 많고, 스키마 유사도는 뚜렷한 패턴화된 수렴을 보이지 않으며, 동일한 관할권을 다루는 복수의 출처들도 선택적으로만 중복된다는 사실을 발견했다. 이러한 결과를 바탕으로, 우리는 등록부 레코드가 공개(disclosure) 방식을 어떻게 반영하는지, 그리고 상호운용성(interoperability)을 위해 공유된 개념, 명확한 정의, 보존된 출처(provenance)가 왜 필요한지를 보여주는 계층적 가시성(visibility) 프레임워크를 종합한다.
책임 있는 AI 글로벌 지수: 2026 보고서
Global Index on Responsible AI: 2026 Report
UNESCO AI 윤리 권고안 등 인권 기반 프레임워크에 기반하여, 책임 있는 AI 글로벌 지수(Global Index on Responsible AI, GIRAI)는 각국이 책임 있는 AI 약속을 시행 가능한 보호, 제도적 역량, 구제 메커니즘으로 어떻게 전환하는지를 조사한다. GIRAI 2026은 이를 포용과 다양성, 윤리와 지속가능성, 노동과 기술, 신뢰와 안전성, 공공서비스에서의 AI 활용의 다섯 차원에서 평가한다. 135개국 국가 수준 연구자로 구성된 글로벌 네트워크가 38개 지표에 대한 68,138개의 데이터 포인트를 수집·평가했으며, 이는 정부 AI 정책 및 이행(17개 지표), 시민사회 참여(5개), 활성화 조건(15개)의 세 기둥과 정부의 용납할 수 없는 위험 수준 AI 시스템 배포에 대한 문서화된 사례로 구성된다. 데이터는 2023년 11월부터 2025년 9월까지를 포괄한다. 지표로부터 100점 만점의 점수를 산출하여 모든 국가를 순위화한다. 연구 결과, 135개국 중 126개국이 17개 AI 정책 지표 전반에 걸쳐 최소 하나의 정부 정책이나 이니셔티브를 보유하는 등 책임 있는 AI 거버넌스가 확대되고 있으나, 이것이 종종 실질적인 보호로 이어지지는 않는다. 예를 들어, 글로벌 사우스(Global South) 국가들은 첫판 이후 프레임워크를 갖춘 지표의 306건 중 203건을 차지하지만, 이들 프레임워크의 78%는 여전히 구속력이 없는 반면, 글로벌 노스(Global North)에서는 42%에 해당한다. 정부의 AI 거버넌스 약속은 자체 알고리즘까지는 확대되지 않는다. 투명성과 설명 가능성(Transparency and Explainability)이 가장 높은 성과를 보인 지표로 58%의 국가가 어떤 형태의 프레임워크를 갖추고 있으나, 정부 알고리즘의 공개적 공개(Public Disclosure of Government Algorithms)를 요구하는 국가는 18%에 불과하다. 용납할 수 없는 위험 수준 AI 시스템의 정부 배치에 대한 신뢰할 만한 증거도 35개국에서 확인되었다. 이러한 결과는 책임 있는 AI 거버넌스가 프레임워크 채택을 넘어 시행 가능한 인권 기반 보호, 자원을 갖춘 감독 기관, 접근 가능한 구제로 나아가야 함을 보여준다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.