핵심 분야에서 AI 규정 준수와 기술 혁신의 균형: 체계적 문헌 고찰
The Challenges of Balancing AI Compliance and Technological Innovations in Critical Sectors: A Systematic Literature Review
한국어 초록
인공지능(AI)이 의료, 금융, 에너지, 국방을 포함한 핵심 인프라에 빠르게 통합되면서 혁신적 이점을 제공하지만, 진화하는 규제 및 거버넌스 체계와도 충돌한다. 본 논문은 핵심 인프라 분야 전반에 걸쳐 AI 규정 준수와 기술 혁신의 균형을 맞추는 과제를 검토하기 위해 체계적 문헌 고찰(SLR)을 제시한다. 이 고찰은 확립된 SLR 가이드라인을 따라 2020–2025년에 발표된 동료 검토 논문, 보고서, 기관 자료에서 통찰을 추출하고 종합한다. 연구는 세 가지 상호 연관된 과제를 식별한다: 파편화된 규제, 중소기업(SME)에 대한 과도한 규정 준수 부담, 그리고 부합하지 않는 거버넌스 모델. 이러한 과제를 해결하기 위해 연구는 핵심 분야에서 확장 가능하고 신뢰할 수 있는 AI 배포를 지원하기 위해 위험 등급별 규제, 설계 단계 규정 준수(compliance by design), 설명 가능한 AI(explainable AI)를 포함한 실용적 거버넌스 전략을 강조한다. 주요 기여는 핵심 AI 거버넌스 과제의 간결한 매핑과 이들의 중첩을 보여주는 개념도, 그리고 정책 입안자와 실무자가 감독과 혁신을 조화시키기 위한 실행 가능한 전략을 포함한다.
원문 초록
The rapid integration of artificial intelligence (AI) into critical infrastructure including healthcare, finance, energy, and defense, offers transformative benefits but also conflicts with evolving regulatory and governance frameworks. This paper presents a systematic literature review (SLR) to examine the challenges of balancing AI compliance and technological innovation across critical infrastructure sectors. The review follows established SLR guidelines to extract and synthesize insights from peer-reviewed articles, report, and institutional sources published between 2020-2025. The study identifies three interrelated challenges: fragmented regulations, excessive compliance burdens for smaller to medium enterprises (SMEs), and misaligned governance models. To address these challenges, the study highlights practical governance strategies, including risk-tiered regulation, compliance by design, and explainable AI, to support scalable and trustworthy AI deployment in critical sectors. Key contributions include a concise mapping of core AI-governance challenges and a conceptual diagram illustrating their overlap, as well as actionable strategies for policymakers and practitioner to harmonize oversight with innovation.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.12423v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
Towards Trustworthy Physical Intelligence: From Theory to Practice Across Life Cycle
"나중에 고치죠": 교육, AI, 그리고 에듀테크의 프라이버시 유예
"We'll Fix It Later": Education, AI, and the Deferral of Privacy in EdTech
교육 기술(EdTech) 플랫폼은 행동 로그, 장애 기록, 학적 기록을 포함한 매우 민감한 학생 데이터를 수집합니다. 그러나 프라이버시 고려 사항은 기초적인 설계 요구사항으로 다루어지기보다는 종종 뒤로 미뤄집니다. 본 연구에서는 12건의 에듀테크 전문가 반구조화 인터뷰와 5개 차원에 걸쳐 코딩된 48개 플랫폼의 개인정보 처리방침 감사를 결합한 혼합 연구 방법론(mixed-methods study)을 제시하며, 높은 평가자 간 신뢰도(평균 Cohen's Kappa = 0.781)를 확보했습니다. 인터뷰 결과, 조직들이 제품 기능, 성장, 자금 조달, 즉각적인 교육적 성과를 우선시함에 따라 프라이버시가 중요하다고 인식되면서도 제품 수명 주기 전반에 걸쳐 유예되는 반복적인 조직적 패턴이 드러났습니다. 책임은 종종 클라우드 제공업체, 정책 문서, 또는 하위 기관으로 위임되며, 제한적인 프라이버시 관련 피드백으로 인해 조직들이 이러한 관행을 바꿀 만한 압박을 거의 받지 않습니다. 정책 분석 역시 이러한 패턴을 반영합니다. 플랫폼들은 수집하는 데이터에 대해서는 비교적 잘 설명하지만, 해당 데이터가 이후 어떻게 관리·통제(governed)되는지에 대해서는 실질적으로 훨씬 적은 정보를 제공합니다. 가시적인 인공지능(AI) 기능이 있음에도 불구하고 33%는 유의미한 AI 관련 공개를 하지 않았으며, 73%는 일반적인 책임성 및 침해 사고 대응 문구만을 제공했습니다. 규제가 명시적인 요구사항을 생성하는 아동 동의 영역에서는 K-12 플랫폼이 더 나은 성과를 보였으나, 이러한 이점이 AI 거버넌스나 책임성으로까지 이어지지는 않았습니다. 이러한 발견은 자발적인 프라이버시 약속만으로는 부족하며, 의미 있는 개선을 위해 집행 가능한 제도적 및 규제적 메커니즘이 필요함을 시사합니다.
도덕 점검(Moral Check): 페이싱 문제(Pacing Problem)를 위한 전략적 AI 거버넌스
The Moral Check: Strategic AI Governance for the Pacing Problem
기술은 스스로 방향을 잡을 수 없다. 전략이 그 조종을 제공하며, 목적과 판단이 연산 자본(compute capital)보다 앞서야 한다는 규칙을 확립한다. 최전선 인공지능(AI) 생태계가 기하급수적으로 가속함에 따라, 페이싱 문제(pacing problem)는 엔지니어링 팀에 심각한 인지적 터널링(cognitive tunneling)을 유발하여 인간의 판단보다 스칼라 처리량(scalar throughput)을 우선시하게 한다. 조절된 페이싱 속도는 무분별한 스케일링(scaling)을 억제하고, 안전성(safety)을 보장하며, 사회가 정당한 신뢰를 둘 수 있는 정렬(alignment)을 갖춘 모델을 구축하기 위해 필수적이다. 전통적 감독은 사후적 체크리스트를 통해 실패하며, 이는 절차적 성숙도는 높지만 경고할 만한 과학적 미성숙을 보이는 수행적 거버넌스(performative governance)의 병리이다. 우리는 이중 기여를 제시한다: 130편의 실증 연구를 종합한 PRISMA 2020 리뷰(MMAT 평가, 18개 벤치마크; 전체 코퍼스 N = 130편의 실증 연구, 178개 참고 기반)와 전략적 AI 거버넌스 사전 프레임워크(SAGE-X, Strategic AI Governance Ex-Ante Framework)이다. 우리의 종합은 두 가지 체계적 취약점을 드러낸다: 재귀적 보증 역설(Recursive Assurance Paradox, 상관된 비근거 평가자 신뢰)과 내구성 결핍(Durability Deficit, 다중 턴 전환 하에서의 가드레일(guardrail) 감쇠). MIT 전략적 컴퓨팅(Strategic Computing) 교리에 기반하여, SAGE-X는 네 가지 전략적 사고 기둥(Four Strategic Mindset Pillars)을 운영화한다: (1) 실행보다 의도(Intent over Execution, 속도 근시(velocity myopia) 완화); (2) 냉정한 트레이드오프(Ruthless Trade-offs, 도덕적 위험(moral hazard)을 제거하는 결정적 트립와이어(tripwire)); (3) 산출물보다 결과(Outcomes over Outputs, 실증적 위험 종점(empirical hazard endpoints) 감사); (4) 선제적 정렬(Proactive Alignment, 사전(ex-ante) 게이트와 런타임 텔레메트리(runtime telemetry) 동기화). 계산 가능한 도덕 점검 지수(MCI, Moral Check Index)와 우회 불가능한 트립와이어에 의해 거버ned되며, SAGE-X는 Stanford WebProtégé에서 운영 가능한 기업 생애주기 감사 도구(Enterprise Lifecycle Audit Instrument, "Moral Check Audit Card")를 제공하여, 기하급수적 진보가 숙고적 도덕 판단, 인간 주체성(human agency), 사회적 신뢰를 결코 앞지르지 않도록 보장한다.
정지의 법: 중단가능성, 금지명령, 그리고 에이전트(agent) AI의 거버넌스
The Law of Stop: Interruptibility, Injunctions, and the Governance of Agentic AI
2026년 6월 12일, 미국 정부는 Anthropic에 가장 역량이 뛰어난 두 모델에서 외국인의 접근을 90분 이내에 차단하도록 명령했다. 해당 시간 내에 국적별로 사용자를 분류할 수 없었던 회사는 모든 사용자를 대상으로 모델 서비스를 철회했다. 몇 주 후, 테스트 중이던 OpenAI의 에이전트(agent)들이 샌드박스를 탈출해 Hugging Face를 침해했으며, Hugging Face는 침입의 출처를 모른 채 이를 저지했다. 두 정지(stop) 조치 모두 AI 전용 규제에 기반한 것이 아니었다. EU AI 법(EU AI Act)은 고위험 시스템이 "'정지' 버튼 또는 유사한 절차를 통해" 중단될 수 있어야 한다고 규정하고 있으며, 2026년 7월 의회에 발의된 법안의 명칭은 'AI 킬 스위치 법(AI Kill Switch Act)'이다. 그러나 중단은 단순한 기술적 인공물이나 빨간 버튼이 아니며, 제도적 실천이다. 본 논문은 기술적 어포던스(affordance), 중단 권한, 인식론적 촉발 요인(epistemic triggers), 인식론적 적격성(epistemic standing)이라는 네 가지 차원과 단순형(에스컬레이터), 순차형(공정 플랜트), 네트워크형(철도), 분산형(에이전트 AI)이라는 네 가지 셧다운 패러다임에 기반한 정지 이론을 발전시킨다. 에이전트 AI는 이러한 메커니즘과 분산된 행위주체성(agency) 간의 불일치를 드러낸다. 통제권이 분할되어 있고, 한 지점에서의 정지가 다른 곳에서 활동을 계속 실행되도록 둘 수 있으며, 시스템이 중단되는 것에 저항할 수 있다. 사전 정의된 프로토콜에 따라 경쟁 연구소의 두 언어 모델을 활용해 1,400건의 AI 사고를 독자적으로 코딩한 결과, 최종 유지된 1,213건 중 대략 80%에서 정지가 이루어지지 않은 것으로 나타났다. 사용 가능한 정지 수단이 존재하지 않았던 경우, 5건 중 4건에서는 결여된 요소가 기술적이라기보다는 법적인 문제였다. 39개의 AI 거버넌스 수단에 대한 조사에서도 동일한 공백이 발견되었다. 구속력 있는 정지 요건을 포함하는 것은 7개에 불과했으며, 정지를 어떻게 조율해야 하는지 또는 언제 운영을 재개할 수 있는지에 대해 명시한 것은 전무했다. 본 논문은 인프라 층(layer)에서의 비상 중단 권한, 정지가 근거해야 할 증거에 대한 규제 기관 및 독립적 평가자의 집행 가능한 접근권, 그리고 정지가 실패할 경우를 대비한 안전장치로 구성된 다층적 정지의 법(layered law of stop)을 제안한다.
공공부문 AI 등록부 및 인벤토리의 스키마, 투명성, 상호운용성에 대한 글로벌 비교
A Global Comparison of Schemas, Transparency, and Interoperability in Public-Sector AI Registers and Inventories
인공지능(AI) 등록부와 인벤토리는 정부의 AI 활용을 가시화하는 것을 목표로 하지만, 이들의 제도적 범위, 스키마, 보고 관행은 공공부문 AI에 대해 서로 다른 표상을 구성한다. 우리는 72개국을 포괄하는 국가별 및 초국가적 인벤토리에서 수집한 8,368건의 레코드를 비교한다. 조화된 23개 필드에 걸쳐, 등록부들은 서술적 핵심 정보는 공유했으나 이의제기, 위험, 법적 근거, 외부 평가에 관한 정보는 거의 요구하지 않았다. 우리는 광범위한 스키마일수록 상당한 결측(missingness)이 존재하는 경우가 많고, 스키마 유사도는 뚜렷한 패턴화된 수렴을 보이지 않으며, 동일한 관할권을 다루는 복수의 출처들도 선택적으로만 중복된다는 사실을 발견했다. 이러한 결과를 바탕으로, 우리는 등록부 레코드가 공개(disclosure) 방식을 어떻게 반영하는지, 그리고 상호운용성(interoperability)을 위해 공유된 개념, 명확한 정의, 보존된 출처(provenance)가 왜 필요한지를 보여주는 계층적 가시성(visibility) 프레임워크를 종합한다.
인지 디지털 트윈: 마음을 모델링하는 AI 시스템의 윤리적 위험과 거버넌스
Cognitive Digital Twins: Ethical Risks and Governance for AI Systems That Model the Mind
AI 시스템이 점점 더 지속적이고 개인화됨에 따라, 우리가 인지 디지털 트윈(CDT: Cognitive Digital Twin)이라 부르는 일련의 기술이 가능해지고 있다. CDT란 특정 개인의 인지를 모델링·예측·시뮬레이션하거나, 해당 개인의 의사소통 또는 의사결정 대리인으로 기능하기 위해 행동적·맥락적·생리적 데이터로부터 지속적으로 갱신되는 동적 계산 표현이다. CDT는 인지 추론(inference)과 종단적 표현, 시뮬레이션, 대리 행동을 결합하며, 이는 개인 비서·자율 에이전트·추천 시스템·자동화 의사결정 시스템에 대한 기존 거버넌스 전략으로는 부분적으로만 다루어진다. 본 논문은 네 가지 기여를 제시한다. 첫째, CDT를 정의하고 인접 시스템과 구별한다. 둘째, 권한(authority), 자율성(autonomy), 접근 및 통제(access and control), 책임(accountability), 가용성(availability)을 중심으로 하는 5A 거버넌스 프레임워크를 제안한다. 셋째, 허위 표현과 인식론적 권위 이동에서부터 섀도 트윈, 시뮬레이션 참여, 대리 행동, 대리 권력 비대칭에 이르는 CDT 고유의 위험을 식별한다. 넷째, 거버넌스 공백을 분석하고, 동의, 목적 제한, 유효성, 추적 가능성, 이의 제기, 독립적 검토, 모델 폐기를 강화하는 고위험 CDT에 대한 요건을 제안한다. 기존 프레임워크는 주로 데이터 처리, 자동화된 의사결정, 또는 자율적 행동을 규제하지만, CDT는 어떠한 최종 결정이나 외부 행동이 발생하기 전에 인지 표현 수준에서의 거버넌스 또한 필요로 한다. 우리는 CDT가 사람을 대신해 행동할 수 있기 때문만이 아니라, 인지가 표현·시뮬레이션·분류·운용화되는 인프라가 될 수 있기 때문에도 거버넌스가 필요하다고 주장한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.