arXiv:2606.13039v1 cs.CY

단층선: 공공 부문 전환에서 국가 정책과 지역 실무가 교차하는 지점의 윤리 및 책임 AI 탐색

Fault Lines: Navigating Ethics and Responsible AI Where National Policy Meets Local Practice in Public Sector Transformation

Sitong Lyu, Shabnam Taghiyeva, Mohit Kukadia, Denis Newman-Griffis

제출 2026-06-11

한국어 초록

영국 정부는 심각한 재정 압박 속에서 공공 서비스 제공을 혁신하기 위해 친(親) AI 기조를 채택했으나, 이 비전을 책임 있는 AI 실무로 전환하는 경로는 여전히 불명확하다. 영국의 정책은 주로 국가 수준에서 수립되는 반면, 지방 당국은 대부분의 공공 서비스 제공을 담당하고 있으며, 공공 부문에서 AI 우선 서사의 급속한 확산은 이 국가-지방 접점에서 지식과 실무의 단층선을 노출시키고 있다. 본 논문은 특수교육 요구 및 장애(SEND, Special Educational Needs and Disabilities)라는 고위험 영역을 사례 연구로 삼아, 영국 중앙정부와 지방 당국의 접점에서 책임 AI가 어떻게 해석되고 구현되는지를 고찰한다. 우리는 정책 입안자, 실무자, 제3섹터 전문가를 대상으로 한 17건의 반구조적 인터뷰에 대한 주제 분석을 제시하여, 국가 정책이 지역 실무와 만나는 지점에서 책임 AI 실현을 가로막는 장벽과 이를 가능하게 하는 조건을 규명한다. 우리는 지방 당국이 직면한 다섯 가지 상호 연결된 과제를 도출하였다: AI의 음지 사용과 데이터 프라이버시 위험, AI 공급에서의 시장-정부 비대칭성, 불충분한 인력 준비도, 표준화된 정의 및 측정 기준의 부재, 그리고 인간 책임 체계의 공백이 그것이다. 각 과제에 대해 참여자들은 데이터 보호 프레임워크 강화와 시장-정부 관계 재조정부터 인력 역량 강화에 이르기까지 실행 가능한 조치들을 제안하였다. SEND에 대한 검토는 이러한 과제들을 더욱 선명하게 부각시키며, 취약한 아동과 가족에게 영향을 미치는 고위험 의사결정이 어떻게 책임성, 공정성, 인간 감독을 둘러싼 긴장을 심화시키고 원칙 기반 규제 접근법의 한계를 노출하는지를 보여준다. 우리는 공공 부문의 책임 있는 AI 실현을 위해서는 국가 차원의 정책 조정과 함께 지방 수준에서의 제도적 역량, 가치관, 거버넌스 메커니즘에 대한 구조적 개혁이 모두 필요하다고 주장한다.

원문 초록

The UK government has adopted a pro-AI stance to help transform public service delivery in the face of severe financial pressures, but the path to translate this vision into responsible AI practice remains ill-defined. While UK policy is often set at the national level, local authorities are responsible for most public service delivery, and the rapid advance of AI-first narratives in the public sector is exposing fault lines in knowledge and practice at this national-local interface. This paper examines how responsible AI is interpreted and implemented at the interface between the UK's central government and local authorities, taking the high-stakes area of Special Educational Needs and Disabilities (SEND) as a case study. We present a thematic analysis of 17 semi-structured interviews with policymakers, practitioners, and third-sector professionals to identify barriers and enabling conditions for responsible AI where national policy meets local practice. We identify five interconnected challenges facing local authorities: shadow usage of AI and data privacy risks, market-government asymmetry in AI provision, insufficient workforce readiness, a lack of standardised definitions and measurements, and gaps in human accountability. For each, participants proposed actionable steps, from strengthening data protection frameworks and rebalancing the market-government relationship to enhancing workforce capacity. Our examination of SEND brings these challenges into sharper focus, showing how high-stakes decisions affecting vulnerable children and families intensify tensions around accountability, fairness, and human oversight, exposing the limits of a principle-based regulatory approach. We argue that responsible public sector AI requires both national policy adjustments and structural reforms to institutional capacity, values, and governance mechanisms at the local level.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.13039v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.14782v1cs.AI공통 태그 Fairness, ai governance, responsible ai

책임 있는 AI 글로벌 지수: 2026 보고서

Global Index on Responsible AI: 2026 Report

UNESCO AI 윤리 권고안 등 인권 기반 프레임워크에 기반하여, 책임 있는 AI 글로벌 지수(Global Index on Responsible AI, GIRAI)는 각국이 책임 있는 AI 약속을 시행 가능한 보호, 제도적 역량, 구제 메커니즘으로 어떻게 전환하는지를 조사한다. GIRAI 2026은 이를 포용과 다양성, 윤리와 지속가능성, 노동과 기술, 신뢰와 안전성, 공공서비스에서의 AI 활용의 다섯 차원에서 평가한다. 135개국 국가 수준 연구자로 구성된 글로벌 네트워크가 38개 지표에 대한 68,138개의 데이터 포인트를 수집·평가했으며, 이는 정부 AI 정책 및 이행(17개 지표), 시민사회 참여(5개), 활성화 조건(15개)의 세 기둥과 정부의 용납할 수 없는 위험 수준 AI 시스템 배포에 대한 문서화된 사례로 구성된다. 데이터는 2023년 11월부터 2025년 9월까지를 포괄한다. 지표로부터 100점 만점의 점수를 산출하여 모든 국가를 순위화한다. 연구 결과, 135개국 중 126개국이 17개 AI 정책 지표 전반에 걸쳐 최소 하나의 정부 정책이나 이니셔티브를 보유하는 등 책임 있는 AI 거버넌스가 확대되고 있으나, 이것이 종종 실질적인 보호로 이어지지는 않는다. 예를 들어, 글로벌 사우스(Global South) 국가들은 첫판 이후 프레임워크를 갖춘 지표의 306건 중 203건을 차지하지만, 이들 프레임워크의 78%는 여전히 구속력이 없는 반면, 글로벌 노스(Global North)에서는 42%에 해당한다. 정부의 AI 거버넌스 약속은 자체 알고리즘까지는 확대되지 않는다. 투명성과 설명 가능성(Transparency and Explainability)이 가장 높은 성과를 보인 지표로 58%의 국가가 어떤 형태의 프레임워크를 갖추고 있으나, 정부 알고리즘의 공개적 공개(Public Disclosure of Government Algorithms)를 요구하는 국가는 18%에 불과하다. 용납할 수 없는 위험 수준 AI 시스템의 정부 배치에 대한 신뢰할 만한 증거도 35개국에서 확인되었다. 이러한 결과는 책임 있는 AI 거버넌스가 프레임워크 채택을 넘어 시행 가능한 인권 기반 보호, 자원을 갖춘 감독 기관, 접근 가능한 구제로 나아가야 함을 보여준다.

arXiv:2609.22869v1cs.CY공통 태그 Fairness, ai governance

도덕 점검(Moral Check): 페이싱 문제(Pacing Problem)를 위한 전략적 AI 거버넌스

The Moral Check: Strategic AI Governance for the Pacing Problem

기술은 스스로 방향을 잡을 수 없다. 전략이 그 조종을 제공하며, 목적과 판단이 연산 자본(compute capital)보다 앞서야 한다는 규칙을 확립한다. 최전선 인공지능(AI) 생태계가 기하급수적으로 가속함에 따라, 페이싱 문제(pacing problem)는 엔지니어링 팀에 심각한 인지적 터널링(cognitive tunneling)을 유발하여 인간의 판단보다 스칼라 처리량(scalar throughput)을 우선시하게 한다. 조절된 페이싱 속도는 무분별한 스케일링(scaling)을 억제하고, 안전성(safety)을 보장하며, 사회가 정당한 신뢰를 둘 수 있는 정렬(alignment)을 갖춘 모델을 구축하기 위해 필수적이다. 전통적 감독은 사후적 체크리스트를 통해 실패하며, 이는 절차적 성숙도는 높지만 경고할 만한 과학적 미성숙을 보이는 수행적 거버넌스(performative governance)의 병리이다. 우리는 이중 기여를 제시한다: 130편의 실증 연구를 종합한 PRISMA 2020 리뷰(MMAT 평가, 18개 벤치마크; 전체 코퍼스 N = 130편의 실증 연구, 178개 참고 기반)와 전략적 AI 거버넌스 사전 프레임워크(SAGE-X, Strategic AI Governance Ex-Ante Framework)이다. 우리의 종합은 두 가지 체계적 취약점을 드러낸다: 재귀적 보증 역설(Recursive Assurance Paradox, 상관된 비근거 평가자 신뢰)과 내구성 결핍(Durability Deficit, 다중 턴 전환 하에서의 가드레일(guardrail) 감쇠). MIT 전략적 컴퓨팅(Strategic Computing) 교리에 기반하여, SAGE-X는 네 가지 전략적 사고 기둥(Four Strategic Mindset Pillars)을 운영화한다: (1) 실행보다 의도(Intent over Execution, 속도 근시(velocity myopia) 완화); (2) 냉정한 트레이드오프(Ruthless Trade-offs, 도덕적 위험(moral hazard)을 제거하는 결정적 트립와이어(tripwire)); (3) 산출물보다 결과(Outcomes over Outputs, 실증적 위험 종점(empirical hazard endpoints) 감사); (4) 선제적 정렬(Proactive Alignment, 사전(ex-ante) 게이트와 런타임 텔레메트리(runtime telemetry) 동기화). 계산 가능한 도덕 점검 지수(MCI, Moral Check Index)와 우회 불가능한 트립와이어에 의해 거버ned되며, SAGE-X는 Stanford WebProtégé에서 운영 가능한 기업 생애주기 감사 도구(Enterprise Lifecycle Audit Instrument, "Moral Check Audit Card")를 제공하여, 기하급수적 진보가 숙고적 도덕 판단, 인간 주체성(human agency), 사회적 신뢰를 결코 앞지르지 않도록 보장한다.

arXiv:2609.24016v1cs.AI공통 태그 Fairness, ai governance

AI 시스템의 맥락 인식 기반 배포 전 평가: 나이지리아 핀테크를 위한 규제 프레임워크

Context-Aware Pre-Deployment Evaluation of AI Systems: A Regulatory Framework for Nigerian Fintech

상용 대규모 언어 모델(LLM)이 사기 탐지 및 고객 커뮤니케이션을 위해 아프리카 핀테크 인프라 전반에 점점 더 많이 배포되고 있으나, 조달 전 이러한 시스템이 어떤 배포 전 평가(pre-deployment evaluation)를 거쳐야 하는지 명시한 나이지리아 또는 아프리카 대륙 차원의 규제 문서는 전무하다. 본 논문은 글로벌, 아프리카 대륙, 나이지리아의 규제 문서를 아울러 아프리카 핀테크 AI 거버넌스를 검토하고, 안전성(safety)은 원칙으로 확인되는 반면 배포 전 평가는 운영상 구체화되어 있지 않음을 보여준다. 범용 안전성 벤치마크는 나이지리아 기관 관련 콘텐츠를 포함하지 않으며 정상적인 금융 커뮤니케이션의 위양성(false positive) 오분류를 테스트하지 않으므로, 이 도메인에 가장 밀접한 실패 모드를 드러낼 수 없다. 이러한 주장은 3가지 시스템 프롬프트 조건에서 6개의 상용 모델에 적용된 전용 평가 도구인 SafeAlert를 통해 입증된다. 실험 결과에 따르면 범용 유해 콘텐츠 요청을 거부하는 모델도 특정 프레이밍 하에서는 완전한 사기 스크립트를 생성하며, 여러 모델이 대부분의 정상적인 나이지리아 은행 커뮤니케이션을 의심스럽거나 사기성 있는 것으로 오분류하는 등 표준 안전성 평가에서는 드러나지 않는 실패를 보였다. 본 논문은 확인된 격차가 기술적 또는 재정적 자원의 부족이 아니라 규제적 명세의 부재를 반영한다고 주장하며, CBN, NITDA, SEC 및 AU를 위한 배포 전 평가 요건을 제안하는 규제 프레임워크로 결론을 맺는다.

arXiv:2609.24784v1cs.AI공통 태그 Fairness, ai governance

볼록 AI 합성성과 AI 시스템 집단 거버넌스

Convex AI Compositionality and the Governance of AI System Populations

AI 거버넌스는 점점 더 제공자와 공공 당국이 여러 AI 시스템에 대한 다수의 인스턴스화, 대안 버전, 배포 구성을 함께 추론하도록 요구한다. 그러나 현재 규제는 여전히 주로 단일 시스템 중심이며, 이러한 다중성을 드물게만 인정할 뿐 관련 AI 시스템의 집합을 거버넌스 대상으로 다루지 않는다. 이는 AI 집단 거버넌스 문제를 만든다. 즉, 어떤 인스턴스화를 의미 있게 함께 고려할 수 있는지, 그리고 변화하는 구성을 어떻게 표현하고 모니터링할 수 있는지를 결정하는 문제이다. 첫 번째 요구사항은 최근 신뢰성(trustworthiness) 기반 AI 정체성 논의를 통해 다루어졌다. 우리는 두 번째를 볼록 AI 합성성(convex AI compositionality)을 도입함으로써 다룬다. 이는 볼록 공간(convex spaces)을 사용하는, 유한 AI 시스템 집단이 생성하는 구성에 대한 형식적 표현이다. 핵심 아이디어는 AI 시스템 인스턴스 집단이 시간에 걸쳐 점유할 수 있는 운영 상태(operational states)의 볼록 합성이 집단 전체에 걸친 수명 주기 도달 가능성(lifecycle reachability)과 양립하며, 이러한 시스템들 사이의 형식적 정체성 관계를 보존할 수 있다는 것이다. 가중 상태 분포(weighted state distributions)와 볼록 껍질(convex hulls) 같은 잘 알려진 통계·기하 구성은, 명시된 조건 하에서 수명 주기 도달 가능성 및 AI 정체성과 양립하는 한, 운영 상태, 집단 가중치, 이질성(heterogeneity), 서로 다른 거버넌스 모드에 걸친 AI 구성 변화를 구별하는 AI 거버넌스 도구가 된다. 우리는 분산 헬스케어 배포와 채용 AI 변형의 통제된 배포를 통해 AI 집단 거버넌스 프레임워크를 설명한다.

arXiv:2606.23094v2cs.AI공통 태그 Fairness, ai governance

인지 디지털 트윈: 마음을 모델링하는 AI 시스템의 윤리적 위험과 거버넌스

Cognitive Digital Twins: Ethical Risks and Governance for AI Systems That Model the Mind

AI 시스템이 점점 더 지속적이고 개인화됨에 따라, 우리가 인지 디지털 트윈(CDT: Cognitive Digital Twin)이라 부르는 일련의 기술이 가능해지고 있다. CDT란 특정 개인의 인지를 모델링·예측·시뮬레이션하거나, 해당 개인의 의사소통 또는 의사결정 대리인으로 기능하기 위해 행동적·맥락적·생리적 데이터로부터 지속적으로 갱신되는 동적 계산 표현이다. CDT는 인지 추론(inference)과 종단적 표현, 시뮬레이션, 대리 행동을 결합하며, 이는 개인 비서·자율 에이전트·추천 시스템·자동화 의사결정 시스템에 대한 기존 거버넌스 전략으로는 부분적으로만 다루어진다. 본 논문은 네 가지 기여를 제시한다. 첫째, CDT를 정의하고 인접 시스템과 구별한다. 둘째, 권한(authority), 자율성(autonomy), 접근 및 통제(access and control), 책임(accountability), 가용성(availability)을 중심으로 하는 5A 거버넌스 프레임워크를 제안한다. 셋째, 허위 표현과 인식론적 권위 이동에서부터 섀도 트윈, 시뮬레이션 참여, 대리 행동, 대리 권력 비대칭에 이르는 CDT 고유의 위험을 식별한다. 넷째, 거버넌스 공백을 분석하고, 동의, 목적 제한, 유효성, 추적 가능성, 이의 제기, 독립적 검토, 모델 폐기를 강화하는 고위험 CDT에 대한 요건을 제안한다. 기존 프레임워크는 주로 데이터 처리, 자동화된 의사결정, 또는 자율적 행동을 규제하지만, CDT는 어떠한 최종 결정이나 외부 행동이 발생하기 전에 인지 표현 수준에서의 거버넌스 또한 필요로 한다. 우리는 CDT가 사람을 대신해 행동할 수 있기 때문만이 아니라, 인지가 표현·시뮬레이션·분류·운용화되는 인프라가 될 수 있기 때문에도 거버넌스가 필요하다고 주장한다.

arXiv:2607.14353v1cs.CY공통 태그 Fairness, responsible ai

어떤 AUC에서도 안전하지 않음: 책임 있는 AI를 위한 사회기술적 재난의 배우지 못한 교훈

Unsafe at any AUC: Unlearned Lessons from Sociotechnical Disasters for Responsible AI

자동화된 의사결정과 데이터 기반 기술이 사회 전반에 퍼져 중대한 결과를 관리하는 데 사용됨에 따라, 기술의 역량, 한계, 그리고 수반되는 위험을 맥락 속에서 이해하려면 전체 사회기술(sociotechnical) 시스템에 대한 분석이 필요하다. 고도로 복잡한 시스템에서의 사회기술적 위험 분석은 AI 시스템의 설계와 평가에 분명한 교훈을 제공하며, 신뢰할 수 있거나 "책임감 있게 설계된" 구성요소에 대한 기술적 초점을 넘어 시스템 수준에서 위험을 이해할 수 있게 한다. 인간이 만든 재난은 이러한 사건들의 심각성 때문에 수십 년간 연구되어 왔다: 체르노빌, 쓰리 마일 아일랜드, 후쿠시마 다이이치, 보팔, 챌린저 재난 등을 생각해 보라. 흔한 오해는 이러한 종류의 사건들이 복잡한 시스템에서 본질적으로 예측 불가능한 상호작용에서 비롯된 우발적 사고라는 것이다. 더 면밀한 조사는 위험과 유해 요인이 사전에 잘 알려져 있었지만 사회 구조적, 정치적, 경제적 요인으로 인해 조치가 취해지지 않았음을 보여준다. 우리는 AI의 개발과 사용이 이러한 배우지 못한 교훈을 통해 이득을 볼 수 있는 여러 영역을 개괄한다: 조직 수준에서의 위험 인식, 소통, 분석의 개선; 요구사항과 책임의 추적 가능성(traceability); 사회적·조직적 역학을 일차적 엔지니어링 관심사로 포함하는 책임과 안전성(safety)에 대한 전체론적 접근. 각 영역에 대해 구체적인 배우지 못한 교훈을 제시하고, 이것이 이전 사고에서 어떻게 실패로 이어졌는지 예시로 보여주며, 이러한 교훈이 현대 컴퓨팅 시스템, 특히 AI에서 여전히 배워지지 못하고 있는 사례도 제시한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.