arXiv:2609.24784v1 cs.AI

볼록 AI 합성성과 AI 시스템 집단 거버넌스

Convex AI Compositionality and the Governance of AI System Populations

Andrea Ferrario

제출 2026-09-22

한국어 초록

AI 거버넌스는 점점 더 제공자와 공공 당국이 여러 AI 시스템에 대한 다수의 인스턴스화, 대안 버전, 배포 구성을 함께 추론하도록 요구한다. 그러나 현재 규제는 여전히 주로 단일 시스템 중심이며, 이러한 다중성을 드물게만 인정할 뿐 관련 AI 시스템의 집합을 거버넌스 대상으로 다루지 않는다. 이는 AI 집단 거버넌스 문제를 만든다. 즉, 어떤 인스턴스화를 의미 있게 함께 고려할 수 있는지, 그리고 변화하는 구성을 어떻게 표현하고 모니터링할 수 있는지를 결정하는 문제이다. 첫 번째 요구사항은 최근 신뢰성(trustworthiness) 기반 AI 정체성 논의를 통해 다루어졌다. 우리는 두 번째를 볼록 AI 합성성(convex AI compositionality)을 도입함으로써 다룬다. 이는 볼록 공간(convex spaces)을 사용하는, 유한 AI 시스템 집단이 생성하는 구성에 대한 형식적 표현이다. 핵심 아이디어는 AI 시스템 인스턴스 집단이 시간에 걸쳐 점유할 수 있는 운영 상태(operational states)의 볼록 합성이 집단 전체에 걸친 수명 주기 도달 가능성(lifecycle reachability)과 양립하며, 이러한 시스템들 사이의 형식적 정체성 관계를 보존할 수 있다는 것이다. 가중 상태 분포(weighted state distributions)와 볼록 껍질(convex hulls) 같은 잘 알려진 통계·기하 구성은, 명시된 조건 하에서 수명 주기 도달 가능성 및 AI 정체성과 양립하는 한, 운영 상태, 집단 가중치, 이질성(heterogeneity), 서로 다른 거버넌스 모드에 걸친 AI 구성 변화를 구별하는 AI 거버넌스 도구가 된다. 우리는 분산 헬스케어 배포와 채용 AI 변형의 통제된 배포를 통해 AI 집단 거버넌스 프레임워크를 설명한다.

원문 초록

AI governance increasingly requires providers and public authorities to reason about multiple AI instantiations, alternative versions, and deployment configurations of multiple AI systems. Yet current regulation remains predominantly single-system-centric, acknowledging such multiplicity only sparsely without treating collections of related AI systems as governance objects. This creates an AI population governance problem: determining which instantiations can be meaningfully considered together and how their changing configurations can be represented and monitored. The first requirement has recently been addressed through trustworthiness-based accounts of AI identity. We address the second by introducing convex AI compositionality: a formal representation of the configurations generated by finite AI system populations that uses convex spaces. The core idea is that convex compositions of the operational states that a population of AI system instantiations may occupy over time are compatible with lifecycle reachability across the population and can preserve the formal identity relations between these systems. Well-known statistical and geometric constructions, such as weighted state distributions and convex hulls, become AI governance tools for distinguishing operational states, population weights, heterogeneity, and AI configuration change across different governance modes while remaining compatible, under stated conditions, with lifecycle reachability and AI identity. We illustrate our AI population governance framework through distributed healthcare deployments and controlled deployment of recruitment AI variants.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2609.24784v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.14782v1cs.AI공통 태그 Fairness, Diversity, ai governance

책임 있는 AI 글로벌 지수: 2026 보고서

Global Index on Responsible AI: 2026 Report

UNESCO AI 윤리 권고안 등 인권 기반 프레임워크에 기반하여, 책임 있는 AI 글로벌 지수(Global Index on Responsible AI, GIRAI)는 각국이 책임 있는 AI 약속을 시행 가능한 보호, 제도적 역량, 구제 메커니즘으로 어떻게 전환하는지를 조사한다. GIRAI 2026은 이를 포용과 다양성, 윤리와 지속가능성, 노동과 기술, 신뢰와 안전성, 공공서비스에서의 AI 활용의 다섯 차원에서 평가한다. 135개국 국가 수준 연구자로 구성된 글로벌 네트워크가 38개 지표에 대한 68,138개의 데이터 포인트를 수집·평가했으며, 이는 정부 AI 정책 및 이행(17개 지표), 시민사회 참여(5개), 활성화 조건(15개)의 세 기둥과 정부의 용납할 수 없는 위험 수준 AI 시스템 배포에 대한 문서화된 사례로 구성된다. 데이터는 2023년 11월부터 2025년 9월까지를 포괄한다. 지표로부터 100점 만점의 점수를 산출하여 모든 국가를 순위화한다. 연구 결과, 135개국 중 126개국이 17개 AI 정책 지표 전반에 걸쳐 최소 하나의 정부 정책이나 이니셔티브를 보유하는 등 책임 있는 AI 거버넌스가 확대되고 있으나, 이것이 종종 실질적인 보호로 이어지지는 않는다. 예를 들어, 글로벌 사우스(Global South) 국가들은 첫판 이후 프레임워크를 갖춘 지표의 306건 중 203건을 차지하지만, 이들 프레임워크의 78%는 여전히 구속력이 없는 반면, 글로벌 노스(Global North)에서는 42%에 해당한다. 정부의 AI 거버넌스 약속은 자체 알고리즘까지는 확대되지 않는다. 투명성과 설명 가능성(Transparency and Explainability)이 가장 높은 성과를 보인 지표로 58%의 국가가 어떤 형태의 프레임워크를 갖추고 있으나, 정부 알고리즘의 공개적 공개(Public Disclosure of Government Algorithms)를 요구하는 국가는 18%에 불과하다. 용납할 수 없는 위험 수준 AI 시스템의 정부 배치에 대한 신뢰할 만한 증거도 35개국에서 확인되었다. 이러한 결과는 책임 있는 AI 거버넌스가 프레임워크 채택을 넘어 시행 가능한 인권 기반 보호, 자원을 갖춘 감독 기관, 접근 가능한 구제로 나아가야 함을 보여준다.

arXiv:2610.13923v1cs.NI공통 태그 Fairness, Management

강화학습을 통한 심우주 통신용 목표 지향적 번들 관리 및 흐름 제어

Goal-Oriented Bundle Management and Flow Control for Deep-Space Communications via Reinforcement Learning

심우주 통신은 간헐적인 연결성, 긴 전파 지연, 중계 노드의 저장 용량 제약 하에서 동작합니다. 이러한 네트워크에서 번들 프로토콜(Bundle Protocol)은 저장-운반-전달(store-carry-forward) 통신을 가능하게 하며, 중계 노드가 제한된 저장 공간과 희소한 접촉 기회를 관리하도록 요구합니다. 중계기 측의 스케줄링 및 폐기(dropping) 결정은 본질적으로 목표 지향적입니다. 즉, 다운스트림 임무 목표에 가장 가치 있는 번들에 전송 자원이 할당되어야 합니다. FIFO와 같은 기존 스케줄러는 작업 효용을 명시적으로 최적화하지 못하며, 이기종 행성 소스 간에 불공정한 서비스를 제공할 수 있습니다. 본 논문에서는 달과 화성의 업데이트가 공유 버퍼 중계기를 통해 지구로 전달되는 접촉 기반 심우주 네트워크에서 중계기 측 번들 및 흐름 관리를 위한 폐루프 모델링 및 학습 프레임워크를 제시합니다. 목적지 측의 정보 신선도를 초과 수명(excess age) $Δ_i^e(t)=[Δ_i(t)-d_i(t)]^+$를 사용하여 정량화합니다. 여기서 $Δ_i(t)$는 소스 $i$의 정보 수명(Age of Information)을 나타내고 $d_i(t)$는 소스에 따른 지연 기준선입니다. 이 지표를 바탕으로 소스별 비선형 페널티를 지원하는 목표 지향적 손실을 정의하여 임무 관련성에 따른 우선순위 지정을 가능하게 합니다. 중계기 제어를 제약 조건이 있는 준 마르코프 결정 과정(CSMDP)으로 정식화하고, 마스킹된 라그랑주 근접 정책 최적화(PPO)를 사용하여 이를 해결합니다. 실행 가능성 인식 액션 마스킹은 남은 접촉 윈도우 내에 완료할 수 있는 번들로 전송을 제한합니다. DTNSim 시뮬레이션 결과, 기존 기준선 스케줄러 대비 수명 기반 효용 및 흐름 간 공정성이 향상됨을 보여줍니다. 제안된 프레임워크는 이기종 소스 간의 명시적인 공정성을 고려하면서 접촉 기반 역학 하에서 중계기 측 번들 스케줄링, 폐기 및 흐름 제어를 공동으로 최적화합니다.

arXiv:2610.01231v1cs.CY공통 태그 Management, ai governance

Jev 시대의 판단: 평가 희소성에서 평가 풍요로

Judgement in the Age of Jev: From Evaluation Scarcity to Evaluation Abundance

생성형 인공지능이 그럴듯한 기호적 인공물(symbolic artefact)의 생성 비용을 낮춤에 따라, 최근 조직학 연구에서는 생산 풍요의 조건 하에서 평가와 식별을 제약 요인으로 주목해 왔다. 본 연구는 여기서 한 걸음 더 나아가, 기계 평가 자체가 일상적이면서도 대규모로 배포될 수 있을 만큼 저렴해지는 또 다른 가능성을 검토한다. 이 조사는 타입화된 확률적 의사결정을 위한 TypeSafe AI의 특화 모델(model)인 Jev에서 촉발되었다. TypeSafe는 윌리엄 스탠리 제번스(William Stanley Jevons)를 명시적으로 인용하며, 더 저렴해진 기계 지능이 이전에는 비경제적이었던 활용처를 열어젖힐 수 있다고 주장한다. 본 논문은 이를 확립된 실증적 결과라기보다는 기술적 도발로 다루며, 기계 평가에 대한 조건부 제번스 역설 가설을 수립한다. 즉, 잠재 수요가 상당하고 보완적 비용이 지배적이지 않은 경우, 활용 가능한 기계 평가의 총 한계 비용이 충분히 크게 감소하면 조직 내 소비가 증가할 수 있다는 것이다. 본 논문은 이러한 잠재적 희소성 전환을 조사하기 위해 반등 효과 경제학과 저비용 예측, 생산 풍요, 기계 평가, 의사결정 배분, 권한, 의존성 및 경영 판단(Executive Judgement)에 관한 연구를 통합한다. 또한 예측, 기계 평가, 조직적 판단, 권한 부여를 비용이 반드시 함께 하락하지는 않는 기능적 활동으로 구분한다. 평가는 증거, 기준, 오류를 공유할 수 있고, 잘못 명시된 루브릭을 확장할 수 있으며, 중대한 단서 조항이 사라진 표현을 기반으로 작동할 수 있고, 임계값과 예외 라우팅을 통해 실질적인 의사결정 권한을 변화시킬 수 있다. 이에 따른 연구 과제는 저렴한 기계 평가가 언제 인간의 평가 업무를 대체하는지, 언제 판단에 대한 수요를 재분배하거나 새로 창출하는지, 그리고 중대한 조직적 의사결정 시점에 활용 가능한 근거에 어떤 영향을 미치는지 규명하는 것이다.

arXiv:2609.27059v1cs.CL공통 태그 Fairness, Diversity

일리노이 사회적 태도 종합 말뭉치(ISAAC): 대규모 사회 집단 담론 분석을 위한 공개 도구 및 재현 가능한 파이프라인

The Illinois Social Attitudes Aggregate Corpus (ISAAC): An Open Tool and Reproducible Pipeline for Analyzing Social Group Discourse at Scale

본 논문에서는 2007년부터 2023년까지 17년 동안 인종, 성적 지향, 연령, 장애 여부, 체중, 피부색에 기반한 6가지 핵심 사회 집단 구분에 대한 관련성을 기준으로 선별된 5억 2,700만 개 이상의 영어 레딧(Reddit) 게시물로 구성된 개방적이고 모듈화되었으며 접근성이 높은 말뭉치인 일리노이 사회적 태도 종합 말뭉치(ISAAC, Illinois Social Attitudes Aggregate Corpus)를 소개합니다. 다단계의 인간 감사(human-audited) 필터링 파이프라인을 사용하여 정제된 데이터셋(dataset) 내 무관한 콘텐츠의 비율을 전체적으로뿐만 아니라 각 사회 집단 구분별로도 10% 미만으로 유지했습니다. 이후 각 게시물에는 사용자의 추정 거주 지역과 함께 도덕화, 감성, 감정, 언어적 일반화를 포함하여 검증된 기성(off-the-shelf) 및 맞춤형 시맨틱 레이블 세트가 알고리즘을 통해 주석 처리되었습니다. 우리는 온라인 검색 행동, 주요 사회적 사건(전국적 및 지역적) 동안의 시간적 급증, 대중 태도의 장기적 변화와 같은 거시적 차원의 사회적 경향과 ISAAC을 연결하는 수렴적 증거를 통해 결과 말뭉치의 유효성을 확인합니다. ISAAC은 통합된 공개 인프라를 제공함으로써 연구 파편화를 없애고 원활한 복제를 가능하게 하는 동시에 대규모의 다양한 실증적 워크플로를 지원합니다. 구체적으로 ISAAC을 통해 연구자들은 범주 간 비교를 수행하고, 사회 집단 담론의 장기적인 시간적 변화를 높은 정밀도(precision)로 추적하며, 공간적 변이를 지역화된 여론 및 정책 결과에 매핑할 수 있습니다. ISAAC의 완전 공개형 모듈식 파이프라인은 말뭉치를 새로운 플랫폼, 언어 및 사회적 범주로 쉽게 확장할 수 있도록 지원합니다. 다양한 연구 요구를 수용하기 위해 ISAAC은 포인트 앤 클릭 웹사이트 및 레이블러 웹 앱을 통한 노코드 방식과 SQL 플레이그라운드, Python 패키지, HuggingFace를 통한 프로그래밍 방식 모두로 접근할 수 있습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.