arXiv:2606.24224v1 cs.AI

Exploring the relationship between human-centric AI and firm idiosyncratic risks

Zhen-Yuan Ralph Liu, Yu-Ting Wang, Jia-Jia Yan, Shivam Gupta, Mihalis Giannakis

제출 2026-06-23

원문 초록

Despite the extensive discussions of human-centric AI (HCAI) in Industry 5.0, its effects on firms' idiosyncratic risks (IR) remains underexplored. This is an imperative issue for firms navigate financial risks during the current technological revolution, as IR reflects investor reactions to corporate heterogeneous AI strategies and implementations by isolating firm-level stock volatility from systematic factors. Integrating situated AI theory with social-technical systems theory, we conceptualise HCAI as a situated AI strategy that reduces AI-related ethical risks and fosters AI-Human synergies in firms' business operations, ultimately reducing IR by aligning with stakeholders' diverse expectations. Moreover, socio-technical factors, namely digitalisation, operational efficiency, executive shareholding, and CEOs with IT background, may moderate the HCAI-IR relationship. Using a multi-source panel dataset of Chinese listed firms from 2015 to 2023, we find that HCAI is associated with lower firm IR. Furthermore, digitalisation and executive shareholding strengthen this risk-reducing effect, whereas operational efficiency and CEOs with IT background surprisingly attenuate it. Our findings offer theoretical contributions and practical insights for both ethical AI governance and firm financial risk management in the AI era.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.24224v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.27144v2cs.LG공통 태그 Causal Inference, Fairness

미관측 교란 변수에 강건한 위험 점수 학습

Learning Risk Scores Robust to Unobserved Confounders

미관측 교란의 영향을 받는 역사적 관찰 데이터로부터, 희소 자원이나 개입 대상 개인의 우선순위를 정하기 위한 위험 점수를 학습하는 문제를 다룬다. 누가 희소 자원을 받을지에 대한 결정은 설문 응답과 같이 기록된 특성에 기반한 위험 점수에 의해 종종 안내된다. 이러한 위험 점수는 개인의 특성, 배분 결정, 결과에 대한 역사적 기록인 관찰 데이터로부터 직접 학습되는 경우가 점점 늘고 있다. 역사적 배분 정책이 도입한 바이어스를 보정하는 역 성향 가중치(inverse propensity weighting, IPW)와 같은 표준 방법은, 역사적 결정 과정이 기록된 특성으로 완전히 설명될 수 있다면 정확한 위험 점수를 학습하는 데 사용될 수 있다. 그러나 실무에서는 역사적 결정이 종종 기록되지 않은 정보에 의존하여, 학습된 위험 점수가 과거 우선순위를 이끌었던 기록되지 않은 상황을 가진 개인들을 정확히 체계적으로 과소 우선순위화하게 만든다. IPW를 기반으로, 이러한 종류의 미관측 교란에 강건한 위험 점수를 학습하는 방법을 제안한다. 미관측 교란 하에서는 성향 가중치를 신뢰할 수 있게 추정할 수 없으므로, 대신 관측 가능한 데이터와 교란 정도에 대한 도메인 정보 기반 추정치로 결정되는 불확실성 집합에 속하는 것으로 취급하며, 인과 추론(causal inference)의 민감도 분석(sensitivity analysis)과 Wasserstein 분포적 강건 최적화(Wasserstein distributionally robust optimization)를 결합한다. 그 결과 강건 위험 점수 학습 문제는 표본 기반 근사를 허용하며, 이를 기성 솔버와 호환되는 지수 원뿔 프로그램(exponential cone program)으로 재공식화한다. UCI Machine Learning Repository의 데이터셋에서 파생된 반합성(semi-synthetic) 데이터에서 접근법의 효과를 입증한다. 제안 방법은 다른 지표를 손상하지 않으면서, 전통적 벤치마크 대비 보정(calibration)을 최대 29.2%까지, 최신(state of the art) 대비 최대 11.1%까지 개선한다.

arXiv:2609.22869v1cs.CY공통 태그 Fairness, ai governance

도덕 점검(Moral Check): 페이싱 문제(Pacing Problem)를 위한 전략적 AI 거버넌스

The Moral Check: Strategic AI Governance for the Pacing Problem

기술은 스스로 방향을 잡을 수 없다. 전략이 그 조종을 제공하며, 목적과 판단이 연산 자본(compute capital)보다 앞서야 한다는 규칙을 확립한다. 최전선 인공지능(AI) 생태계가 기하급수적으로 가속함에 따라, 페이싱 문제(pacing problem)는 엔지니어링 팀에 심각한 인지적 터널링(cognitive tunneling)을 유발하여 인간의 판단보다 스칼라 처리량(scalar throughput)을 우선시하게 한다. 조절된 페이싱 속도는 무분별한 스케일링(scaling)을 억제하고, 안전성(safety)을 보장하며, 사회가 정당한 신뢰를 둘 수 있는 정렬(alignment)을 갖춘 모델을 구축하기 위해 필수적이다. 전통적 감독은 사후적 체크리스트를 통해 실패하며, 이는 절차적 성숙도는 높지만 경고할 만한 과학적 미성숙을 보이는 수행적 거버넌스(performative governance)의 병리이다. 우리는 이중 기여를 제시한다: 130편의 실증 연구를 종합한 PRISMA 2020 리뷰(MMAT 평가, 18개 벤치마크; 전체 코퍼스 N = 130편의 실증 연구, 178개 참고 기반)와 전략적 AI 거버넌스 사전 프레임워크(SAGE-X, Strategic AI Governance Ex-Ante Framework)이다. 우리의 종합은 두 가지 체계적 취약점을 드러낸다: 재귀적 보증 역설(Recursive Assurance Paradox, 상관된 비근거 평가자 신뢰)과 내구성 결핍(Durability Deficit, 다중 턴 전환 하에서의 가드레일(guardrail) 감쇠). MIT 전략적 컴퓨팅(Strategic Computing) 교리에 기반하여, SAGE-X는 네 가지 전략적 사고 기둥(Four Strategic Mindset Pillars)을 운영화한다: (1) 실행보다 의도(Intent over Execution, 속도 근시(velocity myopia) 완화); (2) 냉정한 트레이드오프(Ruthless Trade-offs, 도덕적 위험(moral hazard)을 제거하는 결정적 트립와이어(tripwire)); (3) 산출물보다 결과(Outcomes over Outputs, 실증적 위험 종점(empirical hazard endpoints) 감사); (4) 선제적 정렬(Proactive Alignment, 사전(ex-ante) 게이트와 런타임 텔레메트리(runtime telemetry) 동기화). 계산 가능한 도덕 점검 지수(MCI, Moral Check Index)와 우회 불가능한 트립와이어에 의해 거버ned되며, SAGE-X는 Stanford WebProtégé에서 운영 가능한 기업 생애주기 감사 도구(Enterprise Lifecycle Audit Instrument, "Moral Check Audit Card")를 제공하여, 기하급수적 진보가 숙고적 도덕 판단, 인간 주체성(human agency), 사회적 신뢰를 결코 앞지르지 않도록 보장한다.

arXiv:2609.24016v1cs.AI공통 태그 Fairness, ai governance

AI 시스템의 맥락 인식 기반 배포 전 평가: 나이지리아 핀테크를 위한 규제 프레임워크

Context-Aware Pre-Deployment Evaluation of AI Systems: A Regulatory Framework for Nigerian Fintech

상용 대규모 언어 모델(LLM)이 사기 탐지 및 고객 커뮤니케이션을 위해 아프리카 핀테크 인프라 전반에 점점 더 많이 배포되고 있으나, 조달 전 이러한 시스템이 어떤 배포 전 평가(pre-deployment evaluation)를 거쳐야 하는지 명시한 나이지리아 또는 아프리카 대륙 차원의 규제 문서는 전무하다. 본 논문은 글로벌, 아프리카 대륙, 나이지리아의 규제 문서를 아울러 아프리카 핀테크 AI 거버넌스를 검토하고, 안전성(safety)은 원칙으로 확인되는 반면 배포 전 평가는 운영상 구체화되어 있지 않음을 보여준다. 범용 안전성 벤치마크는 나이지리아 기관 관련 콘텐츠를 포함하지 않으며 정상적인 금융 커뮤니케이션의 위양성(false positive) 오분류를 테스트하지 않으므로, 이 도메인에 가장 밀접한 실패 모드를 드러낼 수 없다. 이러한 주장은 3가지 시스템 프롬프트 조건에서 6개의 상용 모델에 적용된 전용 평가 도구인 SafeAlert를 통해 입증된다. 실험 결과에 따르면 범용 유해 콘텐츠 요청을 거부하는 모델도 특정 프레이밍 하에서는 완전한 사기 스크립트를 생성하며, 여러 모델이 대부분의 정상적인 나이지리아 은행 커뮤니케이션을 의심스럽거나 사기성 있는 것으로 오분류하는 등 표준 안전성 평가에서는 드러나지 않는 실패를 보였다. 본 논문은 확인된 격차가 기술적 또는 재정적 자원의 부족이 아니라 규제적 명세의 부재를 반영한다고 주장하며, CBN, NITDA, SEC 및 AU를 위한 배포 전 평가 요건을 제안하는 규제 프레임워크로 결론을 맺는다.

arXiv:2609.24784v1cs.AI공통 태그 Fairness, ai governance

볼록 AI 합성성과 AI 시스템 집단 거버넌스

Convex AI Compositionality and the Governance of AI System Populations

AI 거버넌스는 점점 더 제공자와 공공 당국이 여러 AI 시스템에 대한 다수의 인스턴스화, 대안 버전, 배포 구성을 함께 추론하도록 요구한다. 그러나 현재 규제는 여전히 주로 단일 시스템 중심이며, 이러한 다중성을 드물게만 인정할 뿐 관련 AI 시스템의 집합을 거버넌스 대상으로 다루지 않는다. 이는 AI 집단 거버넌스 문제를 만든다. 즉, 어떤 인스턴스화를 의미 있게 함께 고려할 수 있는지, 그리고 변화하는 구성을 어떻게 표현하고 모니터링할 수 있는지를 결정하는 문제이다. 첫 번째 요구사항은 최근 신뢰성(trustworthiness) 기반 AI 정체성 논의를 통해 다루어졌다. 우리는 두 번째를 볼록 AI 합성성(convex AI compositionality)을 도입함으로써 다룬다. 이는 볼록 공간(convex spaces)을 사용하는, 유한 AI 시스템 집단이 생성하는 구성에 대한 형식적 표현이다. 핵심 아이디어는 AI 시스템 인스턴스 집단이 시간에 걸쳐 점유할 수 있는 운영 상태(operational states)의 볼록 합성이 집단 전체에 걸친 수명 주기 도달 가능성(lifecycle reachability)과 양립하며, 이러한 시스템들 사이의 형식적 정체성 관계를 보존할 수 있다는 것이다. 가중 상태 분포(weighted state distributions)와 볼록 껍질(convex hulls) 같은 잘 알려진 통계·기하 구성은, 명시된 조건 하에서 수명 주기 도달 가능성 및 AI 정체성과 양립하는 한, 운영 상태, 집단 가중치, 이질성(heterogeneity), 서로 다른 거버넌스 모드에 걸친 AI 구성 변화를 구별하는 AI 거버넌스 도구가 된다. 우리는 분산 헬스케어 배포와 채용 AI 변형의 통제된 배포를 통해 AI 집단 거버넌스 프레임워크를 설명한다.

arXiv:2607.24187v1cs.AI공통 태그 Causal Inference, Fairness

근시 예방 및 관리 3.0: 인공지능 기반 위험 계층화, 선제적 모니터링 및 개인 맞춤형 개입

Myopia Prevention and Control 3.0: Artificial Intelligence--Driven Risk Stratification, Proactive Monitoring, and Personalized Intervention

인공지능(AI), 디지털 센싱, 유비쿼터스 컴퓨팅의 수렴은 근시 예방을 반응적이고 인구 기반 모델에서 선제적이고 정밀 지향적 모델로 전환할 전례 없는 기회를 만들었다. 2050년까지 전 세계 인구의 절반이 근시가 될 것이라는 증거에도 불구하고, 기존 접근법—학교 기반 시력 검사(1.0 단계)와 근거 기반 위험 요인 관리(2.0 단계)—는 불충분한 것으로 입증되었다. 우리는 세 가지 상호 연결된 영역에 걸친 AI 통합으로 정의되며 폐쇄 루프 파이프라인을 형성하는 근시 예방 및 관리 3.0의 등장을 검토한다: (1) 다중모달 데이터에 대한 머신러닝을 통해 개인 수준의 위험을 예측하는 AI 기반 위험 계층화; (2) 웨어러블, 스마트폰, 학교 검사 네트워크를 통한 AI 기반 선제적 모니터링; (3) 폐쇄 루프 피드백을 갖춘 AI 기반 개인 맞춤형 개입. 우리는 각 단계에 걸친 증거를 비판적으로 평가하고, 데이터 품질, 모델 검증, 윤리, 형평성의 과제를 논의하며, 다중모달 파운데이션 모델, 디지털 트윈, 인과 머신러닝을 포함한 향후 방향을 개괄한다.

arXiv:2607.14782v1cs.AI공통 태그 Fairness, ai governance

책임 있는 AI 글로벌 지수: 2026 보고서

Global Index on Responsible AI: 2026 Report

UNESCO AI 윤리 권고안 등 인권 기반 프레임워크에 기반하여, 책임 있는 AI 글로벌 지수(Global Index on Responsible AI, GIRAI)는 각국이 책임 있는 AI 약속을 시행 가능한 보호, 제도적 역량, 구제 메커니즘으로 어떻게 전환하는지를 조사한다. GIRAI 2026은 이를 포용과 다양성, 윤리와 지속가능성, 노동과 기술, 신뢰와 안전성, 공공서비스에서의 AI 활용의 다섯 차원에서 평가한다. 135개국 국가 수준 연구자로 구성된 글로벌 네트워크가 38개 지표에 대한 68,138개의 데이터 포인트를 수집·평가했으며, 이는 정부 AI 정책 및 이행(17개 지표), 시민사회 참여(5개), 활성화 조건(15개)의 세 기둥과 정부의 용납할 수 없는 위험 수준 AI 시스템 배포에 대한 문서화된 사례로 구성된다. 데이터는 2023년 11월부터 2025년 9월까지를 포괄한다. 지표로부터 100점 만점의 점수를 산출하여 모든 국가를 순위화한다. 연구 결과, 135개국 중 126개국이 17개 AI 정책 지표 전반에 걸쳐 최소 하나의 정부 정책이나 이니셔티브를 보유하는 등 책임 있는 AI 거버넌스가 확대되고 있으나, 이것이 종종 실질적인 보호로 이어지지는 않는다. 예를 들어, 글로벌 사우스(Global South) 국가들은 첫판 이후 프레임워크를 갖춘 지표의 306건 중 203건을 차지하지만, 이들 프레임워크의 78%는 여전히 구속력이 없는 반면, 글로벌 노스(Global North)에서는 42%에 해당한다. 정부의 AI 거버넌스 약속은 자체 알고리즘까지는 확대되지 않는다. 투명성과 설명 가능성(Transparency and Explainability)이 가장 높은 성과를 보인 지표로 58%의 국가가 어떤 형태의 프레임워크를 갖추고 있으나, 정부 알고리즘의 공개적 공개(Public Disclosure of Government Algorithms)를 요구하는 국가는 18%에 불과하다. 용납할 수 없는 위험 수준 AI 시스템의 정부 배치에 대한 신뢰할 만한 증거도 35개국에서 확인되었다. 이러한 결과는 책임 있는 AI 거버넌스가 프레임워크 채택을 넘어 시행 가능한 인권 기반 보호, 자원을 갖춘 감독 기관, 접근 가능한 구제로 나아가야 함을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.