arXiv:2611.24609v1 cs.HC

고위험 AI 활용 사례에서 이해관계자 간 통제와 책임의 협상: ALIGN 방법의 개발 및 평가

Negotiating Control and Accountability among Stakeholders in High-Risk AI Use Cases: Development and Evaluation of the Method ALIGN

Lena Schneider, Daniel Boos, Gudela Grote

제출 2026-11-19

한국어 초록

인공지능(AI)의 특성은 인간의 통제를 심각하게 제한한다. 이는 특히 위험에 대한 통제와 발생한 피해에 대한 책임이 모두 필수적인 안전 필수 분야에서 사회기술 시스템 설계에 새로운 과제를 야기한다. 우리는 인간 요소 및 AI 거버넌스 문헌, 전문가 인터뷰, 철도 분야의 복잡한 고위험 AI 활용 사례에 대한 참여 관찰을 바탕으로, AI 개발과 도입에서 거버넌스와 이해관계자 참여를 세 가지 방식으로 지원하는 시나리오 기반 방법인 ALIGN을 개발하였다. 첫째, 사회기술 시스템에서 책임과 통제의 잠재적 불일치와 그 부정적 결과에 대한 인식을 높인다. 둘째, 주어진 사용 사례에서 이해관계자에 대한 책임과 통제 간의 정렬을 평가하는 구조화된 접근법을 제공한다. 셋째, AI 위험을 완화하기 위한 효과적인 설계 결정을 지원한다. 본 논문은 ALIGN의 반복적 개발과 평가를 기술하고, 이 방법이 AI 수명주기 전반에 걸쳐 통제-책임 정렬의 중요성을 부각함으로써 AI 거버넌스를 어떻게 증진하는지 논의한다.

원문 초록

Characteristics of Artificial Intelligence (AI) severely restrict human control. This creates new challenges for socio-technical systems design especially in safety-critical domains, where control over risks is essential along with the accountability for any harm caused. Drawing from human factors and AI governance literature, expert interviews and participant observation in a complex high-risk AI use case from the railways, we developed ALIGN, a scenario-based method that supports the governance of and stakeholder involvement in AI development and implementation in three ways: raising awareness for potential accountability-control misalignments in socio-technical systems and their negative consequences, offering a structured approach to assessing the alignment between accountability and control for stakeholders in a given use case, and supporting effective design decisions to mitigate AI risks. We describe the iterative development and evaluation of ALIGN and discuss how this method promotes AI governance by highlighting the relevance of control-accountability alignment throughout the AI life cycle.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.24609v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.