arXiv:2611.18439v1 cs.CY

의무와 증거 사이: EU AI Act를 기술적 요구사항으로 변환하는 참여형 연구

Between Obligations and Evidence: A Participatory Study of Translating the EU AI Act into Technical Requirements

Helma Torkamaan, Masoud Mansoury, Yanan Xin, Oscar Oviedo Trespalacios, Roberta Savella, Andrej Zwitter, Maria Heuss, Huy Son Nguyen, Marie-Therese Sekwenz, Moyi Li, Roberta Tamponi, Megha Khosla

제출 2026-11-13

한국어 초록

EU AI Act는 고위험 AI 시스템에 기술적·조직적 요구사항을 부과하지만, 이러한 요구사항을 적용하려면 무엇을 측정할지, 어떤 증거가 준수 주장을 뒷받침하는지에 관한 맥락적 선택이 수반된다. 본 연구는 다양한 분야의 연구자, 정책 입안자, 실무자 32명이 참여한 참여형 워크숍을 통해 이러한 과제를 조사하며, 의료, 채용, 대중교통의 현실적 시나리오를 사용하여 규제 의무가 실제로 어떻게 해석되고, 기술적 요구사항으로 변환되며, 평가되는지를 살펴본다. 워크숍 데이터의 주제 분석을 통해, 규제 의무가 측정 가능한 시스템 속성으로 변환되는 방식, 책임과 인간 감독이 실제로 행사되는 방식, 그리고 변화하는 운영 조건과 시스템 용도가 준수 증거의 타당성에 미치는 영향 사이에서 반복되는 긴장을 파악하였다. 예를 들어 참가자들은 공정성 지표가 채용에서 차별을 은폐할 수 있다는 점, 시간 압박과 제한된 정보가 대중교통에서 인간 감독을 약화시킬 수 있다는 점, 환자 집단의 변화가 이전에 확립된 시스템 성능 증거를 무효화할 수 있다는 점을 강조하였다. 연구 결과는 기술적, 조직적, 증거적 과제가 상호 의존적이며, 준수를 확립하고 유지하려면 기술적 평가뿐 아니라 AI 시스템이 시간에 걸쳐 어떻게 사용, 거버넌스, 모니터링되는지에도 주의를 기울여야 함을 시사한다. 맥락에 민감하고 지속적인 준수를 지원하기 위한 함의를 논의한다.

원문 초록

The EU AI Act imposes technical and organizational requirements for high-risk AI systems, but applying these requirements involves contextual choices about what to measure and what evidence supports a compliance claim. We investigate these challenges through a participatory workshop involving 32 researchers, policymakers, and practitioners from different disciplines, using realistic scenarios in healthcare, recruitment, and public transport to examine how regulatory obligations are interpreted, translated into technical requirements, and evaluated in practice. Through a thematic analysis of workshop data, we identify recurring tensions between how regulatory obligations are translated into measurable system properties, how responsibility and human oversight are exercised in practice, and how the validity of compliance evidence is affected by changing operational conditions and system uses. For example, participants highlighted how fairness metrics could conceal discrimination in recruitment, how time pressure and limited information could undermine human oversight in public transport, and how changes in patient populations could invalidate previously established evidence of system performance. Our findings suggest that technical, organizational, and evidentiary challenges are interdependent, and that establishing and maintaining compliance requires attention not only to technical assessments but also to how AI systems are used, governed, and monitored over time. We discuss implications for supporting context-sensitive and ongoing compliance.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.18439v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.