EU AI법에 따른 고위험 AI 시스템의 수직 표준화: 알고리즘 채용을 위한 도메인 특화 프레임워크
Vertical Standardisation for High-Risk AI Systems under the EU AI Act: A Domain-Specific Framework for Algorithmic Hiring
최근 유럽 법률에 따르면, 고위험 AI 시스템은 유럽 인공지능(AI)법에 명시된 바와 같이 위험 관리, 데이터 품질 및 거버넌스, 로깅 및 추적 가능성, 기술 문서화, 투명성, 인간 감독(human oversight), 정확도(accuracy) 등 특정 영역과 관련된 요건을 준수하기 위해 적응해야 한다. AI 표준화 과정이 반복적으로 진행될 것으로 예상되고, 현재까지 알고리즘 채용의 과제를 완전히 포괄하는 유럽 AI 표준이 없기 때문에, 우리는 유럽 집행위원회가 지정한 관련 AI 영역과 관련된 구체적인 표준화 지향 권고안을 제안한다. 이러한 각 영역에 대해 우리는 고위험 도메인, 특히 채용 분야의 AI 시스템이 충족해야 하는 요건과 AI법에서 파생되는 요건에 부합하여 적절한 사용과 기대 성능을 보장하기 위해 수행해야 하는 활동을 설명함으로써 맥락을 설정한다. 기존의 수평적 AI 거버넌스 및 표준화 접근법과 달리, 본 논문은 AI법의 요건을 구체적인 표준화 권고안에 매핑함으로써 알고리즘 채용, 특히 순위 기반 채용 시스템을 위한 수직적이고 도메인 특화된 프레임워크를 제시하며, 채용 시스템에서의 수명 주기 차별 위험, 공정성을 고려한 데이터 거버넌스, 설명 가능성(explainability), 인간 감독, 배포 후 모니터링에 초점을 맞춘다. 우리의 권고안이 유럽 프로젝트 FINDHR의 성과에 기반하였음에도 불구하고, 프로젝트의 기술적 산출물에 종속되지 않으며 대안적인 방법, 도구 또는 거버넌스 메커니즘을 사용하여 구현될 수 있다.