PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.12588v1cs.AI

EU AI법에 따른 고위험 AI 시스템의 수직 표준화: 알고리즘 채용을 위한 도메인 특화 프레임워크

Vertical Standardisation for High-Risk AI Systems under the EU AI Act: A Domain-Specific Framework for Algorithmic Hiring

최근 유럽 법률에 따르면, 고위험 AI 시스템은 유럽 인공지능(AI)법에 명시된 바와 같이 위험 관리, 데이터 품질 및 거버넌스, 로깅 및 추적 가능성, 기술 문서화, 투명성, 인간 감독(human oversight), 정확도(accuracy) 등 특정 영역과 관련된 요건을 준수하기 위해 적응해야 한다. AI 표준화 과정이 반복적으로 진행될 것으로 예상되고, 현재까지 알고리즘 채용의 과제를 완전히 포괄하는 유럽 AI 표준이 없기 때문에, 우리는 유럽 집행위원회가 지정한 관련 AI 영역과 관련된 구체적인 표준화 지향 권고안을 제안한다. 이러한 각 영역에 대해 우리는 고위험 도메인, 특히 채용 분야의 AI 시스템이 충족해야 하는 요건과 AI법에서 파생되는 요건에 부합하여 적절한 사용과 기대 성능을 보장하기 위해 수행해야 하는 활동을 설명함으로써 맥락을 설정한다. 기존의 수평적 AI 거버넌스 및 표준화 접근법과 달리, 본 논문은 AI법의 요건을 구체적인 표준화 권고안에 매핑함으로써 알고리즘 채용, 특히 순위 기반 채용 시스템을 위한 수직적이고 도메인 특화된 프레임워크를 제시하며, 채용 시스템에서의 수명 주기 차별 위험, 공정성을 고려한 데이터 거버넌스, 설명 가능성(explainability), 인간 감독, 배포 후 모니터링에 초점을 맞춘다. 우리의 권고안이 유럽 프로젝트 FINDHR의 성과에 기반하였음에도 불구하고, 프로젝트의 기술적 산출물에 종속되지 않으며 대안적인 방법, 도구 또는 거버넌스 메커니즘을 사용하여 구현될 수 있다.

arXiv:2606.28978v1cs.CL

대규모 언어 모델은 공정하게 채용할 수 있는가? 이력서 심사에서의 인종적 바이어스

Can LLMs Hire Fairly? Racial Bias in Resume Screening

우리는 Kline, Rose, Walters(2022)의 쌍별 이력서 방법론을 사용하여 14개의 주류 대규모 언어 모델(LLM)의 채용 차별 여부를 감사하였다. 유일한 2023년형 모델은 노동 시장 차별에 관한 현장 실험에서 문서화된 백인 우대 콜백 격차를 재현하였다($+2.12$ pp, 1\% 수준에서 유의). 2024년 이후 출시된 모든 모델은 격차가 없거나 유의한 흑인 우대 역전 현상을 보였다(최대 $-3.01$ pp). 동일한 패턴이 성별 축에서도 나타났다. 14개 모델 각각에 대해 24,024개의 쌍별 공고를 기반으로 한 우리의 결과는 모델 세대에 걸쳐 알고리즘 채용 바이어스의 방향이 역전되었음을 문서화한다.