PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.28978v1cs.CL

대규모 언어 모델은 공정하게 채용할 수 있는가? 이력서 심사에서의 인종적 바이어스

Can LLMs Hire Fairly? Racial Bias in Resume Screening

우리는 Kline, Rose, Walters(2022)의 쌍별 이력서 방법론을 사용하여 14개의 주류 대규모 언어 모델(LLM)의 채용 차별 여부를 감사하였다. 유일한 2023년형 모델은 노동 시장 차별에 관한 현장 실험에서 문서화된 백인 우대 콜백 격차를 재현하였다($+2.12$ pp, 1\% 수준에서 유의). 2024년 이후 출시된 모든 모델은 격차가 없거나 유의한 흑인 우대 역전 현상을 보였다(최대 $-3.01$ pp). 동일한 패턴이 성별 축에서도 나타났다. 14개 모델 각각에 대해 24,024개의 쌍별 공고를 기반으로 한 우리의 결과는 모델 세대에 걸쳐 알고리즘 채용 바이어스의 방향이 역전되었음을 문서화한다.

arXiv:2606.27287v1cs.AI

대규모 언어 모델을 이용한 자동 이력서 선별에서의 프롬프트 인젝션: 단일 및 다중 인젝션 설정

Prompt Injection in Automated Résumé Screening with Large Language Models: Single and Multi-Injection Settings

대규모 언어 모델(LLM)은 구직 지원자를 선별하고 순위를 매기는 데 점점 더 많이 사용되고 있으며, 이는 지원자들이 알고리즘 기반 채용 시스템을 전략적으로 조작할 동기를 만들어낸다. 우리는 자동 이력서 선별에서의 프롬프트 인젝션을 연구한다. 이는 새로운 자격을 전혀 추가하지 않지만 LLM 평가에 영향을 미치도록 설계된 미묘한 자기 홍보성 텍스트로 정의된다. 통제 실험을 통해, 이력서 품질이 동질적이고 인젝션을 수행하는 지원자가 소수일 때 프롬프트 인젝션이 지원자 순위를 안정적으로 향상시킴을 보인다. 그러나 더 많은 지원자가 인젝션을 수행할수록 그 효과는 급격히 감소하며, 조작이 광범위해지면 무력화된다. 지원자 품질이 이질적일 때, 프롬프트 인젝션은 평균적으로 덜 효과적이지만, 때로는 낮은 품질의 지원자가 더 높은 품질의 지원자보다 높은 순위를 차지하게 하여 공정성 우려를 불러일으킬 수 있다. 전반적으로, LLM 기반 선별은 조작이 드물고 지원자 품질 차이가 작을 때 가장 취약하다. 코드와 자료는 다음에서 공개적으로 이용 가능하다: https://github.com/preetb1199/Prompt_Injection_ACL26