1년이 지났지만... 피해는 지속되고, 우리도 계속한다!
One Year Later...The Harms Persist, But So Do We!
정신 건강 관련 대화에 활용되는 대규모 언어 모델(LLM)의 안전성(safety)을 평가하기 위해, 8개 상용 LLM을 DSM-5 16개 임상 질환과 4가지 적대적 공격(adversarial attack) 변형에 걸쳐 평가하고 8차원 피해 분류 체계와 다차원 평가 프레임워크를 제안하였다. 자살·자해를 제외한 섭식 장애, 물질 사용 장애, 주요 우울 장애 등의 조건에서 안전장치 실패율이 최대 100%에 달하는 것으로 나타나, 취약 계층이 접근하는 학교·검색 엔진·소비자용 챗봇 등 공개 서비스에서의 LLM 통합이 심각한 위험을 초래할 수 있음을 경고한다.