진정한 의도로 포장된 길: 의도 인식 학습이 다양한 학습 방식에서 LLM 안전성 분류를 향상시킨다
Paved with True Intents: Intent-Aware Training Improves LLM Safety Classification Across Training Regimes
안전성 분류기가 프롬프트와 해악 레이블 사이에서 사용자 의도를 명시적 중간 표현으로 학습하도록, 1,724개의 난이도 높은 프롬프트에 의도 설명과 해악 레이블을 주석한 AIMS 데이터셋을 제안하고 지도 미세조정, 선호도 학습(DPO), 추론 증류, GRPO 등 네 가지 학습 방식에서 의도 인식 학습을 평가한다. GRPO로 의도 충실성을 직접 보상한 모델이 다섯 가지 외부 안전성 벤치마크에서 최고 평균 성능을 달성했고, 의도 인식 모델은 추론 지연-F1 파레토 프런티어를 형성해 충실한 의도 모델링이 강건한 안전성 분류를 위한 간결한 지도 신호임을 보여준다.