HaloGuard 1.0: An Open Weights Constitutional Classifier for Multilingual AI Safety
HaloGuard 1.0은 Anthropic의 Constitutional Classifiers 패러다임을 최초로 오픈 웨이트로 구현한 다국어 입력 안전성 분류기로, 46개 헌법 정책과 2,940개 하위 범주로 구성된 안전성 헌법을 합성 데이터 생성의 중심 구조로 삼아 유해 의도와 무해 경계 사례를 세밀하게 구분한다. HaloGuard 1.0-0.8B는 7개 프롬프트 안전성 벤치마크에서 평균 F1 90.9를 달성해 최대 27B 규모의 오픈 가드 모델을 능가하며, 4B 변형은 F1 92.1, FPR 3.5를 기록해 현재 최고 성능을 보인다.