PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.02047v1cs.CL

OpenSafeIntent: Evaluating Intent-Calibrated Safe Completion Across Dual-Use Prompt Sets

OpenSafeIntent는 동일한 작업에 대해 무해(benign), 이중 사용(dual-use), 악의적(malicious) 의도 변형을 포함한 통제된 프롬프트 세트를 단위로 삼아, 대규모 언어 모델(LLM)이 의도 변화에 따라 지원 수준을 적절히 조정하는지 평가하는 벤치마크다. 다양한 모델을 대상으로 한 실험에서 평균 안전성 지표는 중요한 실패를 감추며, 이중 사용 프롬프트에서의 모델 행동은 표현 변화에 취약하고 의도 전환에 일관되게 대응하지 못한다는 사실이 드러났다.