SafetyFlow: LLM 안전성 벤치마크 자동 구축을 위한 에이전트 플로우 시스템
SafetyFlow: An Agent-Flow System for Automated LLM Safety Benchmarking
대규모 언어 모델(LLM)이 빠르게 확산되면서 모델의 취약점을 밝혀내기 위한 신뢰할 수 있는 안전성 평가의 필요성이 커지고 있다. 이를 위해 수많은 LLM 안전성 평가 벤치마크가 제안되었다. 그러나 기존 벤치마크는 대체로 많은 노동력이 드는 수작업 큐레이션에 의존하며, 이로 인해 시간과 자원이 과도하게 소모된다. 또한 상당한 중복성을 보이고 난이도도 제한적이다. 이러한 문제를 완화하기 위해 본 논문에서는 LLM 안전성 벤치마크 구축을 자동화하도록 설계된 최초의 에이전트 플로우(agent-flow) 시스템인 SafetyFlow를 소개한다. SafetyFlow는 7개의 특화된 에이전트를 조율하여 사람의 개입 없이 단 4일 만에 포괄적인 안전성 벤치마크를 자동으로 구축할 수 있으며, 시간과 자원 비용을 크게 줄인다. 다양한 도구를 갖춘 SafetyFlow의 에이전트들은 자동화된 파이프라인에 인간의 전문성을 통합하면서도 프로세스와 비용의 통제 가능성을 보장한다. 최종적으로 구축된 데이터셋인 SafetyFlowBench는 중복성이 낮고 강한 변별력을 갖춘 23,446개의 쿼리를 포함한다. 본 연구의 기여는 최초의 완전 자동화된 벤치마킹 파이프라인과 포괄적인 안전성 벤치마크를 제시한 것이다. 우리는 구축한 데이터셋에서 49개의 최신 LLM의 안전성을 평가하고, 제안 방법의 효과성과 효율성을 검증하기 위한 폭넓은 실험을 수행한다.