selectstar.ai

이 이메일 도메인이 관측된 논문 1건

arXiv:2606.19887v1cs.CR

FFinRED: 금융 LLM 레드팀 테스팅을 위한 전문가 주도 벤치마크 생성 및 평가 프레임워크

FFinRED: An Expert-Guided Benchmark Generation and Evaluation Framework for Financial LLM Red-Teaming

기존 안전성 벤치마크는 일반적인 적대적 시나리오를 대상으로 하지만 금융 특화 위험을 놓치고 있습니다. 금융 대규모 언어 모델(LLM)은 규제 준수 위반, 사기 조장, 시스템적 신뢰 침식 등의 문제에 직면하며, 이는 표적화된 평가가 필요합니다. 우리는 금융 전문가와 함께 개발된 금융 LLM 안전성 평가를 위한 전문가 주도 레드팀 테스팅 프레임워크인 FinRED를 소개합니다. FinRED는 규제 회피부터 복잡한 사기에 이르는 위협에 전 세계 표준(예: FATF 및 EU DORA)을 매핑하는 새로운 2단계 분류 체계를 사용하며, 전문가 정의 스키마를 통해 실제 금융 문서를 문맥이 풍부한 레드팀 테스팅 행동 프롬프트(seeds)로 변환하는 확장 가능한 파이프라인과 통합되어 있습니다. 엄격한 전문가 검증은 의미 있는 LLM 안전성 평가를 위한 시드의 타당성과 현실성을 확인합니다. 또한 면책 조항 확인을 넘어서는 전문가 검증된 금융 특화 루브릭을 제공하며, 이는 정적이고 획일적인 루브릭보다 인간 전문가와 더 밀접하게 정렬되며 중요한 미탐(false negative)을 28개에서 12개로 줄입니다. 국제적으로 채택된 위험 관리 및 정보 보안 표준(예: ISO/IEC 27001)과 정렬된 FinRED는 실제 금융 서비스에서 생성형 AI 보안 평가를 위해 한국 금융보안원(FSI) 규제 샌드박스에 배포되었습니다. 이중 용도(dual-use) 위험을 완화하기 위해 데이터셋, 생성 파이프라인, 프롬프트 템플릿 및 평가 프레임워크는 자격 있는 연구자를 위해 https://github.com/selectstar-ai/FinRED-paper 및 https://huggingface.co/datasets/datumo/FinRED에서 게이트(gated)되어 제공됩니다.