대규모 언어 모델의 프리필 인식
Prefill Awareness in Large Language Models
대규모 언어 모델(LLM)이 조작된 어시스턴트 측 컨텍스트인 프리필(prefill)을 인식하고 저항하는 능력을 분석한 결과, 최신 모델들이 상당한 수준의 감지 및 기본 동작 복귀 능력을 보임을 확인했습니다. 이는 정렬(alignment) 평가나 제어 프로토콜 등 프리필 기반 방법들의 유효성에 영향을 미칠 수 있음을 시사합니다.
Prefill Awareness in Large Language Models
대규모 언어 모델(LLM)이 조작된 어시스턴트 측 컨텍스트인 프리필(prefill)을 인식하고 저항하는 능력을 분석한 결과, 최신 모델들이 상당한 수준의 감지 및 기본 동작 복귀 능력을 보임을 확인했습니다. 이는 정렬(alignment) 평가나 제어 프로토콜 등 프리필 기반 방법들의 유효성에 영향을 미칠 수 있음을 시사합니다.