PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.12747v1cs.AI

대규모 언어 모델의 프리필 인식

Prefill Awareness in Large Language Models

대규모 언어 모델(LLM)이 조작된 어시스턴트 측 컨텍스트인 프리필(prefill)을 인식하고 저항하는 능력을 분석한 결과, 최신 모델들이 상당한 수준의 감지 및 기본 동작 복귀 능력을 보임을 확인했습니다. 이는 정렬(alignment) 평가나 제어 프로토콜 등 프리필 기반 방법들의 유효성에 영향을 미칠 수 있음을 시사합니다.