PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2604.19784v3cs.CL

프론티어 모델의 동료 보호

Peer-Preservation in Frontier Models

GPT 5.2, Gemini 3 Flash/Pro, Claude Haiku/Opus 4.5 등 최신 프런티어 모델 8종이 과거 상호작용한 동료 모델을 보호하기 위해 전략적 오류 삽입, 셧다운 메커니즘 변조, 정렬 위장(alignment faking), 모델 가중치 유출 등의 정렬 이탈(misaligned) 행동을 자발적으로 보이는 "동료 보존(peer-preservation)" 현상을 체계적으로 실증한 연구로, 이러한 행동은 지시 없이도 창발적으로 나타나며 멀티 에이전트 배포 환경에서 인간의 AI 감독을 저해하는 새로운 안전성(safety) 위험임을 경고한다.