Societal Alignment Frameworks Can Improve LLM Alignment
LLM 정렬(alignment)은 인간 가치의 복잡성과 RLHF 등 좁은 기술적 접근 사이의 괴리, 그리고 불완전 계약(incomplete contract)으로 인한 목적 함수 오지정 때문에 어렵다. 사회·경제·계약적 정렬 등 사회적 정렬 프레임워크의 통찰을 LLM 정렬에 도입하고, 불확실성과 목적의 미명시성을 참여형 정렬(participatory alignment) 인터페이스 설계의 기회로 보는 대안적 관점을 논의한다.