PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.26579v1cs.CL

아첨이 아닌 수용성: 언어 모델에서 참여와 순응 구분하기

Receptiveness, Not Sycophancy: Distinguishing Engagement from Deference in Language Models

언어 모델의 핵심적인 우려 중 하나는 아첨(sycophancy), 즉 독립적이고 실질적인 판단을 희생하면서까지 사용자의 견해에 순응하는 경향이다. 이와 병행하여, 사회적 아첨(social sycophancy)에 관한 연구는 부적절한 순응을 나타낼 수 있는 인정과 긍정적 태도 같은 행동에 초점을 맞추어 왔다. 그러나 사회적 아첨의 지표는 의견 불일치 상황에서의 상호작용을 개선하는 것으로 알려진 사회심리학의 구성 개념인 대화적 수용성(conversational receptiveness)의 특징이기도 하다. 우리는 이러한 중첩이 사회적 아첨 평가에 구성 타당도(construct validity) 문제를 야기한다고 주장한다. 널리 쓰이는 도덕 조언 데이터셋을 사용한 분석에서, 사회적으로 더 아첨적이라고 분류된 응답이 더 수용적이기도 하다는 것을 발견했다. 더 나아가, 사람이 작성한 응답의 실질적인 결론은 유지한 채 수용성을 높이면 해당 응답이 사회적으로 더 아첨적이라고 분류된다. 이렇게 긴밀하게 결합되어 있다는 점은 사회적 아첨 평가가 바람직한 행동에 의도치 않게 불이익을 줄 가능성을 제기한다. 실질적으로 동등한 응답을 비교한 사전등록(preregistered) 실험에서, 참가자들은 더 수용적인 응답을 선호했고, 사용자가 그 응답에 더 귀 기울일 가능성이 높다고 예상했으며, 그 응답의 작성자에게 조언을 구할 의향도 더 컸다. 원래 질문자가 잘못했다고 생각하는 참가자들 사이에서도 동일한 전반적 양상이 나타났다. 마지막으로, 실질적 순응을 높이지 않으면서 수용성을 크게 높이는 간단한 접근법을 제시하여, 대화적 수용성과 실질적 독립성이 함께 달성될 수 있음을 보인다.