PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.00233v1cs.AI

강건함은 곧 현저함이다: 정보가 있는 적대자가 최적의 신호를 현저성 극으로 이동시킨다

Robust Is Salient: An Informed Adversary Moves the Optimal Signal onto the Salience Pole

제한된 신호 전달(signalling) 채널의 청중을 정보가 있는 적대자(informed adversary)와 공유할 때, 진실을 가장 잘 보호하는 신호는 진실을 가장 잘 묘사하는 신호다. 108개의 확인용 항목에서, 적대자에 강건한 최적점은 이전 연구의 현저성 극(salience pole)과 정확히 일치한다. 200,000개 항목 풀 전체에서 둘은 2,748개 항목에서만 차이를 보이며, 이는 이전 연구의 현저성-베이즈(salience-to-Bayes) 좌표가 정의되지 않는 지점과 정확히 일치한다. 정의된 영역에서는 베이지안 식별(Bayesian discrimination)에서 현저성으로 완전히 이동함으로써 강건성을 달성한다. 우리는 이를 강제 선택 과제('디셉션: 홍콩 살인사건'에서 추상화됨)에 적대자를 도입하여 입증한다. 적대자는 목표를 알고 신호를 관찰하며, 설득 예산(persuasion budget) $β$를 사용하여 가장 강력한 오답을 주장한다. $β$가 증가함에 따라 최적의 신호는 사후확률 극대화(posterior-maximizing) 선택지에서 마진 극대화(margin-maximizing) 선택지로 이동하며, $β= 0$일 때 게임은 청자 온도(listener temperature) $τ= 1$을 갖는 원래의 오라클 모델을 재현한다. 이러한 효과는 실재한다. 풀의 18.2%는 유한한 예산 하에서 최적점이 이동하며, 각 항목의 임계 예산은 정확하다. 이 우연의 일치는 실증적 평가를 구조적으로 제한한다. 두 가지 적대자 프레이밍은 정확한 무효과 비율 대비 108개 항목 중 30~77개에서 7개 언어 모델의 선택 항목을 변경한다. 그러나 두 선택지가 동일하기 때문에, 어떠한 측정으로도 이러한 이동이 적대자 인식(adversary-aware) 최적점을 향한 것인지 아니면 현저성을 향한 것인지 판별할 수 없다. 이는 무효과 결과(null result)가 아니라 구조적 한계다. 진단 검사는 저렴하다. 적대자 인식을 평가하기 전에, 평가 항목에서 강건한 목표가 휴리스틱 목표와 일치하는지 확인하라.