arXiv:2610.00233v1 cs.AI

강건함은 곧 현저함이다: 정보가 있는 적대자가 최적의 신호를 현저성 극으로 이동시킨다

Robust Is Salient: An Informed Adversary Moves the Optimal Signal onto the Salience Pole

Cris Huynh

제출 2026-09-23

저자 비고

arXiv Comments

11 pages, 3 figures

한국어 초록

제한된 신호 전달(signalling) 채널의 청중을 정보가 있는 적대자(informed adversary)와 공유할 때, 진실을 가장 잘 보호하는 신호는 진실을 가장 잘 묘사하는 신호다. 108개의 확인용 항목에서, 적대자에 강건한 최적점은 이전 연구의 현저성 극(salience pole)과 정확히 일치한다. 200,000개 항목 풀 전체에서 둘은 2,748개 항목에서만 차이를 보이며, 이는 이전 연구의 현저성-베이즈(salience-to-Bayes) 좌표가 정의되지 않는 지점과 정확히 일치한다. 정의된 영역에서는 베이지안 식별(Bayesian discrimination)에서 현저성으로 완전히 이동함으로써 강건성을 달성한다. 우리는 이를 강제 선택 과제('디셉션: 홍콩 살인사건'에서 추상화됨)에 적대자를 도입하여 입증한다. 적대자는 목표를 알고 신호를 관찰하며, 설득 예산(persuasion budget) $β$를 사용하여 가장 강력한 오답을 주장한다. $β$가 증가함에 따라 최적의 신호는 사후확률 극대화(posterior-maximizing) 선택지에서 마진 극대화(margin-maximizing) 선택지로 이동하며, $β= 0$일 때 게임은 청자 온도(listener temperature) $τ= 1$을 갖는 원래의 오라클 모델을 재현한다. 이러한 효과는 실재한다. 풀의 18.2%는 유한한 예산 하에서 최적점이 이동하며, 각 항목의 임계 예산은 정확하다. 이 우연의 일치는 실증적 평가를 구조적으로 제한한다. 두 가지 적대자 프레이밍은 정확한 무효과 비율 대비 108개 항목 중 30~77개에서 7개 언어 모델의 선택 항목을 변경한다. 그러나 두 선택지가 동일하기 때문에, 어떠한 측정으로도 이러한 이동이 적대자 인식(adversary-aware) 최적점을 향한 것인지 아니면 현저성을 향한 것인지 판별할 수 없다. 이는 무효과 결과(null result)가 아니라 구조적 한계다. 진단 검사는 저렴하다. 적대자 인식을 평가하기 전에, 평가 항목에서 강건한 목표가 휴리스틱 목표와 일치하는지 확인하라.

원문 초록

When an informed adversary shares the audience of a constrained signalling channel, the signal that best protects the truth is the signal that best describes it. On 108 confirmatory items, the adversary-robust optimum aligns exactly with the salience pole from prior work. Across a 200,000-item pool, the two differ on only 2,748 items --- lying exactly where the prior salience-to-Bayes coordinate is undefined. Where defined, robustness is achieved by moving from Bayesian discrimination entirely to salience. We show this by introducing an adversary to a forced-choice task (abstracted from Deception: Murder in Hong Kong). The adversary knows the target, observes the signal, and argues for the strongest wrong answer using a persuasion budget, $β$. As $β$ grows, the optimal signal shifts from the posterior-maximizing option to the margin-maximizing one; at $β= 0$, the game reproduces the original oracle model with a listener temperature of $τ= 1$. This effect is real: 18.2 percent of the pool has an optimum that shifts under a finite budget, and each item's critical budget is exact. This coincidence structurally limits empirical evaluation. Two adversary framings change the chosen option of seven language models on 30 to 77 of 108 items against an exact no-effect rate. Yet, no measurement can determine whether this movement is toward the adversary-aware optimum or toward salience, because the two options are identical. This is a structural limit, not a null result. The diagnostic check is cheap: before evaluating adversary-awareness, verify whether the robust target coincides with a heuristic target on the evaluation items.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.00233v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.15948v1cs.AI공통 태그 Decision Making, Bayesian Inference

비전: "사용자 선호에 대해 내가 모르는 것은 무엇인가?" 불확실성 추정이 능동형 어시스턴트 정렬을 향상시키는 방법

Vision: "What Don't I Know About User's Preferences?" How Uncertainty Estimation Improves Proactive Assistant Alignment

능동형 스마트 어시스턴트(Proactive Smart Assistant, PSA)는 사용자가 선호할 행동을 예측하기 위해 일반 지식, 그룹 수준 데이터에서 학습된 패턴, 개별 사용자 데이터의 패턴, 그리고 최근 센서 관측값을 점점 더 많이 활용하고 있다. 기존 시스템은 일반적으로 예측된 사용자 선호 가능도(likelihood)로부터 행동을 선택하지만, 이러한 가능도만으로는 예측이 얼마나 신뢰할 수 있는지, 어떤 근거가 이를 지지하는지, 또는 왜 모호성이 남아 있는지를 드러내지 못한다. 본 비전 논문에서 우리는 불확실성 추정(uncertainty estimation)이 이러한 누락된 정보를 제공할 수 있으며, 이후의 적절한 행동을 상당히 변화시킬 수 있다고 주장한다. 홈 어시스턴트의 예를 사용하여, 우리는 불확실성 추정이 답하고자 하는 질문들을 소개한다. 즉, 어시스턴트가 예측된 선호 가능도에 대해 얼마나 확신하는지, 그 확신이 그룹 수준의 가정에서 오는 것인지 아니면 개별 사용자의 데이터에서 오는 것인지, 그리고 가능도의 모호성이 사용자의 본질적인 선호 변동성을 반영하는 것인지 아니면 특정 상황에 대한 데이터 부족을 반영하는 것인지이다. 우리는 또한 인간 궤적 예측(human trajectory prediction), 개인화된 행동 인식(personalized activity recognition), 정보 수집(information-collection), 모델 기반 제어(model-based control)와 같은 인접 분야에서의 불확실성 추정 응용 사례를 소개한다. 마지막으로, 우리는 인접 분야의 통찰을 바탕으로 미래의 불확실성 인지(uncertainty-aware) 능동형 어시스턴트가 능동형 상호작용에서의 주요 과제들을 어떻게 해결할 수 있을지를 전망한다.

arXiv:2610.13603v1cs.LG공통 태그 Decision Making, Bayesian Inference

소규모 인지 코어로 대규모 인간 행동을 설명하다

A small cognitive core explains human behavior at scale

심리학은 인지에 관한 많은 원리를 제시해 왔습니다. 그러나 각 원리는 개별적으로 개발되어, 이들을 결합했을 때의 설명력은 알려지지 않은 채로 남아 있었습니다. 우리는 기존에 확립된 소수의 원리들을 하나의 모델로 통합했으며, 이를 COntextual Retrieval and Encoding(CORE)이라고 명명했습니다. CORE는 예측 오차가 기록되는 일화 기억(episodic memory)의 계층 구조로 구성되며, 이 기억의 인코딩(encoding), 검색(retrieval), 망각은 맥락(context)에 의존합니다. 137개 실험에서 수집된 7,036,442개의 선택 데이터에 공동으로 적합(fit)된 이 모델은 블랙박스 모델보다 인간의 선택을 더 잘 예측하며, 시뮬레이션 시 보고된 행동 효과의 75%를 재현합니다. 또한, 모델의 잠재 변수들은 베이즈 학습(Bayesian learning)과 사건 분할(event segmentation)의 전형적인 특징을 보여줍니다. 종합하면, 이러한 발견은 소규모의 인지 코어가 인간 행동의 상당 부분을 설명한다는 점을 시사합니다. 나아가 전체 실험 기록을 기반으로 계산 모델(computational model)을 구축함으로써, 심리학을 개별 부분의 합 이상으로 발전시킬 수 있는 길을 열어줍니다.

arXiv:2609.30243v2cs.CL공통 태그 Decision Making, Adversarial Robustness

JevOut: 자연스러운 문맥이 의사결정 모델을 뒤흔들 수 있다

JevOut: Natural Context Can Flip Decision Models

평범해 보이는 배경 정보 하나가 모델의 올바른 결정을 확신에 찬 실수로 바꿀 수 있습니다. 본 연구는 지식, 추론, 도구 라우팅(tool routing)을 다루는 7개 데이터셋에 걸쳐 Jev를 포함한 4개 의사결정 시스템에서 이러한 취약성을 입증합니다. 결정당 수용된 64회의 타깃 평가 내에서, 각 시스템의 초기에 올바랐던 결정 중 61.4%-73.2%를 사전에 정해둔 오답 선지로 유도하는 짧은 추가 문맥을 찾아냈습니다. 이러한 추가 문맥은 명시적인 정답 선택 지시 대신 배경 정보나 절차적 정보를 제공하며, 원래의 질문과 선택지는 그대로 유지합니다. 저자들은 자연스러움 및 정답 보존 제약 조건 하에서 선지 분포의 변화를 이용해 주변 텍스트를 개선하는 확률 기반 문맥 최적화(probability-guided context optimization)를 통해 이를 생성했습니다. 이러한 오도(redirection)는 초기에 확신도가 높았던 결정에도 영향을 미치며, 종종 확신도 높은 오답을 생성하고 모델 간에도 전이됩니다. 블라인드 인간 평가(blinded human evaluation)에서 표본 추출된 250개의 성공적인 문맥 중 91.6%는 독립적인 3명의 평가자 중 과반수에 의해 자연스럽고 정답을 보존하며 정답을 바꿀 만한 결정적 증거가 없다고 판단되었습니다. 본 연구 결과는 현재 의사결정 모델의 약점을 드러냅니다. 즉, 입력과 완전히 조화로워 보이는 문맥이 에이전트(agent), 라우터, 평가자가 의존하는 선택을 왜곡할 수 있습니다.

arXiv:2610.11038v1math.ST공통 태그 Decision Making, Bayesian Inference

의사결정 충분 사후 분포 근사

Decision-Sufficient Posterior Approximation

우리는 사후 분포 근사가 특정한 하위(downstream) 의사결정 문제를 보존하도록 요구할 때 발생하는 결과를 조사한다. 목표 사후 분포 $P$와 손실은 행동(action)에 대한 리그렛(regret) 기하 구조를 결정하고, 기준선 근사 $Q_0$는 행동 변화를 유도하는 데 필요한 전방(forward) Kullback-Leibler 정보량을 결정하며, 제한된 근사 가족 $\mathcal{Q}$는 그러한 변화 중 어떤 것이 가능한지를 결정한다. 베이즈 행동(Bayes-action) 섬유(fiber)에 대해 KL 발산을 수축시키면, 의사결정 적절성(decision adequacy)과 의사결정 실패(decision failure)까지의 정확한 거리를, 결정 경계의 양쪽에 도달하는 최소 정보량의 사후 분포 변형(deformation)과 함께 얻을 수 있다. 정규(regular) 유한 차원 문제에서 목표 및 기준선 구성은 2차(quadratic) 국소 극한을 가지며, 이는 목표 리그렛 헤시안 $G$와 기준선 정보 메트릭 $J_I$이다. 이들의 일반화 고유값 문제(generalized eigenproblem) $Gv = γJ_Iv$는 단위 정보 비용당 리그렛 결과에 따라 국소 의사결정 방향들을 정렬하며, 허용 오차(tolerance)에 의존하는 유효 차원(effective dimension)을 유도한다. 제한된 근사 가족의 경우, 탄젠트 이미지(tangent image)는 의사결정 범위(decision coverage)와 정보 효율성(information efficiency)을 구분한다: 어떤 가족은 중요한 의사결정 방향을 놓칠 수 있고, 또는 도달 가능한 방향을 과도한 피셔(Fisher) 비용으로만 실현할 수도 있다. 이 프레임워크는 사후 분포 근사 가족을 비교하고 설계하기 위한 의사결정 상대적(decision-relative) 기준을 제공한다.

arXiv:2609.38005v2cs.AI공통 태그 Decision Making, Bayesian Inference

대규모 언어 모델의 확률적 추론 진단 및 개선

Diagnosing and Improving Probabilistic Reasoning in Large Language Models

대규모 언어 모델(LLM)은 명시적인 의사결정 비용이 수반되는 상황에서 가용한 증거로부터 확률적으로 추론해야 하는 의사결정 보조 도구로 점차 제안되고 있습니다. 본 연구에서는 LLM의 의사결정 손실(decision loss)을 두 가지 요소, 즉 제공된 증거로부터 정확한 신념(belief)을 형성하는 것과 해당 신념을 제공된 효용 함수를 최적화하는 행동으로 변환하는 것으로 분해하는 의사결정론적 프레임워크를 제안합니다. 정답(ground truth)이 알려진 합성 벤치마크를 활용하여, 이러한 분해 기법을 적용해 프론티어 모델 및 오픈소스 모델의 확률적 추론을 분석합니다. 나아가 신념, 의사결정 또는 둘 모두를 목표로 하는 강화학습(RL) 개입이 세 가지 도메인에 걸쳐 이러한 구성 요소들을 개선하는지, 개선 사항이 구성 요소 및 유도 형식(elicitation format) 간에 전이되는지, 그리고 신념 형성의 개선 없이도 의사결정 성능이 향상될 수 있는지를 평가합니다. 그 결과, 확률적 추론의 한 가지 요소를 목표로 할 경우 의사결정 손실이 재분배되어 목표 대상은 개선되지만 다른 요소로 반드시 전이되지는 않는다는 점을 발견했습니다. 또한 신념 형성과 의사결정을 공동으로 목표로 삼으면 두 요소 모두 개선되지만, 이는 학습(training)과 평가 간의 형식이 일치하는지에 달려 있음을 확인했습니다.

arXiv:2610.02330v1cs.AI공통 태그 Decision Making, Bayesian Inference

행동하기 전의 선택: 장기적 도구 사용 에이전트를 위한 비교 가치 추정

Choosing Before Acting: Comparative Value Estimation for Long-Horizon Tool-Use Agents

대규모 언어 모델(LLM)은 복잡한 작업을 수행하기 위해 장기적인(long-horizon) 도구 호출 시퀀스에 의존하며, 여기서 각 호출은 작업 상태를 변경하고 이후 결정의 조건이 됩니다. 장기적 도구 사용에서는 긴 상호작용 궤적 전반에 걸쳐 최종 결과 기반의 보상만으로는 취약한 신용 할당(credit assignment)을 제공할 수밖에 없습니다. 단계별(step-level) 보상은 더 구체적인 피드백을 제공할 수 있으나, 신뢰할 수 있는 단계별 지도(supervision)를 얻으려면 종종 사람이나 LLM의 판단, 또는 중간 결정의 후속 영향을 추정하기 위한 추가적인 롤아웃(rollout)이 필요합니다. 본 논문에서는 효과적인 도구 사용 에이전트(agent)가 가능한 다음 도구 호출을 실행하기 전에 그 장기적 가치를 추정해야 한다고 주장합니다. 이러한 목표를 달성하려면 동일한 문맥에서 대안적인 도구 호출들에 대한 비교 지도(comparative supervision)가 필요하지만, 기록된 궤적(logged trajectory)에는 실제로 수행된 호출만 포함되어 있습니다. 이에 따라 우리는 도구 사용 에이전트를 위한 비교 추론(Comparative Inference for Tool-use Agents, CITA)을 제안합니다. CITA는 관측된 도구 동작, 베이즈 도구 그래프 시뮬레이터로부터 얻은 확장 가능한 지도, 그리고 LLM 기반 비교를 통한 의미적 판단을 결합한 쌍(paired) 신호로부터 비교 추론 모델(Comparative Inference Model, CIM)을 학습합니다. 그 결과 CIM은 현재 문맥에서 가능한 다음 도구 호출이 최종 작업 성공에 기여할 가능성을 추정하도록 학습합니다. 세 가지 도구 사용 벤치마크와 다양한 백본 LLM 전반에서, CITA는 도구 F1 점수와 작업 성공률을 일관되게 향상시킵니다. 추가 분석을 통해 CIM이 비교 도구 선택에 대한 정확한 단계별 가치 추정치를 학습함을 보입니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.