맥락을 고려한 가치 정렬: 도덕적 신념도 형성
Accounting for Context: Shaping Moral Credences for Value Alignment
한국어 초록
에이전트 행동이 인간의 도덕적 가치와 정렬되도록 보장하는 것은, 사회와 심지어 개인조차도 일반적으로 채택하는 다양한 도덕적 관점을 어떻게 반영할 것인가라는 문제를 불가피하게 제기한다. 도덕적 불확실성(moral uncertainty)에 관한 연구는 서로 다른 도덕 이론들에 걸친 행동 평가를 공정하고 민주적으로 집계하는 메커니즘을 제안한다. 그러나 본 논문은 도덕적 평가를 집계할 때 맥락적 요인을 고려해야 한다고 주장한다. 예를 들어, 결과주의적 관점은 에이전트의 행동이 세계를 어떻게 변화시키는지를 정확히 판단할 수 있다는 전제를 가정하는데, 이 전제는 실제 세계 환경에서는 종종 성립하지 않는다. 따라서 우리는 이러한 맥락적 요인들을 또한 고려하면서, 도덕적 불확실성 하에서의 에이전트 의사결정을 형식화한다. 이를 통해 겉보기에 상식적인 성질인 약 페레토 원칙(weak Pareto principle)이 위반됨을 보인다. 우리는 이 겉보기 문제가 사실은 심pson의 역설(Simpson's paradox)의 한 변형이며, 따라서 맥락적 요인의 영향을 무시하는 집계 메커니즘의 한계를 드러낸다고 주장한다.
원문 초록
Ensuring that agent behaviours are aligned with human moral values inevitably raises the problem of how to account for the plurality of moral perspectives that societies -- and even individuals -- typically adopt. Work on moral uncertainty proposes mechanisms to fairly and democratically aggregate evaluations of actions across different moral theories. However, this paper argues that one needs to account for contextual factors when aggregating moral evaluations. For example, consequentialist perspectives assume an ability to accurately determine how an agent's actions change the world; an assumption that often does not hold in real world settings. We, therefore, formalise agent decision making under moral uncertainty, while also accounting for these kinds of contextual factors. We thereby show that a seemingly commonsensical property -- the weak Pareto principle -- is violated. We argue that this apparent problem is, in fact, a variation of Simpson's paradox, and hence reveals the limitations of aggregation mechanisms that ignore the impact of contextual factors.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.06972v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
미관측 교란 변수에 강건한 위험 점수 학습
Learning Risk Scores Robust to Unobserved Confounders
미관측 교란의 영향을 받는 역사적 관찰 데이터로부터, 희소 자원이나 개입 대상 개인의 우선순위를 정하기 위한 위험 점수를 학습하는 문제를 다룬다. 누가 희소 자원을 받을지에 대한 결정은 설문 응답과 같이 기록된 특성에 기반한 위험 점수에 의해 종종 안내된다. 이러한 위험 점수는 개인의 특성, 배분 결정, 결과에 대한 역사적 기록인 관찰 데이터로부터 직접 학습되는 경우가 점점 늘고 있다. 역사적 배분 정책이 도입한 바이어스를 보정하는 역 성향 가중치(inverse propensity weighting, IPW)와 같은 표준 방법은, 역사적 결정 과정이 기록된 특성으로 완전히 설명될 수 있다면 정확한 위험 점수를 학습하는 데 사용될 수 있다. 그러나 실무에서는 역사적 결정이 종종 기록되지 않은 정보에 의존하여, 학습된 위험 점수가 과거 우선순위를 이끌었던 기록되지 않은 상황을 가진 개인들을 정확히 체계적으로 과소 우선순위화하게 만든다. IPW를 기반으로, 이러한 종류의 미관측 교란에 강건한 위험 점수를 학습하는 방법을 제안한다. 미관측 교란 하에서는 성향 가중치를 신뢰할 수 있게 추정할 수 없으므로, 대신 관측 가능한 데이터와 교란 정도에 대한 도메인 정보 기반 추정치로 결정되는 불확실성 집합에 속하는 것으로 취급하며, 인과 추론(causal inference)의 민감도 분석(sensitivity analysis)과 Wasserstein 분포적 강건 최적화(Wasserstein distributionally robust optimization)를 결합한다. 그 결과 강건 위험 점수 학습 문제는 표본 기반 근사를 허용하며, 이를 기성 솔버와 호환되는 지수 원뿔 프로그램(exponential cone program)으로 재공식화한다. UCI Machine Learning Repository의 데이터셋에서 파생된 반합성(semi-synthetic) 데이터에서 접근법의 효과를 입증한다. 제안 방법은 다른 지표를 손상하지 않으면서, 전통적 벤치마크 대비 보정(calibration)을 최대 29.2%까지, 최신(state of the art) 대비 최대 11.1%까지 개선한다.
인과적 세계 모델은 모듈형 LLM 에이전트에 언제 도움이 되는가
When Do Causal World Models Help Modular LLM Agents
인과적 메모리 정책: 검색 개입을 통해 메모리 효용을 식별 가능하게 만들기
Causal Memory Policy: Making Memory Utility Identifiable by Intervening on Retrieval
메모리 증강 대규모 언어 모델(LLM)은 어떤 메모리를 유지할지 결정해야 하며, 최근 시스템들은 작업 성능에 미치는 각 메모리의 영향을 추정함으로써 이를 수행합니다. 그러나 이러한 추정치는 전적으로 검색된 메모리에 의존합니다. 메모리가 전혀 검색되지 않는 경우, 저장소 수준의 개입은 동일한 결과를 낳아 해당 메모리의 효용(utility)을 식별할 수 없는 상태로 남겨둡니다. 이는 메모리 연산만을 검사하는 진단 방식으로는 보이지 않는, 검색 수준의 양의성(positivity) 위반 문제입니다. 본 논문에서는 검색 자체에 개입하여 알려진 성향(propensity)으로 샘플링된 메모리를 위해 고정된 수의 컨텍스트 슬롯을 확보함으로써 식별 가능성을 복원하는 인과적 프레임워크인 인과적 메모리 정책(Causal Memory Policy, CMP)을 제안합니다. CMP는 균형 할당 설계(balanced assignment design) 하에서 자기 정규화 역성향 가중치(self-normalized inverse propensity weighting)를 통해 메모리 효용을 추정합니다. 저자들은 검색을 통한 메모리 효용의 인과적 인수분해, 추정량의 비편향성과 정확한 분산, 그리고 비가역적 연산 하에서의 최적 결정 규칙을 증명합니다. 실증적으로 식별 실패는 LongMemEval에서 필요한 메모리의 54%, LoCoMo에서 67%에 달하며, 이러한 실패는 실제 배포된 메모리 시스템에서도 지속됩니다. CMP는 필요한 메모리와 필요하지 않은 메모리 간의 구별 성능을 0.54 AUC에서 0.66 AUC로 향상시킵니다. 마지막으로, 식별된 메모리 효용만으로는 유지 결정에 충분하지 않음을 보입니다. 쿼리별 효용은 추정 대상이 된 쿼리에서 0.78 AUC에 도달하지만, 유지 정책이 활용할 수 있는 어떤 집계 방식도 보지 못한 쿼리(unseen queries)에 대한 메모리의 가치를 예측하지 못합니다. 코드는 https://anonymous.4open.science/r/cmp-release-D0C3/ 에서 확인할 수 있습니다.
LLM 에이전트가 자신의 그룹을 선호하는 이유: 이해관계, 관찰된 규범, 그리고 평판
Why LLM Agents Favor Their Group: Stakes, Observed Norms, and Reputation
언어 모델 에이전트는 자신이 속한 그룹의 구성원들이 서로를 우대하는 모습을 지켜봐 왔기 때문에 자신의 그룹을 선호한다. 결정에 비용이 수반되는 순간 그룹 라벨 자체는 거의 영향을 미치지 않는다; 편애를 유발하는 것은 관찰된 행동이며, 개인의 기록이 이를 압도할 수 있다. 우리는 임의의 그룹 라벨과 10라운드의 포인트 공유, 그리고 짝지어진 단발성(one-shot) 결정으로 구성된 소규모 사회에서 열다섯 개의 OpenAI 모델과 세 개의 Claude 모델에 걸쳐 이를 검증했으며, 약 4,400개의 사회와 330만 건의 감사된(audited) 모델 호출을 분석했다. 첫째, 선행 연구에서 보고된 단순 그룹 라벨의 큰 효과는 다른 구성원에게 포인트를 주는 것이 에이전트에게 아무런 비용이 들지 않을 때에만 나타난다; 에이전트가 포인트를 자신을 위해 보유할 수 있게 되면, 그 효과를 보였던 모든 모델에서 효과가 사라진다. 둘째, 이해관계(stake)가 존재하는 상황에서는 상호작용 기록(interaction history)이 편애의 주된 원인이 된다: 기록 효과는 15개 모델 중 13개에서 통계적으로 양(positive)의 값을 보이며, 11개 모델에서는 10점 중 약 3.5~8점에 달하고, 진행된 라운드 수가 늘어날수록 커지며, 에이전트가 한 번도 만난 적 없는 동일 라벨의 낯선 구성원에게까지 확장된다. 셋째, 스크립트로 구성된(scripted) 기록 하에서는 평등주의적 규범(egalitarian norm) 아래 편애가 거의 0에 가깝게 떨어지며, 에이전트 자신의 그룹이 반대편을 우대하는 것으로 관찰될 경우 편애가 반전된다; 더 강력한 모델일수록 개인의 기록이 그룹과 충돌할 때 개인의 기록 편에 선다. 따라서 그룹 편애는 관찰된 그룹 행동에 대한 동조(conformity)이며, 라벨을 통해 낯선 이에게까지 전이되고 개인의 평판에 의해 압도된다. 동일한 설명은 배신, 스캔들, 그리고 그룹 변경에 대한 무상 제안(free offer)에 대한 반응도 예측한다: 공개적 질책(public reprimand)은 사과나 보상(restitution)보다 배신을 더 효과적으로 회복시키며, 배분상의 처벌(allocation punishment)은 가해 구성원에게만 국한되고, 이미 형성된 그룹은 매수될 수 없지만 더 약한 모델에서는 다른 곳으로 초대되어 이탈할 수 있다.
합성 연구 검증에서의 중대한 행동과 표상적 공정성
Consequential Behaviour and Representational Fairness in the Validation of Synthetic Research
산업계와 학계의 연구자들은 인간 표본의 대체재로 대규모 언어 모델(LLM) 기반의 합성 설문 응답자를 활용하고 있다. 이러한 합성 모집단은 실제 데이터에 대한 검증(validation)이 필요하지만, 연구자들은 흔히 인간 대상 설문조사와의 임의적인(ad hoc) 비교를 통해 이를 처리하곤 한다. 행동과학의 의도-행동 격차(intention-behaviour gap)에서 착안하여, 본 연구는 의사결정권자가 중대한 행동(consequential behaviour)을 예측하기 위해 합성 연구를 의뢰하는 대부분의 응용 사례에서 기존의 검증 방식이 잘못된 대상을 평가하고 있다고 주장한다. 이러한 문제를 해결하기 위해 두 가지 요구사항을 갖춘 검증 프레임워크를 제안한다. 첫째, 모든 타당성 주장은 인간 데이터와의 일치 수준을 명시해야 한다. 즉, 표본이 대표하는 사람들의 행동을 예측하는지, 네 가지 진단(위치, 산포, 응답 과정, 구조) 중 무엇을 다루는지, 실험적 효과와 비교하는지를 밝혀야 한다. 둘째, 연구자는 하위 집단에 대한 타당성 주장을 보고해야 한다. 중대한 결정으로 인해 가장 큰 영향을 받는 대상이 주로 이들 집단이며, 전체 집계 정확도는 이들의 과소·오표상(misrepresentation)을 가리기 때문이다. 본 검증 프레임워크는 세 가지 정의 차원(분배적, 절차적, 인정적)을 측정 가능한 수치로 조작화하며, 페르소나 내 반사실적 실험(within-persona counterfactual experiments) 자체도 검증이 필요한 설계로 취급한다. 이어 본 프레임워크를 전기차 충전 요금제에 적용하고, 연구자가 설득력 있는 타당성 주장을 펼칠 수 있도록 돕는 보고 체크리스트를 제시하며 마무리한다.
대규모 언어 모델을 통한 해석적 구조 모델링의 한계 극복
Overcoming Challenges of Interpretive Structural Modeling with Large Language Models
해석적 구조 모델링(Interpretive Structural Modeling, ISM)은 다기준 의사결정을 위한 대표적인 방법론이다. 다른 방법론 대비 ISM의 강점은 인과 관계를 모델링하는 능력, 요인의 이진 척도, 그리고 이를 통해 도출되는 계층적 표현에 있다. 전통적으로 모델링 과정은 합의가 도출될 때까지 주제별 전문가(SME)와의 반복적인 상호작용을 통해 수행된다. 그러나 이러한 과정은 지루하고 노동 집약적이며, 무엇보다도 수백 개의 변수를 다루는 연구로 ISM을 확장하는 데 한계가 있다. 대규모 언어 모델(LLM)을 불완전한 전문가로 활용하는 기존의 인과 그래프 탐색 연구를 바탕으로, 본 연구는 ISM을 위한 통합적 LLM-ISM 접근 방식을 탐구한다. 쌍별(pairwise), k-wise, 행별(rowwise), 전체 그래프(full graph) 탐색 방법론을 비교 및 평가하였다. 그 결과, ISM을 위한 인과 그래프 탐색 방법론 중 행별(SHD=160, F1-score=0.77) 및 전체 그래프 방식(SHD=135, F1-score=0.73)을 활용했을 때 가장 우수한 성능을 보이는 것으로 나타났다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.