When Guardrails Look Effective: Construct Validity Failures in LLM Agent Commerce Evaluation
한국어 초록
상호작용 시뮬레이션은 언어 모델 에이전트로 구성된 시장에서 정책을 점점 더 많이 평가한다. 그 출력은 주장에 명시된 행동을 실제로 구현하지 않아도 경제적처럼 보일 수 있다—가격, 이윤, 소비자 잉여, 복지 등. 우리는 설정 가능한 호텔 거래를 위한 다턴 buyer–seller 테스트베드에서 이 위험을 감사한다. 초기 구현은 두 가지 마켓플레이스 가드레일로부터 Qwen2.5 1.5B–14B 사다리 전반에 걸쳐 +87.4, +35.0, +28.8의 복지 이득을 보고했다. 또한 가드레일이 있는 에이전트와 없는 에이전트에 서로 다른 offer 스키마와 선택 절차를 부여했다. 스키마와 buyer chooser를 고정하면 paired contrast는 +7.2, -13.9, +23.8로 바뀐다. 14B 단일 생성에서 가장 큰 네 가지 효과의 평균은 +229였고, profile-condition당 세 번 생성한 뒤에는 평균 +37.6(95% bootstrap 구간 [-34.2, 109.3])이었으며, generation residual이 이 사후 탐색에서 변이의 49.9%를 설명한다. seller-incentive 점검은 단조(monotone)가 아니다: 이윤 압력을 높이면 기본 seller 프롬프트보다 이윤이 더 적게 나온다. 스크립트된 positive control은 왜 이것이 중요한지 보여 준다. 이윤 극대화 seller는 이미 1차 최적(first-best) 복지에 도달하므로, 가드레일은 대부분 재분배하고 복지를 줄인다; seller를 비효율적 번들을 강제하도록 명시적으로 프로그래밍한 경우에만 복지를 만든다. 우리는 incentive validity, protocol isolation, stochastic stability, welfare accounting을 분리하고 실질적 정책 주장 전에 INVALID 또는 INCONCLUSIVE를 반환하는 구성 타당도 계약(construct-validity contract)을 제안한다. 우리 사례에서 원래 추정치는 protocol isolation 하에서 INVALID이며, 통제 연구는 incentive validity와 stochastic stability 하에서 INCONCLUSIVE로 남는다. 이 사례는 가드레일이 비효과적임을 보여 주는 것이 아니라, 시뮬레이션된 에이전트와 프로토콜이 이러한 점검을 통과할 때까지 가드레일의 겉보기 가치는 식별되지 않음을 보여 준다.
원문 초록
Interactive simulations increasingly evaluate policies in markets populated by language-model agents. Their outputs can look economic---prices, profits, consumer surplus, and welfare---without instantiating the behavior named in the claim. We audit this risk in a multi-turn buyer--seller testbed for configurable hotel transactions. An initial implementation reported welfare gains from two marketplace guardrails of +87.4, +35.0, and +28.8 across a Qwen2.5 1.5B--14B ladder. It also gave guarded and unguarded agents different offer schemas and choice procedures. Holding the schema and buyer chooser fixed changes the paired contrasts to +7.2, -13.9, and +23.8. The four largest 14B single-generation effects averaged +229; after three generations per profile-condition, they averaged +37.6 (95% bootstrap interval [-34.2, 109.3]), while generation residuals account for 49.9% of variation in this post-hoc probe. A seller-incentive check is non-monotone: increasing profit pressure produces less profit than the default seller prompt. Scripted positive controls show why this matters. A profit-maximizing seller already attains first-best welfare, so guardrails mostly redistribute and reduce welfare; they create welfare only when the seller is explicitly programmed to force inefficient bundles. We contribute a construct-validity contract separating incentive validity, protocol isolation, stochastic stability, and welfare accounting, and returning INVALID or INCONCLUSIVE before substantive policy claims. In our case, the original estimate is INVALID under protocol isolation, while the controlled study remains INCONCLUSIVE under incentive validity and stochastic stability. The case does not show that guardrails are ineffective; it shows their apparent value is unidentified until the simulated agents and protocol pass these checks.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2609.01519v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.