월드 모델을 처음 보는 행동으로 시험하기: 소매업의 학습 제외 계획, 예측 정확도, 가격 규칙
Testing World Models on Actions They Have Never Seen: Held-Out Plans, Forecast Accuracy and Price Rules in Retail
한국어 초록
월드 모델은 처음 보는 행동에 세계가 어떻게 반응할지 답하는 데 쓰인다. 이러한 답을 신뢰할 수 있는지 행동 조건부 월드 모델에서 확인하는 시험을 제시한다. 특정 행동을 의도적으로 학습에서 제외하고 이미 아는 정답과 비교한다. 일반 예측 정확도가 새 행동에서의 정확도를 예측하는지 살펴보고, 더 단순한 모델에도 같은 구조를 제공해 비교한다. 가격과 판촉 계획을 행동으로 삼은 소매업에서 적합한 모델 2,853개를 시험했다. 첫째, 예측 정확도는 모델 유형을 비교할 때 비교적 유효했다. 새 계획에서의 오차와 순위 상관계수는 0.32~0.66이었다. 그러나 같은 월드 모델의 여러 버전을 비교할 때는 그렇지 않았다. 판매자가 수요가 높은 주간에 가격·판촉 계획을 세우는 경우에는 관계가 뒤집혀 순위 상관계수가 −0.69까지 나타났다. 둘째, JEPA 사전학습, 잠재 표현 일관성 검사, 계획 시행일의 적응을 통해 행동의 효과를 학습시켜도 새 계획에 대한 오차는 달라지지 않았다. 셋째, 생성한 환경에서는 기록된 정상가와 세 가지 가격 규칙을 주면 성능이 나아졌다. 같은 규칙을 줬을 때 로그 선형 모델의 곡선으로 실제 관계를 나타낼 수 있으면 로그 선형 모델이 가장 우수했다. 실제 곡선이 규칙이 가정한 범위를 벗어난 환경에서는 규칙을 넣은 월드 모델이 40개 중 36개에서 같은 규칙을 넣은 로그 선형 모델을 앞섰으며, 순환 셀을 제거해도 성능은 비슷했다. 실제 데이터인 Breakfast at the Frat, The Complete Journey, M5에서는 학습에서 본 적 없는 폭의 순수 가격 인하에 규칙을 적용하면 월드 모델의 오차가 줄었다. Frat은 0.63에서 0.56으로, The Complete Journey는 0.45에서 0.44로 줄었으나 후자의 변화는 우연으로 설명할 수 있는 범위였다. 장기 가격 변경에서는 오차가 줄지 않았다. 넷째, 무작위 테스트 계획을 소량 사용하면 모든 모델의 성능이 소폭 높아졌다. 다른 분야에서의 스트레스 테스트로 생성한 약물 투여 환경에서도 첫째 결과가 재현됐다. 체내 누적 약물 농도를 제공하자 월드 모델의 오차가 2.86에서 1.91로 줄었다. 그래도 실제 개선 폭의 0.12~0.32만 예측했다. 이 시험은 이력에서 보지 못한 행동을 월드 모델에 묻는 모든 분야에 적용할 수 있다.
원문 초록
A world model is trusted to answer "what if": how its world responds to an action it has never seen. We give a test of that trust for any action-conditioned world model: actions held out of training by design and scored against a known answer; whether forecast accuracy predicts accuracy on those actions; and the same structure given to simpler models. We run it in retail, where the action is a price and promotion plan, across 2,853 fitted models. First, forecast accuracy is a fair guide between kinds of model (rank correlation with error on new plans 0.32 to 0.66) and a poor guide between versions of one world model: where merchants plan into high-demand weeks the link reverses, down to -0.69. Second, training the world model to learn the effect of actions (JEPA pretraining, a latent consistency check, adaptation at the plan date) leaves its error on new plans unchanged. Third, in generated worlds the recorded regular price and three price rules improve it. Given the same rules, a log-linear model is best when its curve can match the truth; in a world whose curve lies outside the rules, the world model with the rules is ahead of the log-linear model with the rules in 36 of 40 worlds, and does as well without its recurrent cell. On real data (Breakfast at the Frat, The Complete Journey and M5) the rules lower the world model's error on pure price cuts deeper than any it saw (0.63 to 0.56 on the Frat; 0.45 to 0.44, within chance, on The Complete Journey), but not on lasting price moves. Fourth, a small share of random test plans helps every model a little. In a generated dosing world, a stress test in a second domain, the first finding repeats, and the built-up drug level lowers the world model's error (2.86 to 1.91) though it still predicts only 0.12 to 0.32 of the true gain. The test carries to any domain where a world model is asked about actions outside its history.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.22537v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.