Reliability and Identifiability in Persona-Trained Monte Carlo: Variance Decomposition, Stability Bounds, and the Identifiability of Heterogeneous News Reaction
PTMC(Persona-Trained Monte Carlo) 추정량의 신뢰성을 위한 통계 이론을 전개하여, 추정량 분산을 페르소나 추출 성분과 실행 내 성분으로 분해하고, 고정 계산 예산의 최적 배분을 도출한다. 이질적 뉴스 반응에 대한 식별 이론을 통해 집계 충격 곡선이 Jensen 격차로 이질성을 탐지함을 증명하고, 동질 모집단 시뮬레이터 및 축약형 예측기 대비 PTMC의 우월성을 분리 정리로 형식화한다.
We introduce a novel technique for scalable sampling of spin-system states with continuous symmetries using diffusion models. By applying our approach to the XY model, a fundamental continuous-spin model in condensed matter physics, we show that our technique addresses the shortfalls of the Markov chain Monte Carlo (MCMC) in generalization to varying system sizes. More specifically, we show that training a temperature-conditioned diffusion model on smaller-size XY model lattices enables the generation of accurate samples in larger lattice sizes. By tracking physically important observables of the model, such as spin correlations, our experiments demonstrate that diffusion sampling followed by a few MCMC steps reduces the thermalization time by an order of magnitude relative to the standard MCMC with random initialization. Our study provides valuable insight as to how generative models can be used to study continuous-state condensed matter systems at scale.
커널 herding은 최대 평균 불일치(maximum mean discrepancy, MMD)를 최소화하려는 결정론적 구적법(quadrature) 계열에 속하며, 이는 재생 커널 힐베르트 공간(reproducing kernel Hilbert space, RKHS) 위에서의 최악 경우적 적분 오차를 의미한다. 이러한 MMD 최소화 절차는 강력한 실험적 근거를 갖지만, 이론적 토대는 상대적으로 부족하다. 특히 분포 압축(distribution compression)에 대한 최근 진전을 제외하면, RKHS가 무한차원일 때 MMD 최소화가 고전적 Monte Carlo 구적법보다 우수하다는 점은 거의 증명되지 않았다. 본 논문에서는 구적법 노드들에 대한 결합 확률 분포, 즉 맞춤형 Gibbs 분포를 연구하며, 이 분포의 지지(support)는 직관적으로 온도 매개변수가 감소함에 따라 MMD 최소화 해 주변에 집중되는 경향이 있다. 우리의 주요 기여는 우리의 분포로부터 적분 노드를 뽑는 것이 i.i.d. Monte Carlo보다 우수하다는 것을 증명하는 것이다. 최악 경우적 적분 오차에 대한 우리의 경계는 i.i.d. Monte Carlo와 동일한 rate를 갖지만, 온도 매개변수가 감소할수록 더 tight한 집중(concentration) 부등식을 얻는다. 이는 구적법 노드 수가 증가함에 따라 더 작은 신뢰 구간을 의미한다. 아무리 첫걸음에 불과하다 할지라도, 우리의 결과는 Gibbs 측도 주변에서 발전된 수학적 도구가 커널 herding 및 그 변형들이 계산적으로 더 저렴한 방법보다 어느 정도 개선되는지를 이해하는 데 도움이 될 수 있음을 보여 준다. 우리의 Gibbs 분포로부터 샘플링하는 문제는 여전히 남아 있다. 수치 실험에서, 우리는 단순한 MCMC 체인만으로도 근사 샘플을 생성할 수 있으며, 이는 우리의 이론적 결과가 뒷받침하는 바와 같이 목표 적분 주변의 신뢰 구간을 개선한다는 것을 보여 준다.
주역 왕문 순서를 10만 개 무작위 기준선에 대한 몬테카를로 순열 분석으로 통계적으로 특성화한 뒤, 전이 거리·음의 자기상관·양 균형 등 네 가지 유의미한 습관화 방지(anti-habituation) 구조를 확인했다. 학습률 스케줄 변조, 커리큘럼 순서, 시드 민감도 실험(PyTorch·MLX)에서는 성능이 일관되게 저하되거나 노이즈 수준이었으며, 높은 분산이 그래디언트 기반 최적화를 불안정하게 만든다는 것이 원인으로 제시된다.
반복 rollout 수집 비용과 이질적 궤적 간 비교의 한계로 토큰 단위 advantage 추정이 어려운 언어 모델 강화학습(RL)에서, 프롬프트당 단일 rollout의 Monte Carlo 결과로 Pass@k 성공 확률을 예측하는 보정된 신용 critic을 학습하는 SR-PPO를 제안한다. Pass@k는 이미 쉬운 prefix는 낮추고 어렵지만 해결 가능한 구간을 강조하는 선택적 학습 신호를 제공하며, HMMT26·AIME24 등 수학 추론 벤치마크에서 Pass@128 성공률이 안정적으로 개선된다.
베이지안 역문제에서 사후 기대값의 몬테카를로(MC) 추정 분산이 크면, 특히 PDE 제약 문제에서 샘플 비용이 급증하므로 결합 모델-데이터 샘플로 상환(amortized) 조건부 신경망 제어 변량(CNCV)을 학습해 MC 추정량의 분산을 줄이는 모듈식 방법을 제안한다. Stein 항등식과 계층적 coupling layer 앙상블로 고차원에서도 야코비안 trace를 효율적으로 계산하며, stylized 문제와 Darcy flow PDE 역문제에서 고전적 Stein 제어 변량을 능가하고 해석적 score를 학습 대리 모델로 대체해도 상당한 분산 감소를 달성했다.
복잡계 연구에서 물리적 관측량을 평가하는 것은 종종 몬테카를로 기법을 통해 대표적인 구성(configuration)을 샘플링하는 것을 필요로 합니다. 이러한 방법들은 시스템의 에너지와 힘장(force fields)에 대한 반복적인 평가에 의존하며, 이는 계산적으로 비용이 많이 들 수 있습니다. 이러한 시뮬레이션을 가속화하기 위해 심층 학습 모델이 에너지 지형(landscape)이나 힘장(force fields)을 근사하는 대체 함수(surrogate functions)로 점점 더 많이 사용되고 있습니다. 그러나 이러한 모델은 예측에 인식론적 불확실성을 도입하는데, 이는 샘플링 과정을 통해 전파되어 시뮬레이션의 거시적 행동에 영향을 미칠 수 있습니다. 본 연구에서는 인식론적 불확실성을 정량화하고 몬테카를로 샘플링에 미치는 영향을 완화하기 위해 페널티 앙상블 방법(Penalty Ensemble Method, PEM)을 제안합니다. 우리의 접근 방식은 메트로폴리스 수락 규칙에 불확실성을 고려한 수정을 도입하여, 불확실성이 높은 영역에서의 기각 확률을 높임으로써 시뮬레이션 결과의 신뢰성을 향상시킵니다.
중요도 샘플링(Importance Sampling)은 제안 분포(Proposal Distribution)로부터 얻은 가중 샘플을 사용하여 목표 분포(Target Distribution) 하에서의 기댓값 추정량을 설계하는 몬테카를로 방법입니다. 고차원 공간의 다중 모드 분포(Multimodal Distribution)와 같이 목표 분포가 복잡한 경우, 중요도 샘플링의 효율성은 제안 분포의 선택에 크게 좌우됩니다. 본 논문에서는 효율적인 제안 분포를 구성하기 위한 새로운 적응형 방식을 제안합니다. 우리의 알고리즘은 전역 샘플링 메커니즘과 지연된 가중치 부여 절차를 결합하여 목표 분포의 효율적인 탐험을 촉진합니다. 제안된 가중치 부여 메커니즘은 제안 분포가 목표에 잘 적응하지 못한 영역에서 빠른 재샘플링을 가능하게 함으로써 핵심적인 역할을 수행합니다. 우리의 샘플링 알고리즘은 약한 가정 하에서 기하급수적으로 수렴함이 입증되었으며, 다양한 수치 실험을 통해 그 성능이 보여집니다.