재귀 모델은 추론 및 언어 태스크에서 유망함을 보이지만, 테스트 시점 스케일링(test-time scaling)에는 궤적 선택이나 순환 깊이(recurrent depth)를 정하는 원칙적 기준이 부족하다. 본 논문은 유효한 지역·전역 구조에 대한 Hopfield형 메모리로 후보 궤적에 고유 에너지를 부여하는 에너지 유도 재귀 모델(ERM)을 제안한다. 이 에너지는 후보 선택을 유도하고 순환 깊이의 유효 범위를 제시하며, 순환을 더 깊게 한다고 해서 추론 정확도가 반드시 좋아지는 것은 아님을 시사한다. 또한 parallel tempering과 같은 샘플링으로 탐험을 개선할 수 있다. 추론 태스크에서 ERM은 Sudoku(98.97%), Pencil Puzzle Bench(PPBench, 88.04%), Maze(99.30%)에서 최적해에 도달하여 재귀 모델링 최고 정확도를 기록했다. 언어 모델링에서는 미미한 추론 오버헤드로 RedPajama-V2 perplexity를 1.74% 낮췄다. 이 결과는 에너지 유도가 재귀 모델의 테스트 시점 스케일링을 개선하는 실용적 프레임워크임을 뒷받침한다.
제한 볼츠만 머신(RBM)은 가시 및 은닉 구성에 대한 에너지 경관을 형성하여 데이터를 표현하지만, 분포 외(OOD) 입력에 대한 판별적 사용은 취약하다: 학습 분포 밖의 샘플이 거부되지 않고 학습된 클래스 분지 중 하나로 흡수될 수 있다. 본 연구에서는 가시-은닉 가중치 행렬 $W$로부터 유도되는 가시-가시 상호작용 $J=WW^{T}$의 스펙트럼을 통해 이 실패 양상을 분석한다. 마르첸코-파스투르(Marchenko-Pastur) 랜덤 행렬 기준과 비교할 때, 일반적인 학습은 스펙트럼 가중치를 약하고 벌크 호환적인 다수의 방향으로 분산시켜 $J$의 유효 랭크를 증가시킨다. 학습 중 보조 랜덤 이진 이미지를 거부 레이블에 할당하면, 학습된 상호작용은 유효 랭크 붕괴를 겪는다: 약한 벌크 유사 모드가 감소하고 스펙트럼 가중치가 더 적은 수의 지배적 고유 방향으로 집중되며, $J$의 유효 랭크가 경험적 데이터 공분산 행렬의 유효 랭크에 근접한다. 결과적으로 구성된 RBM은 MNIST 분류 정확도를 유지하면서 구조화된 OOD 이미지 데이터셋을 거부하며, 이는 랜덤 보조 노출이 에너지 기반 분류기의 상호작용 스펙트럼과 자유 에너지 경관 모두를 재형성할 수 있음을 보여준다.
통계역학에서 영감받은 에너지 기반 프레임워크를 제안하여, 방향성 인과 그래프 복원 없이 사이버-물리 IoT 시스템의 변수 의존성을 비방향성 에너지 지형으로 모델링하고 의존성 인식 어트리뷰션(attribution)을 수행한다. SWaT 산업용 IoT 테스트베드 실험에서 GNNExplainer 등 최신 그래프 기반 방법 대비 어트리뷰션 정확도, 섭동 견고성, 확장성 모두에서 우수한 성능을 입증하였다.
모델 병합(model merging)을 전문가 혼합(PoE, Product-of-Experts) 기반의 확률적 추론 문제로 재정의하며, 기존 방법들이 암묵적으로 가정하는 가우시안 분포가 실제 태스크 업데이트 간 방향성 잔차(directional residual)의 heavy-tail 특성과 불일치함을 실증적으로 보인다. 이를 해결하기 위해 Cauchy 분포 기반의 heavy-tail 에너지 전문가 모델을 제안하고, 수렴이 보장된 MAP 추론 알고리즘을 통해 비전 및 언어 벤치마크 전반에서 기존 최신 기법 대비 유의미한 성능 향상을 달성한다.