에너지 유도 재귀 모델
Energy-guided Recursive Model
재귀 모델은 추론 및 언어 태스크에서 유망함을 보이지만, 테스트 시점 스케일링(test-time scaling)에는 궤적 선택이나 순환 깊이(recurrent depth)를 정하는 원칙적 기준이 부족하다. 본 논문은 유효한 지역·전역 구조에 대한 Hopfield형 메모리로 후보 궤적에 고유 에너지를 부여하는 에너지 유도 재귀 모델(ERM)을 제안한다. 이 에너지는 후보 선택을 유도하고 순환 깊이의 유효 범위를 제시하며, 순환을 더 깊게 한다고 해서 추론 정확도가 반드시 좋아지는 것은 아님을 시사한다. 또한 parallel tempering과 같은 샘플링으로 탐험을 개선할 수 있다. 추론 태스크에서 ERM은 Sudoku(98.97%), Pencil Puzzle Bench(PPBench, 88.04%), Maze(99.30%)에서 최적해에 도달하여 재귀 모델링 최고 정확도를 기록했다. 언어 모델링에서는 미미한 추론 오버헤드로 RedPajama-V2 perplexity를 1.74% 낮췄다. 이 결과는 에너지 유도가 재귀 모델의 테스트 시점 스케일링을 개선하는 실용적 프레임워크임을 뒷받침한다.