반원을 넘어서: 규정된 평형 상태를 갖는 자유 확산 모델
Beyond the Semicircle: Free Diffusion Models with Prescribed Equilibria
공분산 및 그람 행렬, 커널 및 어텐션(attention) 행렬, MIMO 채널 행렬, 밀도 연산자 등 점점 더 많은 머신러닝 객체들이 좌표 벡터가 아닌 본질적으로 스펙트럼(spectrum) 형태를 띱니다. 이러한 데이터에 대해 고유값을 좌표별로 오염시켜 디노이징 확산 모델(denoising diffusion model)을 구축하는 방식은 우아하지 못할 뿐만 아니라 잘못된 극한으로 수렴하는데, 이는 고유값들이 독립적으로 움직이지 않고 서로를 밀어내기 때문입니다. 자유 확률론(free probability theory)은 고전적 합성곱(convolution)을 자유 합성곱으로, 스코어를 보이쿨레스쿠(Voiculescu)의 켤레 변수로 대체함으로써 올바른 순방향 프로세스를 제공하지만, 상수 계수를 갖는 자유 확산은 목표 분포의 형태와 무관하게 가능한 유일한 평형 상태가 반원 법칙(semicircular law)뿐이라는 자체적인 한계를 내포하고 있습니다. 본 논문에서는 상태 의존적 자유 변동성(state-dependent free volatility)이 이러한 제약을 해소함을 보입니다. 충분히 정칙(regular)이고 콤팩트 지지(compactly supported)를 갖는 임의의 목표 법칙에 대해, 닫힌 형태의 힐베르트 변환(Hilbert-transform) 드리프트를 통해 해당 법칙을 정상 스펙트럼 분포로 갖는 자유 포커-플랑크(Fokker–Planck) 흐름을 명시적으로 구축합니다. 추가적인 볼록 포텐셜(convex-potential) 조건 하에서, 이 구조는 대역적 완화 확산 해석, 시간 역방향 동역학, 그리고 학습 가능한 스코어를 허용합니다. 이러한 일반화는 단순히 피상적인 확장이 아닙니다. 어떠한 스펙트럼 변수 변환으로도 이를 상수 계수 사례로 환원할 수 없으며, 유계인 비상수 원소를 포함하지 않는 명시적으로 특성화된 계수 군(family)에 대해서만 바서슈타인(Wasserstein) 그래디언트(gradient) 흐름이 됩니다. 우리는 등방성 표본 공분산 행렬의 극한 스펙트럼인 마르첸코-파스투르(Marchenko–Pastur) 법칙에 이 구조를 적용하고 수치적으로 검증합니다: 자유 방식과 좌표별 방식 간의 격차, 여러 행렬 크기에서 시간 역방향 행렬 동역학을 유도하는 정확한 차원 무관 스코어, 설계된 마르첸코-파스투르 평형 상태, 그리고 학습된 스코어를 통한 종단간 생성을 확인합니다.