크로네커 때문에 혼란스러워하지 마세요: 고차원 불완전 격자에서의 가우시안 프로세스
Don't Get Your Kroneckers in a Twist: Gaussian Processes on High-Dimensional Incomplete Grids
우리는 고차원 환경에서 수치적으로 정확한 GPR(가우시안 프로세스 회귀)을 수행하는 새로운 방법인 CUTS-GPR을 소개한다. CUTS-GPR의 핵심 구성 요소는 극도로 빠른 커널 행렬-벡터 곱으로, 학습 데이터 수 $N$에 대해 거의 선형 또는 심지어 선형적인 스케일링을 보이며, 차원 수 $D$에 대해서는 낮은 차수의 다항식 스케일링을 보인다. 이는 가산적 커널(additive kernel)과 불완전 격자(incomplete grid)를 결합하고, 그 결과로 나타나는 커널 행렬의 구조를 활용함으로써 얻어진다. 이 행렬-벡터 곱의 확장성은 수십억 개의 데이터 포인트와 수천 개의 차원을 사용한 벤치마크를 통해 검증된다. 우리는 하이퍼파라미터 최적화를 포함한 전체 GPR 계산을 최대 $N = 4,494,001$, $D = 500$인 합성 데이터셋에서 실행함으로써 CUTS-GPR의 종단간(end-to-end) 확장성을 보인다. 마지막으로, 현실적이고 도전적인 테스트로서 $N = 447,265$, $D = 24$인 10개의 포텐셜 에너지 표면(potential energy surfaces, PES) 집합에 CUTS-GPR을 적용한다. 계산은 몇 시간 만에 완료되며, 이는 CUTS-GPR이 전산화학(computational chemistry)에서 오랜 난제였던 고차원 PES의 베이지안 모델링(Bayesian modelling)을 가능하게 함을 보여준다.