arXiv:2611.23414v1 cs.LG

증분형 Roseland: 커널화된 순차 Karhunen–Loève 갱신을 통한 배치 단위 랜드마크 확산

Incremental Roseland: Batch-wise Landmark Diffusion via Kernelized Sequential Karhunen--Lo\`eve Update

Jeanie Schreiber

제출 2026-11-19

한국어 초록

랜드마크 확산(Roseland)은 차수 정규화된 데이터-랜드마크 커널 행렬의 특이값 분해로부터 확산 맵 방식의 스펙트럼 임베딩을 계산하며, 그 비용은 전체 확산 맵보다 훨씬 낮다. 그러나 이 방법은 모든 데이터를 한꺼번에 사용할 수 있다고 가정한다. 본 논문에서는 랜드마크 친화도를 행이 증가하는 행렬로 간주하고, 그 특이값 분해를 커널화된 순차 Karhunen–Loève(SKL) 기법으로 갱신할 수 있게 하는 증분형 Roseland(iRoseland)를 제안한다. 차수 보정은 기준 평균 커널 행에 대한 1차 전개로 처리하며, 이에 따라 각 단계에서 랜드마크 대 랜드마크 고유값 분해 한 번만으로 랜드마크 측 고유기저를 복원할 수 있다. 제안한 방법은 데이터에 대해 단일 패스만을 요구하며, 처리한 점의 수와 무관한 상태로 제한된 메모리에서 동작한다. 망각 계수를 통해 이 방법은 변화하는 분포를 추적할 수 있고, 표본 크기에 불변인 임베딩은 시간에 걸쳐 출력을 서로 비교할 수 있게 한다. 실험 결과, 정상(stationary) 데이터에서는 Roseland와 반올림 오차 수준까지 일치하였고, 긴 스트림에서는 동일 메모리의 Roseland보다 정확도가 한 자릿수 배 높았다. 분포가 변화하는 데이터에서는 변화에 맞춘 윈도우로 망각을 적용했을 때 큰 이득을 관찰하였다.

원문 초록

Landmark diffusion (Roseland) computes a diffusion-map-style spectral embedding from the singular value decomposition of a degree-normalized data-to-landmark kernel matrix, at a cost far below that of full diffusion maps. It assumes, however, that all data are available at once. We introduce incremental Roseland (iRoseland), which casts the landmark affinity as a row-growing matrix whose SVD can be updated with a kernelized Sequential Karhunen--Lo\`eve (SKL) scheme. Degre correction is handled by a first order expansion about a reference mean kernel row and so that the landmark-side eigenbasis may be recovered from a single landmark-by-landmark eigendecomposition at each step. The presented method requires only a single pass over the data and runs in bounded-memory with state independent of the number of points processed. A forgetting factor lets the method track drifting distributions, and a sample-size-invariant embedding keeps outputs comparable across time. Experiments show agreement with Roseland to round-off on stationary data, and accuracy that exceeds equal-memory Roseland by an order of magnitude on long streams. On drifting data, we observe large gains from forgetting with a window matched to the drift.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.23414v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.