일반화된 커널을 사용한 t-분포 확률적 이웃 임베딩(t-SNE)의 평형 분포
Equilibrium Distribution for t-Distributed Stochastic Neighbor Embedding with Generalized Kernels
본 논문은 입력 커널(kernel)과 출력 커널의 특정 클래스를 사용하는 t-분포 확률적 이웃 임베딩(t-SNE)에 대한 대규모 샘플(large-sample) 변분 문제(variational problem)를 연구한다. 입력 분포(law)는 콤팩트 지지집합(compact support)을 가지며, 그 지지집합 위에서 연속인 밀도를 갖는다. 엔트로피 방정식(entropy equation)이 입력 커널의 척도 매개변수(scale parameter)를 결정하며, 우리는 밀도가 양수인 내부점에서 이 매개변수가 존재하고 유일함을 증명한다. 이어서 해(solution)가 존재하고 전체 지지집합에서 균등하게 유계(uniformly bounded)가 되기 위한 충분조건을 제시한다. 이러한 조건들과 출력 커널에 대한 감쇠(decay) 가정 하에서, 이산 최적값(discrete optimal values)은 연속체 최솟값(continuum minimum)으로 수렴한다. 근사 최소화자(approximate minimizers)의 경험적 측도(empirical measure)는 평행이동(translation) 후 조밀(tight)하며, 모든 부분수열 극한(subsequential limit)은 평형 방정식(equilibrium equation)을 만족하는 콤팩트 지지 최소화자(compactly supported minimizer)이다. 허용 가능한 출력 커널에는 가우시안 커널(Gaussian kernel)이 포함되며, 출력 차원이 2일 때는 코시 커널(Cauchy kernel)도 포함된다. 수치 예제(numerical examples)를 통해 서로 다른 커널로 얻은 2차원 표현(representation)들을 비교한다.