FlashSinkhorn 2: 블록 희소 엔트로피 최적 수송
FlashSinkhorn 2: Block-Sparse Entropic Optimal Transport
FlashSinkhorn과 같은 엔트로피 최적 수송(EOT)을 위한 스트리밍 GPU 솔버는 밀집 커널 저장을 방지하지만, 여전히 모든 Sinkhorn 반복(iteration)마다 $n\times m$개의 모든 점 쌍을 평가합니다. 본 논문에서는 두 단계를 결합하여 단일 GPU에서 대규모 이산 EOT 문제를 규정된 한계 잔차까지 해결하는 저차원 포인트 클라우드 상의 제곱 유클리드 비용 솔버인 FlashSinkhorn 2(FS2)를 제시합니다. 대략적인 단계(coarse stage)에서는 셀 중심점에서 문제를 풀고 포텐셜을 모든 점으로 끌어올린(lift) 후, 샘플링된 한계 검사에서 리프트가 거부되면 중심점에서 계속 진행하여 대부분의 점 수준 업데이트를 대체합니다. 그런 다음 블록 희소 미세 단계(block-sparse fine stage)를 통해 대략적인 업데이트로 해결할 수 없는 중심점 오차를 제거합니다. 이 단계의 Morton 순서 블록은 스크리닝과 융합된 텐서 코어 실행을 지원하며, 블록 질량에 의해 설정된 임계값은 생략된 각 타일(tile)이 모든 행과 열에 미치는 기여도를 제한합니다. 합성 벤치마크에서 FS2는 32개 문제 전체에서 목표 잔차에 도달한 반면, GeomLoss 다중 스케일은 10개에서만 도달했습니다. 단일 A100에서 FS2는 우주론적 $N$-바디 시뮬레이션의 두 $1.34\times10^8$ 입자 측도 간 이산 EOT를 평균 입자 간 거리와 동일한 엔트로피 블러에서 2.5시간 이내에 0.01 미만의 전체 입자 한계 잔차로 해결합니다. 우리가 아는 한, 이는 몇 시간 내에 이 정도의 정확도로 해결된 가장 큰 이산 EOT 문제입니다. 재현성을 위해 오픈소스 구현체를 https://github.com/ot-triton-lab/flash-sinkhorn 에 공개합니다.