arXiv:2609.32824v2 cs.CV

3D 모델링을 위한 측지선 그로모프-바서슈타인 거리의 활용

Unlocking Geodesic Gromov-Wasserstein Distances for 3D Modeling

Krzysztof Marcin Choromanski, Derek Long, Ananya Parashar, Dwaipayan Saha

제출 2026-09-26

한국어 초록

그로모프-바서슈타인 거리(Gromov-Wasserstein Distances, GWD)는 최적 수송(optimal transport) 이론의 기법을 적용하여 서로 다른 거리 공간(metric space)에 정의된 확률 분포를 비교하는 정량적 방법을 제공합니다. 이에 따라 GWD는 그래프 매칭 문제부터 3D 객체 검출(object detection)에 이르기까지 매우 다양한 응용 분야에서 잠재적으로 유용할 수 있습니다. 그러나 대규모 환경에서의 실제 사용은 조밀한 공간 내 거리 행렬을 포함하는 삼차 시간 복잡도(cubic time complexity) 연산으로 인해 크게 제한됩니다. 유클리드 거리 공간에서는 이를 해결하기 위해 확장 가능한 커널(kernel) 방법 등을 포함한 여러 기법이 제안되었으나, 우리가 아는 한 다양체(manifold) 상의 일반적인 측지선 거리(geodesic distance)나 이산화된 형태의 그래프 상 최단 경로 거리에 대한 유사한 기법은 개발되지 않았습니다. 본 논문에서는 최근 도입된 GenusSink 기법과 랜덤 피처(random feature) 이론을 활용하여 엔트로피 싱크혼(Sinkhorn) 유사 접근법으로 측지선 그로모프-바서슈타인 거리를 계산하도록 설계된 새로운 효율적 알고리즘 군인 EGGroW(Efficient Geodesic Gromov-Wasserstein methods)를 제시합니다. 우리는 중요한 다운스트림 응용 분야로서 3D 자세 추정(pose estimation)과 3D 템플릿 검출을 제시합니다. 후자의 설정에서는 부분적인 3D 템플릿 복원을 단계별 문제로 정식화하여, 용량 제한적 장면 선택 후 템플릿 가시성 및 대응 관계의 준이완(semi-relaxed) 복원이 이어지도록 합니다. 실증적 결과는 표준 유클리드 기반 기법이 실패하는 경우에도 EGGroW가 정확한 해를 제공하며, 이론적 분석이 예측하듯이 가벼운 계산량 발자국(computational footprint)을 특징으로 함을 보여줍니다.

원문 초록

\textit{Gromov-Wasserstein Distances} (GWDs) provide quantitative ways of comparing probabilistic distributions defined on different metric spaces by applying techniques from the optimal transport theory. As such, GWD can be potentially useful in a large variety of applications ranging from graph matching problems to 3D object detection. However its practical use at scale is significantly limited by cubic time complexity computations involving dense intra-space distance matrices. Even though in the Euclidean metric spaces several techniques (e.g. involving scalable kernel methods) were proposed to address it, to the best of our knowledge, analogous techniques for general geodesic distances on manifolds, or shortest-path distance on graphs in their discretized variants, were not developed. In this paper, we present \textbf{E}fficient \textbf{G}eodesic \textbf{Gro}mov-\textbf{W}asserstein methods (EGGroW), a new class of efficient algorithms designed to calculate geodesic Gromov-Wasserstein distances with entropic Sinkhorn-like approaches, leveraging recently introduced \textit{GenusSink} methods \citep{genussink} and the theory of random features. We provide important downstream applications, namely: 3D pose estimation and 3D template detection. In the latter setting, we formulate a partial 3D template recovery as a staged problem: capacity-constrained scene selection is followed by semi-relaxed recovery of template visibility and correspondence. Our empirical findings show that EGGroW provides accurate solutions when standard Euclidean-based techniques fail and is characterized by light computational footprint, as our theoretical analysis predicts.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2609.32824v2

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.02395v1cs.AI공통 태그 Computational Efficiency, optimal transport

FlashSinkhorn 2: 블록 희소 엔트로피 최적 수송

FlashSinkhorn 2: Block-Sparse Entropic Optimal Transport

FlashSinkhorn과 같은 엔트로피 최적 수송(EOT)을 위한 스트리밍 GPU 솔버는 밀집 커널 저장을 방지하지만, 여전히 모든 Sinkhorn 반복(iteration)마다 $n\times m$개의 모든 점 쌍을 평가합니다. 본 논문에서는 두 단계를 결합하여 단일 GPU에서 대규모 이산 EOT 문제를 규정된 한계 잔차까지 해결하는 저차원 포인트 클라우드 상의 제곱 유클리드 비용 솔버인 FlashSinkhorn 2(FS2)를 제시합니다. 대략적인 단계(coarse stage)에서는 셀 중심점에서 문제를 풀고 포텐셜을 모든 점으로 끌어올린(lift) 후, 샘플링된 한계 검사에서 리프트가 거부되면 중심점에서 계속 진행하여 대부분의 점 수준 업데이트를 대체합니다. 그런 다음 블록 희소 미세 단계(block-sparse fine stage)를 통해 대략적인 업데이트로 해결할 수 없는 중심점 오차를 제거합니다. 이 단계의 Morton 순서 블록은 스크리닝과 융합된 텐서 코어 실행을 지원하며, 블록 질량에 의해 설정된 임계값은 생략된 각 타일(tile)이 모든 행과 열에 미치는 기여도를 제한합니다. 합성 벤치마크에서 FS2는 32개 문제 전체에서 목표 잔차에 도달한 반면, GeomLoss 다중 스케일은 10개에서만 도달했습니다. 단일 A100에서 FS2는 우주론적 $N$-바디 시뮬레이션의 두 $1.34\times10^8$ 입자 측도 간 이산 EOT를 평균 입자 간 거리와 동일한 엔트로피 블러에서 2.5시간 이내에 0.01 미만의 전체 입자 한계 잔차로 해결합니다. 우리가 아는 한, 이는 몇 시간 내에 이 정도의 정확도로 해결된 가장 큰 이산 EOT 문제입니다. 재현성을 위해 오픈소스 구현체를 https://github.com/ot-triton-lab/flash-sinkhorn 에 공개합니다.

arXiv:2610.03283v1cs.RO공통 태그 Pose Estimation, Computational Efficiency

HexVIO: 상용 DSP를 활용한 하루 종일 지속 가능한 스테레오-관성 트래킹을 향하여

HexVIO: Towards All-Day Stereo-Inertial Tracking Through Commodity DSPs

기기가 주변 환경 내에서 스스로의 위치를 파악(localize)하는 능력은 공간 컴퓨팅(spatial computing)을 위한 필수적인 전제 조건입니다. 시각-관성 주행 거리 측정(VIO, Visual-inertial odometry)은 이 작업에 있어 비용 효율적이면서도 정확한 해결책임이 입증되었습니다. 효율적인 VIO 구현은 발열이 적고 더 가벼우며 저렴한 기기를 가능하게 하고 배터리 수명을 늘리며 사용자 경험을 향상시킬 수 있으므로 로봇, 웨어러블, XR 기기, 드론 등에서 큰 이점을 얻을 수 있습니다. 본 연구에서는 현대의 많은 스마트폰과 XR 기기에 탑재되어 있는 상용 코프로세서인 Hexagon DSP를 활용하여 VIO 시스템의 효율성을 향상시키는 방안을 제안합니다. 제안하는 접근법은 백엔드는 메인 CPU에 유지하면서 스테레오-관성 주행 거리 측정 시스템의 시각 프론트엔드를 DSP로 오프로드(offload)합니다. DSP 아키텍처에 맞게 구현을 최적화함으로써 CPU 단독 실행 대비 전력 소비와 지연 시간(latency)을 크게 줄였습니다. 본 연구의 시스템인 HexVIO는 상용 스마트폰에서 전력 소비를 67% 절감하거나 처리량(throughput)을 86% 증가시킬 수 있음을 입증하였으며, 0.83 W의 전력으로 실시간 30 fps 트래킹을 장시간 유지할 수 있어 테스트 기기 기준으로 약 18시간 동안 트래킹이 가능합니다. 이러한 결과는 로보틱스 및 모바일 기기에서 하루 종일 지속 가능한 시각-관성 트래킹을 구현하는 데 있어 상용 DSP의 잠재력을 잘 보여줍니다.

arXiv:2609.27633v2cs.LG공통 태그 Computational Efficiency, optimal transport

Pheno-GS: Phenoscape 규모의 지오데식 싱크혼

Pheno-GS: Phenoscape-scale Geodesic Sinkhorn

고처리량 단일 세포 데이터는 이제 대규모 환자 코호트 전반에 걸쳐 수집되고 있다. 세포 수준 데이터로부터 환자 수준의 이질성을 이해하려는 동기에서 phenoscaping이 등장했는데, 이는 각 단일 세포 분포를 하나의 "데이터 포인트"로 임베딩(embedding)하고 그 사이의 거리를 최적 수송(optimal transport, OT)으로 정의하는 방식이다. 모든 환자 데이터셋 쌍 사이에서 이러한 규모로 기하 구조를 반영하는 OT를 계산하는 것은 여전히 해결되지 않은 과제로 남아 있다. 기존 방법은 매니폴드 구조를 왜곡하는 유클리드 그라운드 메트릭에 의존하거나, 희소하거나 불균등하게 샘플링된 데이터 또는 대규모 데이터에서 제대로 작동하지 않기 때문이다. 본 논문에서는 노이즈가 있고 불균형(unbalanced)하며 대규모인 환경에서도 정확하고 확장 가능한 지오데식 수송 거리를 계산하는 \textbf{Pheno-GS}(Phenoscape-scale Geodesic Sinkhorn)를 제안한다. Pheno-GS는 세 가지 구성 요소로 이루어진다. ($1$) 희소하거나 연결이 끊어진 매니폴드에서도 지오데식이 잘 정의되도록 하는 그래프 연결성 정규화(regularization), ($2$) KL 주변 분포(marginal) 페널티를 통한 불균형 OT 정식화, ($3$) 한 번의 열 확산(heat diffusion)으로 모든 쌍별 거리를 계산하는 배치 행렬 알고리즘(분포 $500$개 기준 Geodesic Sinkhorn보다 $200 \times$ 이상 빠름). 우리는 합성 벤치마크와 CyTOF 섭동(perturbation) 데이터셋(dataset)에서 Pheno-GS를 검증한다.

arXiv:2610.01013v1cs.CV공통 태그 Pose Estimation, Computational Efficiency

VASC: 효율적인 3D 재구성을 위한 교차 층 메모리 기반 값 인식 희소 어텐션

VASC: Value-Aware Sparse Attention with Cross-Layer Memory for Efficient 3D Reconstruction

VGGT와 같은 피드포워드 3D 비전 모델은 단일 패스로 카메라 추정과 조밀한 장면 재구성을 통합하며 괄목할 만한 진전을 이루었습니다. 그러나 이들의 2차 복잡도(quadratic) 전역 어텐션(attention)은 긴 이미지 시퀀스를 처리할 때 큰 비용을 초래하며, 기존 희소화 기법들은 어텐션 점수는 높지만 값(value) 측면에서는 중복적인 영역을 선호하는 경향이 있습니다. 이러한 한계를 해결하기 위해, 본 논문에서는 값 인식 블록 선택과 실행 인식 교차 층(cross-layer) 메모리를 결합한 무학습(training-free) 희소 어텐션 기법인 VASC를 제안합니다. 제안하는 값 인식 블록 선택은 풀링된 쿼리-키(query-key) 관련성과 인접 값 대비(contrast)를 통합하여 쿼리 관련성이 높고 독특한 콘텐츠를 보존하면서도 중복성을 줄입니다. 교차 층 메모리는 층 전반에서 충족되지 않은 요구를 추적하고 실제 실행에 따라 이 상태를 업데이트하여, 이전에 제대로 처리되지 못한 블록들이 고정된 계산 예산 내에서 경쟁할 수 있도록 지원합니다. VGGT 및 $\pi^3$를 활용하여 7Scenes 및 NeuralRGB-D에서 진행한 실험에 따르면, FasterVGGT 대비 향상된 포즈 추정 및 재구성 품질을 보여주었으며, 조밀한(dense) VGGT 대비 최대 2.29배 빠른 추론(inference) 속도를 달성했습니다. 코드는 https://github.com/kosakayamahoo-design/VASC 에서 확인할 수 있습니다.

arXiv:2609.27033v1cs.LG공통 태그 Computational Efficiency, optimal transport

WTF?! Wasserstein-Tilted Flow Maps를 이용한 시뮬레이션 없는 강화학습

WTF?! Simulation-Free Reinforcement Learning with Wasserstein-Tilted Flow Maps

보상 미세조정은 사전학습된 플로 기반 생성 모델을 갱신하여 생성 샘플의 하류 보상을 높이는 것을 목표로 한다. 기존 방법들은 대개 이 문제를 보상 기울임(reward-tilted) 분포에서의 샘플링, 즉 KL 정규화된 보상 최대화 문제의 해로 공식화한다. 본 연구에서는 사전학습된 drift로부터 직접 구성한 최적 수송(optimal transport) 정규화 항을 도입한다. KL 보상 기울임과 달리, 이렇게 얻은 목적 함수는 기본 분포를 재가중하는 대신 개별 샘플을 더 높은 보상 쪽으로 수송한다. 우리는 이 문제가 플로 상의 결정론적 최적 제어 문제와 동등함을 보인다. 사전학습된 플로 맵이 주어지면, 이 동등성은 생성 플로 미세조정을 위한 시뮬레이션 없는(simulation-free) 강화학습 알고리즘을 제공한다. 이 프레임워크를 Wasserstein-Tilted Flow Maps(WTF)라 부르며, 이는 플로 맵에 고유한 최초의 end-to-end 미세조정 레시피이다. 그 결과로 얻는 것은 사후 증류(post-hoc distillation) 없이도 적은 스텝 추론 예산에서 강한 보상 정렬 성능을 유지하는 미세조정된 플로 맵이다. ImageNet-256 및 text-to-image 실험에서 WTF는 기준선과 비교해 동등하거나 더 높은 다양성을 유지하면서 더 높은 보상을 달성하며, 학습 연산량은 최대 $280\times$만큼 적게 든다. 더 넓게, 플로 맵과 같은 가속 샘플러는 효율적인 사후 학습을 위한 필수 인프라이며, 지배적인 KL 정규화 공식화는 재검토할 가치가 있는 여러 선택지 중 하나에 불과하다고 주장한다.

arXiv:2609.26590v2cs.CV공통 태그 Pose Estimation, Computational Efficiency

GTR: 효율적인 밀집 예측을 위한 게이트 토큰 순환

GTR: Gated Token Recurrence for Efficient Dense Prediction

셀프 어텐션 기반 비전 백본은 밀집 예측에서 우수한 성능을 보이지만, 전역 소프트맥스 어텐션의 이차 계산 비용은 이미지 해상도가 커질수록 효율성을 제한한다. 본 연구는 게이트 선형 어텐션, 교대하는 공간 스캔 방향, 공간적으로 강화된 SwiGLU 블록을 결합한 소프트맥스 없는 순환 비전 백본인 Gated Token Recurrence(GTR)를 제안한다. GTR은 마스크드 토큰 예측이나 중간 층 지도 없이, 선형 투영과 제곱 $\ell_2$ 손실을 통한 최종 층 패치-토큰 정렬만으로 검출 특화 DINOv3 교사 모델로부터 지식 증류된다. Objects365 검출기 사전학습을 적용한 GTR-L은 RTX~4090에서 컴파일된 FP16 실행 하에 배치 1 중앙값 지연 1.908\,ms로 COCO \texttt{val2017}에서 box AP 58.9를 달성한다. 동일 백본은 인스턴스 분할, 자세 추정, 방향 검출, 의미 분할, 단안 깊이 추정으로도 전이된다. 격리된 커널 벤치마크에서, 우리의 특화 chunkwise CUDA 연산자는 RTX~4090에서 1.6K 토큰 기준 FLA v0.5.0보다 $4.0\times$ 빠르다. DRIVE AGX Thor에서의 TensorRT 엣지 배포는 평가한 모델 전반에 걸쳐 배치 1 중앙값 지연 2.282--8.769\,ms를 달성한다. 이 결과는 순환 토큰 혼합이 고해상도 밀집 예측과 엣지 배포에서 전역 소프트맥스 어텐션에 대한 효율적인 대안이 될 수 있음을 보여준다. Project page: https://intellindust-ai-lab.github.io/projects/GTR/

토론

이 논문과 연결된 포럼 글이 아직 없습니다.