PyTorchKR Papers

최신 논문

총 4편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.00855v1cs.CV

Lang3DSeg: 포인트 트랜스포머 기반의 주석 없는 오픈 보캐블러리 3D 분할

Lang3DSeg: Annotation-Free Open-Vocabulary 3D Segmentation with Point Transformers

정확한 3D 시맨틱 인지는 안전한 자율 주행에 매우 중요합니다. 그러나 지도학습 기반 LiDAR 분할(segmentation)은 닫힌 분류 체계(closed taxonomy)와 포인트별 수동 주석(annotation) 비용에 여전히 얽매여 있습니다. 오픈 보캐블러리(open-vocabulary) 방식은 2D 비전-언어 모델(vision-language model)의 출력을 LiDAR에 투영하고 이를 3D 네트워크로 증류함으로써 이러한 비용을 피합니다. 이러한 방식들은 거의 전적으로 복셀 기반 희소 합성곱(sparse convolution)에 의존하며, 포인트 트랜스포머(point transformer)는 지금까지 3D 데이터가 조밀하고 경계가 제한된 실내 환경으로 국한되어 왔습니다. 본 논문에서는 포인트 트랜스포머를 실외 3D LiDAR의 주석 없는(annotation-free) 오픈 보캐블러리 분할 백본으로 확립하고, 기하학적 사전학습(pre-training) 없이 처음부터 학습(training)하는 Lang3DSeg를 제시합니다. 이러한 학습 패러다임은 2D-to-3D 레이블 투영에 내재된 노이즈를 해결해야만 합니다. 구체적으로 단순한 투영은 깊이 모호성(depth ambiguity)으로 인해 물체 뒤에 있는 포인트에 해당 물체의 시맨틱 레이블이 잘못 할당되는 문제가 자주 발생합니다. 따라서 본 연구에서는 명시적인 클래스 우선순위 규칙을 사용해 마스크를 합성하고, 투영된 각 인스턴스를 깊이 분포의 첫 번째 간극에서 잘라냄으로써(truncate), 정합된 시퀀스 전체에 걸쳐 평균을 내는 대신 투영 오류를 직접적으로 보정합니다. Lang3DSeg는 nuScenes 검증(validation)에서 52.8% mIoU, SemanticKITTI에서 41.4%를 달성하여 두 벤치마크 모두에서 발표된 주석 없는 방법 중 가장 높은 성능을 기록했습니다. 모든 3D 시맨틱 분할은 단일 LiDAR 스윕(sweep)에서 수행되며, 추론(inference)은 비전-언어 모델을 실행하지 않고 실시간으로 동작합니다.

arXiv:2605.15088v2cs.CV

그래프-트랜스포머 백본을 활용한 3D 키포인트 검출을 위한 학습 기반 억제 기법

Learned Suppression for 3D Keypoint Detection with a Graph-Transformer Backbone

3D 키포인트 검출은 컴퓨터 비전(CV) 분야에서 오랫동안 지속되어 온 난제입니다. 대부분의 검출기는 학습되지 않은 휴리스틱 후처리 단계로 마무리됩니다. 본 논문에서는 방향성 그래프 신경망으로 확장한 Point Transformer 백본과 결합하여, 학습 기반 억제 모듈로 이러한 후처리 단계를 개선한 3D 키포인트 검출기를 제안합니다. 이 모듈은 후보군을 대상으로 어떤 것을 유지하고 어떤 것을 억제할지, 그리고 남은 키포인트를 어떻게 재배치할지 학습하는 그래프 네트워크입니다. 세 가지 백본과 결합했을 때, DBSCAN 및 탐욕적 비최대 억제(NMS) 대비 성능을 향상시키며, 원시 기하학 정보 대신 후보 특징을 기반으로 작동하므로 구조적 키포인트와 의미론적(semantic) 키포인트 모두에 동일한 정식화가 적용됩니다. 제안하는 모델은 16개의 KeypointNet 카테고리 중 12개에서 카테고리별로 학습된 KeypointDETR을 능가하고, Building3D Entry-Level 벤치마크에서 최고 Corner F1을 달성하며, 더 큰 Tallinn 분할 데이터셋에서도 BWFormer와 대등한 경쟁력을 유지합니다. GitHub 구현체: https://github.com/cansdev/learned-suppression-3d.

arXiv:2606.24433v1cs.CV

MedPCFM: 포인트 트랜스포머와 플로우 매칭을 통합한 의료 포인트 클라우드 완성 개선

MedPCFM: Improving Medical Point Cloud Completion by Integrating Point Transformers and Flow Matching

의료 포인트 클라우드 완성(medical point cloud completion)은 해부학적 재건과 다운스트림 임상 워크플로우에 중요하지만, 이 환경에서의 생성 모델링은 아직 충분히 연구되지 않았다. 우리는 연속 시간 생성 모델링을 통한 완성을 연구하고, 의료 포인트 클라우드 완성을 위한 PTv3 기반 플로우 매칭(flow matching) 접근법인 PCFM을 제안한다. 우리는 SkullFix와 SkullBreak, 그리고 최근 공개된 Mandibular Defect 데이터셋에서 평가를 수행한다. PTv3를 결정론적 인코더-디코더 완성 모델에 적용하고, PVCNN과 PTv3 디노이저를 모두 사용하는 확산 완성(PCDiff)을 구성함으로써 강력한 기준선을 구축한다. PTv3를 적용한 PCFM은 결정론적 PTv3 기준선과 경쟁력 있는 성능을 보이며, 확산 대비 훨씬 적은 샘플링 스텝으로 데이터셋 전반에 걸쳐 최고 수준의 생성 성능을 달성한다. 최적 운영 지점에서 PTv3는 명확한 처리량 향상도 제공하며, PVCNN 백본 대비 PCFM에서 최대 7배의 속도 향상을 달성한다. 마지막으로, 모델 크기와 포인트 기수(point cardinality)를 변화시키며 경험적 스케일링 추세를 연구하고, 더 높은 포인트 해상도에서 일관된 성능 향상과 모델 스케일 간의 유의미한 트레이드오프를 보여준다.

arXiv:2606.20437v1hep-ex

HEPTv2: 대전 입자 재구성을 위한 엔드-투-엔드 효율적 포인트 트랜스포머

HEPTv2: End-to-End Efficient Point Transformer for Charged Particle Reconstruction

대전 입자 추적(tracking) -- 희소한 검출기 측정값으로부터 궤적을 재구성하는 것 -- 은 기본적인 고에너지 물리학 추론(inference) 문제이자 극단적인 조합적 모호성(combinatorial ambiguity) 하에서의 학습을 위한 전형적인 예시입니다. 고휘도 대형 하드론 충돌기(HL-LHC)에서는 전례 없는 충돌 밀도에도 불구하고 추적(tracking)이 정확하고 효율적으로 유지되어야 합니다. 그래프 신경망(GNN)은 강력한 성능을 보이지만 그래프 구성 및 처리에 따른 상당한 비용이 발생하며, 트랜스포머(transformer) 기반 접근 방식은 엔드-투-엔드 최적화를 방해하는 보조 단계에 의존합니다. 이를 해결하기 위해, 우리는 검출기 히트(hits)로부터 트랙을 하나의 학습 가능한 파이프라인에서 재구성하는 엔드-투-엔드 포인트 트랜스포머(transformer) 아키텍처인 HEPTv2를 제시합니다. HEPTv2는 그래프 빌딩, 클러스터링, 또는 필터링 없이 완전한 궤적을 예측하는 트랙 디코더와 지역성 인식 포인트 인코더를 결합합니다. 인코더는 효율적인 로컬 어텐션(attention)을 가능하게 하면서 추적(tracking) 관련 기하학을 보존하기 위해 검출기 좌표 공간에서 지역성 민감 해싱(LSH)을 사용합니다. 디코더는 결합된 인코더-디코더 감독 하에서 섹터화된 디코딩과 직접적인 히트-투-트랙(hit-to-track) 예측을 통해 모호성을 해결하여, 전체 파이프라인이 엔드-투-엔드로 최적화될 수 있도록 합니다. TrackML 데이터셋에서 HEPTv2는 0.8%의 가짜 비율(fake rate)에서 98.6%의 이중 과반수 추적 효율을 달성했으며, NVIDIA A100 GPU에서 이벤트당 약 15ms의 추론(inference) 시간과 0.4GB의 피크 메모리만을 필요로 합니다. 최대 $5\times10^5$ 개의 히트(hits)를 포함하는 이벤트의 경우 지연 시간과 메모리 사용량은 거의 선형적으로 증가합니다. HEPTv2는 정확도-지연 시간 트레이드오프(trade-off)에서 새로운 최첨단(SOTA)을 확립했으며, 가장 강력한 기존 트랜스포머(transformer) 대비 효율성을 4.5%, 최적화된 그래프 기반 파이프라인 대비 1.1--2.2% 향상시키는 동시에 지연 시간을 각각 7배, 38--52배 단축했습니다. 이러한 결과는 엔드-투-엔드 트랜스포머(transformer)가 HL-LHC에서 실시간 입자 재구성에 필요한 정확도와 효율성을 제공할 수 있음을 보여줍니다.