ece.au.dk

이 이메일 도메인이 관측된 논문 2건

arXiv:2609.24276v1cs.CV

쌍곡 비전-언어 모델을 위한 계층적 프롬프트 학습

Hierarchical Prompt Learning for Hyperbolic Vision-Language Models

쌍곡 비전-언어(vision-language) 모델(VLM)은 계층 구조에 자연스럽게 적합한 기하학적 공간에서 이미지와 텍스트 특징을 표현하지만, 다운스트림 작업으로의 적응은 주로 고정된 프롬프트(prompt)에 의존해 왔습니다. 반면 기존의 프롬프트 학습 방법들은 클래스 레이블을 평면적인 집합으로 다루며 활용 가능한 분류 체계(taxonomic) 구조를 활용하지 못합니다. 본 논문에서는 고정된(frozen) 쌍곡 VLM을 위한 계층적 프롬프트 학습 플러그인을 통해 이러한 간극을 해결합니다. 고정된 오프라인 부모-클래스 계층 구조가 주어지면, 클래스 프롬프트 학습기에 별도의 부모 프롬프트 학습기, 부모 수준의 지도(supervision), 쌍곡 함의 정규화(regularization), 그리고 부모 피드백 로짓(logit) 융합을 추가하여 확장합니다. 본 연구는 이 방식을 CoOp, CoCoOp, MaPLe에 적용하여 각각 HyPLO, CoHyPLO, MaHyPLO를 구현했습니다. 표준 11개 데이터셋(dataset) 벤치마크 전반에서 모든 변형 모델은 베이스-신규(base-to-new) 일반화 및 데이터셋 간 전이 성능을 향상시키며, 도메인 시프트(domain shift) 상황에서도 기존 프롬프트 학습 베이스라인과 대등한 성능을 유지합니다. 6가지 계층적 지표와 임베딩(embedding) 분석 결과, 본 방법이 분류 체계 측면에서 더 일관된 예측을 생성하며 쌍곡 공간에서 부모, 클래스, 이미지 임베딩 간의 계층 일관적인 구조화를 유도함을 보여줍니다. 성능 향상은 새로운 클래스를 고정된 분류 체계 내에 배치해야 할 때 가장 컸으며, 형제 클래스 간의 미세한 혼동이나 이미지 분포에만 영향을 미치는 시프트의 경우에는 가장 작았습니다.

arXiv:2608.03490v1cs.RO

Mamba 기반 지식 증류를 통한 경량 3D 객체 검출

Lightweight 3D Object Detection via Mamba-Based Knowledge Distillation

라이다(LiDAR) 센서를 활용한 3D 객체 검출(3D object detection)은 자율주행 및 로봇 내비게이션의 온보드 인지를 위해 정확도와 연산 효율성 간의 균형을 필요로 합니다. 기존의 많은 라이다 기반 검출 방법은 복잡한 아키텍처를 적용하여 특징(feature)을 추출하고 대량의 문맥 정보를 통합하여 정확도를 높입니다. 이는 종종 상당한 연산 비용을 초래하여 자원이 제한된 임베디드 기기에서 차선의 성능을 보이는 결과를 낳습니다. 본 연구에서는 선택적 복셀 공간 특징 정렬을 통해 강력한 교사 모델(teacher model)의 객체 수준 복셀 표현을 경량 학생 모델로 전달하는 지식 증류(knowledge distillation) 프레임워크를 제안합니다. 선택적 상태 공간을 갖춘 선형 시간 시퀀스 모델인 Mamba의 이점을 활용하여, 다중 브랜치 Mamba 교사 백본과 Mamba 기반 프로젝션 모듈을 통해 교사 및 학생 네트워크 간의 공간적으로 대응하는 복셀 특징을 정렬하는 박스 인지 특징 전달 메커니즘을 설계합니다. 공개 데이터셋(dataset)과 실제 환경 데이터 모두에 대한 실험 결과는 본 접근 방식이 최첨단 방법들과 비교하여 경쟁력 있는 정확도를 유지하면서도 연산 부하를 크게 줄임을 보여줍니다.