쌍곡 비전-언어 모델을 위한 계층적 프롬프트 학습
Hierarchical Prompt Learning for Hyperbolic Vision-Language Models
쌍곡 비전-언어(vision-language) 모델(VLM)은 계층 구조에 자연스럽게 적합한 기하학적 공간에서 이미지와 텍스트 특징을 표현하지만, 다운스트림 작업으로의 적응은 주로 고정된 프롬프트(prompt)에 의존해 왔습니다. 반면 기존의 프롬프트 학습 방법들은 클래스 레이블을 평면적인 집합으로 다루며 활용 가능한 분류 체계(taxonomic) 구조를 활용하지 못합니다. 본 논문에서는 고정된(frozen) 쌍곡 VLM을 위한 계층적 프롬프트 학습 플러그인을 통해 이러한 간극을 해결합니다. 고정된 오프라인 부모-클래스 계층 구조가 주어지면, 클래스 프롬프트 학습기에 별도의 부모 프롬프트 학습기, 부모 수준의 지도(supervision), 쌍곡 함의 정규화(regularization), 그리고 부모 피드백 로짓(logit) 융합을 추가하여 확장합니다. 본 연구는 이 방식을 CoOp, CoCoOp, MaPLe에 적용하여 각각 HyPLO, CoHyPLO, MaHyPLO를 구현했습니다. 표준 11개 데이터셋(dataset) 벤치마크 전반에서 모든 변형 모델은 베이스-신규(base-to-new) 일반화 및 데이터셋 간 전이 성능을 향상시키며, 도메인 시프트(domain shift) 상황에서도 기존 프롬프트 학습 베이스라인과 대등한 성능을 유지합니다. 6가지 계층적 지표와 임베딩(embedding) 분석 결과, 본 방법이 분류 체계 측면에서 더 일관된 예측을 생성하며 쌍곡 공간에서 부모, 클래스, 이미지 임베딩 간의 계층 일관적인 구조화를 유도함을 보여줍니다. 성능 향상은 새로운 클래스를 고정된 분류 체계 내에 배치해야 할 때 가장 컸으며, 형제 클래스 간의 미세한 혼동이나 이미지 분포에만 영향을 미치는 시프트의 경우에는 가장 작았습니다.