VLM 저수준 비전 표현에서의 기하학적 유사성
Geometric Similarity in VLM Low-Level Vision Representations
비전-언어 모델(Vision-Language Model, VLM)은 범용 비전 백본(backbone)의 강력한 후보로 부상했으며, 대표적인 아키텍처로는 자기회귀(autoregressive, AR) 모델과 디퓨전 트랜스포머(diffusion transformer, DiT)가 있다. 그러나 이들을 올인원(all-in-one) 저수준 이미지 복원(low-level image restoration)에 효율적으로 적용하는 것은 여전히 과제로 남아 있다. 특히, VLM이 은닉층(hidden-layer) 표현을 어떻게 조직하는지, 그리고 이처럼 구조적으로 서로 다른 패러다임들이 픽셀 수준 지각(pixel-level perception)에 대해 공통된 기하학적 조직을 공유하는지에 대한 이해가 이 분야에 부족하다. 이러한 공유된 조직은 높은 전이 가능성(transferability)을 지닌 통합 복원 VLM 및 어댑터(adapter)를 구축하기 위한 전제 조건이다. 본 논문에서는 5개 범주에 걸친 24개의 저수준 과제(task)에 대해 표현 유사성(representational similarity)을 체계적으로 조사한다. 우리는 전역 유사성(global similarity), 지역 기하(local geometry), 희소 특징(feature) 분해, 위상학적 검증(topological verification)의 관점에서 과제 조건화(task-conditioned)된 표현을 분석하는 통합 4단계 프레임워크인 GeoSim을 제안한다. 본 formulation은 동일 과제/모델(model) 및 교차 과제/모델 설정 모두에서 AR 모델의 은닉 상태(hidden state)와 DiT의 특징(feature) 맵 분석에 적용된다. 연구 결과는 저수준 시각 표현의 조직화 원리를 밝히는 동시에, 교차 과제 및 교차 모델 일치성(agreement)의 한계를 드러낸다. 궁극적으로 GeoSim은 저수준 비전에서의 잠재적 전이 가능성을 탐구하고, 과제별 또는 모델별 시나리오에서 모델의 한계를 진단하기 위한 해석 가능성(interpretability) 관점을 제공한다.