Towards Adapting ImageNet to Reality: Scalable Domain Adaptation with Implicit Low-rank Transformations
원문 초록
Images seen during test time are often not from the same distribution as images used for learning. This problem, known as domain shift, occurs when training classifiers from object-centric internet image databases and trying to apply them directly to scene understanding tasks. The consequence is often severe performance degradation and is one of the major barriers for the application of classifiers in real-world systems. In this paper, we show how to learn transform-based domain adaptation classifiers in a scalable manner. The key idea is to exploit an implicit rank constraint, originated from a max-margin domain adaptation formulation, to make optimization tractable. Experiments show that the transformation between domains can be very efficiently learned from data and easily applied to new categories. This begins to bridge the gap between large-scale internet image collections and object images captured in everyday life environments.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
PAGER: 기하학적 및 관계적 증류를 통한 부분-전역 정렬
PAGER: Partial-to-global Alignment via Geometric and Relational Distillation
사전학습(pre-training)된 3D 인코더는 일반적으로 일관된 월드 좌표계로 표현되는 전역적으로 재구성된 씬을 기반으로 개발되는 반면, 체화된(embodied) 시스템은 카메라 좌표계의 부분적이고 시점에 의존적인 관측으로부터 추론(inference)해야 합니다. 본 연구에서는 전역적으로 학습(training)된 3D 특징(feature) 공간에서 실제적인 부분 관측으로의 이러한 전환이 심각한 표현 불일치를 유발함을 보여주며, Sonata와 Concerto를 포함한 대표적인 최신(state-of-the-art) 인코더 전반에서 이러한 현상이 일관되게 나타남을 확인했습니다. 전역 선형 프로브를 장착하고 고정된(frozen) Sonata 인코더는 전체 ScanNet 씬에서 72.47 mIoU를 달성하지만, 단일 프레임 카메라 좌표 입력에서는 2.57 mIoU에 그칩니다. 학습이 필요 없는 중력 정렬(gravity alignment)을 적용하면 성능이 41.64 mIoU로 복구되어, 좌표계 불일치가 성능 저하의 주된 요인이지만 정규화(canonicalization)만으로는 완전히 해결될 수 없음을 보여줍니다. 이에 본 논문에서는 쌍을 이루는 부분/전역 기하 정보만을 사용하여 부분 시점 특징을 고정된 전역 3D 시맨틱 공간과 정렬하는 레이블 불필요 적응(adaptation) 방법인 PAGER를 제안합니다. PAGER는 사전학습된 인코더와 전역 세그멘테이션 프로브를 고정한 채 경량 적응 모듈을 학습합니다. 일치 지점 특징 정렬(matched-point feature alignment)은 부분 특징을 대응하는 전역 특징에 고정(anchor)하고, 관계적 감독(relational supervision)은 전역 표현에 대한 유사도 구조를 보존합니다. 전역 기하 정보는 오직 학습 중에만 감독을 제공하며, 추론은 부분 관측에서 직접 동작합니다. 부분 시점 레이블 없이도 PAGER는 Sonata와 Concerto 모두에서 레이블 기반 지도 학습 PEFT보다 뛰어난 성능을 보이며, ScanNet$\rightarrow$ScanNet++ 제로샷(zero-shot) 전이에서는 완전 파인튜닝(fine-tuning)된 Sonata를 능가하여($53.93$ 대 $48.09$ mIoU), 고정된 전역 표현을 보존하는 것이 데이터셋 간 전이 능력을 향상시킬 수 있음을 시사합니다.
채우기 후 진전: 시나리오 특화 원격 탐사 MLLM을 위한 역량 격차 주도 사후 학습
Filling Before Advancing: Capability-Gap-Driven Post-Training for Scenario-Specialized Remote Sensing MLLMs
원격 탐사 다중 모달 대규모 언어 모델(RS-MLLM)은 일반적인 항공 영상 이해를 향상시켰다. 그러나 지구 관측 응용은 미세한 시나리오 특화를 요구하며, 고품질 시나리오 데이터의 부족과 불완전한 역량 커버리지에 제약을 받는다. 우리는 이러한 적응을 역량 격차 주도 사후 학습 문제로 공식화하고 채우기 후 진전(FBA)을 제안한다. 목표 도메인 샘플에 대한 단일 단계 지도 미세조정(SFT)에 의존하는 대신, FBA는 시나리오 특화를 향해 진전하기 전에 선행 역량 격차를 먼저 메운다. 우리는 대표적인 다중 소스 시나리오인 해안 항만 이해를 위해 CPRS(Coastal-Port Remote Sensing)를 구성하여 FBA를 구현한다. CPRS는 세 층의 지도 데이터셋으로, 다음 세 단계의 순차적 파이프라인과 결합된다: (1) 조감도 시각-언어 정렬을 위한 RS 의미 앵커링; (2) 서로 다른 모달리티 하에서 목표 및 브리징 시나리오 간 공유 RS 사전 지식(prior)의 도메인 브리지 수렴; (3) 하류 성능을 위한 근거 기반 시나리오 튜닝. 우리는 지각, 공간 이해, 견고성, 생성을 포괄하는 8개 트랙 진단 벤치마크 HarborEval을 구축한다. 동등한 학습 예산 하에서 HarborEval 점수는 LLaVA-v1.5에서 Direct-SFT의 57.95에서 FBA의 70.29로, Qwen3-VL에서는 81.09에서 83.37로 향상된다. FBA는 Collapsed-SFT도 능가하며, 항만 관련 VRSBench/RSVQA 부분집합과 OpenEval에서도 선두를 달린다. 단계별 및 역할 대체 분석은 점진적 격차 메우기와 단계별 역할을 검증한다. CPRS, HarborEval, 코드, 학습된 가중치에 대한 공개 예시 및 릴리스 업데이트는 https://github.com/Z0ngL1ng/filling-before-advancing 에서 확인할 수 있다.
스마트폰 기반 보조 내비게이션을 위한 안전 지향 인도 및 도로 분할
Safety-oriented sidewalk and road segmentation for smartphone-based assistive navigation
독립적인 인도 이동은 시각장애 및 저시력 보행자(BVIP)에게 필수적이지만, 스마트폰 기반 보조 내비게이션은 보행 가능한 인도와 인접한 위험 구역을 구분하는 지각 모델이 필요하다. 본 연구는 미래 모바일 안내를 위한 안전 지향 의미 분할(semantic segmentation) 프레임워크를 제시한다. 우리는 2,752개의 이미지-마스크 쌍과 9개 클래스의 내비게이션 관련 분류 체계를 갖춘 가슴 높이 보행자 시점 데이터셋 SENSATION-DS를 소개한다. 외부 도시 및 인도 데이터셋을 이 레이블 공간에 맞게 조화했으며, 마스크 조건 합성 이미지와 Segment Anything Model 2(SAM2) 의사 레이블을 사용한 단계적 타깃 도메인 적응(staged target-domain adaptation)으로 5가지 분할 아키텍처를 평가했다. 모델은 평균 교차율(mIoU), 도로 및 인도 특화 지표, 대리 거짓 안전(proxy false-safe) 척도인 Road-as-Sidewalk Error Rate, Android Open Neural Network Exchange(ONNX) 벤치마킹으로 평가되었다. 합성 증강은 일반적으로 분할 정확도를 향상시켰으며, SAM2 의사 레이블은 Road-as-Sidewalk 오류를 더 일관되게 감소시켰다. UPerNet-MobileNetV3는 최고 오프라인 mIoU(0.715 ± 0.006)를 달성했으며, DeepLabV3Plus-MobileNetV3는 최저 Road-as-Sidewalk Error Rate(0.079)와 512×384 해상도에서 최고 Android 런타임(7.383 FPS)을 달성했다. 이 결과는 보조 인도 지각이 분할 정확도, 대리 거짓 안전 행동, 스마트폰 배포 가능성을 함께 평가해야 함을 보여주며, 실제 세계적 이득은 BVIP 사용자와의 검증이 필요하다. 이 평가는 정확한 지각, 보수적 오류 행동, 실용적 런타임의 균형을 맞추는 모델 선택을 뒷받침한다.
Spatial-IQ: 계층적 능력 테스트를 통한 공간 지능 분해
Spatial-IQ: Deconstructing Spatial Intelligence via Hierarchical Capability Tests
다중모달 대규모 언어 모델(MLLM)은 시각 해석에는 뛰어나지만, 인간이 안정적으로 풀 수 있는 공간 추론 과제에서는 실패한다. 기존 벤치마크는 이러한 모델을 블랙박스로 평가하여 낮은 성능의 근본 원인을 식별하는 능력을 제한한다. 모델이 공간 추론 과제에서 실패할 때, 그 장애가 객체 경계 인식과 같은 지각(perceptual) 문제인지, 가려짐에 대해 추론하여 숨겨진 기하를 추론하는 것과 같은 인지(cognitive) 문제인지 판별하기 어렵다. 우리는 Spatial-IQ를 제안한다. 이는 쌓인 3D 구조에서의 객체 개수 세기를 인간 공간 인지의 발달 단계에 따라 구성된 9개의 지각·인지 하위 과제로 분해하는 계층적 진단 프레임워크이며, 정신 회전(mental rotation)을 추가 목표 프로브로 포함한다. NVIDIA Isaac Sim을 사용하여 과제별 ground truth를 갖춘 약 80,000개의 다양한 쌓인 3D 구조 데이터셋을 절차적으로 생성했다. 자유 응답 텍스트, 객관식 이미지, 이미지 편집의 세 가지 출력 형식과 인간 기준선을 함께 사용하여 모델을 평가한다. Spatial-IQ 프레임워크는 최고 성능 모델이 종종 목표 과제(객체 개수 세기)를 뒷받침하도록 의도된 하위 수준 하위 과제에는 성공하지 못한 채 목표 과제에서 성공하는 경우가 많으며, 모델마다 이러한 계층적 연쇄를 얼마나 유지하는지가 다르다는 것을 보여준다. 이는 목표 과제 정확도만으로는 드러나지 않을 지름길(shortcut) 행동을 종종 드러낸다. 마지막으로, 계층적 하위 과제에 대한 사고의 연쇄(Chain-of-Thought, CoT) 감독과 검증 가능 보상을 이용한 강화학습을 결합하여 모델을 학습하면, 하위 과제 간 공간적 일관성과 목표 과제 정확도가 모두 크게 향상됨을 보여준다. 이는 제안한 분해가 진단 도구이자 학습 신호 모두로서 가치 있음을 뒷받침한다.
고�급 거리 수준 영상을 활용한 시각적 위치 추정의 정확도 잠재력
Accuracy potential of visual localization exploiting high-end street-level imagery
측량, 자율 항법, 로보틱스, 증강현실 등 많은 응용에는 기준 좌표계에 대한 정확한 자세 정보가 필요하다. 시각적 위치 추정은 가용성과 정확도가 자주 제한되는 GNSS 위치 결정을 보완할 수 있다. 그러나 시각적 위치 추정의 정확도 잠재력은 측량급 요구 사항에 비추어 체계적으로 조사된 적이 없으며, 그러한 조사에 충분히 정확한 정답 자세를 제공하는 공개 대규모 야외 데이터셋도 없다. 우리는 이 두 공백을 모두 다룬다. 첫째, FHNW Muttenz 데이터셋을 제시한다. 이는 약 1.5년 간격의 두 차례 모바일 매핑 캠페인으로 매핑된 연속 10 km 도로망을 포괄하며, 고해상도 기준 영상과 다섯 장면에서 네 대의 카메라로 촬영한 질의 시퀀스를 포함한다. 두 캠페인은 서로 5 mm의 정확도로 정합된다. 질의 영상을 기준 영상에 정합하면 위치 6-9 mm, 방향 0.1{\deg} 훨씬 미만의 정확도를 갖는 정답 자세가 얻어진다. 모든 영상은 약 2.5 cm의 정확도로 지오레퍼런싱되어 있다. 둘째, 이 데이터셋을 사용하여, 검증된 구성요소로 만든 모듈식 파이프라인으로 희소 특징 기반 시각적 위치 추정을 체계적으로 평가하며, 고해상도 기준 영상을 장면 표현으로 직접 사용한다. 주간 영상과 사전 보정된 카메라에서 기준 영상에 대한 자세 오차의 중앙값은 이동 1-5 cm, 회전 0.03-0.1{\deg}이다. 정확하게 지오레퍼런싱된 장면 표현이 주어지면, 시각적 위치 추정은 측량급 GNSS 위치 결정의 정확도에 근접할 뿐 아니라 전체 방향 정보도 제공한다. 데이터셋은 https://fhnw-muttenz-vl-dataset.github.io/ 에서 공개되어 있다.
ODDR: 보상 가이던스를 통한 단일 단계 그림자 제거 확산 모델
ODDR: One-Step Deshadow Diffusion via Reward Guidance
그림자 제거를 위한 심층 학습(deep learning)의 최근 발전은 이미지 품질과 사실성을 크게 향상시켰습니다. 그러나 대부분의 접근 방식은 수집 비용이 많이 들고 장면 다양성이 제한적인 경우가 많은 실제 쌍(paired) 데이터셋에 의존하므로 일반화 성능이 제한됩니다. 이러한 한계를 해결하기 위해, 우리는 실제 쌍으로 구성된 지도학습(supervision)에 의존하지 않고도 효율적이고 충실도 높은 그림자 제거를 달성하는 새로운 프레임워크인 보상 가이던스를 통한 단일 단계 그림자 제거 확산 모델(One-step Deshadow Diffusion via Reward guidance, ODDR)을 제안합니다. 본 연구의 방법은 효율적인 단일 단계 무그림자 재구성을 위해 합성 그림자 데이터로 학습된 기준선(baseline) 모델인 One-step Deshadow Diffusion(ODD)에서 시작합니다. 나아가 우리는 ShadowReward를 사용하여 ODD를 ODDR로 발전시킵니다. 주석(annotation) 작업이 많이 필요한 기존 방식과 달리, ShadowReward는 인간의 주석 없이 전적으로 학습된 그림자 제거용 최초의 보상 모델(reward model)입니다. 이는 질감 왜곡 및 경계 아티팩트와 같이 통제된 품질 저하가 적용된 합성 생성 이미지를 순위화하여 인간의 지각적 판단을 모방하도록 학습합니다. 이러한 보상 기반 미세조정(fine-tuning)을 통해 ODDR은 합성-실제 간 도메인 간극을 좁힐 수 있습니다. 광범위한 실험을 통해 ODD는 실제 쌍 지도학습에 의존하지 않고도 강력한 성능을 달성하며, ODDR은 결과를 더욱 향상시켜 단일 단계 모델로서 더 높은 연산 효율성을 유지하면서도 실제 쌍 데이터로 학습된 완전 지도학습 방식과의 격차를 좁힘을 보여줍니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.