arXiv:2102.11566

Multi-Knowledge Fusion for New Feature Generation in Generalized Zero-Shot Learning

Hongxin Xiang, Cheng Xie, Ting Zeng, Yun Yang

제출 2021-02-23

원문 초록

Suffering from the semantic insufficiency and domain-shift problems, most of existing state-of-the-art methods fail to achieve satisfactory results for Zero-Shot Learning (ZSL). In order to alleviate these problems, we propose a novel generative ZSL method to learn more generalized features from multi-knowledge with continuously generated new semantics in semantic-to-visual embedding. In our approach, the proposed Multi-Knowledge Fusion Network (MKFNet) takes different semantic features from multi-knowledge as input, which enables more relevant semantic features to be trained for semantic-to-visual embedding, and finally generates more generalized visual features by adaptively fusing visual features from different knowledge domain. The proposed New Feature Generator (NFG) with adaptive genetic strategy is used to enrich semantic information on the one hand, and on the other hand it greatly improves the intersection of visual feature generated by MKFNet and unseen visual faetures. Empirically, we show that our approach can achieve significantly better performance compared to existing state-of-the-art methods on a large number of benchmarks for several ZSL tasks, including traditional ZSL, generalized ZSL and zero-shot retrieval.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.15742v1cs.CV공통 태그 Retrieval, Zero-Shot Learning

RSAJEV: JEV 기반 원격 탐사 분류에서 은밀한 환각 제거를 위한 학습 불필요 기권 프로토타입 메모리

RSAJEV: Training-Free Abstaining Prototype Memory for Eliminating Silent Hallucination in JEV-Based Remote Sensing Classification

멀티모달 대규모 언어 모델(MLLM)을 활용한 원격 탐사 영상의 장면 분류(scene classification)는 단일 순전파(single-forward-pass) 결정 문제로 정식화됩니다. 즉, 후보 클래스 이름은 프롬프트 내에 알파벳 옵션으로 주어지고, 등록된 답변 슬롯은 프롬프트에 조건화되며, 언어 모델링 헤드로 문자 토큰의 점수를 매겨 분류를 판독합니다. 본 논문에서는 이러한 문자 바인딩이 학습(training) 어휘 내에서는 매우 효과적이지만(UCM에서 97.71% OA), 어휘 외(out-of-vocabulary) 상황에서는 불규칙하게 작동함을 보입니다. 4개의 교차 데이터셋 방향에 걸친 제로 적응(zero-adaptation) 정확도는 7.35%에서 96.40% 사이로 요동치며, 어휘 외 가중치 환경에서는 오픈셋(open-set) 평가 시 신뢰도가 역전되어 본 적 없는 클래스에 본 적 있는 클래스보다 더 높은 신뢰도를 부여하는 실패(AUROC 0.38)를 보이며, 저자들은 이를 '은밀한 환각(silent hallucination)'이라 명명합니다. 본 논문에서는 슬롯 표현을 유지하면서 판독부를 검색 기반 프로토타입 매칭을 수행하는 학습 불필요 기권 프로토타입 메모리인 RSAJEV로 대체합니다. 동일한 프롬프트 하에서 클래스당 K개의 참조 이미지를 슬롯 표현을 통해 프로토타입으로 캐싱하며, 분류는 축소-마할라노비스(shrinkage-Mahalanobis) 기하학적 보정으로 개선된 프로토타입 대상 최근접 이웃 검색이 됩니다. 이러한 판독 방식은 기계적으로 검색-증강 생성(RAG)과 동형(isomorphic)이지만 판별적 결정에 작용하며, MLLM 슬롯 표현을 위한 최초의 검색 기반 판독부입니다. 이 검색 판독 방식은 클래스당 16개의 참조 영상과 그래디언트(gradient) 업데이트 없이 UCM 교차 데이터셋 게이트에서 89.43%, AID에서 96.90%에 도달합니다. 또한 두 데이터셋의 오픈셋 평가에서 ID 특성 점수(ID-ness scores)는 0.91-0.99 AUROC를 달성하여 4개의 모든 오픈셋 설정에서 기호적 신뢰도(0.38-0.96)를 능가하고, 보정 가능한 기권 채널을 복원하며, 캐시된 행렬의 오프라인 재점수화를 통해 추가적인 추론(inference) 비용 없이 클래스 추가/제거를 지원합니다.

arXiv:2609.23409v1cs.CV공통 태그 Retrieval, Zero-Shot Learning

검색 기하 구조가 캐시 기반 CLIP 적응을 좌우한다

Retrieval Geometry Shapes Cache-Based Clip Adaptation

캐시 기반 테스트 시점 적응(test-time adaptation)은 모델을 고정(frozen)한 채 타깃 스트림에서 예시를 저장하고 검색함으로써 CLIP의 예측을 향상시킨다. 그러나 기존 방법들은 이미지-이미지 검색에 사용되는 특징 공간을 대부분 고정된 것으로 취급하여, 적응이 검색 공간 자체에 얼마나 의존하는지는 밝혀지지 않은 채로 남아 있었다. 본 연구는 메모리를 고정하고 검색 인코더만 변경함으로써 이 질문을 탐구하며, 동일한 메모리라도 매우 다른 성능 향상을 가져올 수 있음을 발견하였다: 16개의 검색 공간에 걸쳐 ImageNet-A 캐시 성능 향상은 CLIP과 MAE의 경우 최대 +0.44점에 그치는 반면, DINOv2-L의 경우 +19.7 ± 0.4점에 달했으며, 레이블 없이(label-free) 검색 공간을 선택하는 방식은 ImageNet-V2에서 오라클(oracle) 성능 향상의 98%를 유지하였다. 이러한 결과는 메모리의 품질이 어떤 예시가 저장되는지뿐만 아니라 그것들이 어떻게 검색되는지에도 좌우됨을 보여준다. 이 발견에 착안하여, 우리는 예측에는 고정된(frozen) CLIP을, 검색에는 DINOv2-B를 사용하고 단일 융합 가중치(weight)를 적용하는 학습이 필요 없는(training-free) 시스템인 MARC(Memory Augmented Retrieval for CLIP)를 제안한다. 단일 뷰(single-view) 캐시는 약 7분의 1의 비용으로 1074 ± 21개의 기준선(baseline) 오류를 수정하는 반면, 64개 뷰 앙상블(ensemble)은 878 ± 4개를 수정하는 데 그친다. 네 가지 ImageNet 분포 이동(distribution shift)에 걸쳐 MARC는 67.91%의 분포 외(OOD) 평균 성능을 달성하였으며, 동일한 DINOv2-B 규모와 8개 뷰 조건에서 그래프 기반 캐시 시스템의 62.75 ± 0.15% 대비 64.17 ± 0.31%를 달성하면서도 2.6배 더 빠르게 동작하였다. 전반적으로, 본 연구의 결과는 원격 탐사(remote sensing), 과학 이미징(scientific imaging), 그리고 변화하는 시각 환경에서 강건한(robust) 캐시 기반 적응을 위해 검색 공간이 1차적인(first-order) 설계 선택 요소임을 확립한다.

arXiv:2607.22919v1cs.CV공통 태그 Retrieval, Zero-Shot Learning

텍스트 조건 변환을 통한 임베딩 공간 제어

Controlling Embedding Spaces with Text-Conditioned Transformations

CLIP과 같은 모델의 멀티모달 임베딩 공간은 의미적 유사도 검색 및 교차 모달 제로샷 분류와 같은 강력한 기능을 가능하게 한다. 이러한 임베딩은 고수준 의미를 단일 벡터로 압축하는데, 이는 주요 객체와 같은 지배적 의미를 주로 표현하면서 카메라 각도나 색조와 같은 다른 중요한 속성을 억제하는 대가를 치른다. 우리는 이러한 속성을 명시적으로 접근 가능하게 만드는 시각적 임베딩의 텍스트 조건 변환(text-conditioned transformation)을 제안한다. 속성 카테고리에 대한 자연어 설명(예: "색상" 또는 "예술 스타일")이 주어지면, 네트워크는 지정된 속성을 강조하는 아핀 변환(affine transformation)을 생성한다. 텍스트 조건화를 통해 많은 속성을 동시에 학습할 수 있으며, 추론 시 직관적인 인터페이스를 통해 이에 접근할 수 있다. 네트워크는 변환된 임베딩을 고정된 잠재 공간(latent space)과 정렬하도록 학습되어, 재인코딩 없이 기존 대규모 임베딩을 사용한 검색을 가능하게 한다. 전체 집합에 적용할 때, 동일한 메커니즘은 다중 클러스터링(multi-clustering)과 같은 속성 분리(attribute disentanglement) 작업을 위해 잠재 공간을 변환한다. 잠재 공간에서 직접 동작함으로써, 본 방법은 임베딩 공간을 제어하기 위한 통합적이고 효율적인 프레임워크를 제공하며, 거의 제로에 가까운 추론 비용으로 속성 기반 검색 및 다중 속성 조직화 작업 모두에서 최신(state-of-the-art) 성능을 보여준다. 프로젝트 페이지: https://joefioresi718.github.io/ControlEmbed_webpage/

arXiv:2607.23052v1cs.CV공통 태그 Retrieval, Zero-Shot Learning

유사도는 논리가 아니다: 이중 인코더 비전-언어 모델을 위한 분해 추론

Similarity Is Not Logic: Factored Inference for Dual-Encoder Vision-Language Models

이중 인코더 비전-언어 모델(VLM)은 제로샷 검색을 가능하게 하는 유사도 인터페이스를 제공하지만, 구성적 제약에는 실패한다. "우산과 사람 없음"과 같은 쿼리가 개념 탐지가 신뢰할 만하더라도 둘 다 포함된 이미지를 검색한다. 이를 인터페이스 수준의 Bag-of-Concepts 효과로 추적하는데, 여기서 유사도 점수는 연산자와 무관하게 개념 증거의 평균 풀링을 근사한다. 텍스트 임베딩에는 연산자 의존적 신호가 존재하지만, 순위에 영향을 미치기에는 너무 약하거나 랭킹과 부합하지 않는다. 미세조정은 이 실패를 안정적으로 해결하지 못하는데, 지배적인 병목은 인코더가 무엇을 표현하는가가 아니라 유사도가 증거를 어떻게 집합하는가에 있다. 우리는 증거 추출과 제약 실행을 분리하는 분해 추론을 제안하고, 고정된 인코더의 개념 점수를 사용해 외부에서 제약을 실행하는 학습 불필요 방법인 LCSE(Logic-Constrained Score Editing)를 도입한다. 또한 FACTOR-Bench를 도입했으며, LCSE는 최고의 미세조정 기준선 73.2% 대비 85.5% 정확도를 달성하고, SigLIP 2에 적용하면 90.7%를 달성하며, 검색 성능을 유지하면서 NegBench COCO MCQ 정확도를 27.2%에서 65.2%로 향상시킨다.

arXiv:2607.23271v1cs.CV공통 태그 Retrieval, Zero-Shot Learning

CLIP이 알지만 말하지 못하는 것: 동결된 중간 특징으로부터 부정 복원

What CLIP Knows but Cannot Say: Recovering Negation from Frozen Intermediate Features

CLIP과 같은 대조적 비전-언어 모델은 의미적으로 상반된 구문(예: "a dog" vs. "not a dog")을 거의 동일한 임베딩으로 매핑하여 부정에 둔감하게 만든다. 우리는 이 실패를 Representational Collapse(표현 붕괴)라고 부르는 현상에 기인한다고 본다. CLIP 텍스트 인코더 전반에 걸쳐 구성적 발산과 시각적 정렬을 추적함으로써, 중간 층이 구성적 구문을 형성하지만 최종 층에서는 시각적 정렬이 증가함에 따라 이 구조가 붕괴되어 구문을 인식하지 못하는 최종 표현이 생성됨을 보인다. 사전학습된 가중치를 변경하지 않고 잃어버린 부정 신호를 복원하기 위해, 우리는 구성적 정점에서 인코더를 가로채는 경량 사후 보정 시스템인 PeakPatch를 제안한다. 임베딩 보정 네트워크(ECN)는 크로스-어텐션을 사용하여 정점 층에서 안정적인 기준선에 고정된 부정 특화 신호를 추출하고, 잃어버린 구문을 최종 층 임베딩 공간에 재주입하는 편차 벡터를 예측한다. 보완적인 점수 보정 네트워크(SCN)는 판별적 작업을 위해 유계 스칼라 점수 오프셋을 예측한다. 두 모듈은 모든 CLIP 파라미터가 동결된 상태에서 end-to-end로 공동 학습되며, 5.2M 파라미터(백본의 3.5%)만 추가하고 표준 코사인 유사도 인터페이스를 유지한다. NegBench에서 PeakPatch는 COCO MCQ에서 74.3%(CLIP 대비 +35.1, 최고 인코더 미세조정 방법 대비 +17.8), VOC MCQ에서 65.5%를 달성하며, 파라미터의 3.5%만 학습했음에도 완전히 분포 외(out-of-distribution) 부정 검색에서 모든 미세조정 기준선을 능가한다. 보정된 임베딩은 텍스트-이미지 생성에도 전이되며(+18.4 부정 점수), ViT-B/32, ViT-L/14, SigLIP 백본 전반에 일반화된다. 프로젝트 URL: https://stevencylu.github.io/PeakPatch/.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.