Automated Video Labelling: Identifying Faces by Corroborative Evidence
원문 초록
We present a method for automatically labelling all faces in video archives, such as TV broadcasts, by combining multiple evidence sources and multiple modalities (visual and audio). We target the problem of ever-growing online video archives, where an effective, scalable indexing solution cannot require a user to provide manual annotation or supervision. To this end, we make three key contributions: (1) We provide a novel, simple, method for determining if a person is famous or not using image-search engines. In turn this enables a face-identity model to be built reliably and robustly, and used for high precision automatic labelling; (2) We show that even for less-famous people, image-search engines can then be used for corroborative evidence to accurately label faces that are named in the scene or the speech; (3) Finally, we quantitatively demonstrate the benefits of our approach on different video domains and test settings, such as TV shows and news broadcasts. Our method works across three disparate datasets without any explicit domain adaptation, and sets new state-of-the-art results on all the public benchmarks.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
RIM: UAV 교차 도메인 전역 시각적 위치 추정을 위한 검색-내-매칭(Retrieval-In-Matching) 프레임워크
RIM: A Retrieval-In-Matching Framework for Cross-Domain Global Visual Localization of UAVs
원격 감지 참조 지도를 이용한 무인항공기(UAV)의 전역 시각적 위치 추정은 점점 더 많은 관심을 받고 있다. 그러나 UAV와 참조 영상 간의 촬영 시점 및 촬영 플랫폼 차이는 상당한 교차 도메인 외형 및 시점 변화를 유발하여, 견고한 6자유도(6-DoF) 자세 추정을 어렵게 한다. 우리는 위치, 고도, 방향에 걸쳐 Google 3D Tiles에서 UAV 시점의 참조 뷰를 샘플링하여 이러한 변화를 해결한다. 2단계 교차 도메인 미세조정 레시피는 자세가 유사한 양성(positive)과 지리적으로 먼 하드 네거티브(hard negative)를 사용하여 SALAD를 적응시키며, 국소 기하학적 일관성이 Top-K 후보를 재순위화한다. 또한 Retrieval-In-Matching(RIM)을 제안한다. 이는 적응된 DINOv2-B 검색기(retriever)를 고정하고, 그 토큰 필드를 얕은 VGG19 디테일 스트림과 함께 재사용하는 국소 디스크립터(local-descriptor) 디코더를 지식 증류(distillation)한다. 따라서 쿼리 측 DINOv2-B의 한 번의 순전파(forward)가 SALAD 검색과 국소 기술(local description) 모두에 사용되어, 두 번째 파운데이션 모델(foundation model) 백본을 제거하면서도 설계상 검색 디스크립터를 보존한다. RIM을 재구성된 EPFL Urbanscape와 자체 수집 Chang'an Park 데이터셋에서 제로샷(zero-shot)으로 평가했으며, 두 데이터셋 모두 학습 데이터와 지리적으로 분리되어 있다. RIM은 최근 10개 검색 기준선 계열을 능가한다. 전체 3D 거리 메트릭에서 25/50 m 기준으로, EPFL에서 SALAD 대비 Recall@1(재현율)을 8.55/13.77 퍼센트포인트, Park에서 4.45/8.94 포인트 향상시켰다. Top-K=5에서 검색, 후보 매칭, 견고한 기하학적 검증을 포함한 완전한 측정된 위치 추정 쿼리는 end-to-end로 67.9 ms가 소요된다: 가장 강력한 별도 sparse-matching 기준선보다 1.8배 빠르고 RoMa보다 40배 이상 빠르면서, 유사한 재순위화(re-ranking) 정확도를 달성한다. 이러한 결과는 GNSS가 어려운 환경에서 UAV 전역 시각적 위치 추정을 위한 효율적이고 배포 가능한 파이프라인을 확립한다.
카탈로그-실세계 간극 해소: 다단계 대조 학습을 통한 확장 가능한 상품 인식
Bridging the Catalog-to-Real Gap: Scalable Product Recognition via Multi-Stage Contrastive Learning
자동화된 상품 인식은 현대 리테일 인텔리전스의 핵심이다. 그러나 방대한 기업 카탈로그에 대해 실세계 매장 이미지를 정확하게 매칭하는 것은 대규모 응용에서 여전히 주요한 확장성 병목으로 남아 있다. 본 연구에서는 이 과제를 표준적인 폐쇄형 집합 분류(classification) 작업이 아닌 임베딩(embedding) 기반 교차 도메인 검색 문제로 재정의함으로써 이 문제에 접근한다. 구체적으로, 광범위한 인벤토리로부터 주어진 실세계 상품 쿼리 크롭에 대해 가장 대응되는 카탈로그 참조 이미지를 검색하는 것을 목표로 정의한다. 깔끔한 스튜디오 팩샷과 노이즈가 있는 매장 내 쿼리 사이의 심각한 도메인 격차를 해소하기 위해, 본 논문은 새로운 카탈로그-실세계 다단계 대조 학습 패러다임(Cat2Real)을 제안한다. 이 프레임워크는 아이템 수준 및 이미지 수준 유사도를 체계적으로 활용하여 타깃화된 하드 네거티브 마이닝을 유도함으로써 비전 백본을 파인튜닝한다. 광범위한 실증적 평가를 통해, 제안된 패러다임이 미학습 상품 및 카테고리로 원활하게 확장됨을 입증하며, 새로운 인벤토리에 대한 실세계 학습(training) 이미지가 전혀 없는 상황에서도 뛰어난 제로샷(zero-shot) 일반화 성능을 달성함을 보인다.
연속 메타데이터 컨디셔닝을 활용한 동물 재식별을 위한 매개변수 효율적 비전-언어 적응
Parameter-Efficient Vision-Language Adaptation with Continuous Metadata Conditioning for Animal Re-Identification
장기 동물 재식별(ReID)은 점진적인 형태학적 변화와 계절적 외관 변화에 강인해야 한다. 최근 비전-언어(vision-language) 모델이 강력한 사전학습 시각 표현을 제공하지만, 이를 종단적 생태 환경에 적응시키는 것은 특히 개체 및 시간적 분포 변화 하에서 여전히 어렵다. 우리는 동물 ReID를 위한 매개변수 효율적 CLIP 적응 프레임워크를 제시하고, 학습 중 프롬프트 표현에 수치적 속성을 직접 통합하는 연속 메타데이터 컨디셔닝 메커니즘을 도입한다. 저순위 시각 적응, 프롬프트 기반 지도, 교차 모달 정렬이 적응 프레임워크를 구성하는 반면, 제안된 메타데이터 컨디셔닝 전략이 주된 방법론적 기여를 이룬다. 수치 메타데이터를 텍스트 범주로 이산화하지 않고 연속 구조를 보존함으로써, 제안된 접근법은 학습 중 임베딩 공간의 부드러운 변조를 가능하게 하면서 순수 시각 추론 파이프라인을 유지한다. 7년간의 종단적 어류 데이터셋과 여러 야생동물 벤치마크에서의 실험은 폐쇄형, 개방형 및 시간 인식 평가 프로토콜 하에서 향상된 성능을 보여준다. 결과는 연속 메타데이터 컨디셔닝이 종단적 외관 변화와 시간적 분포 변화에 대한 강인성을 향상시키는 반면, 매개변수 효율적 적응은 테스트 시 메타데이터 없이도 순수 시각 추론 파이프라인을 가능하게 함을 보여준다. 코드 및 평가 분할은 https://github.com/AnilOsmanTur/MetaPrompt-ReID에서 확인할 수 있다.
위에서 본 프롬프트 기반 개념 분할: 원격 탐사에서 SAM 3의 제로샷 텍스트 및 시각 프롬프팅 평가
Promptable Concept Segmentation from Above: Evaluating Zero-Shot Textual and Visual Prompting of SAM 3 in Remote Sensing
Segment Anything Model 3(SAM 3)와 같은 대규모 파운데이션 모델은 개방형 어휘와 무학습 컴퓨터 비전으로의 전환을 약속한다. 그러나 이러한 모델이 지구 관측 영상의 하향식 기하 구조라는 분포 외 영역으로 일반화하는 능력은 아직 거의 정량화되지 않았다. 우리는 미세 조정 없이 원격 탐사 장면 분류, 객체 탐지, 인스턴스 분할에 걸쳐 SAM 3를 다중 과제로 경험적으로 평가한다. 장면 분류에서는 분리된 이진 존재 헤드(binary presence head)를 독립적인 제로샷 분류기로 재활용한다. 탐지와 분할에서는 텍스트 프롬프트와 시각 프롬프트를 비교하며, 여기서 시각 프롬프트는 분할 대상 이미지 안에 있는 목표 클래스의 실제 인스턴스 하나를 제시한다. 텍스트만 사용하면 성능이 낮고, 시각 프롬프트를 추가하면 정확도가 크게 오르며, 둘을 결합하면 과제에 따라 정확도가 오르기도 하고 내리기도 한다. 또한 동일한 평가 프로토콜에서 SAM 3의 텍스트 전용 성능을 여러 일반 도메인 개방형 어휘 탐지 및 분할 모델과 비교한 결과, 두 벤치마크 모두에서 모든 모델을 앞선다. 그럼에도 시각 프롬프트가 없을 때의 정확도는 여전히 제한적이며, 이는 향후 연구 방향으로서 매개변수 효율적 미세 조정의 필요성을 시사한다.
데자뷔 깨기: 시각-언어 추론을 통한 시각적 장소 인식의 독립적 감사
Breaking D\'ej\`a Vu: Independent Auditing of Visual Place Recognition through Vision-Language Reasoning
시각적 장소 인식(VPR)은 동시 위치추정 및 지도작성(SLAM)을 위한 루프 클로저 탐지와 같이 로봇 공학 응용에서 정확한 위치 추정과 장기 자율 주행을 가능하게 하는 핵심 기술이다. 그러나 실제 환경에서의 VPR 배포는 정밀도와 재현율의 균형을 맞추는 이미지 매칭 임계값 선택에 의존한다. 이러한 임계값은 일반적으로 라벨이 붙은 검증 데이터로 조정된 뒤 배포 시 고정되므로, 정답(ground truth)을 사용할 수 없는 환경 변화 하에서는 신뢰할 수 없다. 이는 거짓 루프 클로저를 수용하면 추정 궤적과 지도가 손상될 수 있는 안전이 중요한 로봇 공학에서 특히 문제가 된다. 본 연구에서는 쿼리 이미지와 후보 이미지에 대해 공동으로 추론하여 검색된 매칭을 평가하기 위해 비전-언어 모델(VLM)을 활용하는, 검색 후 독립 검증 프레임워크인 Visual Place Recognition Auditing을 제안한다. 기존 검증 방법과 달리, 본 접근법은 아키텍처별 신뢰도 측정, 데이터셋 의존적 임계값, 또는 배포 환경에 대한 사전 지식 없이 인스턴스 수준 검증을 수행한다. 우리는 5가지 최신 VPR 방법과 4개의 VLM을 사용하여 6개 벤치마크 데이터셋에서 방법을 평가했다. 결과는 VLM 기반 감사가 최신 방법 대비 평균 recall@1을 13.6% 향상시키면서 거짓 수용률을 12%로 낮추고, 정밀도 95% 이상과 커버리지 75% 이상을 유지함을 보여준다.
ODDR: 보상 가이던스를 통한 단일 단계 그림자 제거 확산 모델
ODDR: One-Step Deshadow Diffusion via Reward Guidance
그림자 제거를 위한 심층 학습(deep learning)의 최근 발전은 이미지 품질과 사실성을 크게 향상시켰습니다. 그러나 대부분의 접근 방식은 수집 비용이 많이 들고 장면 다양성이 제한적인 경우가 많은 실제 쌍(paired) 데이터셋에 의존하므로 일반화 성능이 제한됩니다. 이러한 한계를 해결하기 위해, 우리는 실제 쌍으로 구성된 지도학습(supervision)에 의존하지 않고도 효율적이고 충실도 높은 그림자 제거를 달성하는 새로운 프레임워크인 보상 가이던스를 통한 단일 단계 그림자 제거 확산 모델(One-step Deshadow Diffusion via Reward guidance, ODDR)을 제안합니다. 본 연구의 방법은 효율적인 단일 단계 무그림자 재구성을 위해 합성 그림자 데이터로 학습된 기준선(baseline) 모델인 One-step Deshadow Diffusion(ODD)에서 시작합니다. 나아가 우리는 ShadowReward를 사용하여 ODD를 ODDR로 발전시킵니다. 주석(annotation) 작업이 많이 필요한 기존 방식과 달리, ShadowReward는 인간의 주석 없이 전적으로 학습된 그림자 제거용 최초의 보상 모델(reward model)입니다. 이는 질감 왜곡 및 경계 아티팩트와 같이 통제된 품질 저하가 적용된 합성 생성 이미지를 순위화하여 인간의 지각적 판단을 모방하도록 학습합니다. 이러한 보상 기반 미세조정(fine-tuning)을 통해 ODDR은 합성-실제 간 도메인 간극을 좁힐 수 있습니다. 광범위한 실험을 통해 ODD는 실제 쌍 지도학습에 의존하지 않고도 강력한 성능을 달성하며, ODDR은 결과를 더욱 향상시켜 단일 단계 모델로서 더 높은 연산 효율성을 유지하면서도 실제 쌍 데이터로 학습된 완전 지도학습 방식과의 격차를 좁힘을 보여줍니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.