Joint Detection and Tracking in Videos with Identification Features
원문 초록
Recent works have shown that combining object detection and tracking tasks, in the case of video data, results in higher performance for both tasks, but they require a high frame-rate as a strict requirement for performance. This is assumption is often violated in real-world applications, when models run on embedded devices, often at only a few frames per second. Videos at low frame-rate suffer from large object displacements. Here re-identification features may support to match large-displaced object detections, but current joint detection and re-identification formulations degrade the detector performance, as these two are contrasting tasks. In the real-world application having separate detector and re-id models is often not feasible, as both the memory and runtime effectively double. Towards robust long-term tracking applicable to reduced-computational-power devices, we propose the first joint optimization of detection, tracking and re-identification features for videos. Notably, our joint optimization maintains the detector performance, a typical multi-task challenge. At inference time, we leverage detections for tracking (tracking-by-detection) when the objects are visible, detectable and slowly moving in the image. We leverage instead re-identification features to match objects which disappeared (e.g. due to occlusion) for several frames or were not tracked due to fast motion (or low-frame-rate videos). Our proposed method reaches the state-of-the-art on MOT, it ranks 1st in the UA-DETRAC'18 tracking challenge among online trackers, and 3rd overall.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
도메인이 중요한 이유: 수중 객체 검출 및 어노테이션 품질의 도메인 인식 벤치마킹
Why Domain Matters: Domain-Aware Benchmarking of Underwater Object Detection and Annotation Quality
YOLO26은 엣지 배포에서 이전 모델들보다 진정한 이점을 제공하는가? 수산양식 분야의 벤치마크 연구
Does YOLO26 Truly Offer Advantages Over Its Predecessors for Edge Deployment? A Benchmark Study in Aquaculture
최근 소개된 YOLO26 아키텍처는 NMS-free 엔드-투-엔드 추론을 통합하며 자원이 제한된 CPU 기반 디바이스에서의 엣지 배포에 최적화되어 있어, 엣지 기반 수산양식 애플리케이션에 적합하다. 그러나 수산양식 특화 시나리오에서의 성능, 운영 효율성 및 배포 적합성은 체계적으로 검증되지 않았다. 본 연구는 어류 개체군 건강 및 복지의 핵심 지표인 어류 폐사 검출(fish mortality detection)을 위해 nano, small, medium 모델 규모에 걸쳐 YOLO26과 세 가지 Ultralytics 전작(YOLOv5u, YOLOv8, YOLO11)을 종합적으로 벤치마크한다. 12개 모델 변형을 대상으로 검출 정확도, 7가지 데이터셋 크기에 걸친 학습 효율성, 고성능 NVIDIA A100 GPU 및 CPU 전용 Raspberry Pi 5 엣지 플랫폼에서의 추론 성능을 평가하였다. 모든 모델은 전체 데이터셋에서 유사한 성능을 달성하였으며 mAP50 차이는 1.04 퍼센트포인트에 불과하여, 충분한 학습 데이터가 있을 경우 아키텍처 세대가 최종 검출 정확도에 미치는 영향이 미미함을 보여준다. 그러나 데이터 효율성과 배포 성능에서 명확한 트레이드오프가 나타났다. YOLOv8은 400장의 학습 이미지만으로 mAP50 90%를 달성한 반면, YOLO26 nano 및 small 변형은 유사한 정확도에 도달하기 위해 1,000장이 필요하였다. 반면 YOLO26n은 Raspberry Pi 5에서 가장 높은 추론 속도(7.51 FPS)를 달성하였으며, YOLOv5mu는 CPU 기반 하드웨어에서 동시대 모든 medium 규모 아키텍처를 능가하였다. 이러한 결과는 아키텍처의 신규성만으로는 모델 선택에 충분하지 않으며, 수산양식의 실용적인 엣지 AI 배포를 위한 객체 검출 모델 선택 시 학습 데이터 가용성, 타겟 하드웨어, 추론 요구사항을 함께 고려해야 함을 보여준다.
Fully Rotation-Equivariant Spectral-Spatial Learning for Multispectral Object Detection
탐지기는 잘못된 것을 학습한다: 물리적으로 실현 가능한 공격에 대항하는 단축 경로 저항적 적대적 학습
Detectors Learn the Wrong Thing: Shortcut-Resistant Adversarial Training Against Physically Realizable Attacks
AI 기반 시각 지각 시스템이 지능형 교통 인프라 및 자율주행 차량 관련 응용에 점점 더 배치되고 있다. 그러나 물리적으로 실현 가능한 적대적 외형은 이러한 안전성(safety)에 중요한 시스템에 상당한 신뢰성 과제를 제기한다. 적대적 학습(adversarial training)은 효과적이지만, 적대적 텍스처와 양성 person 인스턴스 간의 반복적 공발생은 탐지기가 텍스처 자체를 객체 존재의 증거로 취급하게 만들어 패치 텍스처 단축 경로(shortcut)를 형성할 수 있다. 탐지기는 그러면 텍스처를 대상에 대한 증거로 취급하여, 텍스처만 있는 입력에서 오탐을 유발하고 교차 공격 일반화를 약화시킬 수 있다. 우리는 탐지기가 적대적 텍스처를 독립적인 판단 단서로 사용하는 것을 방지하는 인스턴스 수준 대조(contrastive) 적대적 학습 프레임워크인 InsCAT를 제안한다. SICA는 적대적 person 특징(feature)을 대응하는 clean 특징과 정렬하고 텍스처만 있는 음성(negative) 샘플과 분리하며, ROPO와 Guard는 온라인 공격 압력을 유지하고 학습을 조율한다. 렌더링된 nuScenes, INRIAPerson, 인쇄 의류, 세 가지 탐지기 계열에서 독립적으로 생성된 8개의 공격 텍스처를 평가한다. InsCAT은 렌더링된 nuScenes에서 평균 공격 AP 82.3%를 달성하여, 가장 강한 기준선보다 11.1포인트 높다. AT-Mix 대비 텍스처 FPR은 46.9%에서 7.3%로 감소한다. 물리적 테스트는 F1 점수 96.6%와 FPR 1.8%를 산출한다. 별도로 학습된 탐지기에서의 일관된 성능 향상은 직접 추론으로 아키텍처 전반에 걸친 적용 가능성을 보여준다. 결과는 견고한(robust) 물리적 탐지가 대상 관련 증거를 보존하면서 적대적 텍스처가 독립적인 판단 단서가 되는 것을 방지하는 데 달려 있음을 보여준다.
심층 학습을 활용한 드론 기반 실시간 엔드투엔드 사람 탐지 프레임워크
End-to-End Real-Time Drone-Based Person Detection Framework Using Deep Learning
최근 몇 년간 무인 항공기(UAV) 또는 드론은 보안, 수색 및 구조(SAR), 국경 감시 등의 분야에서 빠르게 활용되고 있다. 기존의 모니터링 프레임워크는 고도 변화로 인해 대상이 큰 스케일 변동을 겪을 때 탐지 일관성을 유지하는 데 어려움을 겪는 경우가 많아, 중요한 정보 공백이 발생한다. 이 문제를 해결하기 위해 본 연구는 무선 실시간 드론 영상 피드를 통해 대상을 탐지하는 통합 실시간 탐지 파이프라인을 제안한다. YOLOv8-nano 아키텍처를 기반으로 다양한 비행 고도에서의 탐지 성능을 파악하기 위해 광범위한 비행 실험을 수행하였다. VisDrone2019 데이터셋으로 학습한 YOLOv8-nano 모델은 정밀도, 재현율, mAP, mAP50:95에서 각각 57.4%, 41%, 44.8%, 20.3%를 달성하였다. 실제 환경에서의 시연을 통해, 해당 알고리즘은 16~25미터 고도 구간에서 거의 완전한 탐지 신뢰도를 달성하며 탐지 프레임 레이트가 지속적으로 41 FPS 이상을 유지하고 최대 50 FPS에 도달함이 확인되었다. 본 연구의 목표는 무선 전송을 통해 항공 플랫폼에서 실시간 사람 탐지를 가능하게 하는 것이다. 이 접근 방식은 다양한 스케일의 대상 식별과 항공 관측 중 근사 정확한 위치 추정이라는 이중 과제를 효과적으로 해결한다.
오픈-어휘 탐지에서의 신뢰도 점수는 스케일과 의미론의 바이어스된 혼합이다
Confidence Scores in Open-Vocabulary Detection Are a Biased Mixture of Scale and Semantics
CLIP과 같은 파운데이션 모델(foundation model)은 비전-언어(vision-language) 유사도를 통해 새로운 카테고리로 일반화하는 오픈-어휘(open-vocabulary) 객체 탐지기를 가능하게 했다. 그러나 이러한 탐지기가 생성하는 신뢰도 점수는 신뢰할 수 있는 위치화 확률 추정값이 아니다: 시각적 스케일과 의미론적 쿼리 특이성이 실제 탐지 신호와 혼재되기 때문이다. 세 가지 파운데이션 모델 기반 탐지기(GroundingDINO, OWL-ViT, YOLO-World)를 대상으로 COCO에서 수행한 통제 실험과, GroundingDINO를 사용하여 LVIS(1,203개 카테고리)에서 스케일 바이어스 결과를 추가로 재현한 실험을 통해, s=cos(v,t)가 두 가지 효과의 바이어스된 혼합임을 보인다. 스케일 바이어스(alpha = +0.064, r = 0.579, p = 1.29 x 10^-58)는 큰 객체에 대한 점수를 체계적으로 부풀린다. 의미론적 바이어스(beta = -0.705, p = 5.23 x 10^-41)는 일반적인 쿼리에 대한 점수를 억제한다. 두 바이어스 모두 CLIP의 이미지 수준 사전학습으로 인해 구조적으로 불가피하다. 임계값 조정으로는 이를 제거할 수 없다: 오라클(oracle) 스케일별 임계값 조정은 작은 객체에서 Delta F1 = +0.001, 큰 객체에서 +0.102를 산출한다. 매개변수 없는 온도 스케일링(temperature scaling) 보정은 재학습 없이 소형 객체의 Recall@10을 19.6%(p < 0.01) 향상시킨다. 다만 이는 풀링된 랭킹 정밀도에 적지만 측정 가능한 비용을 수반하므로, 바이어스는 추론 시점에 부분적으로만 역전될 뿐 완전히 제거되지는 않는다. 이러한 발견은 이미지 수준 파운데이션 모델을 영역 수준 탐지 태스크에 적용하는 것의 근본적인 한계를 드러낸다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.