HDNet: A Hierarchically Decoupled Network for Crowd Counting
원문 초록
Recently, density map regression-based methods have dominated in crowd counting owing to their excellent fitting ability on density distribution. However, further improvement tends to saturate mainly because of the confusing background noise and the large density variation. In this paper, we propose a Hierarchically Decoupled Network (HDNet) to solve the above two problems within a unified framework. Specifically, a background classification sub-task is decomposed from the density map prediction task, which is then assigned to a Density Decoupling Module (DDM) to exploit its highly discriminative ability. For the remaining foreground prediction sub-task, it is further hierarchically decomposed to several density-specific sub-tasks by the DDM, which are then solved by the regression-based experts in a Foreground Density Estimation Module (FDEM). Although the proposed strategy effectively reduces the hypothesis space so as to relieve the optimization for those task-specific experts, the high correlation of these sub-tasks are ignored. Therefore, we introduce three types of interaction strategies to unify the whole framework, which are Feature Interaction, Gradient Interaction, and Scale Interaction. Integrated with the above spirits, HDNet achieves state-of-the-art performance on several popular counting benchmarks.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
CrowdCue: 비전-언어 군중 계수를 위한 전문가-단서 조건화
CrowdCue: Specialist-Cue Conditioning for Vision-Language Crowd Counting
생성형 비전-언어 모델(VLM)은 하나의 모델이 군중 수와 장면에 대한 자연어 설명을 모두 생성하는 계수 패러다임을 제공하지만, 이들의 순수 계수 정확도는 100만 개 미만의 매개변수를 가진 전문가 회귀 모델 수준에 머물러 있습니다. 여기서 핵심적인 미해결 과제는 사전학습된 전문가의 보조 가이드가 VLM을 유의미한 수준으로 끌어올릴 수 있는지, 그리고 그 가이드를 어떤 채널을 통해 전달하는 것이 최적인지 여부입니다. 본 연구에서는 네 가지 널리 사용되는 군중 계수 벤치마크(ShanghaiTech A 및 B, UCF-QNRF, NWPU-Crowd)에서 Qwen2.5-VL-7B를 평가합니다. 제로샷 프롬프팅은 파싱 가능한 계수 값을 거의 생성하지 못하므로, LoRA 지도 미세조정을 통해 전체 MAE 81.64의 기준선을 확립했습니다. P2PNet에서 파생된 밀도 히트맵을 보조 시각적 신호로 조건화하는 방식은 테스트한 모든 인코딩에서 실패했으며, 적대적 교체 프로토콜을 통해 모델이 히트맵을 읽기는 하지만 이를 역효과가 나도록 적용함을 확인했습니다. 이에 따라 본 연구는 동일한 전문가의 이미 통합된 정수 계수 값을 이산 기호로서 VLM에 제공하는 접근 방식인 CrowdCue를 제안합니다. 텍스트 채널 변형은 MAE 72.04에 도달했습니다. 정수를 인쇄된 숫자로 렌더링하여 두 번째 이미지로 제공하는 시각적 채널 변형은 본 논문에서 가장 우수한 결과인 MAE 62.65에 도달하며, 단서를 제공한 전문가 단독 성능(동일 분할 기준 84.45)을 크게 앞질렀습니다. 본 연구에서 다룬 후기 융합 VLM에서 구속 제약이 되는 것은 채널 자체가 아니라 전문가 신호가 전달되는 추상화 수준입니다.
가우시안 밀도 스플래팅 네트워크
Gaussian Density Splatting Network
본 논문에서는 새로운 군중 계수(crowd counting) 접근 방식인 가우시안 밀도 스플래팅 네트워크(Gaussian Density Splatting Network, GDSNet)를 제안합니다. 기존의 격자 기반 밀도 맵에 의존하여 공간 해상도에 민감한 방법들과 달리, GDSNet은 군중을 연속적인 2D 가우시안 프리미티브(Gaussian primitives)의 중첩으로 표현합니다. 제안하는 접근 방식은 두 가지 핵심 기여를 기반으로 구축되었습니다. 첫째, 가우시안 파라미터 예측을 구조화하기 위해 제어점(control-point) 기반 피팅 메커니즘을 도입합니다. 제어점 세트는 국소 영역을 정의하도록 적응형으로 할당되며, 각 프리미티브의 파라미터를 회귀하기 위해 해당 영역에서 특징을 풀링합니다. 둘째, 각 프리미티브를 기하학적 파라미터와 스칼라 밀도 질량(density mass)으로 매개변수화하여 미분 가능한 가우시안 스플래팅 프레임워크를 계수 태스크에 맞게 조정합니다. 이러한 정식화를 통해 미분 가능하게 렌더링된 밀도 맵의 공간 매칭을 거쳐 네트워크를 엔드투엔드로 학습(training)할 수 있으며, 국소 밀도 지도(supervision)와 전역 계수 최적화(optimization)를 자연스럽게 모두 제공합니다. 4개의 표준 벤치마크(benchmark)에 대한 광범위한 평가(evaluation)에서 GDSNet은 기존 최고 수준(state-of-the-art)의 성능을 일관되게 능가함을 보여줍니다. 코드는 https://github.com/infinite0522/GDSNet-Gaussian-Density-Splatting-Network 에서 확인할 수 있습니다.
스크레이프오프 층(Scrape Off Layer) 플라즈마 시뮬레이션을 위한 확률적·기하 인지 신경망 대리 모델
Probabilistic and Geometry Aware Neural Surrogate of Scrape Off Layer Plasma Simulations
토카막 경계 플라즈마 시뮬레이션을 위한 고속 대리 모델(surrogate)은 일반적으로 전역 운전점(operating point)을 셀 값들의 평탄화된 벡터로 매핑하는 결정론적 회귀기이다. 디버터 탈부착(divertor detachment) 전이 근처에서는 정상 상태(steady state)가 단일 값으로 안정적으로 정해지지 않는다. 점 추정(point estimate)은 질적으로 서로 다른 플라즈마 상태들에 걸쳐 평균을 내야 하며, 신뢰도에 대한 어떠한 언급도 없이 결과를 내놓는다. 더욱이 평탄화된 벡터 표현은 SOLPS-ITER 메시의 기하학적 구조를 버린다. 본 연구는 이 두 가지 문제를 모두 다룬다. 우리는 곡선형(curvilinear) 메시를 셀 인접성을 보존하고 정확히 역변환되는 배치를 가진 세 개의 고정 크기 이미지 텐서로 펼쳐, 합성곱 신경망(convolutional network)이 정보 손실 없이 기하 구조 위에서 동작할 수 있도록 한다. 이후 민감도가 높은 시스템에 적합한 조건부 플로 매칭(conditional flow matching) 모델을 이 표현 위에서 학습한다. 그 결과 민감한 운전점에서도 여러 개의 그럴듯한 결과를 포착하는 효율적이고 확장 가능한 대리 모델을 얻는다. 가스 퍼프(gas-puff) 스캔을 따라, 예측 분포는 초기 레짐 전이(regime transition)를 지나면서 고온 모드와 저온 모드로 갈라진다. 크기가 알려진 분기(bifurcation)를 주입한 합성 데이터에 대한 추가 검증에서도, 모델이 두 분기의 평균이 아니라 두 분기를 각각 복원함을 확인한다.
매개변수 예산 하에서 루프 추정의 통계적 이득
Statistical Gains from Looped Estimation under Parameter Budgets
인공지능에서 메모리 수요가 증가함에 따라 더 적은 학습 가능 매개변수로 학습하려는 동기가 커지고 있다. 본 연구는 반복(iteration)마다 매개변수를 공유하며 하나의 적합된 연산자를 반복 적용하는 루프 추정기(looped estimator)가 동일한 매개변수 예산 하에서 통계적 정확도를 향상시킬 수 있는지 묻는다. 이에 대응하는 기존의 비공유(untied) 추정기는 각 반복마다 별도의 매개변수를 사용한다. 일반적인 가능도(likelihood) 모델에 대해, 루프 시브(sieve) 최대 가능도 추정에 대한 제곱 Hellinger 위험의 상한과, 튜닝된 비공유 모델군에 대한 미니맥스 하한을 확립한다. 이 경계들은 매개변수-반복-정확도 간의 트레이드오프를 드러낸다. 즉, 반복 계산은 매개변수를 추가하지 않고도 근사를 개선할 수 있으나, 계산 비용과 적합된 함수 클래스의 복잡도를 증가시킨다. 알려진 Hölder 매끄러움을 갖는 목표 함수에 대해, 루프 잔차 순방향 신경망(residual feedforward network)과 특정한 post-layer-normalized 트랜스포머(Transformer)는 유계 실수 매개변수의 개수를 고정한 채로 로그 인자를 제외하고 미니맥스 다항 수렴률을 달성한다. 충분히 큰 고정 예산에서는 표본 크기가 증가함에 따라 루프 방식의 최악 사례 위험이 0으로 수렴하는 반면, 최적의 비공유 방식의 최악 사례 위험은 0으로부터 일정 수준 이상 떨어진 채로 유지된다. 명시된 예산 증가 조건 하에서는 루프 대 비공유 위험 비율 또한 0으로 수렴한다. 가우시안 및 라플라스 회귀, 이진 응답, 에너지 기반 밀도 추정을 통해 이론을 예시한다.
제로-플로우 이표본 검정
Zero-Flow Two-Sample Tests
두 표본 집합이 동일한 분포에서 추출되었는지 판단하기 위한 이표본 검정에 대한 새로운 접근법을 제안한다. 이 검정은 제로-플로우(zero-flow) 기준에 기반한 통계적 불일치에 구축되며, 이를 제로-플로우 불일치(zero-flow discrepancy, ZFD)라고 부른다. ZFD의 타당성을 증명하고, 제로-플로우 이표본 검정(zero-flow two-sample test, ZF2ST)이라고 명명한 실용적인 검정 절차를 제안한다. 핵심 아이디어는 두 분포에서 온 표본이 국소적으로 어떻게 정렬되지 않는지를 학습하고, 그로부터 얻은 방향성 패턴을 분포 차이의 증거로 사용하는 것이다. 증인(witness) 학습과 가설 평가를 분리함으로써 ZF2ST는 유효한 통계적 보정(calibration)을 유지하면서 유연한 신경망을 사용할 수 있다. 증인 학습을 위해 회귀 기반 접근법과 검정력(power) 최대화 접근법을 모두 개발한다. 합성 및 이미지 데이터셋에서의 실험은 ZF2ST가 잘 보정된 제1종 오류(type-I error)를 유지하면서 구조화된 분포 변화에 대해 강한 검정력을 달성할 수 있음을 보여준다.
일반화된 신경 분포 회귀
Generalized Neural Distributional Regression
일반화된 신경 분포 회귀(GNDR) 프레임워크를 제안한다. 이 프레임워크는 딥 신경망을 고전적 확률 분포의 매개변수 공간에 자연스럽게 통합한다. 딥 아키텍처의 내재적 비식별성과 최대 가능도 이론을 조정하기 위해 2단계 반매개변수 추정 절차를 제안한다. 말단 예측 헤드를 분리하고 상류 네트워크를 고정된 비선형 기저 전개로 취급함으로써, GNDR은 해석적 Fisher Information 행렬의 추출을 가능하게 한다. 이를 통해 엄밀한 불확실성 정량화가 가능해지며, 다변량 Delta 방법을 거쳐 관측치별 신뢰 대역과 허용 구간을 생성한다. 과잉분산 임상 계수, 혼합 치유(mixture cure) 프레임워크 하의 우측 검열 전사체 생존 프로파일, 비구조화 얼굴 이미지에서 직접 유도된 영 절단 나이 분포를 포함한 다양한 데이터 양식 전반에서 프레임워크의 다목적성과 우수한 분포 보정을 입증한다. 해당 방법론은 오픈소스 Python 패키지 thetaflow에 기본 구현되어 있다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.