MPT-PAR:Mix-Parameters Transformer for Panoramic Activity Recognition
원문 초록
The objective of the panoramic activity recognition task is to identify behaviors at various granularities within crowded and complex environments, encompassing individual actions, social group activities, and global activities. Existing methods generally use either parameter-independent modules to capture task-specific features or parameter-sharing modules to obtain common features across all tasks. However, there is often a strong interrelatedness and complementary effect between tasks of different granularities that previous methods have yet to notice. In this paper, we propose a model called MPT-PAR that considers both the unique characteristics of each task and the synergies between different tasks simultaneously, thereby maximizing the utilization of features across multi-granularity activity recognition. Furthermore, we emphasize the significance of temporal and spatial information by introducing a spatio-temporal relation-enhanced module and a scene representation learning module, which integrate the the spatio-temporal context of action and global scene into the feature map of each granularity. Our method achieved an overall F1 score of 47.5\% on the JRDB-PAR dataset, significantly outperforming all the state-of-the-art methods.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
호흡 활동 및 자세 인식을 위한 JEPA 표현 기반 멀티모달 센서 융합 학습
Learning Multimodal Sensor Fusion with JEPA Representations for Breathing Activity and Pose Recognition
예측 비디오 표현 자체만으로는 결측 센서를 멀티모달 시스템이 어떻게 처리해야 하는지 명시하지 않습니다. 본 연구에서는 동결된 V-JEPA2 특징을 RGB 비디오, 깊이 비디오 및 레이더 시계열로 구성된 이종 센서 세트로 전이합니다. 공유 융합 모델은 모달리티 쿼리, 고정 센서 슬롯, 명시적 가용성을 사용하여 비어 있지 않은 7개의 모든 센서 하위 집합으로부터 호흡 활동 및 자세를 분류합니다. 본 연구의 기여는 5개 피험자 그룹 폴드와 3개의 시드를 갖춘 39명의 OMuSense-23 피험자를 대상으로 하위 집합 지도, 풀링(pooling) 용량 및 표현 전이에 대한 통제된 평가를 수행한 것입니다. 일치된 다운스트림 매개변수(parameter) 수에서 최종 모델은 7개 하위 집합에 걸쳐 평균 $75.23%\pm0.60$의 기록 수준 활동 매크로 F1에 도달합니다. 각 배치(batch)에서 모든 하위 집합을 지도하면 매칭된 쿼리 풀링 대조군 대비 1.923%p 향상(조건부 95% 피험자 부트스트랩 신뢰구간 [0.647, 3.209])되는 반면, 균형 잡힌 지도 하에서는 쿼리 풀링이 매칭된 평균 풀링에 비해 뚜렷한 이점을 보이지 않습니다. 레이더 프로브는 풀링된 웨이블릿 픽셀을 넘어서는 전이를 뒷받침하고, 64-토큰(token) 추론(inference)은 평균 활동 성능을 거의 유지하며, 테스트된 Consensus-JEPA 손실(loss)은 정확한 대조군 대비 측정 가능한 이점을 추가하지 못합니다.
Video-STLayout 사전학습
Video-STLayout Pre-training
최근 몇 년간 사전학습(pre-training)은 효과적인 비디오 표현을 학습하는 데 핵심적인 요소로 자리 잡았으며, 이를 통해 다운스트림 과제로의 강력한 전이가 가능해졌다. 사전학습에서 널리 쓰이는 프레임워크는 비디오 인코더의 특징을 언어나 오디오와 같은 다른 모달리티의 특징과 정렬하는 방식이다. 우리는 객체 바운딩 박스의 시공간적 레이아웃(spatio-temporal layout) 정보를 활용하여 풍부한 비디오 표현을 얻기 위한 새로운 전략인 Video-STLayout 사전학습을 제안한다. 객체 레이아웃은 비디오 프레임에 기성(off-the-shelf) 객체 검출기를 적용하여 손쉽게 얻을 수 있다. 우리의 방법은 대조 손실(contrastive loss)을 사용하여 비디오 특징을 학습된 레이아웃 인코더의 레이아웃 특징과 정렬한다. 우리는 복잡한 장면에서의 행동 인식(activity recognition) 과제를 통해 본 접근법의 효과를 입증한다.
RF 감지 스펙트로그램에서 기하와 속도의 분리
Untangling the Geometry and Speed for RF Sensing Spectrograms
RF 감지의 근본적인 난제는 링크에서 관측되는 도플러 특성이 표적의 운동과 감지 기하를 얽어, 제약 없는 실세계 환경에 대한 적용 가능성이 제한된다는 점이다. 본 논문에서는 반사체 속도와 기하를 분리하여, 각 지배적 도플러 ridge의 속도, 기하 인자, 상대 진폭, 폭을 공동으로 복원하는 물리적으로 해석 가능한 RF 감지의 새로운 기반을 제시한다. 구체적으로, 먼저 WiFi 스펙트로그램의 간결한 매개변수 표현을 개발하고, 대규모·다양한 인간 활동 데이터셋에 대한 체계적인 컴퓨터 비전 분석을 통해 그 저차원 구조를 확립하여 학습에 다루기 쉬운 기반을 마련한다. 이 표현을 바탕으로 구조화된 병목층과 미분 가능한 RF 순방향 모델이 반사체 속도와 기하에 대한 물리적으로 의미 있는 추정을 강제하는 물리 정보 기반 오토인코더를 설계한다. 또한 합성-실제(synthetic-to-real) 학습 프레임워크를 도입하여 실제 WiFi 학습 데이터가 필요 없게 한다. 제안 프레임워크를 알려진 기하와 시간에 따라 변하는 기하 모두에서, 독립적으로 생성한 합성 테스트 세트와 31회의 실제 WiFi 실험을 사용해 광범위하게 검증한다. 결과는 속도 및 기하 추출에서 우수한 성능을 보이며, 모든 설정에서 기저 기하, 속도, 도플러 ridge 진폭, ridge 폭을 견고하게 복원하면서 가장 강한 기준선들을 크게 능가함을 보여준다.
Action-Slot: 다중 에이전트 원자적 활동 이해를 위한 구조화된 행동 중심 표현 학습
Action-Slot: Structured Action-Centric Representation Learning for Multi-Agent Atomic Activity Understanding
원자적 활동(atomic activity) 이해는 움직임 패턴과 도로 토폴로지(road topology)에 대한 그라운딩을 함께 인코딩하는 구조화된 교통 행동을 인식하고 위치를 파악하는 것을 목표로 한다. 기존의 행동 인식(action recognition)과 달리, 원자적 활동은 다중 에이전트(multi-agent), 다중 레이블(multi-label), 토폴로지 인지(topology-aware) 특성을 가진다: 다수의 활동이 동시에 발생하는 반면 많은 에이전트는 비활성 상태로 남아있다. 우리는 구조화된 행동 중심 표현 학습 프레임워크인 Action-Slot을 소개한다. 슬롯 어텐션(slot attention)은 객체 중심 분해(object-centric decomposition)에 널리 사용되지만, 그 순열 불변(permutation-invariant) 설계와 객체 수준의 귀납적 바이어스(inductive bias)는 원자적 활동의 의미론과 부합하지 않는다. 우리는 다음 세 가지 설계를 통해 슬롯 학습을 구조화된 활동 분해로 재구성한다: (1) 사전에 정의된 활동 카테고리에 슬롯을 고정시키는 카테고리 정렬 행동 슬롯(category-aligned action slots), (2) 전체적인 비디오 수준 추론을 위한 병렬 시공간 슬롯 업데이트, (3) 전경(foreground) 활동과 무관한 영역 간의 경쟁을 강제하는 배경 및 네거티브 슬롯 정규화(regularization). 이들은 함께 원본 비디오로부터 동시적이고 비동기적인 활동들을 직접적으로 분리해내는 활동 중심의 귀납적 바이어스를 확립한다. 인식을 넘어, 학습된 표현은 전이 가능한 시공간적 그라운딩 신호를 인코딩한다. 우리는 나아가 후보 영역 제거 전후의 어텐션 변화를 측정하여 거짓 양성(false positive)을 억제하는 어텐션 차이 기반 의사 마스크(pseudo mask) 선택 프레임워크를 제안하며, 이를 통해 밀집 주석(dense annotation) 없이도 약지도(weakly supervised) 위치 파악이 가능하다. 체계적인 평가를 지원하기 위해, 우리는 원자적 활동을 완전히 포괄하고 픽셀 수준 주석을 갖춘 균형 잡힌 합성 데이터셋(dataset)인 TACO를 소개한다. OATS, TACO, 그리고 주석이 달린 nuScenes에 대한 실험 결과는 우수한 인식 성능, 강력한 시뮬레이션-실제 전이(sim-to-real transfer), 그리고 최신 수준(state-of-the-art)의 약지도 위치 파악 성능을 보여준다.
동역학 및 불확실성을 고려한 트리 기반 가우시안 프로세스 분류기를 이용한 영상 기반 수술 기량 평가
Video-based Surgical Skill Assessment Using Dynamics-and-Uncertainty-Aware Tree-based Gaussian Process Classifier
제안된 파이프라인은 표현-흐름(representation-flow) 합성곱 신경망과 동역학 및 불확실성을 고려한 트리 기반 가우시안 프로세스(Gaussian Process) 분류기를 통합한다. 이 프레임워크에서 잠재적 운동 동역학(latent motion dynamics)은 판별적 표현(discriminative representation)으로 활용되는 동시에 입력 불확실성의 원천으로도 활용되어, 시간적 변화와 비정상적인 동작 전환에 대한 견고성을 향상시킨다. 기존의 심층 학습 접근법과 비교했을 때, 제안된 전략은 더 적은 학습 데이터를 필요로 하며 계산 효율성이 향상된다. 분류 성능을 더욱 향상시키기 위해, 수술 영상 특징에 내재된 의미론적(semantic), 흐름(flow), 동역학(dynamic) 정보를 효과적으로 포착하는 새로운 의미 인식 복합 커널(semantic-aware compound kernel)을 도입한다. 또한 복합 커널 프레임워크의 견고성과 실용적 적용 가능성을 강화하기 위해 불확실성 인식 커널(uncertainty-aware kernel)을 개발한다. 제안된 방법은 두 가지 벤치마크 데이터셋, 즉 JIGSAWS와 Cataract-LMM(Capsulorhexis) 데이터셋에서 평가되었다. 실험 결과는 두 데이터셋 모두에서 강력한 성능을 보여주며, JIGSAWS에서의 LOSO 및 LOUO 평가 프로토콜을 포함하여, 특히 JIGSAWS에서의 피험자 독립적(subject-independent) LOUO 프로토콜에서 프레임워크는 96.9%의 평균 정확도(mean accuracy)를 달성한다. 피험자 내(within-subject) LOSO 프로토콜 하의 결과는 선행 연구와의 비교 가능성을 위해 보고되었으며, 계산 비용을 크게 절감하면서도 경쟁력 있는 정확도를 달성한다. 전체적으로, 제안된 파이프라인은 영상 기반 수술 기량 평가를 위한 효율적이고 정확한 프레임워크를 제공한다.
Multi-GAT: A Graphical Attention-based Hierarchical Multimodal Representation Learning Approach for Human Activity Recognition
토론
이 논문과 연결된 포럼 글이 아직 없습니다.