arXiv:1705.09606

End-to-end Global to Local CNN Learning for Hand Pose Recovery in Depth Data

Meysam Madadi, Sergio Escalera, Xavier Baro, Jordi Gonzalez

제출 2017-05-26

원문 초록

Despite recent advances in 3D pose estimation of human hands, especially thanks to the advent of CNNs and depth cameras, this task is still far from being solved. This is mainly due to the highly non-linear dynamics of fingers, which make hand model training a challenging task. In this paper, we exploit a novel hierarchical tree-like structured CNN, in which branches are trained to become specialized in predefined subsets of hand joints, called local poses. We further fuse local pose features, extracted from hierarchical CNN branches, to learn higher order dependencies among joints in the final pose by end-to-end training. Lastly, the loss function used is also defined to incorporate appearance and physical constraints about doable hand motion and deformation. Finally, we introduce a non-rigid data augmentation approach to increase the amount of training depth data. Experimental results suggest that feeding a tree-shaped CNN, specialized in local poses, into a fusion network for modeling joints correlations and dependencies, helps to increase the precision of final estimations, outperforming state-of-the-art results on NYU and SyntheticHand datasets.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.26923v1cs.CV공통 태그 Pose Estimation, 3D Pose Estimation

크리켓 샷 분류 및 자동 생체역학 분석을 위한 3D 포즈 기반 앙상블 프레임워크

A 3D Pose-Based Ensemble Framework for Cricket Shot Classification and Automated Biomechanical Analysis

크리켓은 전 세계에서 가장 사랑받는 스포츠 중 하나이며, 기술 발전은 현대 경기가 분석되고 코칭되는 방식에 깊이 자리 잡았다. 크리켓 샷 분류와 자동화된 성과 분석은 이러한 흐름에 또 다른 차원을 더한다. 전통적 접근법은 RGB 영상 특징이나 정적 이미지에 의존하며, 카메라 각도, 조명, 배경 잡음 등 환경 변화에 민감하고, 타격 동작의 근본적인 생체역학을 포착하는 데 종종 실패한다. 본 논문에서는 원시 영상 데이터를 입력으로 받아 YOLO로 영상 프레임에서 타자를 추출하고 MeTRAbs로 영상 프레임에서 3D 포즈 데이터를 추출하여 크리켓 코칭을 개선하는 시스템을 제안한다. 이 시스템은 30개 신체 관절점의 순차적 골격 포즈 데이터를 생성하며 타자의 생체역학적 특징을 포착한다. 시스템의 일부로 flick, pull, defense, drive 네 가지 샷에 대한 샷 분류용 심층 학습 앙상블도 제안한다. 앙상블은 기존 분류 연구 대비 우수한 성능을 보였으며 97.68%의 정확도를 달성했다. 또한 오분류율을 분석하여 샷이 잘못 분류된 사례를 식별하고 가능한 원인을 검토했다. 제안 시스템은 초보 선수가 전문 타자 대비 중요 관절 각도와 같은 유용한 피드백을 얻을 수 있게 하며, 부상 예방에도 도움이 될 수 있다. 샷 분류기는 클래스별 샷을 시간에 따라 추적하여 추가 분석을 돕는다. 초보 선수뿐 아니라 코치도 선수 평가에 이 시스템을 활용할 수 있다.

arXiv:2609.24193v1cs.CV공통 태그 Data Augmentation, Pose Estimation

안전한 보행자-차량 상호작용을 위한 경량 보행자 머리 방향 인식 네트워크

Lightweight Pedestrian Head-Orientation Recognition Network for Safe Pedestrian-Vehicle Interaction

보행자 머리 방향 인식은 보행자의 주의를 파악하고 잠재적인 횡단 행동을 예측하는 데 유용한 단서를 제공함으로써 자율주행에서 중요한 역할을 한다. 그러나 실제 교통 상황에서 보행자의 머리 영역이 저해상도로 촬영되는 경우가 많아 신뢰할 수 있는 인식은 여전히 어려운 과제로 남아 있다. 이러한 문제를 해결하기 위해, 우리는 보행자 머리 방향 인식을 위한 경량의 저해상도 머리 방향 합성곱 신경망(Low-Resolution Head Orientation Convolutional Neural Network, LRHO-CNN)을 제안한다. 우리는 여러 공개 데이터셋에서 보행자 머리 이미지를 추출하고 이를 8개의 방향 범주로 수동으로 주석 처리하여 새로운 데이터셋을 구축한다. 수집된 이미지는 데이터 다양성을 높이고 조명 및 이미지 품질의 변화를 더 잘 반영하기 위해 체계적으로 전처리 및 증강된다. 실험 분석에서는 LRHO-CNN을 세 가지 파인튜닝된 기준선 모델인 ResNet-18, ResNet-34, VGG-16과 비교한다. 그 결과 LRHO-CNN이 평가된 모델 중 가장 높은 분류 정확도를 달성함을 보여준다. LRHO-CNN은 JAAD 및 PIE 데이터셋에서 추가로 평가되어 실제 교통 상황에서 보행자 머리 방향을 인식하는 데 효과적임을 입증하며, 후속 보행자 행동 및 의도 예측을 지원할 수 있는 유용한 머리 방향 단서를 제공한다.

arXiv:2607.20142v1cs.CV공통 태그 Data Augmentation, Pose Estimation

현장(point-of-care) 유도 배치를 위한 실시간 EEG 캡 전극 검출

Real-Time EEG Cap Electrode Detection for Guided Point-of-Care Placement

우리는 라이브 웹캠 스트림에서 EEG 캡 전극을 검출하고 해부학적 배치를 실시간으로 검증하는 2단계 비전 시스템을 제안한다. 단일 클래스 YOLO 검출기가 전극을 위치 특정하고, 기하학적 단계가 얼굴 랜드마크로부터 각 검출 결과를 명명된 10-20 역할에 할당한다. 임상적으로 검증된 Small/Medium/Large 캡을 착용한 5명의 피험자에 대해 피험자 분리(subject-disjoint) leave-one-subject-out(LOSO) 교차 검증으로 평가한 결과, 검출기는 5개의 홀드아웃 fold에서 mAP@.5 = 0.94 +/- 0.07(pooled 0.96)를 달성한다. 전용 leave-one-cap-out 축에서 피험자와 무관하게 특정 캡의 모든 프레임을 홀드아웃하면 Medium과 Large의 mAP@.5는 LOSO 대비 0.01 이내(0.97, 0.97)인 반면 Small은 0.72 +/- 0.28로 하락하며, 이 격차는 캡 스타일보다 피험자 숙련도와 교란(confound)된다. 기하학적 증강(rotation, perspective, mixup)은 추론 비용 없이 평면 내 롤(in-plane-roll) 견고성과 측두(temporal) 전극 재현율을 향상시키며, 랜드마크 기반 머리 크롭(head crop)은 사용 가능 거리 범위를 확장하여 겉보기 스케일(apparent scale) 0.6배에서 mAP@.5를 0.23에서 0.45로 끌어올린다. 컴팩트한 모바일 후보 백본(YOLOv10n)은 640 px에서 범용 CPU 상에서 검출기를 실시간 처리량(19 FPS)으로 유지한다.

arXiv:2607.10408v1cs.CV공통 태그 Data Augmentation, Pose Estimation

GNOCHI: 근접 인간-인간 상호작용을 위한 생성 신경 모델

GNOCHI: Generative Neural mOdel for Close Human-Human Interactions

가상 환경에서 사실적인 3D 인간-인간 상호작용을 생성하는 것은 인체의 높은 자유도와 서로 충돌하지 않는 물리적으로 정확한 자세가 필요하기 때문에 어렵다. 인간-인간 상호작용에 대한 전통적인 방법들은 모션 트래킹 또는 3D 신체 재구성에 기반하지만 생성 능력이 부족하다. 최근의 생성 방법들은 텍스트나 이미지 입력을 통해 개별 또는 상호작용하는 모션의 합성을 가능하게 하지만, 일반적으로 근접 상호작용 모델링에서는 한계를 보인다. 본 논문은 조건부 변분 오토인코더(cVAE)를 사용하여 근접 3D 인간-인간 상호작용을 위한 새로운 생성 모델을 소개하며, 이 모델은 다른 사람의 자세를 조건으로 한 사람의 자세를 생성하여 제어 가능하고 다양한 상호작용 합성을 가능하게 한다. 모델 학습을 위해 인간-인간 상호작용 분야의 두 가지 오랜 과제를 해결한다. 첫째, 데이터 부족 문제에 대해서는 합성적이면서도 사실적인 상호작용 자세를 생성하는 자동화된 지도 학습 기반 데이터 증강 전략을 제안하고, 둘째, 생성 접근법에서의 충돌 인식 문제에 대해서는 물리적으로 올바른 상호작용을 보장하기 위해 체적 프록시를 사용한 충돌 해소 기법에 기반한 자기지도 손실을 제안한다. 본 논문은 모델의 역량을 광범위하게 평가하고, 현재 최신 방법으로는 생성할 수 없는 다양하고 물리적으로 올바른 상호작용들을 시연한다.

arXiv:2607.11064v1cs.CV공통 태그 Pose Estimation, 3D Pose Estimation

WiFi-JEPA: WiFi-CSI 3D 인체 자세 추정을 위한 자기지도학습

WiFi-JEPA: Self-supervised Learning for WiFi-CSI 3D Human Pose Estimation

WiFi 채널 상태 정보(CSI)는 카메라 사용이 불가한 환경에서 프라이버시를 보호하는 인체 자세 감지를 가능하게 하지만, 기존 WiFi 기반 자세 추정기는 환경 변화에 취약하고 확장성을 제한하는 비용이 높은 카메라 기반 어노테이션 파이프라인에 의존한다. 본 논문에서는 WiFi-JEPA를 제안한다. 이는 하드웨어 특유의 아티팩트를 포함할 수 있는 원시 CSI 신호를 재구성하는 대신 마스킹된 잠재 임베딩을 예측함으로써 CSI 고유 표현을 학습하는 자기지도학습 프레임워크이다. WiFi-JEPA는 세 가지 기여를 한다: (i) 채널, 시간, 링크(C,T,L)에 걸친 CSI 텐서에 맞춰 설계된 CSI 전용 토큰화 및 링크 마스킹; 전체 송수신(Tx-Rx) 안테나 링크를 마스킹함으로써 모델이 다른 공간 링크 뷰로부터 하나의 뷰를 예측하도록 강제하여, 3D 공간 구조에 관한 정보를 담은 교차 링크 상관관계를 포착한다. (ii) 무작위화된 기하학적 프리미티브로부터 다양한 비레이블 CSI를 생성하는 레이 트레이싱 CSI 시뮬레이션 파이프라인으로, 자세 어노테이션 없이 확장 가능한 사전학습 데이터를 제공한다. (iii) Person-in-WiFi-3D에서의 최첨단 결과: WiFi-JEPA는 동일한 평가 프로토콜 하에서 단일 및 다중 인물 3D 자세 추정 모두에서 기존 WiFi-CSI 기준 모델을 능가한다. 또한 시뮬레이션된 CSI가 실제 CSI에 대한 보완적인 사전학습 신호를 제공하며, 비전 고유의 자기지도학습(SSL) 목적 함수 네 가지는 처음부터 학습하는 것보다 성능을 저하시키는 반면, WiFi-JEPA는 다운스트림 자세 추정을 일관되게 향상시킴을 보인다.

arXiv:2607.07957v1cs.AI공통 태그 Data Augmentation, Pose Estimation

자폐 관련 자기자극적 손 특이행동의 시퀀스 기반 분류에서 프레임 레이트 효과 평가

Evaluating the Effect of Frame Rate in Sequence-Based Classification of Autism-Related Self-Stimulatory Hand Idiosyncrasies

자폐 스펙트럼 장애(ASD)는 전 세계 7,500만 명 이상에게 영향을 미치지만, 원격 행동 선별을 위한 확장 가능한 계산적 방법은 여전히 제한적이다. 본 연구는 비디오에서 자폐 관련 자기자극적 행동을 자동으로 탐지하는 데 있어 두 가지 보완적 과제를 다룬다: (1) 최적의 시퀀스 기반 신경망 아키텍처와 시간적 샘플링 레이트 식별, (2) 소규모 행동 데이터셋 학습을 위한 데이터 증강 전략 특성화. 첫 번째 목표를 위해, 장단기 메모리(LSTM)와 게이트 순환 유닛(GRU) 모델을 Self-Stimulatory Behavior Diagnosis(SSBD) 데이터셋의 포즈 기반 특징에 대해 1, 5, 15, 30, 45, 90 프레임 샘플링 간격으로 학습시켰다. 두 아키텍처 모두 기존 합성곱 신경망(CNN) 베이스라인(정확도 62~76%)을 초과하였으며, 15프레임 간격 샘플링에서 최고 정확도 97.5%(LSTM)와 98.75%(GRU)를 달성하였다. 두 번째 목표를 위해, I3D 전이학습 파이프라인에 열 가지 데이터 증강 전략을 적용하고 각 기법의 한계 기여도를 정량화하는 절제 연구(ablation study)를 수행하였다. 수평 뒤집기(horizontal flip)가 단독으로 가장 높은 정확도(48.78%)를 달성한 반면, 증강 파이프라인에서 업샘플링을 제외했을 때 성능 저하가 가장 크게 나타나 복잡한 행동 비디오 증강에서 업샘플링의 필요성이 확인되었다. 각 비디오의 시간적으로 분할된 구간에서 피험자별 모델을 학습 및 평가하는 개인화된 기계학습 접근법은 일관된 예측을 산출하였다(평균 손실 1.84, 표준편차 0.79). 이러한 결과는 데이터가 부족한 임상 영역에서 비디오 기반 행동 분류를 위한 아키텍처 선택, 샘플링 레이트, 데이터 증강 전략에 관한 구체적인 지침을 실무자에게 제공한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.