EgoFound3R: 점별 상호작용 속성을 포함한 월드 좌표계 기반 엔드투엔드 1인칭 손 재구성
EgoFound3R: End-to-End Egocentric Hand Reconstruction in World Space with Point-Wise Interaction Attributes
1인칭(egocentric) 비디오는 임바디드 모델(embodied model)의 주요 지도 신호원이 되었으며, 그 가치는 카메라 움직임과 손의 가려짐으로 인해 추정이 까다로운 월드 좌표계(world coordinates)에서의 손 움직임 복원에 달려 있습니다. 기존의 재구성 파이프라인은 일반적으로 손과 장면 추정을 분리하고, 상호작용 속성을 별도의 태스크 특화 모델에 맡기며, 비디오당 여러 모델을 실행합니다. 이로 인해 기존 재구성 모델 중 이러한 속성을 직접 추정하는 모델은 없었으며, 처리율(throughput)은 대규모 어노테이션에서 실질적인 제약이 되었습니다. 이에 본 연구에서는 장면과 공유되는 미터법 단위(metric scale)로 월드 좌표계 손 형상을 추정하고, 가시성, 접촉, 거리를 포함한 점별 상호작용 속성을 예측하는 통합 엔드투엔드 모델인 EgoFound3R을 제안합니다. 이 모델은 세 가지 설계를 통합합니다. (i) 사전학습된 기하학적 사전 지식을 월드 좌표계 손 재구성으로 전이하는 구조화된 손 프롬프트, (ii) 손 형상과 상호작용 속성을 디코딩하는 명시적 손 표현, (iii) 추론 비용을 낮추는 매개변수 공유 멀티레이트(multi-rate) 설계입니다. 이러한 설계가 결합되어 한 번의 패스로 손 형상과 점별 속성을 동시에 예측합니다. OakInk-v2, TACO, HOI4D 벤치마크에서 EgoFound3R은 기존 방법 대비 관절당 평균 위치 오차(MPJPE)를 각각 43.2%, 22.4%, 11.6% 줄였으며, 동일한 패스 내에서 형상과 함께 점별 접촉 및 거리를 예측하는 동시에 약 6배 더 높은 처리율을 달성했습니다.