arXiv:2111.01245

Learning Eye-in-Hand Camera Calibration from a Single Image

Eugene Valassakis, Kamil Dreczkowski, Edward Johns

제출 2021-11-01

원문 초록

Eye-in-hand camera calibration is a fundamental and long-studied problem in robotics. We present a study on using learning-based methods for solving this problem online from a single RGB image, whilst training our models with entirely synthetic data. We study three main approaches: one direct regression model that directly predicts the extrinsic matrix from an image, one sparse correspondence model that regresses 2D keypoints and then uses PnP, and one dense correspondence model that uses regressed depth and segmentation maps to enable ICP pose estimation. In our experiments, we benchmark these methods against each other and against well-established classical methods, to find the surprising result that direct regression outperforms other approaches, and we perform noise-sensitivity analysis to gain further insights into these results.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.27006v1cs.RO공통 태그 Pose Estimation, Camera Calibration

이동 로봇을 위한 레이저 트래커 보조 카메라-로봇 캘리브레이션

Laser-Tracker-Assisted Camera-to-Robot Calibration for Mobile Robots

카메라를 장착한 이동 로봇을 위한 레이저 트래커 보조 핸드-아이(hand-eye) 캘리브레이션 방법을 제안한다. 본 방법은 레이저 트래커 기반 3D 계측(metrology)과 카메라 기반 2D 관측을 결합한다. 지상 관측 이동 로봇을 대상으로 한 선행 연구의 레이저 트래커 보조 카메라-로봇 캘리브레이션 방법을 바탕으로, 트래커로 위치가 특정된 이동 로봇 좌표계에서 카메라 자세(pose)를 보정하기 위한 일반화된 정식화를 제시한다. 새 접근법은 여러 캘리브레이션 타깃을 연쇄(chain)함으로써 선행 방법이 로봇 및 카메라 구성에 대해 두었던 가정을 완화하고, 다양한 카메라 장착 이동 로봇 시스템을 지원하는 보다 일반적인 방법을 제공한다.

arXiv:2609.27227v1cs.CV공통 태그 regression, Pose Estimation

학습된 관절 운동 제약을 이용한 단안 영상 기반 수술 운동학

Surgical Kinematics from Monocular Video with Learned Articulated Motion Constraints

로봇 수술의 객관적 평가는 기구 운동학을 사용하며, 영상만 이용 가능한 경우 이를 재구성해야 한다. 우리는 단안 영상으로부터 기구의 위치, 방향 및 jaw 각도를 추정하는 운동학 재구성 네트워크를 제안한다. 시각 표현은 고정(frozen) DINOv3 특징에 대한 전역 어텐션 풀링과 파인튜닝된 SAM 3.1 마스크로 얻은 기구 랜드마크에서의 국소 풀링을 결합한다. 공유 트랜스포머 인코더와 시간적 합성곱 헤드는 이 표현을 마스크 기하, 단안 깊이, 및 팔(arm)별 다층 회귀 네트워크의 시각 상태 추정치와 통합한다. 위치 분기는 이동 거리를 보존하기 위해 변위 크기와 방향을 각각 예측한다. 예측된 상태 관측 및 운동 증분에 대해 미분 가능 가중 최소자승법으로 궤적을 맞추며, 누적 예측 회전에 상대적인 쿼터니언 관측을 표현하여 이차 방향 목적함수를 얻는다. 2,802개의 Open-H 에피소드에서 재구성을 평가한다. 주 Open-H 벤치마크에서 LiveMAE와 비교할 때, 본 방법은 경로 길이 평균 절대 오차를 0.45cm에서 0.34cm로 줄이고, 동작 분할을 위한 시간적 평균 평균 정밀도를 44.54%에서 54.44%로 높인다.

arXiv:2607.22973v1cs.CV공통 태그 regression, Pose Estimation

mmSimPrior: 데이터 효율적이고 실세계에서 일반화 가능한 레이더 기반 인체 동작 재구성을 위한 시뮬레이션 사전 학습

mmSimPrior: Learning Simulation Priors for Data-Efficient Real-World Generalizable Radar-Based Human Motion Reconstruction

밀리미터파(mmWave) 레이더는 인체 동작 재구성을 위한 프라이버시 보존적이고 조명에 강건한 센싱을 제공하지만, 실제 배포 환경 전반에서 일반화되는 모델을 학습하려면 수집 비용이 높은 다양한 레이더-동작 페어 데이터가 필요하다. 시뮬레이션은 확장 가능한 감독(supervision)을 제공하지만, 깨끗한 합성 신호로 학습된 모델은 다중경로(multipath), 클러터(clutter), 응답 통계, 해상도 저하로 인해 전이(transfer) 성능이 낮다. 우리는 전이 가능한 지식을 신호, 동작, 레이더-동작 매핑 사전(prior)으로 분해하는 시뮬레이션 사전학습(pre-training) 프레임워크인 mmSimPrior를 제안한다. 다중모달 신호 인코더는 전파 및 획득 수준의 변화를 모사하는 물리 기반 도메인 랜덤화(domain randomization) 커리큘럼으로 사전학습되며, 결합-시간(joint-temporal) 토크나이저는 그럴듯한 인체 동작에 대한 이산 사전을 학습한다. 공유 매핑 사전은 제약된 제로샷 재구성을 위한 학습된 동작 코드북(codebook)에 대한 분류(classification)와, 유연한 소량 데이터 적응을 위한 연속 회귀(regression)를 지원한다. 또한 420만 프레임, 3.1만 시퀀스 규모의 데이터셋(dataset) 스위트를 구축하고, 적응(adaptation)과 테스트 간에 동일한 피험자-환경(environment)-위치-동작 구성의 완전한 반복을 배제하는 No-Overlap Setting을 도입한다. mmSimPrior-Real 및 RT-Pose에서의 실험은 일관된 향상을 보여준다. 실제 페어 시퀀스 24개만으로 mmSimPrior-Reg는 세 환경(environment) 전반에서 가장 강한 기준선(baseline) 대비 MPJPE를 24.7%에서 39.0%까지 감소시키며, mmSimPrior-Cls는 파인튜닝(fine-tuning) 없이 제로샷 MPJPE를 8.5% 감소시킨다.

arXiv:2607.20947v1cs.CV공통 태그 Pose Estimation, Camera Calibration

RECO: 도로변 3D 검출에서 외부 파라미터 섭동에 대한 영역 인식 보정

RECO: Region-Aware Compensation for Extrinsic Perturbations in Roadside 3D Detection

지능형 교통 시스템에서 도로변 3D 객체 검출은 교통 이해, 협력형 조기 경보, 안전한 자율주행에 필수적인 넓은 영역 인식을 제공한다. 그러나 기존 방법들은 카메라 외부 파라미터(extrinsic)에 대한 높은 민감도로 인한 문제가 있다. 일시적인 지터(jitter)나 지속적인 드리프트(drift)로 나타나는 미세한 편차조차 투영 기하학에 의해 크게 증폭될 수 있다. 이러한 연쇄 효과는 심각한 특징 불일치와 저하된 위치 추정을 초래한다. 이 한계를 완화하기 위해, 우리는 조각별 6-DoF 자세 오프셋을 사용하여 외부 파라미터를 보정하는 영역 인식 외부 파라미터 보정 프레임워크인 RECO를 제안한다. RECO는 학습 가능한 거리 경계를 예측하여 장면을 근거리와 원거리 영역으로 분할하고, 영역별 자세 보정을 추정한다. 미분 가능한 시그모이드 게이트가 두 보정된 기하를 부드럽게 혼합하여 연속적인 BEV 샘플링을 유지하고 안정적인 최적화를 촉진한다. 외부 파라미터 정제를 지도하기 위해, 3D ground truth에서 투영된 2D 바운딩 박스와 2D 어노테이션을 비교하는 보조 재투영 손실을 도입하고, 이를 표준 검출 목적 함수와 함께 공동 최적화한다. 외부 파라미터 섭동 하에서 DAIR-V2X-I 및 Rope3D 벤치마크에 대한 광범위한 실험은 yaw 및 $z$축 편차 모두에서 최신(state-of-the-art) 기준선 대비 일관된 성능 향상을 보여준다. RECO는 일시적 섭동에서 지속적 이동으로도 일반화되며, 엄격한 보정(calibration) 불확실성 하에서도 매우 경쟁력 있는 성능을 유지한다.

arXiv:2607.12909v2q-bio.NC공통 태그 Pose Estimation

저전력 에지 플랫폼을 위한 비전 기반 실시간 낙상 감지

Real-time fall detection based on vision for low-power edge platforms

낙상 감지는 노인 돌봄과 지능형 감시에 필수적이지만, 기존 비전 기반 접근법은 대부분 이를 정적 자세 분류 또는 이산적 시간적 패턴 매칭으로 다루어, 인간 지지 체계의 불안정 역학을 근본적으로 간과한다. 본 논문은 낙상을 결합 동역학 시스템에서의 안정성 상실 사건으로 재정식화하는 물리 정보 기반 낙상 감지 프레임워크를 제안한다. 우리는 질량 중심(CoM) 하위 시스템과 지지 기반(BoS) 하위 시스템으로 구성된 새로운 이중 LTC 아키텍처를 도입하며, 두 하위 시스템 모두 Liquid Time-Constant(LTC) 신경망으로 구현되어 적응적 시간 상수를 통해 관성 궤적 진화와 지면 접촉 조정을 연속적으로 모델링하고 낙상 운동의 물리적 해석 가능성을 제공한다. 학습 가능한 결합 모듈은 두 하위 시스템 간의 물리적 상호작용을 모사하고, Stability Manifold 분류기는 결합 잠재 공간에서 Lyapunov 영감 안정성 지표를 통해 경계 교차를 감지한다. 보완적으로 반사실적 궤적 투영과 충돌까지의 시간(TTC) 추정은 비가역성 평가와 조기 경보를 추가로 가능하게 한다. 이 아키텍처는 3상태 예측 패러다임(정상, 낙상 중, 낙상 완료)을 지원하도록 설계되었으며, 본 예비 연구에서는 2클래스 데이터셋(정상 대 낙상)에서 핵심 안정성 판별 능력을 검증하고, 전체 3상태 시간적 전이는 향후 연구로 남긴다. 기존 CNN-RNN 파이프라인과 달리, 제안된 공식화는 연속 시간 기계적 관성을 인코딩하여 5만 미만 매개변수의 네트워크로 자원 제약 에지 장치에서 실시간 추론이 가능하다. 광범위한 실험은 우수한 물리적 해석 가능성과 함께 경쟁력 있는 정확도를 보여 주며, 저연산 시각적 낙상 감지에 대한 효과를 입증한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.