arXiv:2005.04255

STINet: Spatio-Temporal-Interactive Network for Pedestrian Detection and Trajectory Prediction

Zhishuai Zhang, Jiyang Gao, Junhua Mao, Yukai Liu, Dragomir Anguelov, Cong-Cong Li

제출 2020-05-08

원문 초록

Detecting pedestrians and predicting future trajectories for them are critical tasks for numerous applications, such as autonomous driving. Previous methods either treat the detection and prediction as separate tasks or simply add a trajectory regression head on top of a detector. In this work, we present a novel end-to-end two-stage network: Spatio-Temporal-Interactive Network (STINet). In addition to 3D geometry modeling of pedestrians, we model the temporal information for each of the pedestrians. To do so, our method predicts both current and past locations in the first stage, so that each pedestrian can be linked across frames and the comprehensive spatio-temporal information can be captured in the second stage. Also, we model the interaction among objects with an interaction graph, to gather the information among the neighboring objects. Comprehensive experiments on the Lyft Dataset and the recently released large-scale Waymo Open Dataset for both object detection and future trajectory prediction validate the effectiveness of the proposed method. For the Waymo Open Dataset, we achieve a bird-eyes-view (BEV) detection AP of 80.73 and trajectory prediction average displacement error (ADE) of 33.67cm for pedestrians, which establish the state-of-the-art for both tasks.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.02364v1cs.CV공통 태그 Object Detection, Autonomous Driving, Pedestrian Detection

도메인 변화 환경에서 보행자 검출을 위한 신뢰도 통제 기반 설명가능 인공지능(XAI) 감사

Confidence-Controlled XAI Auditing for Pedestrian Detection under Domain Shift

지능형 차량의 인지 모델에서 설명가능성(explainability)이 점차 요구되고 있으나, 주행 도메인 변화(domain shift) 환경에서도 설명이 충실도(faithfulness)를 유지하는지는 여전히 명확히 밝혀지지 않았습니다. 본 연구는 관심 영역(ROI) 기반 D-Deletion, 고정 신뢰도 3분위수, 순위 기반 검정, 부트스트랩 신뢰구간 및 Holm 교정을 활용하여 PIE 및 JAAD 데이터셋에 걸쳐 고정된 YOLOv8s 보행자 검출기의 사후(post-hoc) 설명을 감사합니다. 감사 결과, 삭제 기반 충실도는 설명 생성 시점의 검출 강도(detection strength)와 강하게 결합되어 있으며(D-RISE의 스피어만 상관계수 0.70~0.82), 이로 인해 단순한 신뢰도 계층화 비교는 신뢰하기 어려움이 드러났습니다. 고정된 f0 빈(bin) 내에서 검출 강도를 통제한 후에도 D-RISE 충실도는 중심 f0 범위에서 도메인에 따라 달라졌으며, PIE가 JAAD보다 더 높은 D-Deletion 및 Holm 보정 유의성을 나타냈습니다. 비섭동(non-perturbative) 기반 EigenCAM 기준선은 D-RISE보다 충실도가 낮았으나 마찬가지로 점수 결합 현상을 보여, 이러한 효과가 D-RISE에만 국한되지 않고 삭제 기반 평가 설정과 연관되어 있음을 시사합니다. 이러한 결과는 도메인 변화 환경의 안전 필수(safety-critical) 인지 시스템에서 신뢰도를 통제한 XAI 감사가 필요함을 시사합니다.

arXiv:2609.39888v2cs.LG공통 태그 Autonomous Driving, Trajectory Prediction

마르코프 동역학 강제자: 학습된 동역학 다양체 상에서 실행 가능성을 보존하는 보정

Markovian Dynamics Enforcer: Feasibility Preserving Correction on Learned Dynamics Manifolds

신경망 궤적 예측 모델(neural trajectory predictor)은 특히 제어 입력이 관측되지 않고 동역학이 부분적으로만 명시된 경우, 동역학, 액추에이터 한계 또는 상태 제약 조건을 위반하면서도 낮은 예측 오차에 도달할 수 있습니다. 본 논문에서는 상태 전이 제안을 학습된 실행 가능한 동역학 다양체(manifold)로 매핑하는 시불변 사후 연산자인 MaDE(Markovian Dynamics Enforcer)를 소개합니다. 이는 실제 제어 입력(ground-truth controls) 없이 실행 가능한 상태만을 바탕으로 학습됩니다. MaDE는 각 전이에 대해 제어 입력을 추론하고, 알려진 물리 법칙과 학습된 잔차(residual)로 구성된 완결 모델(completion model)을 통해 상태를 재계산합니다. 그런 다음 그래디언트 기반 부등식 감소를 통해 해당 제어 입력을 보정하므로, 부등식 만족은 반복(iteration) 예산 내에서 최선의 노력(best-effort)으로 이루어집니다. 모든 보정 반복 단계가 완결 모델에 다시 입력되므로, 반환된 상태는 해당 모델 및 제공된 이전 상태 앵커를 기준으로 구조상 동역학적 일관성을 갖게 됩니다. MaDE는 완전히 명시된 시뮬레이션 시스템에서 동역학 잔차를 본질적으로 0에 가깝게 줄이며, 불충분하게 명시된 시스템에서는 베이스라인보다 더 작은 실제 동역학 잔차를 남깁니다. 임의의 예측 모델에 결합되도록 설계된 이 고정된(frozen) 연산자는 순환 신경망, 구조화된 상태 공간, 트랜스포머(transformer) 예측 모델의 다운스트림에서 평가되었습니다. 기록된 차량 궤적 데이터에서 기구학적 자전거 모델 대비 1단계 잔차는 MaDE 적용 시 0.0071~0.0072인 반면, 원본 예측 모델은 0.1703~0.1714였습니다. MaDE는 평균 변위 오차(ADE)를 1.57배에서 1.83배 증가시킵니다.

arXiv:2610.01905v1cs.CV공통 태그 Autonomous Driving, Trajectory Prediction

MapLightning: 1D 맵 토큰을 활용한 온라인 벡터화 고정밀 지도(HD Map) 구축

MapLightning: Online Vectorized HD Map Construction with 1D Map Tokens

온라인 벡터화 고정밀 지도(HD Map) 구축은 안전한 자율주행의 확장을 위해 필수적이며, 정확한 실시간 추론(inference)을 요구합니다. 기존 방식들은 주로 중간 표현으로 조감도(BEV, Bird's-Eye-View) 격자에 의존합니다. 본 논문에서는 조밀한 BEV 격자를 압축된 1D 학습형 맵 토큰 세트로 대체하는 MapLightning을 제안합니다. 이미지 특징으로부터 맵 토큰을 구성하기 위해, 일반적인 크로스 어텐션 대신 셀프 어텐션(self-attention)을 채택하여 이미지 토큰과 맵 토큰 간의 결합 상호작용 및 문맥적 집계를 가능하게 합니다. 제안하는 트랜스포머(transformer) 기반 매퍼는 맵 토큰과 이미지 토큰을 연결(concatenate)하고 전체 셀프 어텐션을 적용한 후, 이미지 토큰은 버리고 업데이트된 맵 토큰만 유지하여 디코딩에 활용합니다. 이러한 설계는 세 가지 이점을 제공합니다. 첫째, 제안하는 표현 방식은 더 적은 수의 토큰을 사용하여 메모리 소모를 줄이고 더 빠르게 동작하므로 효율적입니다. 둘째, 경량화된 설계를 통해 맵 디코더가 변형 가능한(deformable) 크로스 어텐션 대신 완전한 크로스 어텐션을 사용하여 더 우수한 전역 문맥을 활용할 수 있습니다. 셋째, BEV 기반 방식과 달리 카메라 투영 파라미터를 사용하지 않아 카메라 외란(extrinsic perturbation)에 견고합니다. MapLightning은 조밀한 BEV 기반 방식 대비 최대 16.7배 적은 중간 토큰을 사용하며, nuScenes 및 Argoverse 2 벤치마크에서 최고 수준의 정확도와 효율성을 달성합니다. 경량 버전은 nuScenes에서 +10.1 mAP, Argoverse 2에서 +16.2 mAP만큼 MapTRv2를 능가하는 동시에, 53% 적은 메모리로 1.73배 빠른 추론 속도(40+ FPS)를 제공합니다. 나아가 불확실성을 인지하는 지도 구축 및 다운스트림 경로 예측에서도 개선 효과를 입증합니다. 코드와 모델은 공개될 예정입니다.

arXiv:2609.26919v1cs.RO공통 태그 Object Detection, Autonomous Driving

시계를 굽히다: 이벤트 기반 객체 검출에서 지연을 이기 위한 선행 예측

Bend the Clock: Predicting Ahead to Beat Latency in Event-Based Object Detection

이벤트 카메라는 고속 로봇 시스템에서 낮은 지연의 인지를 약속하지만, 짧은 지연조차도 검출 결과가 하위 로봇 의사결정에 반영될 때쯤에는 이미 낡은 정보가 될 수 있다. 그럼에도 최신 이벤트 검출기는 예측이 사용 가능해지기까지 수십 밀리초의 연산을 여전히 요구한다. 기존 평가는 관측 시각의 주석과 예측을 비교하여 이 지연을 무시하는데, 실제로는 그 예측이 생성될 때쯤 장면이 이미 바뀌었을 수 있다. 본 연구는 이벤트 기반 다중 객체 검출에서 이러한 관측–가용성 불일치를 분석하고, 최신 이벤트 검출기가 관측 시각이 아니라 예측 가용 시각 기준으로 평가할 때 성능이 크게 저하됨을 보인다. 이를 해결하기 위해 ChronoFuse를 제안한다. ChronoFuse는 입력이 관측된 시각이 아니라 출력이 사용 가능해지는 시각의 객체 상태를 예측하는 인과적 가용-시각 검출기이다. ChronoFuse는 다중 스케일 특징 계층에 걸친 인과적 교차-시간 융합을 수행하여, 캐시된 시간적 특징과 현재 표현을 결합함으로써 미래 관측을 사용하지 않고 단기 시간적 단서를 드러낸다. 융합 경로는 경량이며, 평균 end-to-end 지연 오버헤드는 0.17백만 개의 파라미터와 0.84 ms만 추가한다. ChronoFuse는 1Mpx 주행 데이터에서 지연으로 인한 정확도 손실의 71%를 회복하고, FRED의 급격한 드론 움직임에서는 90.8%를 회복하여 거의 무지연 성능에 가깝게 복원한다. EV-Flying의 극한적인 움직임에서는 ChronoFuse가 20.95 sAP에 도달하며, 가장 강한 표준 이벤트 검출기의 2.25 대비 9.3배 향상을 보인다. 이 결과는 자율주행, 민첩 비행, 로봇 요격 등 빠르게 변하는 장면에서 동작하는 로봇에게 선행 예측이 핵심적일 수 있음을 보여준다.

arXiv:2609.27123v1cs.CV공통 태그 Object Detection, Autonomous Driving

PEARL: 실시간·익명·이종 협력 인식을 위한 경량 프롬프트 기반 특징 해석기 프레임워크

PEARL: A Lightweight Prompt-based Feature Interpreter Framework for Real-Time, Anonymous, and Heterogeneous Collaborative Perception

협력 인식(Collaborative Perception, CP) 에이전트 간 이종성은 서로 다른 센서, 아키텍처, 학습 데이터로 인한 도메인 격차 때문에 신흥 CP 프레임워크의 주요 과제이다. 선행 연구는 모델 재학습이나 에이전트 유형별 해석기를 통해 통합 공간에서 특징을 정렬하는 방식으로 이 과제를 완화한다. 이러한 전략은 (a) 이웃 구성에 대한 접근을 요구하고, (b) 실시간 CP 배포를 완전히 다루지 못하며, (c) 실행 시점에 새로 합류하는 보지 못한 에이전트에 대해 일반화가 취약하다. 이러한 과제를 극복하기 위해, 우리는 익명·실시간·경량 이종 CP를 위한 프롬프트-임베딩(Prompt-Embedding) 프레임워크 PEARL을 제안한다. PEARL은 여러 CP 해석기를 지원하며, 병렬로 학습된 두 개의 경량 다중 스케일 해석기를 사용해 새로 합류하는 에이전트에 대해 실시간으로 하나를 선택한다: 협력 검출을 위해 현저한 영역을 정렬하는 희소 검출(LWSD) 해석기,와 빠른 해석기 선택을 위해 에이전트 불변 특징을 생성하는 밀집·도메인 불변(LWDDI) 해석기. 두 해석기 모두 저랭크(low-rank) 시각 프롬프트를 사용해 연산, 저장, 모델 복잡도를 줄인다. 시뮬레이션(OPV2V, V2XSet) 및 실측(DAIR-V2X) 데이터셋에 대한 광범위한 실험은 PEARL이 시뮬레이션과 실세계 협력 주행 시나리오 전반에서 일반화됨을 보여준다. 실시간 모델 선택 전략은 무작위 선택 기준선 대비 평균 정밀도(Average Precision, AP) 8.2% 향상을 달성하며, 평균 1.67 ms에서 동작한다. PEARL은 주로 실시간 CP를 위해 설계되었지만, 전통적인 오프라인 학습에서도 최신 이종 CP 프레임워크를 평균 5.6% AP만큼 능가하며 통신 비용을 최대 34.7배 줄인다. 마찬가지로 중요한 점은, PEARL이 에이전트의 구성이나 모델 설정 공유를 요구하지 않아 독점적이거나 사적인 정보를 보호한다는 것이다. 이러한 결과는 PEARL을 이종 협력 인식을 위한 확장 가능하고 실용적인 프레임워크로 자리매김한다.

arXiv:2609.28239v1cs.CV공통 태그 Object Detection, Autonomous Driving

ODPure: 앙상블 손상 합의를 통한 객체 검출용 백도어 정제

ODPure: Backdoor Purification for Object Detection via Ensemble Corruption Consensus

자율주행과 같은 애플리케이션의 발전과 함께 객체 검출(object detection)이 상당한 주목을 받고 있으나, 동시에 모델의 무결성을 심각하게 훼손하는 백도어 공격과 같은 치명적인 취약점도 부각되고 있다. 구체적으로 이러한 공격은 입력에 사전 정의된 트리거(trigger)가 존재할 때 객체의 범주를 변경하거나(즉, 객체 오분류), 경계 상자(bounding box)를 제거하거나(즉, 객체 소멸), 존재하지 않는 객체에 대한 경계 상자 제안(proposal)을 생성(즉, 객체 생성)하는 방식을 취한다. 이미지 분류(image classification)에 대한 백도어 방어는 잘 확립되어 있지만, 객체 검출에 대한 연구는 상대적으로 미진한 상태이다. 기존 방어 기법들은 잠재적인 백도어를 찾기 위해 출력이나 모델을 스캔하여 이러한 위협을 해결하지만, 악성 데이터나 모델 자체를 폐기해야 한다. 이러한 해결책은 객체 검출 파이프라인에서 지속적이고 정확한 인지 스트림을 제공하지 못한다. 이러한 한계를 해결하기 위해, 본 논문에서는 안정적인 인지 흐름을 보장하는 입력 정제(input purification)에 기반한 객체 검출용 새로운 입력 단계 블랙박스 방어 기법인 ODPure를 제안한다. 객체 검출기의 밀집 예측(dense prediction) 특성에 맞춰 설계된 제안하는 손상-재구성-선택(Corruption-Reconstruction-Selection, CRS) 패러다임은 다양한 손상(corruption) 포트폴리오를 통해 트리거를 무력화하여 방대한 중복 제안 풀을 생성하고, 생성형 사전 확률(generative priors)을 통해 세밀한 구조적 단서를 복원한 뒤, 최종적으로 투표를 적용하여 도출된 검출 결과에 대한 합의에 도달하는 방식으로 작동한다. 포괄적인 실험을 통해 제안 기법이 기준선(baseline) 정확도를 보존하면서 다양한 백도어 공격 및 트리거 유형에 대해 강력한 방어를 제공함을 입증한다. 코드는 https://github.com/Alex66366/ODPure 에서 확인할 수 있다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.