Deep Multi-Sensor Lane Detection
원문 초록
Reliable and accurate lane detection has been a long-standing problem in the field of autonomous driving. In recent years, many approaches have been developed that use images (or videos) as input and reason in image space. In this paper we argue that accurate image estimates do not translate to precise 3D lane boundaries, which are the input required by modern motion planning algorithms. To address this issue, we propose a novel deep neural network that takes advantage of both LiDAR and camera sensors and produces very accurate estimates directly in 3D space. We demonstrate the performance of our approach on both highways and in cities, and show very accurate estimates in complex scenarios such as heavy traffic (which produces occlusion), fork, merges and intersections.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
종단 간 자율 주행을 위한 희소 행동 조건 타깃 기반 계획 정렬 BEV 표현 사전학습
Planning-Aligned Pretraining of BEV Representations with Sparse Action-Conditioned Targets for End-to-End Autonomous Driving
종단 간 주행에는 계획(planning)에 관련된 조감도(bird's-eye-view, BEV) 표현이 필요하지만, 기존 사전학습 접근은 종종 태스크 주석이나 밀집 장면 재구성에 의존한다. 우리는 PAVER(Planning-Aligned BEV Encoder Pretraining, 계획 정렬 BEV 인코더 사전학습)를 제안한다. 단일 LiDAR 스윕(sweep)으로부터 PAVER는 규칙 기반 ego motion을 따라 점유된 증거와 관측되지 않은 증거를 기술하는 희소 위험(risk) 및 unknown 타깃을 구성한다. 1만(10K) 매개변수 헤드가 행동 상태(action state)에 조건이 걸린 마스킹된 BEV 특징으로부터 이 타깃들을 예측하여, 후보 motion에 대한 기하학적 제약으로 지도(supervision)를 향하게 한다. 사전학습에는 주행 태스크 주석이나 밀집 재구성이 필요하지 않다. BEV 인코더만 전이(transfer)되어 하류 아키텍처와 카메라 전용 추론을 유지한다. nuScenes에서 PAVER는 VAD-Tiny의 평균 충돌률을 0.51%에서 0.19%로 낮추면서 planning L2, motion prediction, detection, mapping을 개선한다. 선택된 VAD-Tiny 및 VAD-Base 스케줄은 사전학습을 포함해 처음부터 학습(scratch training) 대비 추정 총 학습 시간이 약 36% 적다. Bench2Drive Town05 Long에서 PAVER는 UniAD-Tiny의 폐루프(closed-loop) Driving Score를 48.45에서 58.79로 향상시킨다. 프로젝트 페이지는 https://archiiive99.github.io/PAVER 에서 확인할 수 있다.
HGeo-TopoMap: 계층적 기하학적 사전정보를 활용한 위상 매핑 성능 향상
HGeo-TopoMap: Boosting Topological Mapping with Hierarchical Geometric Priors
위상 지도(topological map)는 자율주행 인지 시스템의 핵심 출력물로, 경로 계획(path planning)에 필요한 필수 도로 정보를 제공한다. 이는 중심선(centerline)과 교통 표지(traffic sign) 같은 인스턴스와 그들의 연결성 관계를 식별한다. 실제 환경에서는 중심선에 대한 명시적 표시가 부족하기 때문에, 중심선 인스턴스 탐지는 여전히 중요한 과제로 남아 있다. 이 문제를 해결하기 위해, 우리는 명시적 사전 지도(prior map)와 암묵적 공간 관계를 활용하여 위상 매핑을 계층적으로 향상시키는 HGeo-TopoMap을 제안한다. 먼저, 역원근 투영(inverse perspective mapping)을 통해 얻은 도로 구조 지도에 대해 기하학적 적응 학습(geometric adaptive learning) 모듈을 설계한다. 이 모듈은 지도로부터 의미적 및 공간적 특징을 이산적으로 인코딩한 뒤, 정보가 풍부한 영역에 선택적으로 집중하는 사전 마스크 어텐션(prior-mask attention) 메커니즘을 적용한다. 다음으로, 중심선의 기하학적 속성과 공간 관계를 활용하는 기하학적 일관성 학습(geometric consistency learning) 모듈을 고안한다. 기하학 인식(geometry-aware) 디코더 위에 구축되어, 동일한 기하학적 방향을 가진 중심선 인스턴스의 특징을 정렬함으로써 공간적 일관성을 강제한다. 제안 방법은 OpenLane-V2 데이터셋에서 중심선, 차선 세그먼트(lane segment), 견고성(robustness) 벤치마크에 걸쳐 평가된다. 위상 매핑 정확도의 상당한 개선 외에도, 제안 방법은 견고성 향상이라는 이점을 제공하며, 표준 및 어려운 조건 모두에서 베이스라인을 일관되게 능가한다. 소스 코드와 모델 가중치는 https://github.com/lynn-yu/HGeo-TopoMap 에서 공개될 예정이다.
고속 차량 레이싱을 위한 오도메트리 기반 3D 차선 검출
3D Lane Detection with Odometry for High-Speed Vehicle Racing
차선 경계 검출은 자율주행 시스템의 핵심 구성 요소이며 일반 주행 시나리오에서 광범위하게 연구되어 왔다. 그러나 차량이 더 극단적인 도로 기하학을 가로지르며 더 높은 속도로 이동하는 차량 레이싱에서는 상대적으로 덜 탐구되었다. 이 문제를 연구하기 위해, 폐쇄 서킷에서 주행한 Lexus LC 500으로 수집한 다중 카메라 피드와 관성 측정치를 포함하며 >$250$k장의 이미지를 담은 레이싱용 3D 차선 검출 데이터셋을 새롭게 제안한다. 이 데이터셋을 활용해 다양한 3D 차선 검출 접근법을 비교하고, 레이싱 응용에서 높은 예측 성능을 유지하면서 프레임을 거의 300Hz 속도로 처리할 수 있도록 하는 수정안을 제안한다. 이를 통해 하드웨어에서 검증된 다중 카메라 앙상블 접근법을 가능하게 한다. 관성 측정치와 같은 센싱 모달리티를 사전 적분(pre-integration)에 활용하여 카메라와 시간에 걸쳐 도로 기하학을 회귀할 수 있음을 보이며, 이는 핵심 지표에서의 개선으로 이어진다. BevLaneDet와 같은 방법과 비교했을 때, 오도메트리와 앙상블 예측을 추가하면 F1 점수가 3점 향상되고 근접 차량 평균 절대 오차(MAE)가 $>30 \%$ 감소한다. 실차 배치에서 F1 점수가 $>$0.9이고 측면 MAE가 $<$0.18m임을 보인다.
Shift & Drift: 일반화 가능하고 강건한 자율주행 모션 플래닝을 위한 제로샷 벤치마크
Shift & Drift: A Zero-Shot Benchmark for Generalizable and Robust Autonomous Driving Motion Planning
nuPlan과 같은 대규모 객체 수준 데이터셋으로 학습된 폐루프(closed-loop) 모션 플래너는 분포 내(in-distribution, ID) 성능이 우수하지만, 새로운 도시 토폴로지에 대한 일반화 능력과 실행 중 섭동(perturbation) 발생 후 복구 메커니즘은 충분히 탐구되지 않았다. 이를 해결하기 위해 우리는 두 가지 핵심 분포 변화 축에 걸쳐 모션 플래너를 엄밀하게 stress-test하도록 설계된 새로운 이중 트랙 벤치마크인 Shift & Drift를 제시한다. (1) Semantic Shift Track은 공중 촬영 기반의 DeepScenario Open 3D 데이터셋을 nuPlan 시뮬레이션 프레임워크로 변환하는 새로운 변환 파이프라인을 활용한다. 이를 통해 북미 및 싱가포르 데이터로 학습된 플래너를 독일 4개 도시와 미국 샌프란시스코에 걸친 1,182개 시나리오—보행자-자전거 이용자 간 밀집 상호작용이 특징적인—에 대해 제로샷(zero-shot) 평가할 수 있다. (2) State-Distribution Drift Track은 자차(ego vehicle)의 동역학에 확률적 섭동을 주입하여 누적 실행 오류에 대한 강건성을 정량화한다. 이를 기반으로 우리는 시맨틱 및 상태 분포 변화 하에서 다양한 플래닝 패러다임의 실패 양상을 체계적으로 평가한다. 모방 학습(imitation learning) 방법은 ID 벤치마크에서 높은 점수를 달성하지만, 시맨틱 변화—특히 보행자 밀집 환경—에서 심각한 실패를 나타내며, 시간적으로 상관된 액추에이션 노이즈에 노출될 경우 지속적인 드리프트(drift)를 겪는다. 이와 대조적으로, 평가된 강화학습(reinforcement learning) 기반 플래너는 두 트랙 모두에서 더 높은 안전성 및 진행 지표를 유지하며 보다 완만한 성능 저하를 보인다. 우리의 연구 결과는 모방 충실도와 폐루프 복원력 사이의 경험적 트레이드오프를 밝히며, 신뢰할 수 있는 배포를 향한 진전을 평가하기 위한 엄밀한 벤치마크를 커뮤니티에 제공한다.
자율주행의 환경적 착시에 대한 강건성 벤치마킹: 차선 인식 관점
Benchmarking the Robustness of Autonomous Driving to Environmental Illusions: A Lane Perception Perspective
환경적 착시(예: 그림자, 반사, 타이어 자국)는 실제 주행 환경에서 자연적으로 발생하지만 간과되어 온 현상이다. 이러한 착시는 시각적 인식을 교란하여 장면의 잘못된 해석을 유발하고, 자율주행(AD) 시스템에 심각한 안전 위험을 초래할 수 있다. 그러나 기존 연구들은 이러한 현상을 대체로 간과하여 중요한 공백이 남아 있다. 이 문제를 해결하기 위해, 우리는 크루즈 컨트롤 및 차선 중앙 유지와 같은 핵심 기능을 지원하는 기본 과제인 차선 인식 관점을 통해 AD 강건성을 연구한다. 우리는 두 가지 대표적인 모델에 집중한다: 기존 차선 감지(LD)와 비전-언어 모델 기반 시스템(ADVLMs). 본 연구에서 우리는 환경적 착시 하에서 차선 인식의 강건성을 평가하기 위한 최초의 벤치마크인 LanEvil++를 소개한다. LanEvil++는 14가지 유형의 착시를 포함하며, CARLA 시뮬레이터를 활용하여 94개의 고충실도 완전 제어 가능한 3D 장면을 생성하고, 90,292개의 주석이 달린 이미지, 1,596개의 비디오 클립, 41,855개의 시각적 질의응답 쌍으로 구성된 데이터셋을 제공한다. 광범위한 평가를 통해 환경적 착시가 최신 LD 방법의 성능을 상당히 저하시킴을 입증한다. 평균적으로 LD 모델은 정확도에서 5.27%, F1-score에서 10.49% 하락을 경험하며, ADVLMs는 GPT-score에서 2.03%, Language-score에서 0.75% 감소를 보인다. 모든 착시 중 그림자가 가장 방해적인 요인으로, 정확도를 최대 7.20%까지 감소시킨다. 또한, 폐루프 시뮬레이션을 통해 이러한 착시가 잘못된 주행 결정으로 이어질 수 있음을 밝힌다. 실제 사례 연구는 실제 교통 상황에서 안전에 치명적인 실패를 부각시킨다. 강건성을 향상시키기 위해 우리는 멀티모달 착시 방어 접근법(MIDA)을 제안한다. MIDA는 도전적인 조건에서 LD 모델의 강건성을 4.23%, ADVLMs의 강건성을 3.82% 향상시키는 상당한 성능 개선을 달성한다.
What's Hidden Matters: Identifying Planning-Critical Occluded Agents using Vision-Language Models
토론
이 논문과 연결된 포럼 글이 아직 없습니다.