arXiv:2210.12196

Augmentation by Counterfactual Explanation -- Fixing an Overconfident Classifier

Sumedha Singla, Nihal Murali, Forough Arabshahi, Sofia Triantafyllou, Kayhan Batmanghelich

제출 2022-10-21

원문 초록

A highly accurate but overconfident model is ill-suited for deployment in critical applications such as healthcare and autonomous driving. The classification outcome should reflect a high uncertainty on ambiguous in-distribution samples that lie close to the decision boundary. The model should also refrain from making overconfident decisions on samples that lie far outside its training distribution, far-out-of-distribution (far-OOD), or on unseen samples from novel classes that lie near its training distribution (near-OOD). This paper proposes an application of counterfactual explanations in fixing an over-confident classifier. Specifically, we propose to fine-tune a given pre-trained classifier using augmentations from a counterfactual explainer (ACE) to fix its uncertainty characteristics while retaining its predictive performance. We perform extensive experiments with detecting far-OOD, near-OOD, and ambiguous samples. Our empirical results show that the revised model have improved uncertainty measures, and its performance is competitive to the state-of-the-art methods.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.02825v1cs.CV공통 태그 Autonomous Driving, counterfactual

TerrainForge: 반사실적 자율주행을 위한 물리 기반 도로 기하학 편집

TerrainForge: Physics-Grounded road geometry Editing for Counterfactual Autonomous Driving

도로 기하학(예: 정점부, 오목부, 과속방지턱)과 노면 상태(예: 젖어 있거나 빙판인 노면)는 차량의 움직임, 운전자와 온보드 카메라의 시야, 차량 간 여유 거리(clearance)에 영향을 미칩니다. 따라서 주행 장면에서 이러한 속성을 편집하려면 이에 상응하는 차량 움직임의 변화가 수반되어야 합니다. 주행 비디오에서 이러한 차이를 포착하려면 도로 편집 내용이 차량 움직임, 카메라 시점, 차량 간 여유 거리로 전파되어야 합니다. 본 논문에서는 재구성된 다중 차량 주행 에피소드로부터 도로 기하학 중심의 반사실적(counterfactual) 시나리오를 생성하는 프레임워크인 TerrainForge를 제시합니다. 통합 도로 모델(model)은 장면 변형을 4륜 차량 동역학과 연결하여 정점부, 오목부, 과속방지턱, 마찰력 변화가 차량 움직임, 카메라 시점 및 차량 간 여유 거리로 전파될 수 있도록 합니다. 차량 동역학은 CarSim을 기준으로 평가되었으며, 규정된 도로 기하학은 재구성된 Waymo 장면에서 검증되었습니다. 18개의 에피소드에 걸쳐 주변 차량의 반응을 재계산하는 대신 기록된 궤적에 그대로 둘 경우, 예측된 자차-선행 차량 간 거리의 중앙값 피크 차이는 정점부에서 1.52m, 오목부에서 1.41m로 나타났습니다. 나아가 983개의 제동 에피소드에 걸친 15,758개의 도로 편집에 대해 자차의 반응을 시뮬레이션하고, 각 편집을 편집되지 않은 재생 대비 안전성(safety) 결과와 쌍으로 구성했습니다. 이 쌍들을 통해 원래 주행 컨텍스트와 후보 도로 편집 파라미터를 입력으로 받아 자차의 최종 간격(terminal gap) 변화를 예측하는 1단계 선별 대리(surrogate) 모델을 학습시킵니다. 홀드아웃(held-out) 장면에서 이 예측은 변화가 없다고 예측하는 기준 대비 22-40% 더 낮은 평균 절대 오차를 달성하므로, 전체 다중 차량 롤아웃(rollout)을 수행하기 전에 후보군을 저비용으로 선별할 수 있습니다.

arXiv:2609.22582v1cs.CV공통 태그 Autonomous Driving, counterfactual

리더보드를 넘어서: 도메인 시프트 하의 엔드투엔드 및 VLA 주행 정책에 대한 반사실적 진단

Beyond the Leaderboard: Counterfactual Diagnosis of End-to-End and VLA Driving Policies Under Domain Shift

엔드투엔드 및 비전-언어-행동(VLA) 주행 정책은 리더보드 순위로 비교되지만, 순위는 결과만 보여줄 뿐 그 뒤에 있는 행동을 보여주지 않기 때문에 새로운 장소에서 정책이 어떻게 행동할지를 잘 예측하지 못한다. 공개된 여섯 개의 정책에서, nuScenes 오픈루프 오차나 NAVSIM 리더보드 상의 순위는 새로운 장소에서 자아 차량(ego) 주행 통로 근처에 보행자가 있는 장면으로는 이어지지 않는다. 우리는 반사실적 점검(counterfactual check-up)을 제안한다: 수백 개의 실제 프레임을 각각 두 가지 방식(보행자 제거, 또는 야간 스타일 섭동에 의한 재조명)으로 편집하고, 모든 편집을 독립적인 검출기로 검증하며, 계획된 궤적의 변화를 점수가 아닌 진단으로 해석한다. 이러한 편집으로부터 두 개의 인과 축(causal axes)을 읽어내고, 이를 기반으로 한 다섯 가지 검사는 하나의 점수가 뒤섞어 놓은 것들을 분리한다: 정책이 얼마나 멀리까지 주행할 계획인지, 보행자를 인지하는 것이 안전성을 확보해주는지, 그 반응이 위험도에 비례해 커지는지, 아무런 요구가 없을 때도 계획이 변하는지, 그리고 무관한 조명 변화가 계획을 얼마나 움직이는지. 246개의 NAVSIM 보행자 인접 장면에서, 보행자가 계획된 경로 위에 있는 셀 중 단 1.9%만이 진정한 회피 반응이었으며, 우리의 오픈루프 프로토콜 하에서 모든 정책에 대해 여유 거리(clearance)의 중앙값 변화는 최대 0.03 m, 계획된 거리의 중앙값 변화는 최대 0.08 m에 불과했다. 좌측통행에서 우측통행으로의 사전등록된(pre-registered) 테스트에서, 노출(exposure) 및 특이성(specificity) 순위, 조명 판정(lighting verdict), 충돌 결과는 전이되었지만, 점수 값과 위험 민감도(hazard-sensitivity) 판정은 전이되지 않았다. 선별 보고서(selection report)로 읽으면, 이 프로파일들은 어떤 정책이 짧게 계획하기 때문에 안전한지, 어떤 정책이 양보 없이도 인간과 비슷한 거리를 확보하는지, 어떤 정책이 아무런 반응이 필요 없는 변화에도 불안정한지를 말해주며, 각 판정에 드는 비용도 알려준다: 대부분은 수십 개의 프레임 내에서 안정되지만, 위험 민감도는 수백 개가 필요하다. 코드와 편집된 프레임은 공개될 예정이다.

arXiv:2607.15254v1cs.AI공통 태그 Autonomous Driving, counterfactual

teLLMe Why (Ain't Nothing but a Jam): 도시 운전 데이터의 탐색적 인과 분석

teLLMe Why (Ain't Nothing but a Jam): Exploratory Causal Analysis of Urban Driving Data

교통 관리 기관은 이제 안전과 혼잡 연구를 위해 대량의 영상 기반 데이터에 접근할 수 있다. 이러한 데이터의 대부분은 관찰 데이터이며 개입 없이 수집되므로, "비가 교통 밀도를 어떻게 변화시킬까?"와 같은 인과 질문에 답하기 어렵다. 우리는 도시 운전 데이터셋의 탐색적 인과 분석을 위한 시스템인 teLLMe를 제안한다. 이 시스템은 대시캠 주석으로 구축된 구조화된 이벤트 테이블에서 출발하여, PC 알고리즘을 이용한 인과 구조 학습, 부트스트랩 기반 안정성 검사, 선형 회귀 및 DoWhy를 이용한 쿼리별 효과 추정을 결합한다. 자연어 질문은 스키마 인지(schema-aware) LLM을 통해 구조화된 인과 쿼리로 매핑되어, 사용자가 처치(treatment), 결과(outcome), 하위 모집단(subpopulation)을 지정할 수 있게 한다. teLLMe는 효과 추정치, 조정 집합(adjustment set), 방향성 비순환 그래프(DAG) 지원, 가정을 요약하는 "Causal Card"를 반환하고, 이어 짧은 자연어 설명을 제공한다. BDD 기반 교통 이벤트에 대한 사례 연구는 이 시스템이 날씨, 피크 시간, 교통 밀도와 관련된 그럴듯한 관계를 드러낼 수 있으며, 불확실성과 모델링 선택을 명시적으로 보여줄 수 있음을 보여준다. 이 시스템은 확정적 인과 주장의 출처라기보다 가설 생성과 전문가 추론을 위한 도구로 설계되었다.

arXiv:2607.10781v1cs.CV공통 태그 Autonomous Driving, counterfactual

에너지 가이던스만으로 충분한가? 주행 월드 모델을 위한 학습 없는 노름 주입

Is Energy Guidance All You Need? Training-Free Norm Injection for Driving World Models

대규모 비디오 확산 백본 위에 구축된 주행 월드 모델은 사실적인 장면을 생성하지만 제어하기가 어렵다. 교통 규범을 적용하려면 일반적으로 백본을 재학습하거나 수작업으로 구성된 레이아웃으로 조건화해야 한다. 우리는 제어 가능성이 학습을 전혀 필요로 하지 않을 수 있는지 묻는다. 우리의 실험은, 미래 비디오와 계획된 자아 궤적을 공동으로 생성하는 정류 흐름(rectified-flow) 기반 주행 월드 모델이, 확산 백본의 특정 지식 재학습 없이 주행 규범을 인코딩하는 미분 가능한 에너지 함수를 샘플링 시점에 주입함으로써 계획된 궤적을 완전히 조향할 수 있음을 보여준다. 구체적으로, Open-Sora 2.0 MM-DiT 백본 위에 구축된 월드 모델이 샘플링 시점에 에너지 가이던스를 주입하여 반사실적 목표 지점에서 제동하도록 조향될 수 있음을 시연한다. 그러나 생성된 비디오는 백본의 공동 셀프 어텐션을 통한 조향된 궤적을 아직 따르지 않음을 발견하였으며, 종단 간 제어 가능한 롤아웃을 위한 핵심 요건으로 교차 스트림 결합(cross-stream coupling)을 식별한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.