PyTorchKR Papers

최신 논문

총 6편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.13479v1cs.AI

안전성 보증을 위한 엣지 케이스 시나리오 생성 로컬 에이전틱 AI 프레임워크

A Local Agentic AI Framework to Generate Edge Case Scenarios for Safety Assurance

엣지 케이스(edge case) 시나리오 생성은 자율 시스템의 학습(training), 테스트 및 안전성 보증(safety assurance)에 매우 중요합니다. 이는 위험한 실패 요소를 식별하여 시스템의 신뢰성과 견고성을 높이고, 시스템이 운용 설계 영역(ODD)의 경계에서도 여전히 안전하게 기능할 수 있도록 보장하며, 이러한 엣지 케이스에 대한 시스템의 예상 동작을 학습합니다. 언어 모델(LM)의 생성 및 분석 능력의 급격한 발전으로 적용 범위가 확장되었으며, 최근 연구에서는 LM을 활용한 시나리오 생성을 조사했습니다. 그러나 많은 최신 접근법은 인간 참여형(human-in-the-loop) 또는 규칙 기반 전략에 의존합니다. 이는 분포의 롱테일(long tail)에 해당하는 다양하고 극단적인 엣지 케이스 시나리오를 생성하는 LM의 능력을 제한합니다. 본 연구는 적응형 시나리오 생성을 위해 랩톱 기반의 에이전틱 AI(agentic AI) 프레임워크에서 로컬 LM을 사용합니다. 이는 비용이 저렴하고 완전한 통제가 가능하며 데이터 프라이버시와 보안을 보장합니다. 또한 가벼운 JSON 인코딩과 함께 사고(think), 행동(act), 관찰(observe), 업데이트(update), 지속(continue) 루프를 사용하여 시나리오를 생성합니다. 시나리오의 현실성을 보장하기 위해 시스템 요구사항, 시스템 설명, 환경(environment) 설명을 LM을 위한 문맥 프롬프트 내 지식 베이스로 사용합니다. 독립된 두 번째 LM은 시나리오가 개선될 수 있도록 도메인 특화 기준을 사용하여 각 시나리오를 비평합니다. 정제된 시나리오는 시뮬레이션에서 실행되고 평가 지표가 수집됩니다. 이러한 지표 점수를 분석하여 엣지 케이스에 대한 유사한 시나리오를 생성(활용, exploitation)하거나, 시나리오 공간을 탐색(exploration)하기 위한 새로운 시나리오를 생성합니다. 지표 점수를 이용한 사후 클러스터링과 LM이 생성한 리치 텍스트 시나리오 설명의 주제 유형 분석을 통해 기능적 격차와 그 유발 조건을 정확히 찾아냅니다. 이는 안전성 보증 케이스를 위한 추적 가능한 증거를 생성합니다. 본 연구는 엣지 케이스 생성을 자동화하고 추적 가능한 안전성 보증 증거를 산출하는 데 있어 유연하고 적응력 있는 로컬 에이전틱 AI 프레임워크의 잠재력을 강조합니다.

arXiv:2610.01581v1cs.AI

자율주행을 위한 생성형 시나리오 모델의 물리적 일관성 및 타당성 평가

Evaluating Physical Consistency and Plausibility in Generative Scenario Models for Autonomous Driving

자율주행 분야에서 시나리오 생성을 위해 생성형 인공지능(AI) 모델이 점차 널리 활용되고 있습니다. 이러한 모델들은 현실적으로 보이는 시나리오를 생성할 수 있지만, 학습된 표현의 투명성이 제한적인 경우가 많으며 실제 차량 동역학과의 일관성도 부족합니다. 이러한 공식적 보장의 부재는 안전이 중요한 검증(validation) 및 인증 워크플로우에서의 활용을 제한합니다. 이를 해결하기 위해, 본 연구에서는 5개 층(layer)에 걸쳐 모델을 평가함으로써 기존 방식을 보완하는 계층형 평가 프로토콜을 제안합니다. 첫 네 개의 층은 기구학적 정렬, 통계적 기준선(baseline) 비교, 잠재 공간 제어 가능성, 활성화 분석을 통해 내부 표현과 네트워크 층을 검사합니다. 다섯 번째 층은 횡방향 저크(jerk) 임계값과 같은 차량 동역학 제약조건에 맞춰 모델 출력을 평가합니다. 본 연구는 변이형 오토인코더(VAE) 기반 시나리오 생성기에서 해당 프로토콜을 실증합니다. 표준 출력 수준 지표와 시각화에서는 생성된 시나리오가 현실적인 것으로 나타나지만, 제안하는 프로토콜은 모델의 잠재 공간이 기구학적 특징과 정렬되는 정도와 시각적으로 타당한 궤적이 차량 동역학 제약조건을 만족하는지에 대해 더 깊은 통찰을 제공합니다. 나아가 추가적인 생성형 모델들에도 프로토콜을 적용하여 VAE 구조를 넘어선 확장 적용 가능성을 입증합니다.

arXiv:2609.27296v1cs.SE

Teach-to-Crash: 충돌 유발 테스트 시나리오 생성을 위한 폐루프 학생-교사 LLM 프레임워크

Teach-to-Crash: A Closed-Loop Student-Teacher LLM Framework for Collision-Inducing Test Scenario Generation

시뮬레이션에서 자율주행 시스템(ADS)을 검증하려면, 희귀하고 안전에 중요한(safety-critical) 실패를 발견하면서 실행 가능하고 다양하며 후속 실패 분석에 유용한 시나리오를 생성할 수 있는 테스트 아키텍처가 필요하다. 본 논문은 제약된 ego 중심 시나리오 표현, 정체(stagnation) 인식 검색 제어, 적응형 실패 탐색을 위한 이중 LLM 아키텍처를 결합한 폐루프 테스트 프레임워크 Teach-to-Crash를 제안한다. 고추론 Teacher LLM은 적응형 검색 제어기 역할을 하고, 저추론 Student LLM은 엄격한 JSON 스키마로 시뮬레이터에서 실행 가능한 시나리오를 출력한다. Teacher는 rolling collision rate와 time-to-collision 지표가 정체될 때만 개입하여 검색을 재방향할 전략적 지침을 제공한다. ego 차량의 속도 정책을 달리한 두 실험 설정으로 수행한 CARLA 사례 연구에서 Teach-to-Crash는 최고 Collision Hit Rate(90.79%), 최단 평균 Time-to-Collision(18.31 s), 경쟁력 있는 Collision Discovery Rate(136.21)를 달성했다. PAFOT은 더 높은 평균 CDR(179.44)을 기록했으나 분산이 훨씬 컸다. Teach-to-Crash는 또한 최고 다양성(0.547)과, CARLA Traffic Manager 컨트롤러 기준 두 설정을 평균했을 때 비교 방법 중 avoidability 기반 유용성 proxy가 가장 높았다(60.04%). 평가된 CARLA 범위 내에서 이러한 결과는, 폐루프 이중 LLM 추론이 제약된 실행 가능 프로그램 공간 위에서 적대적 시뮬레이션 기반 테스트를 조향하여 빈번하고 구조적으로 다양하며 더 자주 회피 가능한 것으로 평가되는 실패를 생성할 수 있음을 보여 준다.

arXiv:2607.19701v1cs.CV

SafeGen: VLM 기반 자율주행을 위한 안전 임계 시나리오의 목표 조건 비디오 확산

SafeGen: Goal-Conditioned Video Diffusion of Safety-Critical Scenarios for VLM-Based Autonomous Driving

VLM은 자율주행(AD) 시스템에 점점 더 배포되고 있어, 드물지만 안전 임계적인 시나리오에서 엄격한 안전성 평가가 시급해졌다. 이 중 취약 도로 이용자와의 상호작용은 실제 세계 실패의 주요 원인이다. 그러나 기존 안전 임계 시나리오 생성 방법은 대부분 시뮬레이터 기반 파이프라인에 의존하며, 이는 상당한 sim-to-real 격차를 겪고 현실적이고 다양하며 예견하지 못한 인간-차량 상호작용 역학을 포착하는 데 자주 실패한다. 우리는 VLM 기반 자율주행(VLMAD)에서 안전 임계 시나리오 생성을 위한 목표 조건 확산 프레임워크인 SafeGen을 제안한다. 핵심 통찰은 시나리오 생성을 목표 조건 확산 과정으로 공식화하는 것으로, 사전 정의된 치명적 종료 상태가 강한 지도 신호로 작용하여 안전 임계 결과를 향해 자연스럽게 진화하는 시간적으로 일관된 비디오 궤적 생성을 유도한다. 이 공식화를 바탕으로, 우리는 컨텍스트 그라운딩 종료 상태 추론(Context Grounded End State Reasoning)을 도입한다. 이는 VLM을 활용해 양호한 주행 컨텍스트를 분석하고 인간-차량 상호작용의 잠재적 취약점을 추론하여 고위험 시나리오를 유도하는 구조화된 종료 상태 명세를 생성한다. 이러한 목표에 조건화하여, 우리는 종료 상태 조건 비디오 진화(End State Conditioned Video Evolution)를 추가로 제안한다. 이는 의미적 위협을 물리적으로 타당한 시각적 역학으로 그라운딩한다. 구체적으로, 깊이 인식 기하학적 투영을 통해 장면 내 고위험 에이전트를 인스턴스화하고, 이어 경계 조건 확산으로 일관된 운동 패턴과 시간적 일관성을 갖는 중간 프레임을 생성한다. 3개 VLMAD에 걸친 광범위한 실험은 SafeGen이 VLM 판사를 사용해 VLMAD의 이해와 의사결정을 평가하는 지표인 Judge Overall Score를 SoTA 베이스라인 대비 평균 24.25% 향상시킴을 보여준다. 또한 VLMAD 미세조정은 실제 주행 장면에서 성능을 평균 15.9% 향상시킨다.

arXiv:2607.14387v1cs.AI

Chat2Scenic: 자율주행 시나리오 생성을 위한 반복적 RAG 기반 프레임워크

Chat2Scenic: An Iterative RAG-Based Framework for Scenario Generation in Autonomous Driving

자율주행 시스템의 검증에는 다양하고 규제를 준수하는 테스트 시나리오가 필요하다. 시뮬레이션 기반 테스트에서는 시나리오가 실행 가능한 스크립트로 정의된다. 그러나 규제 설명으로부터 이러한 스크립트를 자동 생성하는 것은 여전히 미해결 과제이며, 기존 접근법들은 근본적인 트레이드오프에 직면한다. 검색-조립(retrieval-assemble) 방법은 합리적인 컴파일 성공률을 달성하지만 확장성이 부족한 반면, 검색 기반 전체 스크립트 생성은 낮은 컴파일 성공률을 겪는다. 우리는 도메인 특화 언어(Domain Specific Language, DSL)로 시나리오 스크립트를 생성하는 최초의 반복적 검색-증강 프레임워크인 Chat2Scenic을 제안한다. 구체적으로 Chat2Scenic은 대화형 시나리오 정교화를 지원하는 챗봇 인터페이스를 제공하고, 규제 지식과 DSL 문법에 시나리오 생성을 그라운딩(grounding)하기 위해 검색-증강 생성(RAG)을 통합한다. 또한 NHTSA 및 유엔(UN) 차량 규정을 비롯한 다양한 규제 및 기타 출처로부터 123개의 시나리오로 구성된 시나리오 생성용 공개 벤치마크를 제안한다. 최신(SOTA) 대규모 언어 모델(LLM)을 사용한 광범위한 평가를 통해 Chat2Scenic이 76.42%의 컴파일 성공률(Compilation Success Rate, CSR)과 58.17%의 프레임워크 정확도(Framework Accuracy, FA)를 달성하여 기존 방법들(검색-조립(Retrieval Assemble): CSR 30.08%, FA 11.03%; 검색 기반 전체 스크립트 생성(Retrieval full script generation): CSR 16.26%, FA 10.86%)을 능가함을 보여준다. 향후 연구를 위해 코드를 오픈소스로 공개한다: https://github.com/TUM-AVS/chat2scenic.

arXiv:2606.31131v1cs.AI

Scenario Generation for Testing of Autonomous Driving Systems Using Real-World Failure Records

To ensure safe on-road behavior, pre-deployment testing and failure discovery of Autonomous Driving Systems (ADS) is crucial. Present day simulation based testing methods focus largely on mathematical models for efficient search of optimal scenarios, assuming a fixed scenario representation. On the other hand, real-world testing involves substantial manual effort to design scenario templates for testing. These templates represent distinct failure scenarios consisting of pre-deployment vehicle movements, map types, etc. Historical failure records for ADS are a reliable source of real-world failure conditions, which can be used for scenario generation. In this work, we propose a scenario generation pipeline using categorical and contextual information available from historical records in natural language format. Our approach consists of modular LLM based synthetic scenario generation, compatible with the testing constraints of a given system. We successfully apply our method to generate a diverse set of scenarios for testing autonomous navigation on Metadrive simulator using the NHTSA ADS crash records. Our approach results in accurate and diverse scenario generation with a combination of 4 road types, 3 non ego vehicle movement types, including on road anomalies in the form of working zones. Generated scenarios align with the provided testing conditions, and reveals interesting failures of the system within a limited testing budget of 20 scenarios. Code is available at https://github.com/anjaliParashar/crash2scenario.