PyTorchKR Papers

최신 논문

총 4편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.01781v1cs.AI

MEC가 없는 마르코프 결정 과정(MDP)에서의 도달 가능성을 위한 Q-러닝

Q-Learning for Reachability in MEC-Free MDPs

도달 가능성(reachability) 명세를 위한 강화학습(RL)은 순차적 의사결정에서 기본이 되는 문제입니다. 기존 연구에서는 최적 정책으로의 점근적 수렴(asymptotic convergence)을 규명했으나, 이는 기저 마르코프 결정 과정(MDP)의 전이 확률을 명시적으로 추정해야만 하는 모델 기반(model-based) 방식을 통해서만 가능했습니다. 본 논문에서는 표준적인 MEC 몫(quotient) 연산을 통해 모든 MDP가 환원될 수 있는 기본 구성 요소인, 비종단 최대 끝 컴포넌트(non-terminal maximal end components, MEC)가 없는 MDP 단편에서 도달 가능성에 대한 점근적 보장을 제공하는 최초의 모델 프리(model-free) 알고리즘인 Quasar를 제시합니다. 본 알고리즘은 고전적인 Q-러닝 접근법을 따라 시간차(temporal-difference) 업데이트를 활용하여 전이 확률을 전혀 학습하지 않고도 최적 정책으로 수렴합니다. 이를 통해 도출된 학습기는 메모리 사용량을 모델 기반 방식에 필요한 O(|S|^2|A|)에서 O(|S||A|)로 줄입니다. 표준화된 정량 검증 벤치마크 세트(Quantitative Verification Benchmark Set)에서 본 알고리즘은 기존의 최신 모델 기반 기법(SOTA)보다 수 자릿수(orders of magnitude) 적은 샘플만으로 최적 정책에 수렴합니다. 이러한 결과는 도달 가능성 학습의 실질적인 적용과 더불어 명세 유도형 강화학습(specification-guided RL)의 실용적 배치를 향한 구체적인 진전을 이룹니다.

arXiv:2609.27816v1cs.RO

VLM-LLM 추론과 도달 가능성 분석을 통한 안전한 다중 로봇 협업

Safe Multi-Robot Coordination via VLM-LLM Reasoning and Reachability Analysis

로봇마다 센싱 능력, 환경 인식 수준, 모션 실행 역할이 상이한 이종 사물통신(M2M) 로봇 시스템에서는 안전한 협업을 달성하기 어렵습니다. 본 논문에서는 비전 기능이 있는 4족 보행 로봇과 카메라가 없는 로봇 차량으로 구성된 이종 모바일 로봇 팀의 협력적 목표 지향 내비게이션을 위한 중앙 집중식 안전 인식 M2M 프레임워크를 제안합니다. 본 연구의 목표는 정적 및 동적 장애물을 회피하고 로봇 간의 불안전한 상호작용을 방지하면서 두 플랫폼을 목표 영역으로 유도하는 것입니다. 공유 인지의 원리에 따라 비전 기능 로봇은 MQTT 브로커를 통해 중앙 집중식 서버로 의미론적 환경 인식을 제공하며, 카메라가 없는 플랫폼은 자체 주행거리계(odometry), IMU, 상태 피드백과 함께 이 공유된 장면 표현을 활용하여 내비게이션을 수행합니다. 비전-언어 모델(VLM)이 시각 스트림을 해석하고, 추출된 의미론적 데이터는 팽창된 장애물 집합, 안전 회랑, 목표 영역을 포함한 보수적인 미터법 기하학적 제약 조건으로 매핑됩니다. 대규모 언어 모델(LLM)은 상위 수준의 작업 할당을 제안하는 반면, 물리적 명령 권한은 로봇별 조노톱(zonotope) 도달 가능성 게이트로 제한됩니다. 이 검증 엔진은 명령을 승인하기 전에 독립적인 도달 가능 튜브(reachable tube)를 전파하여 장애물 회피, 안전 회랑 포함 여부, 로봇 간 분리 술어를 평가합니다. 경로가 트인 시나리오와 동적 장애물 시나리오 전반에 걸친 온라인 실험을 통해, 이 파이프라인이 안전한 모션을 안정적으로 승인하고, 제약 조건 위반 시 보수적인 재계획 또는 정지 기동을 유발하며, 자문적 의미론적 추론과 정형 검증된 모터 실행 간의 엄격한 구조적 분리를 강제함을 보여줍니다.

arXiv:2607.08899v1eess.SY

신호 시제 논리로부터 비선형 시스템을 위한 학습 기반 매개변수 합성

Learning-enabled Parameter Synthesis for Nonlinear Systems from Signal Temporal Logic

신호 시제 논리(STL)는 목표 시계열 데이터가 없는 경우에도 최적 제어 및 학습 방법에 대한 해석 가능한 목적 함수와 제약 조건을 기술하는 데 점점 더 많이 활용되고 있다. 본 연구에서는 불확실한 초기 조건에 대해 연속 시간 STL 명세를 강건하게 만족하는 비선형 시스템의 매개변수를 합성하는 방법을 제안한다. 이를 위해 그래디언트 기반 최적화와 집합 기반 도달 가능성 검증을 결합하여 고차원 매개변수 공간에서 효율적으로 학습하는 동시에, 최적화된 매개변수에 대한 증명 가능한 만족 보장을 제공한다. 최대 18개의 매개변수 차원을 갖는 세 가지 시스템에 대한 실험을 통해 제안 방법의 효과성과 확장성을 입증한다.

arXiv:2606.16567v2cs.AI

TNODEV: 신경 ODE 검증을 위한 툴박스

TNODEV: Toolbox for Neural ODE Verification

안전 필수 환경에서의 Neural ODE 형식 검증 문제를 해결하기 위해, 반례 탐색, 연속 시간 혼합 단조성 기반 도달 가능성 분석, 입력 집합 반복 정제 루프, 병렬 스케줄러를 통합한 최초의 엔드투엔드 Neural ODE 검증기 TNODEV를 제안한다. TNODEV는 순수 Neural ODE, 폐루프 제어 시스템, 일반 Neural ODE(GNODE) 분류기를 지원하며, NNV 2.0 및 CORA와의 벤치마크 비교에서 반복 정제를 통한 검증 정밀도 향상을 입증한다.