arXiv:2611.24428v1 eess.SY

모델 일관성을 통한 시스템 진화 하에서의 실드 적용 데이터 기반 제어기 안전 유지

Keeping Shielded Data-Driven Controllers Safe Under System Evolution via Model Consistency

Roland Stolz, Vitus L\"untzel, Romain Pascual, Eric Sax, Matthias Althoff

제출 2026-11-19

한국어 초록

사이버-물리 시스템(CPS)에는 데이터 기반 제어기가 점점 더 많이 포함되며, 이들의 블랙박스 특성으로 인해 안전 문제가 제기된다. 일반적인 완화책은 물리 시스템에 대한 가정에 기반하여 입력을 제한하는 실드를 제어기 주위에 두어 시스템 안전을 강제하는 것이다. 그러나 이러한 가정은 보통 고정되어 있어 시스템이 (개발 중이나 구성 요소 열화로 인해) 진화함에 따라 유효하지 않게 될 수 있으며, 이는 안전하지 않은 동작으로 이어질 수 있다. 우리는 데이터 기반 제어기와 안전 실드를 모두 일급 모델로 취급하여 시스템 모델과 함께 가상 단일 기반 모델(V-SUM)에 통합하는 모델 주도 접근법으로 이 한계를 해결한다. 시스템 진화를 연관된 모델의 변경으로 기술하여, 일관성 검사가 안전 보장에 대한 지속적인 평가를 제공하도록 한다. 불일치가 발생하면 일관성 보존 규칙이 모델을 자동으로 갱신하고 유효한 안전 실드를 복원한다. 우리는 유니사이클 시스템의 도달-회피 과제에서 이 접근법을 평가한다. 결과는 일관성 기반 진화가 시스템 변경 하에서 안전 보장을 효과적으로 유지하며, 성능을 평가하고 복원하기 위한 원칙적인 기반을 제공함을 보여 준다.

원문 초록

Cyber-physical systems (CPS) increasingly contain data-driven controllers, which raise safety concerns given their black-box nature. A common mitigation is to enforce system safety via a shield around the controller, which restricts the inputs based on assumptions about the physical system. However, these assumptions are usually fixed and may become invalid as the system evolves (during development or due to component degradation), possibly leading to unsafe behavior. We address this limitation in a model-driven approach that treats both the data-driven controller and safety shield as first-class models that are integrated into a virtual single underlying model (V-SUM) alongside system models. We describe system evolution as changes in the associated models, such that consistency checking yields a continuous assessment of safety guarantees. In case of inconsistencies, consistency-preservation rules automatically update the models and restore a valid safety shield. We evaluate our approach on a reach-avoid task for a unicycle system. The results show that consistency-driven evolution effectively maintains safety guarantees under system changes and provides a principled basis for evaluating and restoring performance.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.24428v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.