arXiv:2409.00536

Formal Verification and Control with Conformal Prediction

Lars Lindemann, Yiqi Zhao, Xinyi Yu, George J. Pappas, Jyotirmoy V. Deshmukh

제출 2024-08-31

원문 초록

In this survey, we design formal verification and control algorithms for autonomous systems with practical safety guarantees using conformal prediction (CP), a statistical tool for uncertainty quantification. We focus on learning-enabled autonomous systems (LEASs) in which the complexity of learning-enabled components (LECs) is a major bottleneck that hampers the use of existing model-based verification and design techniques. Instead, we advocate for the use of CP, and we will demonstrate its use in formal verification, systems and control theory, and robotics. We argue that CP is specifically useful due to its simplicity (easy to understand, use, and modify), generality (requires no assumptions on learned models and data distributions, i.e., is distribution-free), and efficiency (real-time capable and accurate). We pursue the following goals with this survey. First, we provide an accessible introduction to CP for non-experts who are interested in using CP to solve problems in autonomy. Second, we show how to use CP for the verification of LECs, e.g., for verifying input-output properties of neural networks. Third and fourth, we review recent articles that use CP for safe control design as well as offline and online verification of LEASs. We summarize their ideas in a unifying framework that can deal with the complexity of LEASs in a computationally efficient manner. In our exposition, we consider simple system specifications, e.g., robot navigation tasks, as well as complex specifications formulated in temporal logic formalisms. Throughout our survey, we compare to other statistical techniques (e.g., scenario optimization, PAC-Bayes theory, etc.) and how these techniques have been used in verification and control. Lastly, we point the reader to open problems and future research directions.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.24649v2cs.AI공통 태그 Survey, Prediction

LLM 사회 시뮬레이터 감사를 위한 이유 매개 행동 모델

Reason-Mediated Behavioral Models for Auditing LLM Social Simulators

대규모 언어 모델(LLM)은 합성 설문 응답자를 포함하여 사회 시뮬레이터로 점점 더 많이 사용되고 있다. 대부분의 평가는 시뮬레이션 결과가 인간의 결과와 유사한지를 묻는다. 우리는 이것이 필요하지만 너무 약하다고 주장한다. 시뮬레이터는 잘못된 근거 유래 이유 패턴을 사용하면서도 최종 답변은 일치시킬 수 있기 때문이다. 우리는 각 응답자가 세 가지 제품 컨셉을 평가하고 서술형 근거를 작성한 94명 규모의 선크림 컨셉 테스트를 통해 이 문제를 연구한다. 우리는 이러한 근거를 부호가 있는 이유 상태 $Z$로 매핑하며, 양의 부호는 채택을 지지하고 음의 부호는 이를 막는다. 이는 실용적인 감사를 제공한다. 응답자 기술자 $D$, 카테고리 맥락 $K$, 컨셉 처치 $X$를 고정한 채, 인간의 근거 유래 이유가 행동 $Y$ 예측에 도움이 되는지, 그리고 LLM이 인간의 근거나 결과를 보지 않고도 동일한 이유 상태를 시뮬레이션할 수 있는지를 묻는다. 인간의 근거 유래 이유는 구매 의향의 홀드아웃 예측을 상당히 개선한다. LLM이 시뮬레이션한 이유는 더 취약하다. 종종 그럴듯하게 들리지만, 응답자의 수용 또는 거부 경로를 복원하기보다는 컨셉 보드(concept board)를 반복하는 경우가 많다. 본 논문은 사회 시뮬레이터를 위한 평가 프레임워크를 기여한다. 이유 상태는 그 자체로 자연적 인과 효과를 식별하지는 않지만, 시뮬레이터가 진술한 이유가 인간의 증거와 일치하는지에 대한 해석 가능한 검증을 제공한다.

arXiv:2607.24187v1cs.AI공통 태그 Survey, Prediction

근시 예방 및 관리 3.0: 인공지능 기반 위험 계층화, 선제적 모니터링 및 개인 맞춤형 개입

Myopia Prevention and Control 3.0: Artificial Intelligence--Driven Risk Stratification, Proactive Monitoring, and Personalized Intervention

인공지능(AI), 디지털 센싱, 유비쿼터스 컴퓨팅의 수렴은 근시 예방을 반응적이고 인구 기반 모델에서 선제적이고 정밀 지향적 모델로 전환할 전례 없는 기회를 만들었다. 2050년까지 전 세계 인구의 절반이 근시가 될 것이라는 증거에도 불구하고, 기존 접근법—학교 기반 시력 검사(1.0 단계)와 근거 기반 위험 요인 관리(2.0 단계)—는 불충분한 것으로 입증되었다. 우리는 세 가지 상호 연결된 영역에 걸친 AI 통합으로 정의되며 폐쇄 루프 파이프라인을 형성하는 근시 예방 및 관리 3.0의 등장을 검토한다: (1) 다중모달 데이터에 대한 머신러닝을 통해 개인 수준의 위험을 예측하는 AI 기반 위험 계층화; (2) 웨어러블, 스마트폰, 학교 검사 네트워크를 통한 AI 기반 선제적 모니터링; (3) 폐쇄 루프 피드백을 갖춘 AI 기반 개인 맞춤형 개입. 우리는 각 단계에 걸친 증거를 비판적으로 평가하고, 데이터 품질, 모델 검증, 윤리, 형평성의 과제를 논의하며, 다중모달 파운데이션 모델, 디지털 트윈, 인과 머신러닝을 포함한 향후 방향을 개괄한다.

arXiv:2607.21873v1cs.AI공통 태그 Survey, Prediction

예측 유지보수를 위한 다중 에이전트 시스템 기반 디지털 트윈: 아키텍처, 기술 및 미해결 연구 과제

Multi-Agent System-driven Digital Twins for predictive maintenance: architectures, technologies and open research challenges

디지털 트윈은 Industry 4.0 맥락에서 기초 기술로 부상했으며, 물리 시스템의 실시간 가상 표현을 위한 패러다임을 제공한다. 그러나 특히 분산 산업 환경에서 점점 커지는 복잡성을 관리하려면 자율적 의사결정, 동적 적응성, 에이전트 간 조율이 가능한 지능형 아키텍처가 필요하다. 본 체계적 문헌 고찰은 다중 에이전트 시스템과 디지털 트윈의 교차점을 탐구하며, 특히 자원 제약 환경에서의 예측 유지보수 적용에 중점을 둔다. IEEE Transactions, Nature, Elsevier, MDPI 등 고영향력 저널에 게재된 547편 이상의 논문에 대한 비판적 분석을 통해, 기존 하이브리드 아키텍처의 분류 체계를 수립하고, 지속적인 기술적 병목을 식별하며, 다음과 관련된 세 가지 미해결 연구 질문을 제시한다: (i) 자원 제약 마이크로컨트롤러에서의 인공지능(AI) 배포, (ii) 경량 통신 프로토콜을 통한 분산 다중 노드 조율, (iii) 잔여 수명 추정과 설명 가능한 인공지능(explainable AI)을 통합한 스마트 공장 제어를 향한 디지털 트윈의 계층적 오케스트레이션. 분석 결과, 상당한 진전에도 불구하고 Industry 5.0의 요구사항을 동시에 충족하는 통합 임베디드-분산 계층적 솔루션을 제공하는 기존 시스템은 없음을 보여준다.

arXiv:2607.13839v1cs.CY공통 태그 Survey, Prediction

AI 증강 인적 자원 관리? 독일 기업으로부터의 통찰

AI-Augmented Human Resource Management? Insights from German companies

본 연구는 독일 기업에서 인적 자원 관리(Human Resource Management)에 AI를 통합하는 과정을 조사한다. AI 기반 기술이 인적 자원 관리를 실제로 어떻게, 그리고 '증강(augmenting)'하고 있는지를 묻는다. 조직은 생성형 AI(generative AI) 또는 예측 분석(predictive analytics)을 활용해 전통적인 인적 자원 기능을 변화시키고, 일상 업무를 간소화하며, 자원을 전략적이고 사람 중심의 활동으로 재배치한다. 인터뷰, 집단 토론, 설문조사(N=410)를 통해 얻은 결과는 AI 도구가 HR 분석 역량을 강화하는 한편, 도입은 주로 효율성 및 합리화(rationalising) 목표를 위해 이루어진다는 점을 보여준다. AI 도구의 도입은 디지털 인프라, 공동결정(co-determination) 체계, 윤리적 함의와 같은 조직 변혁 요인에 의해 형성된다. 본 연구는 인재 개발 개선을 위한 전략적 잠재력과 데이터 거버넌스(data governance) 및 알고리즘 투명성(algorithmic transparency)이 제기하는 과제를 모두 조명한다. 전반적으로, 이 연구는 HR에서 기술 변화의 모호한 역할을 이해하는 데 기여하며, 예측 역량을 증강할 것을 약속하면서도 효율성과 합리화(rationalisation)의 목적에 기여한다는 점을 보여준다.

arXiv:2607.14821v2cs.CV공통 태그 Survey

모달 경계의 흐림: 단일 모달에서 다중 모달 인물 재식별(ReID)에 대한 통합 서벡

Blurring Modal Boundaries: A Unified Survey from Single- to Multi-Modal Person Re-ldentification

인물 재식별(ReID)은 지능형 감시 시스템의 핵심 구성 요소로, 분리된 카메라 네트워크 간 신원을 매칭하는 것을 목표로 한다. 전통적인 방법은 주로 단일 모달 RGB 영상에 의존하지만, 낮은 조도와 가림(occlusion)과 같은 환경적 도전 과제에 종종 제약을 받는다. 이러한 한계를 극복하기 위해 해당 분야는 교차 모달(cross-modal) 및 다중 모달(multi-modal) 패러다임으로 빠르게 발전하고 있다. 본 서벡은 이러한 전환에 대한 포괄적인 개요를 제시하며, 직접 가시성을 넘어 지각을 확장하는 신흥 비시선(NLOS, Non-Line-of-Sight) ReID를 포함하여 가시-적외선(VI-ReID), 텍스트-이미지(TI-ReID), 스케치 기반(Sketch-ReID) 등 주요 교차 모달 과제를 체계적으로 검토한다. 또한 3분광(tri-spectral) 및 다중 모달 융합 ReID를 살펴보고, 다양한 센서의 상보적 정보가 어떻게 견고성(robustness)을 향상시키는지 논의한다. 데이터셋, 과제, 방법론을 요약하는 것을 넘어, 모달리티 불변(modality-invariant) 특징을 효과적으로 포착하도록 설계된 가시-적외선 ReID용 트랜스포머 기반 기준선 프레임워크를 제안한다. 마지막으로, 현재 연구 환경을 바탕으로 향후 연구를 위한 여러 유망한 방향을 제시한다.

arXiv:2610.02975v2cs.AI공통 태그 Conformal Prediction

불완전한 프록시 보상을 활용한 신뢰할 수 있는 자기 진화

Reliable Self-Evolution with Imperfect Proxy Rewards

대규모 언어 모델(LLM) 기반의 자기 진화 탐색은 과학적 발견을 위한 유망한 접근법입니다. 그러나 일부 영역에서는 모든 후보에 대해 고충실도(high-fidelity) 평가를 수행하는 데 엄청난 비용이 듭니다. 따라서 이러한 환경의 자기 진화 시스템은 비용이 저렴하지만 불완전한 프록시 보상(proxy reward)에 의존하며, 이는 실현 불가능한 후보에 높은 점수를 부여할 수 있습니다. 이러한 위양성(false positive)은 최종 출력뿐만 아니라 후속 세대를 유도하는 데 사용되는 피드백까지 오염시킬 수 있습니다. 이는 보다 신뢰할 수 있는 자기 진화 탐색을 위해 통계적으로 보정된 보상 구간을 도입하는 동기가 됩니다. 본 논문에서는 조건부 등분산 추론(conditional conformal inference)과 반복(iteration)별 온라인 밀도비 추정을 사용하여 후보별 보상 구간을 구성하는 CISE(Conformal Interval-Driven Self-Evolution)를 제안합니다. CISE는 진화적 피드백을 위해 보수적인 구간 기반 보상을 사용하며, 요구되는 모든 속성 구간이 각자의 실행 가능한 영역 내에 완전히 포함될 때만 후보를 반환합니다. 본 연구는 독립성 및 공변량 변화(covariate shift)에 대한 명시적 가정 하에서 고정 반복 커버리지 결과를 도출합니다. 또한 재료과학 분야의 세 가지 자기 진화 탐색 작업에서 CISE를 평가합니다. 실험 결과, 고충실도 평가에서 CISE가 반환한 모든 후보는 진양성(true positive)이었던 반면, 베이스라인들은 더 많은 후보를 반환하지만 위양성을 포함했습니다. 이러한 결과는 다운스트림 검증 예산이 제한적일 때 더 작지만 더 정밀한 후보 목록이 갖는 가치를 강조합니다. 연구 저장소는 https://github.com/MLAI-Yonsei/CISE.git 에서 확인할 수 있습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.