PyTorchKR Papers

최신 논문

총 9편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.18532v2cs.CR

AI 샌드박스: 위협 모델, 분류 체계 및 측정 프레임워크

AI Sandboxes: A Threat Model, Taxonomy, and Measurement Framework

AI sandboxes produce evidence about systems that may act through software tools, networked devices, or physical actuators. The interpretation of that evidence depends on the boundary of the experiment. We define a sandbox apparatus, distinguish five overlapping archetypes, and specify fifteen claim-relative measurement dimensions. A weakest-link licensing rule caps a deployment claim at its weakest necessary evidence dimension. We connect this rule to a threat model covering both outward harm and corruption of the evaluation apparatus, then apply it to four worked examples spanning driving, industrial control, tool-using agents, and vision-language-action manipulation. We also map the required artifacts to standards and regulatory instruments. The framework identifies which claims a bounded experiment supports, which failures its controls contain, and which assumptions require further validation before deployment.

arXiv:2610.13456v1cs.CL

시뮬레이션 및 운영 활동의 근거를 활용한 설계 시점 모델 고도화 방안

Towards Enriching Design-Time Models with Evidence from Simulation and Operational Activities

사이버-물리 시스템(Cyber-Physical Systems)은 여러 개발 단계를 거치며 다양한 모델 기반 활동을 통해 개발됩니다. 시뮬레이션, 실험, 운영을 거쳐 개발이 진행됨에 따라 시스템 실행을 관찰하는 과정에서 누락되거나 불확실하거나 유효하지 않은 설계 지식이 드러날 수 있습니다. 그러나 실행 결과로부터 지속적인 설계 시점(design-time) 지식 강화로 이어지는 경로는 대개 암묵적입니다. 본 논문에서는 시뮬레이션 및 운영 중에 생성된 지식을 설계 시점 모델로 체계적으로 환원하기 위한 근거 기반 워크플로를 제안하여 이러한 과제를 해결합니다. 표지판을 추종하는 로봇 활용 사례를 통해, 설계 산출물과 환경 요인이 시스템 반응 특성에 어떻게 복합적으로 영향을 미치는지 표현하는 설계 시점 산출물인 영향 모델(Influence Model)을 사용하여 이 워크플로를 실증합니다. 시뮬레이션 근거가 참여 요소 가지치기 결정, 상호작용 특성화, 영향 함수 추상화, 유효성 범위 정보를 지원함으로써 영향 모델을 어떻게 풍부화할 수 있는지 보여줍니다. 이러한 적용을 통해 시뮬레이션 기반 근거에 대한 워크플로의 실현 가능성과, 후속 개발 반복에서 설계 시점 추론 및 피드백을 개선할 수 있는 잠재적 이점을 입증합니다.

arXiv:2608.04265v2cs.MA

사이버-물리 시스템에서 대규모 언어 모델(LLM) 에이전트를 위한 계획 수립 전략의 전략적 평가

Strategic Evaluation of Planning Strategies for LLM Agents in Cyber-Physical Systems

대규모 언어 모델(LLM) 에이전트(agent) 평가는 일반적으로 작업 성공 여부나 명시된 계획과의 일치도를 측정합니다. 그러나 전략적 사이버-물리 시스템(cyber-physical systems)에서는 자율적 참여자가 반응하고 물리적 제약이 결과를 제한한 후에도 아키텍처가 적절성을 유지해야 합니다. 본 연구에서는 계획 유도 제어 궤적(planning-induced control trajectories), 즉 실행 아키텍처를 전략적 반응 및 물리적 결과와 연결하는 정렬된 계획 연산 및 지시문으로 구성된 통제된 벤치마크(benchmark)를 제시합니다. 코드화된 네 가지 실행기(사전 정의형, 순차형, 계층형, 탐색형)는 방사형 피더(radial feeder)에서 40개 프로슈머(prosumer)의 수요 반응을 제어합니다. LLM은 타입화된 정책을 선언하거나 조언하며 통신을 중재하고, 일정, 기본 프로슈머 동역학, 확률적 행동, 조류 계산(power flow)은 명시적 코드로 유지됩니다. 쌍체 강제 모드 반사실적 분석(paired forced-mode counterfactuals), 정확한 프롬프트(prompt) 캐싱, 별도의 무작위 스트림을 사용한 공통 응답 표본 추출, 비평자 격리, 이벤트 수준 실행 가능성을 통해 비교를 정밀하게 격리합니다. 이 피더에서 진행한 Llama-3.3-70B 모델(model) 실험은 세 가지 특성을 구별합니다. 첫째, 지정된 목표 하에서 5개의 모든 기준선(baseline) 시드에 걸쳐 강제 탐색이 오라클(oracle)로 나타났습니다. 둘째, 주입된 목표 대체(objective substitution)는 모드 일치도를 1.0으로 유지하면서도 누적 전압 부족을 2.68배 증가시켰습니다. 셋째, 3회의 반복 시드를 사용한 144개 시나리오, 576개 에피소드 요인 뱅크는 사전 정의형, 순차형, 탐색형에서 나온 실행 가능한 오라클을 포함합니다. 사전에 지정된 스트레스 홀드아웃 릿지(stress-held-out ridge)는 평균 리그렛(regret) 90.7을 기록했으며, 고정된 순차 방식 대비 관찰된 이점을 보이지 않았습니다. 사후 제약 인식 분석(post-hoc constraint-aware analysis)을 통해 리그렛을 29.0으로 줄였으나, 단순 마감 규칙도 28.7을 달성하므로 이러한 개선이 학습 상의 우위를 입증하지는 못합니다. 전원 실행 가능 절제 연구(all-feasible ablation) 역시 고정 탐색 방식보다 개선되지 않았습니다. 이는 시뮬레이션 내부의 기술적 비교입니다. 5개 모델, 300개 선언으로 확장한 실험에서는 백본 간 물리적 순위가 아닌 인터페이스 동작을 테스트하며, 공유 엔드포인트의 지연 시간 꼬리 분포(latency tails)는 확률적 실시간 실행 가능성의 필요성을 시사합니다.

arXiv:2610.02304v1cs.SE

SimuVerity: 엔지니어링 등급 Simulink 모델 생성을 위한 에이전트 벤치마킹

SimuVerity: Benchmarking Agents for Engineering-Grade Simulink Model Generation

기존 Simulink 벤치마크는 주로 생성된 모델이 컴파일되는지, 실행되는지, 또는 참조 모델과 유사한지를 평가한다. 이러한 기준은 모델이 엔지니어링 요구사항을 충족하는지는 확인하지 못한다. 우리는 10개의 엔지니어링 도메인에 걸친 101개의 텍스트-투-실행가능 Simulink 모델 생성 과제로 구성된 벤치마크인 SimuVerity를 소개한다. 각 과제에 대해 실행 가능한 시스템 프로파일이 엔지니어링 명세와 네 가지 유형의 네이티브 시뮬레이션 시나리오의 근거가 된다. 계층적 평가자는 먼저 아티팩트 전달, 네이티브 실행 가능성, 엔지니어링 자격을 확인한 다음, 자격을 갖춘 모델에 대해 정확도, 출력 품질, 메커니즘적 충실도, 제어 및 인과적 무결성, 동작 영역 견고성, 동적 응답을 포함한 여섯 가지 차원에서 점수를 매긴다. 우리는 SimuVerity를 사용해 여섯 개의 에이전트 시스템을 평가한다. 최고 성능 시스템도 전체 점수가 42.86에 불과하다. 결과는 구조적 유사성이 엔지니어링 성능의 대리 지표로는 부적절함을 보여준다: 역량의 한계는 자격을 갖춘 구현을 만들어내는 과정과 자격 인정 이후 다차원적 요구사항을 충족시키는 과정 모두에서 나타난다. 한편, 일부 높은 점수를 받은 모델은 여전히 심각한 시각적 레이아웃 혼란을 보인다. SimuVerity는 에이전트의 엔지니어링 역량을 평가하고 실행 가능한 Simulink 모델 생성에서의 실패를 진단하기 위한 체계적인 기반을 제공한다.

arXiv:2607.06094v1cs.LG

Modeling Normal Is All You Need: Joint Latent Clustering for Anomaly Detection in Multimodal Cyber-Physical Systems

Faults on a cyber-physical system (CPS) are too rare and unrepresentative to characterise, or even to select a model on, so detection must instead model normal behaviour; the standard point-adjusted evaluation, however, rewards detectors that never do. CPS normal behaviour is the union of many imbalanced, curved, thin-fringed operating regimes rather than a single blob; we state this structure as ten assumptions (A1-A10), abbreviated Massive, Implicit, Imbalanced Multimodality (MIIM). We model the normal law with a jointly learned latent representation plus explicit Gaussian-mixture mode clustering, scored in the latent rather than by a global density or a reconstruction residual, and evaluate under a deliberately fair protocol: raw point-wise metrics with no point adjustment, a trivial-detector difficulty split, prevalence-matched F1, and train-normal-only calibration. On three real CPS datasets (WADI, HAI, SKAB), the detector wins both the combined column and the difficult correlation/dynamics-fault column on all three, reaching difficult-subset AUROC 0.831 on HAI, 0.726 on WADI, and 0.610 on SKAB. The margin is largest on the two multimodal datasets the MIIM assumptions target and slimmest on the near-unimodal one, tracking multimodality as the thesis predicts, and it holds against three deep detectors (USAD, TranAD, GDN) re-computed with the same raw metrics, all of which collapse on the difficult subset. The methodological contributions are the MIIM assumption set, the difficulty-stratified fair protocol, and a latent-only score that drops reconstruction because a flexible decoder rebuilds the hard faults faithfully.

arXiv:2607.03125v1cs.LG

1-자유도 헬리콥터 시스템에서 안전한 강화학습을 위한 물리 정보 신경망 통합

Integrating Physics-Informed Neural Networks for Safe Reinforcement Learning in a 1-DoF Helicopter System

미분 가능한 물리 모델을 PPO 액터 손실 함수에 직접 내장하여, 보상 형성(reward shaping)과 독립적으로 단기 미래 궤적 시뮬레이션을 통해 안전 제약 위반을 사전에 페널티화하는 물리 정보 기반 신경망(PINN) 안전 강화학습 방법을 제안한다. 1자유도 헬리콥터 테스트베드에서 평가한 결과, PINN 기반 소프트 정규화가 목표 추적 성능을 유지하면서 피치 제약 위반을 크게 줄이는 효과를 입증하였다.

arXiv:2607.00334v1cs.AI

Managed Autonomy at Runtime: Gear-Based Safety and Governance for Single- and Multi-Agent Cyber-Physical Systems

Autonomous agents, whether LLM-driven software agents or robotic physical agents, face a common class of failure modes when operating without continuous human oversight: safety violations from unverified actions, behavioral instability from unconstrained loops, and continuity loss from unhandled error states. We develop \system{}, a discrete-time control system that combines five execution gears (\Gobs{}, \Gsug{}, \Gplan{}, \Gexec{}, \Gint{}) with utility-gated dispatch and event-driven fallback. For the single-agent case, we prove monotonic stability, execution safety, eventual stabilization, fallback completeness, and equivalence to a gear-constrained Markov decision process. For multi-agent cyber-physical systems (CPS), we apply the established \smart{} managed-autonomy lifecycle and map runtime evidence into its four governance states (\Stable{}/\Meta{}/\Assisted{}/\Regulated{}). Consensus gating, swarm-level Lyapunov analysis, per-agent gear authority, and rendezvous control provide distributed safety and stability guarantees, including zero collision under the stated assumptions. We evaluate the resulting runtime on a three-agent UR5 robotic assembly cell using fault magnitudes calibrated from the NIST \emph{Degradation Measurement of Robot Arm Position Accuracy} dataset across 10,000 Monte Carlo episodes. It achieves a 99.6\% anomaly detection rate versus 2.1\% for the single-agent baseline, reduces detection latency by $3.5\times$, and supplies a formal physical-workspace safety certificate. The execution gears act as micro-level permissions beneath the \smart{} runtime governance states, separating action control from autonomy governance.

arXiv:2606.19069v1eess.SY

복원력 있는 사이버 물리 시스템을 위한 무모델 강화학습 제어

Model-Free Reinforcement Learning Control for Resilient Cyber-Physical Systems

본 논문은 거짓 데이터 주입 및 서비스 거부 공격을 포함한 사이버 공격 하에서 비선형 시스템에 대한 무모델 제어기의 성능을 비교합니다. 네 가지 강화학습(RL) 보상 유형을 정확도, 비용, 복원력 측면에서 분석했습니다. 결과에 따르면 리아푸노프(Lyapunov) 보상이 낮은 추적 오차로 최고의 복원력을 제공합니다. 지수 모드 또한 적절한 학습 조건 하에서 수용 가능한 복원력과 함께 좋은 상충 관계(trade-off)를 제공합니다. 점진적 및 선형 보상은 더 빠르게 수렴하지만 강인성이 다소 떨어집니다. RL-MPC는 강력한 정상 상태 복원력을 보이지만 학습 시간이 더 오래 걸리는 반면, RL-PID 제어기는 훨씬 짧은 학습 시간으로 더 빠릅니다. 근접 정책 최적화(PPO)는 KPI 분산을 크게 줄여 심층 결정론적 정책 그래디언트(DDPG)보다 우수한 성능을 보였습니다. 이 연구는 잘 설계된 강화학습 보상이 사이버 위협에 대한 성능과 복원력을 어떻게 향상시킬 수 있는지 강조합니다.

arXiv:2606.18308v1cs.LG

TRIDENT: 증명 가능한 안전성을 갖는 다중 에이전트 강화학습을 위한 하이브리드-안전성-물리 결합 해제

TRIDENT: Breaking the Hybrid-Safety-Physics Coupling for Provably Safe Multi-Agent Reinforcement Learning

네트워크 사이버-물리 시스템에서 하이브리드 이산-연속 행동, 학습 시간 안전 제약, 물리 기반 역학이 맞물려 기성 모듈 조합을 무력화하는 3중 결합 문제를 TRIDENT가 Richardson-Romberg 그래디언트 보정, Lyapunov 제약 순차 신뢰 영역 업데이트, 물리 정보 잔여 비평가의 공동 설계로 해소하고 제약된 내시 균형 수렴과 누적 위반 상한을 증명한다. 다중 UAV 모바일 엣지 컴퓨팅, 자율 교차로 관리, 하이브리드 SMAC 변형에서 MADDPG 대비 학습 시간 위반 95.5%, MACPO 대비 76.3%를 줄이고 무제약 기준선 대비 보상을 13.5% 개선했다.