ConfGuard: 예지 정비 대규모 언어 모델 에이전트를 위한 물리 기반 참조 모니터
ConfGuard: a physics-grounded reference monitor for predictive-maintenance large-language-model agents
한국어 초록
대규모 언어 모델 에이전트는 센서의 시간 구간 데이터를 읽고 절차를 검색하며 작업 지시를 보내 산업 예지 정비의 폐루프를 구성한다. 이 과정에는 공격 경로 두 가지가 있다. 검색된 문서에 삽입한 텍스트가 의사결정을 가로챌 수 있고, 크기가 제한된 센서 교란이 결정의 근거가 되는 잔여 유효 수명 추정치를 왜곡할 수 있다. 최근 에이전트 방어 방식은 데이터 출처와 도구 권한을 검사하지만, 예측값이 물리적으로 타당한지는 판단하지 못한다. ConfGuard는 물리 기반 정책을 갖춘 참조 모니터다. 컨포멀 모니터는 자산에서 검증을 거쳐 받아들인 이력을 바탕으로 각 예측이 열화의 물리 법칙에 부합하는지 검사한다. 상한을 적용한 잔여 수명은 증가하지 않으며 매 주기 최대 한 주기만 줄어들 수 있다. 자산의 전체 궤적에서 임계값을 보정하면 운영자가 정상 자산의 센서 구간 중 모니터가 상위 검토로 넘길 예상 비율을 정할 수 있다. 물리 정책 검증기는 같은 구간에서 결정론적 정책이 도출하는 정비 긴급도와 에이전트의 결정을 비교한다. C-MAPSS의 테스트 구간 10,196개 전체에서 모니터는 정상 자산에 대한 은밀한 공격의 영향 비율을 0.529에서 0.046으로 낮췄고, 고장이 진행 중인 자산의 정비 판단을 억제하는 공격은 0.151에서 0으로 줄였다. 정상 구간의 상위 검토 요청 비율은 목표 0.05 대비 0.027이었다. 기존의 고정 물리 범위는 두 공격을 막지 못했다. Qwen3-14B 계획기에 두 모니터를 결합하자 긴급도 등급 인젝션과 범용 센서 공격의 성공률은 각각 0.00과 0.12였다. 방어용 프롬프트에서는 0.29와 0.54였다. 적응형 공격자는 마할라노비스 탐지기를 구간의 0.504에서, 적대적 학습을 적용한 방어를 0.485에서 뚫었다. 투영 검사로 놓치는 공격 유형도 보고한다.
원문 초록
Large-language-model agents now close the industrial predictive-maintenance loop, reading sensor windows, retrieving procedures and dispatching work orders. Two attack channels meet there: injected text in a retrieved document can hijack the decision, and a bounded sensor perturbation can corrupt the remaining-useful-life estimate behind it. Recent agent defenses police data provenance and tool privilege but cannot tell whether a prognostic quantity is physically plausible. ConfGuard is a reference monitor with a physics-grounded policy. Its conformal monitor tests each prediction, anchored to the asset's admitted history, against degradation physics: capped remaining life never rises and falls at most one cycle per cycle. Calibrating its threshold over whole asset trajectories lets the operator set the expected share of a clean asset's windows the running monitor escalates. A physics-policy validator checks the agent's maintenance-urgency decision against the decision a deterministic policy derives from the same interval. On all 10,196 C-MAPSS test windows the monitor cuts a covert attacker's reach on healthy assets from 0.529 to 0.046 and closes suppression of failing assets (0.151 to 0), escalating 0.027 of clean windows against a 0.05 target, while the fixed physical range it replaces leaves both attacks open. Behind a Qwen3-14B planner the composed monitors hold urgency-class injection to 0.00 and the universal sensor attack to 0.12, against 0.29 and 0.54 for a defended prompt. An adaptive attacker defeats a Mahalanobis detector on 0.504 of windows and adversarial training on 0.485. We report an attack class the projection misses.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.22288v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.