arXiv:2610.09906v1 cs.CR

NeMo-Guardrails 프록시를 통한 SIEM/XDR용 제약 행동 기반 AI 치료

Constrained-Action AI Remediation for SIEM/XDR via a NeMo-Guardrails Proxy

Georgios Koutidis, Nikolaos Kekatos, Tom Nianios, Alexios Lekidis

제출 2026-10-07

저자 비고

arXiv Comments

7 pages, 3 figures, 4 tables. Accepted at the 2026 IEEE International Conference on Cyber Security and Resilience (IEEE CSR 2026)

한국어 초록

정보기술(IT) 및 운영기술(OT) 보안관제센터(SOC)는 상관관계가 분석된 경보의 쇄도와 분석가 부족이라는 공통적인 침해사고 대응 문제에 직면해 있습니다. 대규모 언어 모델(LLM)은 경보를 분류하고, 자율 운영 환경에서는 운영 호스트의 IP를 차단하거나 프로세스를 강제 종료하고 파일을 격리하는 명령을 내리는 추론 엔진으로 점점 더 많이 제안되고 있습니다. 그러나 이러한 결합은 새로운 위험을 초래합니다. 단 하나의 적대적 경보가 LLM의 추론을 거쳐 원격 코드 경로로 악용될 수 있으며, 그 결과 SOC가 실행하는 조치를 LLM이 권고하도록 유도할 수 있습니다. 본 논문에서는 두 개의 조율된 계층으로 구성된 제약 행동(constrained-action) 아키텍처를 제시합니다. (i) 상관관계가 분석된 호스트 이벤트에 치료(remediation)를 그라운딩(grounding)하고, 인자 검증기(argument validator)의 지원을 받아 경량 엔드포인트 에이전트가 템플릿화된 명령을 실행하는 폐쇄형 의도 어휘 집합으로 LLM 출력을 제한하는 SIEM/XDR 제어 평면, 그리고 (ii) 본 연구에서 공개하는 SOC 특화 적대적 코퍼스를 대상으로 기본 설정 그대로 평가되었으며, SOC 분석가 LLM을 입력 및 출력 레일 정책으로 감싸는 NeMo-Guardrails 프록시입니다. 기본 제공 프록시는 0.1%의 위양성률에서 인젝션 재현율을 25.0%에서 94.5%로 향상시키며, 실전 레드팀 테스팅(red-teaming) 훈련을 통해 폐쇄형 의도 어휘와 인자 검증기가 어떤 명령도 신뢰 경계를 넘기 전에 관찰된 LLM 실패 모드를 차단함을 확인했습니다. 아키텍처적 적합성 관점에서(실제 운영기술 환경에 배포하여 측정한 것은 아님), 이러한 제약 행동 특성은 잘못된 치료 조치가 단순한 운영상의 문제를 넘어 물리적 영향을 미칠 수 있는 중요 인프라 환경에 적합합니다. 다만 측정된 레일 지연 시간으로 인해 인라인 제어는 범위를 벗어나므로, 이 루프는 인간 참여형(human-in-the-loop) 또는 지연 실행 방식으로 운영하는 것이 가장 적합합니다.

원문 초록

Security Operations Centers (SOCs) for information technology and operational technology share one incident-response problem: a flood of correlated alerts and too few analysts. Large Language Models (LLMs) are increasingly proposed as reasoning engines that triage alerts and, in autonomous deployments, issue commands that block IPs, kill processes, or quarantine files on production hosts. This coupling introduces a new risk: a single adversarial alert can become a remote code path through the LLM's reasoning, leading it to recommend an action the SOC then executes. We present a constrained-action architecture with two coordinated layers: (i) a SIEM/XDR control plane that grounds remediation in correlated host events and confines the LLM's output to a closed intent vocabulary whose templated commands are executed by thin endpoint agents, backstopped by an argument validator; and (ii) a NeMo-Guardrails proxy that wraps the SOC-analyst LLM with input- and output-rail policies, evaluated out-of-the-box against a SOC-specific adversarial corpus we release. The stock proxy lifts injection recall from 25.0% to 94.5% at a 0.1% false-positive rate, and a live red-team exercise confirms that the closed intent vocabulary and argument validator contain the observed LLM failure modes before any command crosses the trust boundary. As an architectural fit (not yet a measured operational-technology deployment), the constrained-action property suits critical-infrastructure settings where a wrong remediation has physical, not merely operational, consequences. The loop is best run human-in-the-loop or delayed: the measured rail latency keeps inline control out of scope.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.09906v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.