정보기술(IT) 및 운영기술(OT) 보안관제센터(SOC)는 상관관계가 분석된 경보의 쇄도와 분석가 부족이라는 공통적인 침해사고 대응 문제에 직면해 있습니다. 대규모 언어 모델(LLM)은 경보를 분류하고, 자율 운영 환경에서는 운영 호스트의 IP를 차단하거나 프로세스를 강제 종료하고 파일을 격리하는 명령을 내리는 추론 엔진으로 점점 더 많이 제안되고 있습니다. 그러나 이러한 결합은 새로운 위험을 초래합니다. 단 하나의 적대적 경보가 LLM의 추론을 거쳐 원격 코드 경로로 악용될 수 있으며, 그 결과 SOC가 실행하는 조치를 LLM이 권고하도록 유도할 수 있습니다. 본 논문에서는 두 개의 조율된 계층으로 구성된 제약 행동(constrained-action) 아키텍처를 제시합니다. (i) 상관관계가 분석된 호스트 이벤트에 치료(remediation)를 그라운딩(grounding)하고, 인자 검증기(argument validator)의 지원을 받아 경량 엔드포인트 에이전트가 템플릿화된 명령을 실행하는 폐쇄형 의도 어휘 집합으로 LLM 출력을 제한하는 SIEM/XDR 제어 평면, 그리고 (ii) 본 연구에서 공개하는 SOC 특화 적대적 코퍼스를 대상으로 기본 설정 그대로 평가되었으며, SOC 분석가 LLM을 입력 및 출력 레일 정책으로 감싸는 NeMo-Guardrails 프록시입니다. 기본 제공 프록시는 0.1%의 위양성률에서 인젝션 재현율을 25.0%에서 94.5%로 향상시키며, 실전 레드팀 테스팅(red-teaming) 훈련을 통해 폐쇄형 의도 어휘와 인자 검증기가 어떤 명령도 신뢰 경계를 넘기 전에 관찰된 LLM 실패 모드를 차단함을 확인했습니다. 아키텍처적 적합성 관점에서(실제 운영기술 환경에 배포하여 측정한 것은 아님), 이러한 제약 행동 특성은 잘못된 치료 조치가 단순한 운영상의 문제를 넘어 물리적 영향을 미칠 수 있는 중요 인프라 환경에 적합합니다. 다만 측정된 레일 지연 시간으로 인해 인라인 제어는 범위를 벗어나므로, 이 루프는 인간 참여형(human-in-the-loop) 또는 지연 실행 방식으로 운영하는 것이 가장 적합합니다.
단편화(fragmentation), 세그먼트 라우팅(segment routing), 인시츄 텔레메트리(in-situ telemetry)와 같은 IPv6 확장 헤더(EH)는 운영상 중요하지만 전송 중에 널리 드롭(drop)되며, 패킷 캡처로부터 이러한 동작을 특성화하는 것은 반복적으로 발생하는 측정 문제이다. 우리는 설명 가능한 마이너(miner)가 EH 동작에 대한 사람이 읽을 수 있는 규칙을 복원할 수 있는지를 묻고, 재사용 가능한 두 가지 도구를 제시한다: 마이닝된 "시간적(temporal)" 네트워크 규칙이 진정한 패킷 간(cross-packet) 동역학을 반영하는지 아니면 단순한 패킷 내(within-packet) 동시 발생을 반영하는지를 진단하는 음성 대조(negative-control) 프로토콜, 그리고 발신자 조건부(sender-conditioned)의 패밀리별 EH 유지(retention) 측정이다. 해석 가능한 시간 논리(temporal-logic) 규칙 마이너를 JAMES 페어드-밴티지 데이터셋에 적용하여, 우리는 이식 가능한(portable) Fragment-EH 규칙을 복원하였는데, 해당 프로토콜은 이 규칙이 시간적 패턴이 아니라 패킷 내의 거의 정의상(near-definitional) 동시 발생임을 드러낸다. 따라서 시간 논리 기법은 이 지배적인(dominant) 규칙에 대해 아무런 역할도 하지 못하며, 유지 측정은 독립적으로 EH 관측 가능성(observability)에 대한 예상된 윈도우 내(within-window) 순서를 복원한다. 따라서 우리의 주요 결과는 실행된 결정 트리(decision-tree) 및 대규모 언어 모델(LLM) 베이스라인에 의해 뒷받침되는, 정직하고 통제된 부정적 결과(negative finding)이다: 평가된 JAMES 트레이스에서 네트워크-시간적 구조는 지배적인 Fragment-EH 신호를 전달하지 않으며, 우리는 이것이 언제 성립할 수 있는지를 확립하는 대조군을 제공하고, 이는 진정한 패킷 간 의존성을 포함하는 합성 양성 대조(synthetic positive control)로 검증되었다.
중요 인프라를 방어하는 보안 관제 센터(SOC)와 국가 사고 대응팀은 풍부한 위협 데이터를 수집하지만, 이를 실행 가능한 인텔리전스로 전환하는 데 어려움을 겪고 있습니다. 악성코드 샌드박스는 상세한 행위 증거를 생성하지만, 신뢰도가 명시되지 않은 방대하고 순위가 매겨지지 않은 보고서 형태로 제공됩니다. 본 논문에서는 실제 샌드박스 출력(CAPEv2)을 STIX 2.1로 변환하고, 이를 지식 그래프에서 다른 중요 인프라 센서와 연관시키며, 출처, 다중 소스 교차 검증, 관찰 지속성을 기반으로 도출된 명시적 신뢰도 상태를 모든 인텔리전스 객체에 부여하는 운영 파이프라인인 CG-CTI를 제안합니다. 이 상태는 자동화된 조치를 제어합니다. 즉, 교차 검증된 인텔리전스만이 자동화된 정책 적용 대상이 되며, 신뢰도가 낮은 객체는 분석가 검토로 전달되거나 문맥 정보로 유지됩니다. 이후 그라운딩(grounding)된 언어 모델 단계에서 신뢰도가 검증된 증거를 서술하며, 각 진술은 뒷받침하는 객체를 인용하거나 미지원으로 표시되므로 분석가 검토 전에 허위 참조가 제거됩니다. 루마니아 국가 사이버 보안국이 포함된 컨소시엄인 CYBERGUARD 프로젝트 내에 CG-CTI를 구현하고, 레이블이 지정된 악성코드 코퍼스를 기반으로 실제 샌드박스를 대상으로 평가하여 변환 유효성, 지표 수율, 기법 커버리지, 교차 검증, 정책 적용 적격성, 지연 시간 및 요약 그라운딩을 측정합니다. CG-CTI는 단편화된 샌드박스 출력을 중요 인프라 방어를 위한 교차 검증되고 신뢰도 순위가 매겨진 감사 가능한 인텔리전스로 변환합니다.
자동화된 팩트체킹 시스템은 주장이 참인지 또는 거짓인지에 대한 라벨을 반환합니다. 이러한 많은 시스템에서 판정 결과는 여전히 주요 출력물로 남아 있습니다. 일반적으로 누락된 것은 어떤 문서가 해당 문제를 해결했는지, 판정이 바뀌려면 무엇이 달라졌어야 했는지, 또는 동일한 주장이 다르게 표현되었을 때도 동일하게 판단되었을지에 대한 기록입니다. 저자들은 이 누락된 요소를 보증(warrant), 즉 무엇이 보장되었으며 어떤 근거에 기반했는지를 명시하는 별도의 진술이라 부릅니다. 정형 기법(formal methods)은 이러한 종류의 증거를 생성하며, 디지털 서비스법(Digital Services Act)과 인공지능법(AI Act) 모두 시스템의 동작 방식에 대한 감사 가능한 증거를 요구함에 따라 규제 측면에서도 이를 요구하기 시작하고 있습니다. 기존의 자동화 팩트체킹 서베이 논문들은 주로 파이프라인 단계별로 구성되어 논리(logic)를 여러 기법 중 하나로만 취급합니다. 본 연구는 대신 무엇이 정형화되는지에 따라 분야를 구성하며, 이는 주장(claim), 추론(reasoning), 검증을 수행하는 시스템, 주장이 확산되는 생태계, 규제적 의무의 다섯 가지 수준으로 나뉩니다. 121편의 연구를 이 수준들로 분류한 결과, 두 가지 패턴이 두드러집니다. 관련된 대부분의 정형 메커니즘은 이미 존재하지만 다른 도메인을 위해 구축되어 이 분야에는 거의 적용되지 않았으며, 검증 시스템 자체를 검증하는 부분에서 격차가 가장 큽니다. 또한 전문 팩트체커가 따르는 일상적인 절차의 여러 단계에는 명시된 정확성 기준이 없으며, 그중 주장을 검증 가능한 형태로 작성하는 것과 이미 게시된 판정을 수정하는 두 단계는 본 연구에서 코딩한 어떤 연구에서도 정형적으로 명시되지 않았습니다. 마지막으로 각각에 대한 제안된 첫 단계와 함께 미해결 과제들을 제시하며 마무리합니다.