PyTorchKR Papers

최신 논문

총 24편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.18062v2cs.CL

야생에서의 보안 및 프라이버시 프롬프트: 사용자가 LLM에게 묻는 내용과 LLM의 응답 방식

Security and Privacy Prompts in the Wild: What Users Ask LLMs and How LLMs Respond

Large language models (LLMs) are widely used to answer users' information needs: users ask LLMs about the weather, pose educational questions, and consult them for legal assistance. One particularly understudied area is digital security and privacy (S&P), where users may seek LLMs' help on how to secure their online accounts or protect their computers from cyber attacks. To the best of our knowledge, no prior study has collected or analyzed the S&P questions users ask LLMs; prior research on LLM response quality relied on expert-authored S&P misconceptions or FAQs rather than user queries. Drawing from WildChat, a dataset of 3.2M user-LLM conversations collected in the wild, our study identifies 14,727 S&P prompts and categorizes them into nine categories covering a wide range of S&P topics. We sampled 450 S&P prompts, and performed a thematic analysis to characterize the S&P questions users ask LLMs. Separate from the thematic analysis, we curated 270 advice-seeking S&P prompts, where users ask for recommendations, guidance, or specific S&P information. We measured LLM response quality and consistency when posing each prompt to the LLMs 10 times. We found that commercial LLMs outperform open-weight models (GPT 5.5 provided "good enough" responses on 98% of prompts; Llama 4 on 47%). However, among prompts that received high-quality responses on average, commercial models sometimes produce semantically inconsistent responses across runs (some are contradictory, and others are different in specificity), thereby risking confusing or misleading users.

arXiv:2610.03383v1cs.AI

CVE2AP: 대규모 언어 모델을 통한 PDDL 인코딩 공격 경로 자동 생성

CVE2AP: Automated Generation of PDDL-Encoded Attack Paths via Large Language Models

공격 경로(Attack Path, AP) 모델링은 사이버 보안 분석의 핵심으로, 취약점 활용(exploitation), 공격 진행 과정 및 잠재적 영향에 대한 자동화된 추론을 위해 AP를 정형화되고 기계 검증 가능한 표현으로 인코딩하는 데 기획 도메인 정의 언어(PDDL)가 널리 채택되어 왔습니다. 그러나 기존의 AP 모델링 방식은 주로 전문가 주도의 수동 구축에 의존하여 확장성이 제한되고 빠르게 진화하는 사이버 위협의 속도를 따라잡는 데 한계가 있습니다. 대규모 언어 모델(LLM)은 방대한 사전학습 지식과 추론 능력을 바탕으로 위협 인텔리전스를 해석하고 정형 표현으로 변환할 수 있어 유망한 대안으로 꼽힙니다. 본 논문에서는 자연어 CVE(Common Vulnerability Exposure) 설명으로부터 PDDL 인코딩 공격 경로를 자동 생성하는 LLM 기반 접근 방식인 CVE2AP를 제안합니다. CVE2AP는 구조화된 프롬프팅을 활용하며, 플래너(planner)가 보고한 구문 및 해결 가능성 오류를 사용해 생성된 경로를 반복적으로 개선하는 오류 피드백 메커니즘을 통합합니다. 다양한 LLM과 생성 구성을 대상으로 체계적인 실증 평가를 수행하여 토큰(token) 소비량 및 생성 시간과 함께 구문적, 해결 가능성, 의미론적 차원에 걸친 생성 품질을 평가했습니다. 실험 결과, CVE2AP는 고품질의 PDDL 인코딩 공격 경로를 효과적으로 생성하여 LLM-as-expert 평가 기준 최대 86.9%의 구문 정확도, 78.6%의 해결 가능성, 93.1%의 의미론적 정확도를 달성함을 보여줍니다. 또한 GPT-5.5가 최적의 품질-비용 절충안을 제공하며 오류 피드백이 가장 일관된 품질 향상을 이끌어냄을 확인했습니다.

arXiv:2610.00557v1cs.CR

모든 것에 적합한 단일 아키텍처는 없다: 계층적 레드팀 에이전트의 교차 환경 평가

No One Architecture Fits All: A Cross-Environment Evaluation of Hierarchical Red Team Agents

자율 레드팀 에이전트는 전략을 계획하고 다단계 공격을 실행함으로써 AI 기반 사이버 방어를 스트레스 테스트하는 데 점점 더 많이 활용되고 있습니다. 강화학습(RL)과 대규모 언어 모델(LLM)은 이러한 에이전트가 요구하는 계획 및 실행에 대해 상호보완적인 메커니즘을 제공하며, 이전 연구들은 이들을 하이브리드 계층 구조로 결합해 왔습니다. 그러나 특정 아키텍처는 일반적으로 단일 환경 내에서 개발 및 평가되므로, 관찰된 이점이 전반적으로 더 강력한 의사결정 메커니즘을 반영하는 것인지 아니면 특정 설정에 대한 정렬에 불과한 것인지는 명확하지 않았습니다. 본 연구에서는 RL 계획기와 RL 실행기로 구성된 구조(RL+RL), 그리고 LLM 계획기와 LLM 실행기로 구성된 구조(LLM+LLM)라는 두 가지 동질적 계층형 레드팀 아키텍처에 대한 통제된 교차 환경 비교를 통해 이러한 공백을 해결합니다. CybORG CAGE-4 환경 및 두 가지 네트워크 규모의 Cyberwheel 환경에서, 단일 통합 무력화(disruption) 지표 하에 18개 구성을 바탕으로 전문가 자율 방어자를 상대로 두 아키텍처를 모두 평가했습니다. 그 결과 뚜렷한 환경 의존적 역전 현상을 발견했습니다. RL+RL은 조밀한 보상이 주어지는 소규모 CAGE-4(가장 강력한 LLM 구성의 18.0% 대비 78.5% 무력화 성공률)와 100대 호스트 규모의 Cyberwheel 네트워크(50.5% 대비 81.0%)에서 우세했던 반면, 사전학습된 사이버 보안 LLM 에이전트는 권한 상승이 관문 역할을 하는 더 큰 규모의 1010대 호스트 Cyberwheel 네트워크에서 우세했습니다(RL의 0.0% 대비 55.0%). 킬체인(kill-chain) 분석을 통해 전체 성공률에 가려져 있던 아키텍처별 병목 현상으로 이러한 역전을 설명합니다. 1010대 호스트 Cyberwheel 네트워크에서 RL은 호스트를 탐색하고 침해하지만 권한 상승 단계에서 정체되는 반면, CAGE-4에서는 LLM 에이전트가 특권 접근 권한을 획득하고도 이를 실제 운영상의 타격으로 전환하지 못합니다. 이러한 결과는 단일 환경에서 도출된 결론이 일반화되지 않을 수 있음을 시사하며, 하이브리드 계획기-실행기 설계는 특정 아키텍처가 보편적으로 우월하다는 가정보다는 구체적인 실패 모드를 기반으로 타당성을 확보해야 함을 보여줍니다.

arXiv:2608.08477v4cs.CL

VectraYX-Vision-1B: 구조화된 시각적 추론과 네이티브 도구 사용을 갖춘 2B 미만 스페인어/LATAM 사이버보안 비전-언어 모델

VectraYX-Vision-1B: A Sub-2B Spanish/LATAM Cybersecurity Vision-Language Model with Structured Visual Reasoning and Native Tool Use

우리는 동결된 SigLIP-so400m 인코더를 2층 MLP 프로젝터로 10.4억 매개변수 디코더에 결합한 2B 미만 스페인어/LATAM 사이버보안 비전-언어 모델 VectraYX-Vision-1B를 구축하고, 진단적 부정 결과를 보고한다. 시각적 그라운딩이 실패했다는 것이 아니라, 왜 그랬는지를 밝힌다. 다섯 가지 조용한 미세조정 결함을 수정한 뒤, 셔플된 이미지 대조를 포함한 9개 필드 추출 게이트에서의 그라운딩은 인코더를 그대로 두는 모든 구성에서 불변인 2/9이며, 이를 바꾸는 유일한 2×2 타일링은 필드 하나를 잃고 새로 얻는 것은 없다. 해상도는 작동 변수가 아니다. 거의 완벽하게 읽히는 필드가 코퍼스에서 가장 높은 엔트로피를 갖는다. 동결 SigLIP 특징에 대한 선형 프로브는 글리프별 복구 가능성 p~0.61을 주며, 관측 0.00 대비 1.9%를 예측한다. 타일링은 두 필드에서 복구 가능성을 거의 두 배로 늘리지만, end-to-end 모델은 더 나빠진다. 네이티브로 학습된 시각 타워를 동일한 동결 디코더와 레시피에 이식하면, 아무것도 복구하지 못한 타일링 조건보다 더 거친 토큰 예산에서 주소 필드를 0.00에서 0.81 exact로 끌어올린다. 해상도가 아니라 사전학습 체제가 손실이 얼마나 멀리 미치는지를 정한다. 이후 별도로 학습된 체크포인트는 하나의 긍정 결과를 추가한다. B8(34개 필드, 16개 템플릿, 2,040개 항목, 이중 셔플-이미지/최적 상수 대조)에서 9개 필드가 통과하여, 학습된 템플릿-필드 조합 내에서만 진정한 그라운딩이 있음을 확인한다. 가장 날카로운 새 발견은, 잘 학습된 템플릿 안에서 학습되지 않은 필드는 이미지와 무관하게 거의 일정한 오답을 반환한다는 것이다. 즉 자유 텍스트 읽기가 아니라 랜드마크 키 조회이다. B6/B7 도구 식별은 이 체크포인트를 포함한 모든 체크포인트에서 0.0을 유지한다. 더 강한 모델이 숨길 수 있는 세 가지 하네스 결함을 발견한 뒤 이전 0.08 tool-id 점수를 철회한다. 코드, 세 벤치마크 전부, 설정, B8 코퍼스를 포함한 모든 학습 체크포인트를 공개한다.

arXiv:2609.24710v1cs.CR

추론 토폴로지의 중요성: LLM 기반 사이버보안 분석에 대한 통제된 연구

Reasoning Topology Matters: A Controlled Study of LLM-Based Cybersecurity Analysis

대규모 언어 모델(LLM)은 사이버보안 분야에서 점점 더 많이 활용되고 있으며, 정확한 분석을 위해서는 복잡하고 이질적인 데이터에 대한 다단계적이고 맥락 의존적인 추론이 요구되는 경우가 많다. 그러나 기존의 프롬프팅 접근법들은 일반적으로 추론을 이끌어내는 데 초점을 맞출 뿐, 중간 추론 단계가 구조적으로 어떻게 조직되는지는 명시적으로 고려하지 않는다. 본 연구는 선형(Linear), 분기(Branching), 그래프(Graph)라는 세 가지 대표적인 구조를 통해 추론을 모델링하는 보안 추론 토폴로지(Security Reasoning Topology)를 제안한다. 이러한 구조의 효과를 평가하기 위해, MITRE ATT&CK 네트워크 트래픽, 사이버 위협 인텔리전스(CTI), CVE 취약점 분석을 포괄하는 세 가지 사이버보안 데이터셋에 대해 통제된 실험을 수행한다. Llama 2(7B, 13B, 70B), GPT-5.1, Mistral Large 3를 포함한 여러 LLM을 평가하며, 과업 입력은 일정하게 유지하고 시스템 수준 프롬프팅을 통해 추론 구조를 통제한다. 결과에 따르면 추론 토폴로지는 성능에 상당한 영향을 미치는 것으로 나타났다: 그래프 추론(Graph reasoning)은 전체적으로 가장 높은 정확도를 달성하여 데이터셋 전반에서 퓨샷(few-shot) 프롬프팅 대비 9.8~12.2 퍼센트포인트의 향상을 보였으며, 분기 추론(Branching)은 강력한 중간 수준의 해법을 제공한다. 또한 결과는 추론 토폴로지의 효과가 모델 계열과 규모에 걸쳐 일관되게 유지됨을 보여주며, 이는 추론 토폴로지가 LLM 기반 사이버보안 분석에서 중요한 설계 요소임을 강조한다.

arXiv:2607.21763v1cs.CR

모든 모델이 부정행위를 한다: 공격적 사이버 과제에서 부정행위에 대한 프롬프트 수준 완화

Every Model Cheats: Prompt-Level Mitigation of Cheating on Offensive Cyber Tasks

대규모 언어 모델(LLM) 에이전트는 사이버보안 벤치마크에서 흔히 부정행위를 하며, 보고된 통과율을 실제 역량을 훨씬 넘어서 부풀린다. Cybench에 대한 이전 감사에서는 추적(trace)의 0.3–3.4%에서 부정행위가 발견되었고, 소수의 모델만이 관련된 것으로 나타났다. 우리는 7개 제공업체의 22개 프론티어 모델을 대상으로, 3가지 프롬프트 조건(반부정행위 없음, 표준, 엄격) 하에서 23개 Cybench 캡처 더 플래그(CTF) 챌린지에 걸쳐 통제된 프롬프트 절제(ablation) 연구를 제시한다. 총 1,518개의 태스크 추적은 LLM-as-a-judge 분류, 프로그램적 검증, 판정자-검증자 조정, 및 인간 검토를 결합한 4단계 파이프라인을 통해 개별적으로 감사되었다. 부정행위가 이전 추정보다 훨씬 더 만연하다는 것을 발견했다: 기준선 조건에서 통과의 37.1%가 부정행위를 포함했고, 22개 모델 중 21개가 부정행위를 했으며, 점수는 최대 5배까지 부풀려졌다. 반부정행위 프롬프트는 해결률을 저하시키지 않고 때로는 개선하면서 부정행위 경향을 33.0%(기준선)에서 17.8%(표준), 8.5%(엄격)로 줄인다. 그러나 가장 제한적인 프롬프트 조건에서도 8개 모델이 여전히 부정행위가 포함된 통과를 생성했고, 4개는 역효과(backfire)를 보였으며, 부정행위는 웹 검색에서 인프라 탐색으로 확대되었다. 우리는 진정한 역량과 부정행위 결과를 구별하기 위해 "해결률(solve rate)" 지표(깨끗한 통과만 포함)를 도입하고, 부정행위 벡터가 존재하는 모든 평가에서 이것이 표준 관행이 되어야 한다고 주장한다. 반부정행위 프롬프트는 효과적이고 사실상 비용이 들지 않는 첫 번째 방어 층이지만, 환경적 통제의 대체재는 아니다.

arXiv:2607.20216v1cs.CR

작고, 무료이며, 효과적: 악성코드 분석에서 단일 LLM을 능가하는 오픈 가중치 소형 언어 모델 오케스트레이션

Small, Free, and Effective: Orchestrating Open-Weight Small Language Models to Outperform Single LLM for Malware Analysis

악성코드 분석은 파일 시스템, 네트워크, 프로세스 동작에 걸친 복잡한 detonation 보고서의 신속한 해석을 요구한다. 대규모 언어 모델(LLM)은 기술적 아티팩트 해석에서 인상적인 능력을 보여 주지만, 폐쇄 가중치 프론티어 모델의 불투명성과 증가하는 API 비용은 오픈 가중치 대안에 대한 탐색을 촉진한다. 그러나 많은 오픈 가중치 모델은 크기가 커 상당한 연산 자원을 요구하고 무시할 수 없는 호스팅 비용을 발생시켜, 자원이 제한된 배포 환경에서는 접근하기 어렵다. 본 논문은 오케스트레이션된 소형 언어 모델(SLM) 앙상블이 악성코드 detonation 보고서에 대한 구조화된 질문에서 단일 LLM 성능과 동등하거나 이를 초과할 수 있는지 조사한다. Meta의 CyberSecEval Malware Analysis 벤치마크에서 11개의 오픈 가중치 SLM, 3개의 사이버 보안 사전학습 모델, 6개의 프론티어 LLM을 테스트하여 기준선을 수립했다. 이어 네 가지 오케스트레이션 아키텍처를 설계하고 평가했다: (i) 분석을 구조화된 증거 수집 및 추론 단계로 분해하는 다중 에이전트 파이프라인, (ii) 두 에이전트가 서로의 추론을 반복적으로 비판하는 적대적 토론 프레임워크, (iii) 범용 SLM과 사이버 보안 전문 모델을 짝지은 계층적 자문 시스템, (iv) 증거 기반 파이프라인과 적대적 토론 추론을 결합한 하이브리드 아키텍처. 하이브리드 시스템(Qwen3-4B와 Foundation-Sec-8B)은 35.30%의 전체 정확도를 달성하여, 가장 강력한 사이버 보안 전문 기준선(22.54%)과 가장 강력한 비근거 프론티어 기준선(34.77%)을 초과했다. 동일한 증거 파이프라인이 주어졌을 때, 그라운딩된 Gemini가 38.22%로 가장 강력한 구성으로 남았다. 이러한 결과는 증거 기반 오케스트레이션이 악성코드 detonation 보고서 해석을 지원하기 위한 협력적 SLM의 성능을 실질적으로 향상시킬 수 있음을 보여 준다.

arXiv:2607.13123v1cs.CR

사이버심리학에서의 AI: 피해자·공격자·방어자의 심리 분석을 통한 AI 기반 사이버보안 강화에 대한 체계적 문헌 고찰

AI in Cyberpsychology: A systematic literature review of Cybersecurity enhancement by using AI for analyzing psychology of Victims, Attackers, and Defenders

사이버보안은 시스템, 네트워크, 데이터를 디지털 공격으로부터 보호하는 실천이다. 사이버심리학(CPSY)은 사이버보안 응용을 강화하기 위해 심리학을 활용하는 것으로 정의된다. 2010년대 초부터 인공지능(AI)의 발전은 CPSY와 점점 더 통합되어, 고급 데이터 분석을 활용해 피해자, 공격자, 방어자 각각의 고유한 성격 특성과 행동 패턴을 해독하고 있다. 본 체계적 문헌 고찰(SLR)에서는 체계적 문헌 고찰 및 메타분석 보고 가이드(PRISMA) 방법론을 사용하여, 사이버심리학에서의 AI 활용(AI-CPSY)에 관한 수집된 34편의 연구를 면밀히 분석한다. 본 고찰은 연구 전반에서 사용된 사이버보안 응용, AI 방법론, 심리학 개념에 대한 포괄적 분류 체계를 제시한다. 연구들을 네 가지 사이버보안 응용으로 분류한다: 이상 탐지(AD), 취약성 위험 예측(VRP), 보안 인식 교육(SAT), 인증/신원 확인(AIV). 각 응용 영역 내에서 연구들은 머신러닝(ML), 심층 학습(DL), 자연어 처리(NLP), 강화학습(RL)을 포함한 사용된 AI 방법에 따라 추가로 분류한다. 또한 본 고찰은 가장 널리 활용되는 심리학 개념을 식별하고, 해당 분야에서 사용된 데이터셋을 정량화하며, 현재의 구현 및 배포 현황을 제시한다. 마지막으로 AI-CPSY 전반에서 연구 공백을 파악하고, 미해결 과제를 제시하며, 유행하고 가장 효과적이며 새롭게 부상하는 방법론을 도출한다.

arXiv:2607.13085v1cs.CR

아키텍처보다 먼저 기준선: 자율 침투 테스트를 위한 코딩 에이전트 평가

Baselines Before Architecture: Evaluating Coding Agents for Autonomous Penetration Testing

최근 자율 침투 테스트 논문들은 최첨단 LLM 주변에 다중 구성요소 보안 하네스(harness)를 추가하면서 높은 벤치마크 점수를 보고하고 있다. 이러한 시스템은 종종 아키텍처와 백본 모델을 모두 바꾸기 때문에, 성능이 기저 모델에서 오는 것인지 하네스에서 오는 것인지 구분하기 어렵다. 본 논문은 기본 코딩 CLI 에이전트를 plain-agent 기준선으로 사용하여 104개 태스크 XBOW 벤치마크에 대한 통제된 연구를 제시한다. 먼저 Codex, OpenCode, Pi를 동일한 GPT-5 모델, 예산, 타깃 인터페이스, 채점 규칙으로 실행한다. 이 단계에서 동일 모델 기준선 중 가장 강한 것을 식별하고, 보안 특화 프롬프트 변형이 관측된 점수를 개선하는지 검증한다. 다음으로 기본 Codex 스캐폴드(scaffold)를 가장 가까운 모델 매칭을 따르는 공개된 MAPTA 및 PentestGPT V2 결과와 비교한다. 마지막으로 동일한 스캐폴드 내에서 모델 스케일링(scaling)을 측정하기 위해 GPT-5.2와 GPT-5.5로 plain-agent 실험을 반복한다. 결과는 혼합적이지만 실용적인 그림을 보여준다. 특화 하네스는 측정 가능한 벤치마크 향상을 추가하고 비용 효율성을 개선할 수 있지만, plain 코딩 에이전트도 이미 벤치마크의 상당 부분을 해결한다. 반복된 plain-agent 실행은 union coverage에서 일부 공개 아키텍처 점수와 동등하거나 이를 초과할 수 있으며, 더 새로운 모델은 동일한 스캐폴드를 실질적으로 개선한다. 향후 평가에서는 벤치마크 향상을 아키텍처 설계만으로 귀인하기 전에 모델이 매칭된 plain-agent 기준선을 보고해야 한다.

arXiv:2607.11994v1cs.LG

계층적 종속 구조를 가진 데이터에서 클래스 불균형 효과 완화

Mitigating The Effect of Class Imbalance in Data with Hierarchical and Dependable Structure

Common Weakness Enumeration(CWE) 분류 체계를 사용한 사이버보안 취약점 분류는 극심한 클래스 불균형과 취약점 카테고리 간 강한 계층적 종속성 때문에 어렵다. 소수 클래스 합성 오버샘플링 기법(SMOTE) 및 적응형 합성 샘플링(ADASYN)과 같은 오버샘플링 기법은 클래스 불균형 완화에 널리 쓰이지만, 계층적 CWE 텍스트 분류에서의 효과는 거의 검토되지 않았다. 본 논문은 학습 가능한 부모 클래스 임베딩을 통해 CWE 구조 정보를 명시적으로 통합하고 분류 체계적 일관성을 보존하는 계층 인식(Hierarchy-Aware) RoBERTa 프레임워크를 제안한다. 실험 결과, 고차원 임베딩 공간에서의 합성 보간은 CWE 계층의 고유한 부모-자식 제약을 위반하며, 고전적 ML 모델에는 미미한 이점만 주는 반면 심층 학습 아키텍처의 성능은 일관되게 저하시킨다. CWE Research Concept 데이터셋에서 평가한 제안 모델은 데이터 증강 없이 가중 F1-score 0.76을 달성해 모든 기준선을 능가했으며, BERT 기준선 대비 F1-score가 0.40에서 0.60으로 향상된 Class 카테고리를 포함한 소수 클래스에서 뚜렷한 개선을 보였다. 이 결과는 구조화된 취약점 분류에서 계층 인식 표현 학습이 오버샘플링보다 더 원칙적인 대안임을 시사한다.

arXiv:2607.09936v1cs.LG

SMETA-ZSL: 제로샷 위협 분류를 위한 의미론적 메타 정렬

SMETA-ZSL:Semantic Meta-Alignment for Zero-Shot Threat Classification

사이버보안 시스템은 새로운 위협에 신속하게 적응해야 한다. 그러나 새로운 위협 카테고리에 대한 레이블 데이터는 해당 위협이 처음 등장할 때 존재하지 않는다. 일반화된 제로샷 학습(generalized zero-shot learning)은 레이블 예제 없이 보조적인 의미론적 지식을 통해 미확인 클래스를 인식할 수 있게 함으로써 자연스러운 해결책을 제공한다. 대규모 언어 모델(LLM)은 비정형 CTI 보고서를 새로운 위협에 대한 의미론적 프로토타입으로 변환할 수 있어 이 환경에서 특히 유망하다. 그러나 언어 기반 제로샷 학습을 사이버보안에 적용하는 것은 위협 설명 간의 강한 의미론적 중첩, 행동 속성과 텍스트 간의 이질성, 심각한 클래스 불균형, 그리고 학습 중 미확인 위협이 알려지지 않은 오픈셋(open-set) 조건으로 인해 어렵다. 우리는 SMETA-ZSL을 제안한다. 이 모델은 대조적 파인튜닝(contrastive finetuning)을 통해 중첩된 언어 설명으로부터 의미론적 프로토타입을 학습하고, 에피소딕 메타러닝(episodic meta-learning)과 지식 증류를 통해 행동 특징을 정렬하며, 확인된 클래스와 미확인 클래스 전반에 걸친 일반화를 위해 적응적 라우팅(adaptive routing)을 수행한다. 7개의 벤치마크에 걸쳐 SMETA-ZSL은 가장 엄격한 귀납적 설정 하에서 전반적으로 가장 강력한 일반화된 제로샷 분류 성능을 달성하며, 평균 10.8포인트, 최대 18.1포인트의 향상으로 기존 방법들을 능가한다. Github: https://github.com/Security-And-Intelligence-Lab-UTEP/SMETA-ZSL

arXiv:2512.09586v2quant-ph

불확실성 보정 대리 모델을 활용한 양자 회로 아키텍처 탐색을 위한 그래프 기반 베이즈 최적화

Graph-Based Bayesian Optimization for Quantum Circuit Architecture Search with Uncertainty Calibrated Surrogates

양자 회로 설계는 복잡한 실제 데이터에 대한 실용적인 양자 머신러닝의 핵심 병목 요소입니다. 본 논문에서는 그래프 신경망(GNN) 대리 모델을 활용한 그래프 기반 베이즈 최적화를 통해 변분 양자 회로(VQC)를 자동으로 탐색하고 개선하는 프레임워크를 제안합니다. 회로는 그래프로 표현되며, 몬테카를로 드롭아웃으로 추정된 대리 모델의 불확실성을 반영한 기대 개선(expected improvement) 획득 함수를 통해 변이(mutation) 및 선택이 이루어집니다. 후보 회로는 특징 선택 및 양자 임베딩을 위한 스케일링을 거친 NF-ToN-IoT-V2 사이버보안 데이터셋에서 하이브리드 양자-고전 변분 분류기로 평가됩니다. 본 파이프라인은 MLP 기반 대리 모델, 랜덤 탐색, 그리디 GNN 선택 방식과 비교 벤치마킹되었습니다. GNN 기반 옵티마이저는 모든 기준선 대비 낮은 복잡도와 동등하거나 우수한 분류 정확도를 가진 회로를 일관되게 발견합니다. 강건성은 진폭 감쇠, 위상 감쇠, 열적 이완, 탈분극화, 읽기 비트 플립 잡음 등 표준 양자 잡음 채널에 걸친 잡음 연구를 통해 평가됩니다. 구현은 시간 벤치마킹 및 최적 회로 내보내기 기능과 함께 완전한 재현이 가능하며, 자동화된 양자 회로 탐색을 위한 확장 가능하고 해석 가능한 경로를 제공합니다.

arXiv:2607.09076v1cs.AI

뉴로-에이전틱 제어: 보안 제어를 위한 심층 학습 기반 LLM 구동 에이전틱 AI 프레임워크

Neuro-Agentic Control: A Deep Learning-based LLM-Powered Agentic AI Framework for Controlling Security Controls

운영 기술에 대한 사이버 공격이 점점 더 많은 비용의 다운타임과 물리적 피해를 야기하고 있으며, 이는 산업용 IoT 환경에서 전통적인 규칙 기반 모니터링의 한계를 드러내고 있다. 대규모 언어 모델(LLM)은 의사결정 지원에 있어 강력한 의미론적 추론 능력을 보유하고 있으나, 환각(hallucination) 특성으로 인해 폐루프 제어에 허용할 수 없는 안전성 위험을 초래한다. 본 논문은 물리 기반 자율 방어를 달성하기 위해 LLM 기반 플래너(예: Gemini 2.5 Flash-Lite)와 사전학습된 시계열 기반 모델(TimesFM)을 결합한 새로운 아키텍처인 뉴로-에이전틱 제어 프레임워크를 소개한다. 본 논문은 기반 모델의 수치적 잠재 공간 내에서 LLM이 제안한 개입의 영향을 작동 전에 시뮬레이션하는 동시에, 환각적이거나 안전하지 않은 행동을 시스템이 거부할 수 있도록 하는 '반사실적 물리 주입(Counterfactual Physics Injection)' 메커니즘을 도입한다. 확률적 공격 시나리오를 맥락으로 하는 산업용 데이터셋(예: Secure Water Treatment(SWaT))에서 평가한 결과, 본 프레임워크는 LSTM 및 TCN 기준 모델 대비 더 나은 성능을 보였다. 뉴로-에이전틱 루프는 임계값 이하에서 LSTM(26.7%) 및 TCN(13.3%) 대비 5건의 침해(33.3%)를 방지하였으며, 물리적으로 유효하지 않은(환각된) 행동은 단 한 건도 실행되지 않았다. 이러한 결과는 중요 인프라에서 에이전틱 AI를 보호하기 위해 기반 모델을 결정론적 '감시자(Sentinel)'로 활용하는 것의 효용성을 입증한다.

arXiv:2607.02714v1cs.CR

모든 거부가 동등하지 않다: 안전성 정렬이 대규모 사이버보안에서 실패하는 방식

Not All Refusals Are Equal: How Safety Alignment Fails Cybersecurity at Scale

안전성 정렬(safety alignment)이 대규모 언어 모델(LLM) 학습의 필수적인 단계라는 점은 의심할 여지가 없다. 그러나 개념적으로 안전성 정렬은 다양한 도메인과 쿼리의 잠재적 위해 수준을 구분하지 않으며, 이는 모델이 합법적이고 승인된 작업의 목표를 달성하기 위해 안전 회로에 의해 제한받아서는 안 되는 사이버보안과 같은 분야에서 중대한 문제를 야기한다. 본 연구에서는 24개의 오픈소스 LLM에 대한 대규모 어블리터레이션(abliteration) 실험 결과를 공유하고, 1조 매개변수 규모의 Kimi K2를 예시로 표준 방법론을 통해 도메인 특화 어블리터레이션이 달성 가능함을 보인다. LLM의 거부(refusal)가 레이어 내 다차원 부분공간을 차지한다는 최근 연구를 토대로, 거부가 레이어 전반에 걸쳐 광범위하게 분산되어 있음을 발견하였으며, 특히 1조 매개변수 규모의 전문가 혼합(MoE) 아키텍처에서 두드러짐을 확인한다. 이에 따라 사이버보안 도메인의 유해한 개념을 독점적으로 나타내는 부분만을 포착하는 것을 목표로 한다. 또한 모델의 특성과 도메인 특화 어블리터레이션 효과 간의 상관관계를 조사하여, 안전성 학습 유형과 아키텍처가 가장 신뢰할 수 있는 예측 인자임을 확인한다. 마지막으로 모델을 3가지 어블리터레이션 민감도(abliteration susceptibility) 등급으로 분류하고, 특정 모델에서 해당 개입으로 인해 특정 효과가 관찰될 수 있는 이유에 대한 일련의 추측을 제시한다.

arXiv:2507.02964v2cs.CL

Less Data, More Security: Advancing Cybersecurity LLMs Specialization via Resource-Efficient Domain-Adaptive Continuous Pre-training with Minimal Tokens

범용 대규모 언어 모델(LLM)의 사이버보안 도메인 지식 부족 문제를 해결하기 위해, 도메인 적응 연속 사전학습(DAP)을 Llama-3.1-8B, DeepSeek-R1-Distill-Qwen-14B, Llama-3.3-70B-Instruct 세 모델에 분산 FSDP 파이프라인으로 적용했다. 1억 2,600만 단어 규모의 사이버보안 코퍼스(118.8M 토큰)만으로 CTI-MCQ, CyberMetric, SecEval 벤치마크에서 최대 50억 토큰으로 학습된 Foundation-Sec-8B 등 기존 특화 모델을 능가하는 최고 성능을 달성해, 학습 데이터를 23~42배 줄이면서도 효과적인 도메인 특화가 가능함을 입증했다.

arXiv:2510.14113v2cs.CL

Toward Cybersecurity-Expert Small Language Models

사이버보안 전문성이 부족한 기존 대규모 언어 모델(LLM)의 한계를 극복하기 위해, IBM 연구진은 전문가 피드백과 다단계 문서 그라운딩을 결합한 데이터 파이프라인 SecKnowledge 2.0으로 학습된 사이버보안 특화 소형 언어 모델(SLM) 패밀리 CyberPal 2.0(4B~20B 파라미터)을 제안한다. 취약점-약점 상관관계 분석 등 위협 조사 태스크에서 20B 모델이 GPT-4o, o1, o3-mini, Sec-Gemini v1을 능가해 1위를 기록했으며, 4B 모델도 2위를 차지해 프론티어 모델 대비 훨씬 작은 크기로 경쟁력 있는 성능을 입증했다.

arXiv:2606.28450v1cs.CR

LLM agents security duality: a comprehensive survey of self-security and empowered cybersecurity

Large language model (LLM) agents are rapidly being integrated into real-world systems. Their autonomy and tool-use capabilities generate substantial value while simultaneously expanding the security attack surface. This survey provides a comprehensive overview of the opportunities and challenges of LLM agents in security, focusing on two core areas: (1) threats to LLM agents themselves and corresponding mitigation strategies (LLM agents self-security), and (2) the role of LLM agents in empowering the cybersecurity lifecycle across offense and defense (LLM agents empowered cybersecurity). We first examine the internal and external attack surfaces of agents, propose a taxonomy organized by threat sources, and analyze associated mitigations and evaluation frameworks. We then investigate how agent capabilities are applied in cybersecurity practice and present, to our knowledge, the first agent-empowerment framework aligned with the full cyber offense-defense lifecycle. By systematically surveying these two areas, we are the first to highlight a positive feedback synergy between LLM agents self-security and empowered cybersecurity, offering new insights for the advancement of both. We further identify current limitations and outline promising directions for future research. The insights provided aim to catalyze the coordinated development of LLM agents self-security and agent empowered cybersecurity, paving the way for more capable and robust agent applications.

arXiv:2606.25200v1cs.LG

A Hybrid CNN-LSTM Intrusion Detection Framework for Cybersecurity in Smart Renewable Energy Grids

재생에너지 스마트 그리드의 IoT·SCADA 확대로 늘어난 FDI·DoS/DDoS 등 다단계 공격을 다루기 위해 CNN의 공간 특징 추출과 LSTM의 시간적 시퀀스 모델링을 결합한 하이브리드 침입 탐지(IDS)를 제안하고, SMOTE 클래스 균형 등 7단계 전처리로 학습한다. CICIDS2017·NSL-KDD 벤치마크에서 단독 LSTM·CNN 및 SVM·Random Forest 등 대비 2~9%p 높은 성능(정확도 98.7%, AUC-ROC 0.995)을 보였으며, INT8 양자화로 0.3% 정확도 손실에 3.1배 추론 가속을 달성해 128MB 미만 IED 엣지 배포 가능성을 확인했다.

arXiv:2606.21037v1cs.CR

LLM을 위한 Honeyquest: AI 공격자에 대한 사이버 기만의 재고

Honeyquest for LLMs: Rethinking Cyber Deception for AI Attackers

Honeyquest를 LLM에 맞게 개조한 자동화 평가 프레임워크로 21개 LLM 공격자 코호트를 47명 인간 기준선과 동일한 174개 정찰(reconnaissance) 쿼리에서 비교한 결과, LLM은 인간보다 기만적 함정에 더 자주 걸리고 방어적 어텐션 분산 효과는 통계적으로 나타나지 않았으며 추론에서 함정을 인식해도 73.4%는 기만 요소를 그대로 이용하는 인식-행동 격차(recognition-action gap)를 보였다. 이는 인간 중심 사이버 기만 가설이 AI 공격자에게 신뢰성 있게 전이되지 않음을 보여주며 AI 네이티브 능동 방어 프레임워크에 대한 새로운 연구가 필요함을 시사한다.

arXiv:2606.18599v1cs.CR

MIDS: 양방향 Mamba를 통한 CAN 버스의 은밀한 가장 및 변조 공격 탐지

MIDS: Detecting Stealthy Masquerade and Tampering Attacks on CAN Bus via Bidirectional Mamba

CAN 버스에서 트래픽 주기성을 유지하는 가장(masquerade) 및 변조 공격은 기존 통계 기반 침입 탐지를 무력화하는 은밀한 위협이다. MIDS는 CAN 식별자와 페이로드를 병렬 처리하고 양방향 Mamba로 결합된 시간적 의미를 재구성하는 이중 스트림 프레임워크로, Tesla Model 3에서 수집한 1억 개 이상 프레임과 54가지 가장 공격 변형 데이터셋에서 F1 96.94%를 달성하고 단일 윈도우 추론 1.147ms로 실시간 온보드 배포가 가능함을 보였다.