arXiv:2606.19390v1 cs.SE

에이전트형 AI를 위한 실행 바인딩 보안 권고 자동화: 재현 가능한 AIBOM 기반 CSAF-VEX 프레임워크

Execution-bound advisory automation for agentic AI: a reproducible AIBOM-driven CSAF-VEX framework

Petar Radanliev, Omar Santos, Carsten Maple, Kay Atefi

제출 2026-06-16

한국어 초록

SBOM 및 AIBOM 아티팩트를 결정론적 환경 캡처 및 구조화된 런타임 원격 분석에 바인딩하는 프로토콜 기반 프레임워크를 제안합니다. 악용 가능성(exploitability)은 선언된 아티팩트, 관찰된 활성화 조건, 및 적용된 실행 정책으로부터 계산됩니다. CSAF VEX 권고사항은 결합된 정적 및 런타임 증거로부터 생성되며, 암호화로 서명되고 결정론적 재생(replay)을 통해 검증됩니다. 평가는 50개에서 5000개의 구성 요소로 구성된 합성 에이전트형 AI 워크로드 전반에 걸쳐 약 10,000개의 구성 요소 항목을 사용하며, OSV, GitHub Advisory, KEV, EPSS 데이터셋을 통합합니다.

원문 초록

A protocol driven framework is presented that binds SBOM and AIBOM artefacts to deterministic environment capture and structured runtime telemetry. Exploitability is computed from declared artefacts, observed activation conditions, and enforced execution policies. CSAF VEX advisories are generated from combined static and runtime evidence, cryptographically signed, and validated through deterministic replay. Evaluation uses approximately 10000 component entries across synthetic Agentic AI workloads 50 to 5000 components, incorporating OSV, GitHub Advisory, KEV, and EPSS datasets.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.19390v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.29405v2cs.AI공통 태그 agentic ai

컴포넌트 테스트를 넘어서: 에이전틱 AI 시스템 검증

Beyond Component Testing: Validating Agentic AI Systems

에이전틱 AI(Agentic AI) 시스템은 계획(planning), 도구 사용, 메모리, 상호작용 및 적응을 결합한 다단계 궤적(trajectory)을 통해 동작합니다. 이러한 동작 특성으로 인해 수용 가능한 시스템 동작이 시간에 따라, 그리고 변화하는 환경 조건 하에서 결정이 어떻게 전개되는지에 좌우되므로, 검증(validation) 실무는 기존의 컴포넌트 테스트와 단발성 입출력 평가를 넘어서는 수준으로 확장됩니다. 본 체계적 매핑 연구(systematic mapping study)는 에이전틱 시스템의 검증 문제를 규명하기 위해 에이전트 평가, 소프트웨어 보증, 사이버-물리 시스템, 런타임 모니터링 및 규제 지침에 걸친 262편의 논문을 종합합니다. 본 검토는 행동적, 안전성(safety), 시간적, 규제적, 다중 에이전트 관심사를 다루는 5차원 분류 체계를 중심으로 구성되며, 해당 분류 체계를 사용하여 현재의 접근 방식을 매핑하고 접근 방식과 차원 간의 밀집 및 희소 조합을 식별합니다. 생성된 맵에 따르면 문헌은 행동 평가(262편 중 105편)에 집중되어 있으며 시간적 타당성(14편)이 가장 미흡한 것으로 나타났습니다. 규제 관련 연구는 주로 IEEE 색인 학술 행사에서 발표된 보증 케이스(assurance cases) 및 규제 분석에 기반하고 있으며, 다중 에이전트 연구는 주로 벤치마크에 집중되어 있습니다. 세 가지 교차 도메인 사례 연구(의료 케어, 산업 운영, 스마트 모빌리티 시스템)는 검토된 문헌에 기록된 실패 패턴을 바탕으로 안전이 중요한(safety-critical) 환경에서 5가지 분류 차원이 어떻게 반복적으로 나타나는지에 대한 운영적 예시를 제공합니다. 본 논문은 경계가 지정된 자율성(bounded-autonomy) 명세, 적대적 궤적 생성, 런타임 모니터링, 감사 가능한 증거 구조를 중심으로 한 수명 주기 지향적 연구 과제를 제시하며 마무리됩니다. 본 연구의 핵심 주장은 에이전틱 AI의 신뢰할 수 있는 배포가 고립된 컴포넌트만을 평가하는 것이 아니라 맥락 내에서 궤적을 검증하는 것에 달려 있다는 점입니다.

arXiv:2606.20470v4cs.CR공통 태그 agentic ai

에이전틱 AI 시스템에 대한 모델 유도 자동화 공격에 맞선 방어적 오도 분석

Analyzing Defensive Misdirection Against Model-Guided Automated Attacks on Agentic AI Systems

에이전틱 AI(Agentic AI) 시스템은 지시문 해석, 외부 데이터 처리, 도구 호출, 다른 에이전트와의 조율을 위해 언어 모델 컴포넌트에 점점 더 많이 의존하고 있습니다. 이러한 기능은 특히 공격자가 탐침(probing), 프롬프트 정제, 응답 평가를 확장하기 위해 모델 유도 자동화를 도입함에 따라 프롬프트 주입 및 탈옥(jailbreak) 공격의 파급력을 더욱 키웁니다. 본 연구는 대상 시스템, 방어 메커니즘, 공격자의 자동화된 판정자(judge)에 대한 확률 모델을 통해 공격-방어 환경을 분석합니다. 분석에 따르면, 예측 가능한 거절 반응이 자동화된 탐색에 유용한 피드백을 제공하기 때문에 기존의 '탐지 및 차단(detect-and-block)' 방어는 질의 예산(query budget)이 증가함에 따라 공격자 성공률(ASR)이 1에 수렴하도록 허용할 수 있습니다. 이에 본 연구에서는 악의적인 상호작용이 감지되었을 때 공격자의 판정자가 위양성(false-positive) 오류를 일으키도록 설계된 통제된 비작동 응답을 제공하는 '탐지 및 오도(detect-and-misdirect)' 전략을 살펴봅니다. 이 전략은 공격자가 선택한 후보의 양성 예측도(PPV)를 낮추고 유계된(bounded) 점근적 ASR을 유도합니다. 본 연구는 자동화된 탈옥 환경에서 예측 가능한 거절 텍스트를 안전하지만 전략적으로 오도하는 응답으로 대체하도록 설계된 경량 대화형 오도 기법인 CMPE(Contextual Misdirection via Progressive Engagement)를 통해 이 전략의 개념 증명 구현을 평가합니다. 탈옥 벤치마크에서 CMPE는 추정된 ASR 상한을 최대 2자릿수(orders of magnitude)까지 낮추었으며, PAIR, GPTFuzz, AutoDAN-Turbo를 사용한 엔드투엔드 실험에서 검증된 공격 성공을 거의 제거했습니다.

arXiv:2609.28216v1cs.SE공통 태그 software supply chain

에이전트 출력에서 인가된 전이로

From Agent Output to Authorized Transition

에이전트형 엔지니어링 시스템은 저장소를 편집하고, 도구와 테스트를 실행하며, 펌웨어를 빌드하고, 회로도를 합성하며, 배포 가능하거나 제조 가능한 아티팩트를 준비할 수 있습니다. 따라서 보증 문제는 에이전트가 출력을 생성할 수 있는지 여부에서, 엔지니어링 수명주기가 해당 출력에 대한 주장에 기반하여 조치를 취하는 것이 정당화되는지 여부로 전환되고 있습니다. 현재의 제품과 표준은 샌드박스, 승인, 훅(hook), 추적, 정책 집행, 증명, 부품 목록(BOM), 보증 표현을 제공하지만, 이러한 기능들은 여전히 파편화되어 있습니다. 본 논문은 소프트웨어, 펌웨어 및 PCB 엔지니어링을 위한 도메인 간 전이 계약인 Agile-V Assurance Spine을 제시합니다. 증거는 권한 있는 소스 프로파일을 통해 필수 속성을 확립하고, 정확한 아티팩트 및 동결된 정책 기준선(baseline)에 결속되며, 선언된 종속성에 대해 최신 상태를 유지하고, 위험 수준에 부합하는 독립성과 권한을 충족할 때에만 인정됩니다. 게이트 결정은 영수증(receipt)으로 기록되며, 승인 및 예외 처리는 정확한 범위와 시간 제한을 가지며, 병합, 배포, 플래싱, 출시 또는 제작 전 영향 경계(effect boundary)에서 인가가 재확인됩니다. 최신 연구, 상용 플랫폼, 오픈소스 인프라 및 표준에 대한 한정된 검토를 통해 증거 기반 게이트 수명주기 제어, 지속적 보증, 런타임 수락, 출처(provenance) 및 AI/ML 인벤토리와 비교하여 모델(model)의 위치를 규명합니다. 본 논문은 정밀한 용어 체계, 구성 가능한 아키텍처, 도메인 프로파일, 오픈소스 구현과의 매핑, 그리고 적대적 평가(evaluation) 아젠다를 기여로 제시합니다. 규제 적합성이나 입증된 프로덕션 우수성을 주장하지는 않습니다.

arXiv:2609.28372v1econ.GN공통 태그 agentic ai

알고리즘 쇼핑: 에이전트 AI가 인간 휴리스틱을 대리 소비자로 활용하는 방식

Shopping by algorithm: How agentic AI deploys human heuristics as a surrogate consumer

소비자들은 점점 더 구매 결정을 대리 소비자 역할을 하는 대규모 언어 모델(LLM)에 위임하고 있다. 제품 속성을 비용이 드는 도구 호출 뒤에 두는 정보 보드(information-board) 과정 추적(process tracing)의 변형인 "Tool-Lab"을 사용하여, 마케팅 가격 단서(즉, just-below pricing과 프로모션 프레이밍)가 AI 쇼핑 에이전트에 어떻게 영향을 미치는지 살펴본다. 세 제공업체의 상용 배포 LLM 8개에 걸쳐 선택 전 정보 획득을 추적했다. 비용이 없을 때는 가격 단서가 거의 오도하지 않는다. 모호한 목표 프롬프트 하에서 정보 획득 비용을 부과하면 LLM은 단위 가격 계산에 필요한 진단적 속성을 생략하고 인간 휴리스틱을 닮은 차선 선택을 하게 된다. 진단적 탐색과 선택 최적성을 대체로 유지하는 구체적 목표 프롬프트에 비해, 제약 조건 하의 모호한 목표 프롬프트는 탐색을 매개로 한 취약점을 만든다. 본 연구는 위임형 AI 쇼핑에서 마케팅 휴리스틱이 반드시 불변적인 LLM 결함 때문이 아니라 상점프론트 정보 아키텍처에 의해 좌우됨을 보여준다.

arXiv:2509.26200v2cs.NI공통 태그 agentic ai

효율적인 LLM 기반 에이전트형 6G 크로스 도메인 관리를 위한 비편향 집합적 메모리를 향하여

Toward an Unbiased Collective Memory for Efficient LLM-Based Agentic 6G Cross-Domain Management

에이전트형 인공지능(Agentic AI)은 6세대(6G) 네트워크에서 레벨 4 자율성을 실현할 수 있는 유력한 기술이지만, 공유 메모리를 기반으로 추론하는 에이전트는 메모리의 왜곡을 그대로 물려받게 됩니다. 본 연구에서는 에너지를 최소화하는 무선 접속망(RAN) 에이전트와 지연 시간을 최소화하는 엣지 에이전트가 협상하고, 디지털 트윈(DT)을 통해 제안을 검증하며, 집합적 메모리를 공유하는 크로스 도메인 RAN-엣지 오케스트레이션을 연구합니다. 이러한 메모리는 샘플링 장치와 같아서, 에이전트가 무엇을 저장하는가가 아니라 무엇을 검색하는가가 이들의 행동을 결정합니다. 본 논문에서는 유도된 검색 분포와 대표 참조 분포 간의 다이버전스로서 시간적, 확증, 가용성 축을 따라 분해되는 검색 바이어스 지수(Retrieval Bias Index)를 정의하고, 가법적 검색 스코어링이 바이어스가 제거되지 않은 분포의 지수 틸트(exponential tilt)임을 보여 실패 증폭 가중치(failure-amplification weight)에 대한 닫힌 형태의 해(closed form)와 저장소 자체의 구성에 의해 결정되는 포화 하한을 도출합니다. 추가적인 결과로 초과 서비스 수준 협약(SLA) 위반이 검색 바이어스와 DT 불일치에 가법적으로 바운딩됨을 보입니다. 확률적 네트워크 미적분학(stochastic network calculus)이 실행 가능 영역, 오라클, 내시 협상(Nash bargaining) 기준점을 제공하는 탠덤 큐에서, 제안하는 연산자는 최신성 기반 저장소 대비 12.7배의 바이어스 감소를 달성하고 6개의 메모리 아키텍처 중 협상 해와 가장 가까운 거리를 달성합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.