arXiv:2103.01607

A Brief Survey on Deep Learning Based Data Hiding

Chaoning Zhang, Chenguo Lin, Philipp Benz, Kejiang Chen, Weiming Zhang, In So Kweon

제출 2021-03-02

원문 초록

Data hiding is the art of concealing messages with limited perceptual changes. Recently, deep learning has enriched it from various perspectives with significant progress. In this work, we conduct a brief yet comprehensive review of existing literature for deep learning based data hiding (deep hiding) by first classifying it according to three essential properties (i.e., capacity, security and robustness), and outline three commonly used architectures. Based on this, we summarize specific strategies for different applications of data hiding, including basic hiding, steganography, watermarking and light field messaging. Finally, further insight into deep hiding is provided by incorporating the perspective of adversarial attack.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.00125v1cs.CR공통 태그 Survey, Adversarial Attack

원픽셀 공격에 대한 종합적 고찰: 연구 현황, 분류 체계, 응용 분야, 규제 정책 및 향후 연구 방향

A Comprehensive Review of One-Pixel Attack: Research Status, Taxonomy, Applications, Regulation Policy and Future Directions

원픽셀 공격(One-Pixel Attack, OPA)은 단 하나의 픽셀을 수정하는 것만으로 의료 진단, 자율주행, 생체 인식, 양자 통신 등 다양한 도메인에서 높은 확신도의 오분류를 안정적으로 유도할 수 있어 심층 학습(deep learning)의 적대적 취약성을 보여주는 가장 극단적인 사례 중 하나입니다. 개념적 단순성에도 불구하고, 기존 적대적 공격 서베이 논문들은 단편적이거나 피상적인 수준으로만 다루어 OPA에 대한 심층적 검토가 여전히 부족했습니다. 본 PRISMA 지침 기반 고찰 연구는 2017년부터 2026년까지의 수준 높은 연구들을 종합하여 알고리즘적 기초, 블랙박스 진화 최적화(optimization), 최신 하이브리드 및 프로그램 합성 공격, 방어 메커니즘, 해석 가능성 도구, 도메인 특화 취약성에 걸친 통일된 다축 분류 체계를 제공합니다. 본 논문의 분석에 따르면 차분 진화(Differential Evolution) 기반 전략이 우세하고, 효율성 최적화 및 현저성(saliency) 유도 방식이 부상하고 있으며, 데이터셋(dataset) 다양성, 전이 가능성, 표준화된 평가 측면에서는 지속적인 한계가 존재함을 확인했습니다. 또한 픽셀 복원, 이상 탐지, 입력 공간 변환, 강건한 학습을 포함한 방어 패러다임을 요약 및 평가하여 강건성, 비인지성, 계산 오버헤드 간의 상충관계를 규명합니다. 이러한 통찰을 바탕으로 선택적 픽셀 복구, 트랜스포머(transformer) 특화 취약성 분석, 현저성 기반 최적화, 실제 환경의 도메인 적응형 방어를 포괄하는 향후 연구 우선순위를 제시합니다. 나아가 강건성 테스트, 사고 공개, AI 보안 거버넌스를 강조하는 규제 프레임워크를 제안합니다. 본 서베이는 현대 AI 시스템에서 초희소(ultra-sparse) 적대적 위협을 이해, 평가 및 완화하기 위한 종합적인 기반을 마련합니다.

arXiv:2609.22573v1cs.CR공통 태그 Survey, Adversarial Attack

엔터프라이즈 MCP를 위한 제로 트러스트 인가 및 디스커버리

Zero-Trust Authorization and Discovery for Enterprise MCP

LLM 에이전트는 공격자가 제어할 수 있는 텍스트를 포함할 수 있는 자연어 문맥을 특권 도구 호출로 변환하므로, 에이전트가 프롬프트 인젝션을 당하거나 적대적으로 유도되더라도 인가는 계속 유효해야 한다. Model Context Protocol(MCP)은 이러한 경계를 위한 널리 채택된 인터페이스가 되었지만, 공식 SDK의 인증·인가 기본 요소는 엔터프라이즈 제로 트러스트 요구사항—특히 하나의 서버가 인간 사용자(기업 SSO)와 자동화된 에이전트(다른 헤더의 서비스 계정 자격 증명)를 모두 제공해야 하는 이중 페르소나 모델—에 미치지 못한다. 우리는 조사한 6개 MCP SDK(Python, TypeScript, Go, Rust, C#, Swift)에 대한 체계적 갭 분석을 수행하고 세 가지 구조적 한계를 확인한다: 단일 Authorization 헤더에 묶인 자격 증명 추출로, 커스텀 미들웨어 없이는 이중 페르소나 배포가 복잡해짐; 사전 인증 도구 디스커버리의 부재; 기본 SDK에서 도구별 세분화된 인가의 부재. 프로토콜이나 SDK 내부를 수정하지 않고, FastMCP에 대한 조합 가능한 확장으로 이러한 공백을 메운다: 인간 호출자와 서비스 계정 호출자를 모두 받는 엔터프라이즈 배포를 위한 크로스 헤더 자격 증명 정규화, 이종 IdP에 걸친 캐시된 토큰 검증, 자격 증명 없는 레지스트리 디스커버리를 위한 비인증 메타데이터 엔드포인트, 단일 선언형 어노테이션으로 도구별 호출 강제와 일관되게 유지되는 권한 필터링 도구 가시성. 4개의 최신 LLM에 걸친 2160회 시도에서, 본문 검사만 수행하는 서버는 여전히 금지된 도구를 노출한다(152/720, 21.1%), 반면 권한 인식 가시성은 해당 비율을 0/720으로 낮춘다; 가시성만 필터링하는 방식은 스크립트 클라이언트에 의해 우회 가능했고, 프롬프트에서 추론 가능한 설정에서는 모델이 숨겨진 도구를 이름으로 참조하는 비율이 최대 94%에 달해, 디스커버리 통제만으로는 호출 시점 강제를 대체할 수 없음을 확인한다.

arXiv:2609.22712v1cs.AI공통 태그 Survey, Adversarial Attack

신뢰할 수 있는 에이전틱 AI: 자율적 LLM 시스템을 위한 실패 모드, 완화 전략 및 생애주기 프레임워크

Trustworthy Agentic AI: Failure Modes, Mitigation Strategies, and a Lifecycle Framework for Autonomous LLM Systems

대규모 언어 모델(LLM)을 기반으로 구축된 에이전틱 AI(Agentic AI) 시스템은 여러 단계에 걸친 계획 수립, 외부 도구 활용, 메모리 내 정보 보존, 다른 에이전트와의 협업을 수행할 수 있습니다. 이러한 기능은 기존의 정적 언어 모델보다 뛰어난 유용성을 제공하지만, 동시에 새로운 보안 및 운영상의 위험을 야기합니다. 웹사이트, 이메일, 문서, 데이터베이스 등 신뢰할 수 없는 콘텐츠가 시스템 인스트럭션과 동일한 컨텍스트로 유입될 수 있고, 영구 메모리는 침해된 정보를 세션 전반에 걸쳐 전달할 수 있으며, 외부 도구에 대한 접근 권한은 모델의 부정확한 응답을 중대한 실제 행동으로 이어지게 할 수 있습니다. 본 논문은 안전성(safety) 및 견고성, 정렬(alignment) 및 인간 감독, 투명성 및 감사 가능성, 프라이버시 및 데이터 거버넌스, 규제 준수라는 다섯 가지 상호 연결된 차원에서 에이전틱 AI의 신뢰성을 검토합니다. 또한 간접 프롬프트 인젝션(indirect prompt injection), 백도어 트리거, 목표 오일반화(goal misgeneralization), 메모리 오염, 세션 간 데이터 유출을 포함한 주요 실패 모드를 통합된 분류 체계로 정리합니다. 아울러 인스트럭션 계층 구조, 컨텍스트 격리, 스포트라이팅(spotlighting), 프로세스 기반 감독, 제한적 도구 사용, 프라이버시 보존 메모리 등 주요 완화 방식을 살펴보며, 실증적 증거로 뒷받침되는 기법과 여전히 주로 개념적 수준에 머물러 있는 기법을 구분합니다. 이러한 분석을 바탕으로, 명세, 설계, 학습(training), 평가(evaluation), 배포, 모니터링의 6단계로 구성된 '신뢰할 수 있는 에이전트 개발 생애주기(TADL)' 프레임워크를 소개합니다. TADL은 각 단계별로 관련 신뢰성 활동, 요구되는 증거, 위험 기반 의사결정 게이트를 정의합니다. TADL은 아직 실증적으로 검증되지는 않았으나, 보다 안전하고 책임 있는 에이전틱 시스템을 개발하고 평가하기 위한 구조화된 기반을 제공합니다. 마지막으로 본 논문은 현재 벤치마크(benchmark)의 한계를 짚어보고 향후 연구를 위한 우선 과제를 제시하며 마무리합니다.

arXiv:2609.23700v1cs.CR공통 태그 Survey, Adversarial Attack

에이전트가 커널이 될 때: AI-네이티브 운영체제로 가는 길에서의 보안 체계화

When the Agent Becomes the Kernel: A Systematization of Security on the Path to AI-Native Operating Systems

대규모 언어 모델(LLM) 에이전트는 이제 코드 저장소 편집, 받은편지함 운영, 구매 완료 등 결과에 큰 영향을 미치는 행동을 수행하는 특권 주체(principal)가 되었다. 그 권한은 커널급이지만, 고전적 시스템 보안이 요구하는—모든 접근에 개입하는 신뢰할 수 있는 중재자—는 없이 주어진다. 운영체제(OS) 벤더들은 이 사실상의 에이전트 커널을 중심으로 플랫폼을 재구축하고 있으며, 완전한 중재(mediation)를 설계 문제로 물려받고 있다. 우리는 이러한 시스템의 보안을 하나의 구분을 중심으로 체계화한다: 출처(provenance)에 대한 중재로 통과하는 경계는 결정론적 검사를 허용하는 반면, 콘텐츠 의미론(content semantics)에 대한 것은 그렇지 않다. 신뢰 경계(trust-boundary) 분류체계는 중재가 발생해야 하는 위치를 규정하고, 핵심 중재 격차를 두 종류의 의미론적 판단에 고립시킨다: 신뢰할 수 없는 입력에서 데이터와 지시(instruction)를 구별하는 것, 그리고 허가된 행동과 비허가 행동을 구별하는 것. 우리는 이 격차가 입력과 행동이 사전에 열거된 집합으로 제한되지 않는 모든 곳에서 감지되지 않은 공격의 환원 불가능한 잔존(residual)을 남긴다고 주장한다. 동일한 구분은 공격 성공 통계를 실행 가능하게 만들어, 각 수치를 배포 부채(건전한 결정론적 중재자가 사용되지 않은 경우)부터 구조적 격차(그러한 중재자가 알려지지 않은 경우)까지의 스펙트럼에 배치한다. 우리는 런타임 모니터링, 아키텍처 분리, 권한 부여(authorization)에 걸친 방어를 체계화하고, 현재 평가가 평가 타당성(evaluation-validity) 실패를 통해 배포된 보안을 과대평가하는 경향이 있음을 보인다. 마지막으로, 우리는 그 분석을 사실상의 커널을 넘어, 모델 자체가 중재 핵심(arbitration core)이 되는 아키텍처까지 확장하고, 보안 우선 AI-네이티브 OS를 위한 설계 제약, 미해결 과제, 연구 의제를 도출한다.

arXiv:2609.23894v1cs.CR공통 태그 Survey, Adversarial Attack

에이전틱 AI 보안의 연결 고리: 다차원 위협 분류 체계, 평가 성숙도 및 공개 도전 과제

Connecting the Dots in Agentic AI Security: A Cross-Dimensional Threat Taxonomy, Evaluation Maturity, and Open Challenges

에이전틱 AI(Agentic AI)는 대규모 언어 모델(LLM) 보안의 범위를 생성된 콘텐츠를 넘어 영구 상태(persistent state), 자율 행동, 도구 사용, 그리고 인간 및 타 에이전트와의 상호작용으로 확장합니다. 기존의 위협 분류는 대개 개별 차원을 강조하여 진입점, 영향을 받는 컴포넌트, 보안 결과 간의 연결 고리를 모호하게 만듭니다. 또한 알려진 위협 환경은 실증 연구에서 입증된 커버리지와 차이를 보입니다. 본 논문에서는 2022년부터 2026년까지 발표된 66편의 연구에 대한 체계적인 검토를 통해 영향을 받는 기능적 또는 시스템 표면 {S}, 상호작용 또는 신뢰 경계 {B}, 침해된 보안 속성 {P}, 실증적으로 검토된 아키텍처 {A}를 연결하는 다차원 표현 T={S, B, P, A}를 제안합니다. 또한 실증적 커버리지와 평가 성숙도를 규명하기 위해 아티팩트 기반 레드팀 테스팅(red-teaming) 연구 22편과 대표적인 보안 벤치마크(benchmark) 11개를 분석합니다. 선정된 연구 내에서 실증적 증거는 주로 단일 에이전트 환경의 프롬프트(prompt)/추론, 메모리 및 도구 매개 공격에 집중되어 있습니다. 영구성, 인간-에이전트(Human-Agent), 복잡한 멀티 에이전트, 시스템적, 장기적(long-horizon) 위협에 대한 연구 커버리지는 상대적으로 부족합니다. 이러한 발견은 전체 실증 연구 전반의 격차를 규정하기보다는 선정된 연구 코퍼스의 특성을 설명합니다. 이질적인 지표, 제한적인 적응형 방어 평가, 아키텍처적 불균형, 불완전한 실행 상태 캡처는 비교 및 재현성을 더욱 제약합니다. 마지막으로 에이전틱 AI의 보다 체계적이고 아키텍처를 인식하며 재현 가능한 보안 평가를 유도하기 위한 13가지 공개 연구 질문을 도출합니다.

arXiv:2607.12406v2cs.AI공통 태그 Survey, Adversarial Attack

LLM-에이전트 시스템 안전을 위한 1급 원칙으로서의 격리: 개념, 분류 체계, 과제 및 향후 연구 방향

Isolation as a First-Class Principle for LLM-Agent System Safety: Concepts, Taxonomy, Challenges and Future Directions

LLM 에이전트가 시스템의 '두뇌' 역할을 할 수 있다는 능력은 분석 범위를 단독 모델을 넘어 근본적으로 확장한다. 따라서 안전성은 더 이상 입력-출력 콘텐츠 정렬만의 문제가 아니다. 시스템 행동과 실세계 실행 결과도 다룬다. 그러나 현재 문헌은 공격 유형, 응용, 벤치마크에 걸쳐 파편화되어 있다. 이로 인해 프롬프트 인젝션, 도구 오용, 메모리 포이즈닝과 같은 실패가 왜 종종 동일한 구조적 원인을 공유하는지, 그리고 이것이 에이전트 워크플로를 통해 어떻게 확산되는지 설명하기 어렵다. 본 서베이에서는 LLM-에이전트 시스템 안전에 대해 격리를 1급 원칙으로 취급한다. 여기서 격리란 사용자 입력, 도구 접근, 실행 채널, 에이전트 간 통신, 환경 기원 컨텍스트의 분리를 가리킨다. 우리는 다섯 가지 경계—사용자-에이전트, 에이전트-도구, 에이전트-실행, 에이전트-에이전트, 시스템-환경—에 대한 경계 중심 분류 체계로 문헌을 정리한다. 이 관점은 격리 손실이 처음 발생하는 지점, 침해가 경계를 가로질러 어떻게 전파되는지, 각 인터페이스에서 어떤 방어가 가장 관련 있는지 파악하는 데 도움이 된다. 또한 경계 간 실패 경로를 요약하고, 미해결 과제를 논의하며, 향후 에이전트 시스템에서 구축 시 격리(isolation-by-construction)를 위한 연구 의제를 제시한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.