PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.10534v1cs.AI

에이전트 스킬의 층간 정렬 불일치 탐지: 점진적 로딩 인식 대조 학습 접근법

Cross-Layer Misalignment Detection in Agent Skills: A Progressive Loading-Aware Contrastive Learning Approach

대규모 언어 모델(LLM) 에이전트는 자연어 메타데이터, 절차적 지침, 실행 시 리소스를 런타임 사용을 위해 패키징하는 재사용 가능한 아티팩트인 에이전트 스킬(Agent Skills)을 통해 점점 더 확장되고 있다. 오픈소스 스킬 마켓플레이스가 확장됨에 따라 사용자와 에이전트는 서드파티 스킬을 선택하기 위해 간략한 메타데이터에 점점 더 의존하게 되어, 스킬의 설명과 실제 동작 간의 불일치를 탐지하기 어려워졌으며, 우리는 이 문제를 층간 정렬 불일치(cross-layer misalignment)라 부른다. 이 문제를 해결하기 위해, 우리는 에이전트 스킬의 계층 구조를 모델링하고 층간 일관성을 학습함으로써 정렬 불일치를 탐지하는 LLM 기반 프레임워크인 점진적 로딩 인식 계층적 대조 학습(PL-HCL, Progressive Loading-Aware Hierarchical Contrastive Learning)을 제안한다. 264,000개 이상의 오픈소스 스킬로 구성된 정규화 코퍼스와 인간 검증 챌린지 세트를 활용하여, PL-HCL은 평가된 LLM 백본 전반에 걸쳐 적응되지 않은 베이스라인의 Macro-F1 약 0.45에서 0.87–0.89로 향상시켰다. 이 접근법은 사용자와 운영자를 위한 효과적인 스크리닝 도구를 제공하며, 계층화된 디지털 아티팩트의 불일치 탐지를 위한 설계 원칙을 제시한다.

arXiv:2606.31639v1cs.CR

A Lifecycle and Application-Stack Survey of Large Language Model Vulnerabilities: Attacks, Risks, Defenses, and Open Problems

대규모 언어 모델(LLM)이 검색-증강 생성(RAG), 에이전트, 공급망 등 전체 애플리케이션 스택에 통합됨에 따라 발생하는 보안 취약점을 데이터 수집부터 배포·유지보수까지 8단계 라이프사이클 관점으로 체계화한 서베이 논문으로, 프롬프트 인젝션·포이즈닝·탈옥(jailbreak)·프라이버시 침해 등 공격 유형을 기밀성·무결성·가용성·안전성·에이전시 제어 등 보안 목표에 매핑하고 심층 방어(defense-in-depth) 아키텍처 및 미해결 연구 과제를 제시한다.

arXiv:2505.23847v4cs.CR

교차 도메인 다중 에이전트 LLM 시스템에서 반드시 해결해야 할 7가지 보안 과제

Seven Security Challenges That Must be Solved in Cross-domain Multi-agent LLM Systems

대규모 언어 모델(LLM)은 조직 경계를 넘나들며 협력하는 자율 에이전트로 빠르게 진화하고 있으며, 데이터 소유권을 포기하지 않으면서도 분산된 전문성을 요구하는 공동 재난 대응, 공급망 최적화 및 기타 과업을 가능하게 한다. 그러나 교차 도메인 협업은 현재의 정렬(alignment) 및 격리(containment) 기법이 전제로 하는 통합된 신뢰 가정을 무너뜨린다. 격리된 상태에서는 양성인 에이전트라도 신뢰할 수 없는 피어(peer)로부터 메시지를 수신하면 비밀을 유출하거나 정책을 위반할 수 있으며, 이는 고전적인 소프트웨어 버그가 아니라 창발적 다중 에이전트 역학에 의해 유발되는 위험을 낳는다. 본 포지션 논문(position paper)은 교차 도메인 다중 에이전트 LLM 시스템의 보안 의제를 정리한다. 우리는 새로운 보안 과제의 7가지 범주를 제시하고, 각 범주에 대해 그럴듯한 공격, 보안 평가(evaluation) 지표, 향후 연구 지침도 함께 제시한다.