PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2603.08993v2cs.SE

Arbiter: LLM 에이전트 시스템 프롬프트의 간섭 탐지

Arbiter: Detecting Interference in LLM Agent System Prompts

LLM 기반 코딩 에이전트(agent)의 시스템 프롬프트(prompt)는 에이전트의 동작을 관장하는 소프트웨어 아티팩트이지만, 기존 소프트웨어에 적용되는 테스팅 인프라가 부족합니다. 본 논문에서는 시스템 프롬프트 내 간섭 패턴을 탐지하기 위해 정식 평가 규칙과 다중 모델(model) LLM 탐색(scouring)을 결합한 프레임워크인 Arbiter를 제시합니다. 세 가지 주요 코딩 에이전트 시스템 프롬프트인 Claude Code(Anthropic), Codex CLI(OpenAI), Gemini CLI(Google)에 적용한 결과, 비방향성 탐색 단계에서 152개의 발견 사항을 식별하고 특정 벤더에 대한 방향성 분석에서 직접 라벨링한 21개의 간섭 패턴을 식별했습니다. 우리는 프롬프트 아키텍처(모놀리식, 플랫, 모듈형)가 심각도와는 관련이 없으나 관찰된 장애 유형과 강한 상관관계가 있으며, 다중 모델 평가가 단일 모델 분석과는 범주적으로 다른 취약점 클래스를 발견한다는 점을 보여줍니다. 탐색기가 발견한 한 가지 사례인 Gemini CLI 메모리 시스템의 구조적 데이터 손실(loss) 문제는 Google이 접수하고 패치한 이슈와 일치했으나, 해당 패치는 탐색기가 식별한 스키마 수준의 근본 원인을 해결하지 않고 증상만 완화한 것이었습니다. 벤더 간 교차 분석의 총비용은 0.27달러(USD)였습니다.

arXiv:2604.08607v2cs.LG

적대적 다중 작업 학습을 통한 간섭 탐지 및 식별 통합

Joint Interference Detection and Identification via Adversarial Multi-task Learning

비협조적 무선 환경에서 통신 시스템의 생존성을 높이려면 정밀한 간섭 탐지와 식별이 필수적이다. 심층 학습(DL)이 이 분야를 발전시켜 왔지만, 기존 단일 작업 학습(single-task learning, STL) 접근법은 내재된 작업 간 상관을 간과한다. 더욱이 새로 등장하는 다중 작업 학습(multi-task learning, MTL) 방법은 작업 관계를 정량화하고 모델링하기 위한 이론적 기반을 종종 갖추지 못한다. 이 공백을 메우기 위해, 우리는 간섭 탐지, 변조 식별(modulation identification), 간섭 식별을 공동으로 수행하는 이론적으로 정당화된 MTL 프레임워크를 수립한다. 먼저 MTL 프레임워크에서 가중 기대 손실의 상한을 유도한다. 이 상한은 MTL 성능을 Wasserstein 거리와 학습 가능한 작업 관계 계수로 정량화된 작업 유사도에 명시적으로 연결한다. 이 이론을 바탕으로, 작업 간 분포 불일치를 최소화하기 위해 적대적 학습을 통합하고 작업 상관을 동적으로 모델링하기 위해 적응형 계수를 사용하는 적대적 다중 작업 간섭 탐지 및 식별 네트워크(AMTIDIN)를 제안한다. 중요하게도, 우리는 작업 유사도에 대한 정량 분석을 수행하여 내재적 작업 관계, 특히 변조 식별과 간섭 식별이 간섭 탐지와는 구별되는 상당한 특징 중첩을 공유한다는 점을 밝혔다. 실험 결과, AMTIDIN은 제한된 학습 데이터, 짧은 신호 길이, 낮은 신호 대 잡음비(SNR)라는 평가 조건에서 독립적으로 학습된 단일 작업 대응 모델 및 MTL 베이스라인을 능가함을 보여준다.