paloaltonetworks.com

이 이메일 도메인이 관측된 논문 4건

arXiv:2606.31272v2cs.CR

분해가 곧 핑거프린트다: 에이전트 스킬의 컴포넌트별 식별

The Decomposition Is the Fingerprint: Per-Component Identity for Agent Skills

AI 에이전트는 런타임에 점점 더 많은 스킬을 획득하고 실행한다: 마켓플레이스나 다른 에이전트로부터 가져오는 프롬프트 지시, 실행 가능한 코드, 도구 선언의 묶음이다. 이를 관리하려면 안정적인 스킬 식별 개념이 필요하지만, 암호학적 해싱은 우리가 필요로 하는 유사성을 파괴하도록 설계되어 있어 한 글자의 수정만으로도 다이제스트가 완전히 달라진다. 우리는 스킬의 각 컴포넌트를 임베딩하고 멀티뱅크 SimHash로 비트에 투영하는 컴팩트한 지역 민감 핑거프린트를 제시하며, 이는 해밍 거리를 이용해 상수 시간에 비교 가능한 고정된 120바이트 서명을 생성한다. 우리의 핵심 주장은, 핑거프린트를 단일 점수가 아닌 컴포넌트별 트리플(프롬프트, 코드, 도구)로 유지하는 것이 유용성의 본질이라는 것이다: 이 트리플은 다른 컴포넌트가 공유될 때 의역, 이름 변경, 리팩토링, 통제된 코드 번역을 거친 스킬 패밀리 식별을 복원하지만, 독립적인 다국어 재구현은 복원하지 않으며, 또한 어느 컴포넌트가 재사용을 담당하는지 지역화한다. 우리가 주장하는 것은 행동적 동등성이 아닌 계보다: 식별은 레지스트리의 구조적 축을 제공하고, 안전성은 행동적 검증에 맡긴다. 이 핑거프린트는 4,950쌍의 비교에서 ROC 곡선 아래 면적(AUC) 0.974(95% CI [0.956, 0.994])를 달성하면서도 근사하는 임베딩보다 77배 적은 비트를 사용하며, 기댓값에서 순위가 보존되고 유한 비트 집중이 이루어진다. 컴포넌트별 분할은 하나의 수치를 관계 분류(classification), 패밀리, 신규성, 그리고 스킬 레지스트리를 위한 이식 가능한 "SkillBOM"으로 변환한다. 906개 스킬 주입 벤치마크에서 이 핑거프린트는 주입된 스킬을 알려진 기반 스킬의 변조된 복사본으로 인식하고 변경 위치를 지역화하지만, 인식이 곧 신뢰를 의미하지는 않는다: 설계상 이는 안전성 판정이 아닌 행동적 검증을 보완하는 식별 신호로 남는다.

arXiv:2607.01239v1cs.CL

Breaking Safety at the Token Boundary: How BPE Tokenization Creates Exploitable Gaps in LLM Alignment

BPE 토크나이저가 안전성 관련 핵심 단어를 서브워드 조각으로 분리하는 구조적 취약점을 이용해, 문자 수준의 공백 삽입만으로도 Qwen, Gemma, Llama, Mistral 등 5개 모델 패밀리에서 거부 신호를 80~100% 무력화할 수 있음을 실험적으로 입증한다. 정렬(alignment) 학습 데이터 30,000개 예시에 단편화된 입력이 전혀 포함되지 않는다는 훈련 분포 격차가 근본 원인이며, DPO로는 이를 해결할 수 없고 SFT는 무해한 프롬프트에 대한 거부율까지 전반적으로 높이는 부작용을 일으킨다.

arXiv:2607.01679v1cs.CR

Beyond Gradient-Based Attacks: Adversarial Robustness and Explainability Stability in Cybersecurity Classifiers

사이버보안 분류기(Random Forest, XGBoost)에 대한 적대적 공격(adversarial attack)의 이중 위협—예측 정확도 저하와 SHAP 기반 설명 불안정—을 분석하며, 예측 강건성(Robustness Index)과 독립적으로 측정해야 하는 새로운 지표인 설명 안정성 지수(Explainability Stability Index, ESI)를 제안한다. 특히 그래디언트 기반 블랙박스 공격(ZOO)이 XGBoost의 불연속 예측 곡면으로 인해 허위 강건성(RI ≈ 0.98)을 보이는 반면, 스코어 기반 Square Attack은 실제 취약성(RI ≈ 0.36)을 드러냄을 4개 보안 데이터셋 실험을 통해 입증한다.

arXiv:2606.19831v1cs.CL

레버리지는 도달 범위가 아니다: 언어 모델에서 단일 뉴런 조향을 위한 제어 창 법칙

Leverage Is Not Reach: A Control-Window Law for Single-Neuron Steering in Language Models

정렬된 언어 모델은 거절 및 언어 라우팅과 같은 행동을 희소 피드포워드 뉴런을 통해 게이트(gate)하지만, 단일 뉴런 개입이 출력을 붕괴시키는 대신 행동을 일관되게 제어하는 시점을 예측하는 이론은 없습니다. 우리는 단일 뉴런 조향을 위한 예산 정규화(budget normalized) 제어 창 프레임워크를 개발했습니다. 하나의 쓰기(write) 방향에 대한 투여량(dose)은 하나의 제어 좌표로 축소됩니다: 이는 잔차 스트림(residual stream)과 쓰기 사이의 정렬(alignment)로, 잔차 노름(norm)을 쓰기 노름으로 나누어 설정된 일관성 예산(coherence budget) 단위로 보편적 포화 곡선을 따라 구동됩니다. 행동 트리거(trigger)가 붕괴 천장(collapse ceiling) 아래에 있을 때 일관된 제어가 존재합니다. 동일한 좌표는 양성 모드 전환과 거절을 모두 제어합니다. 천장은 가중치와 하나의 일반적인 순전파(forward pass)에서 도출되는 반면, 트리거는 롤아웃(rollout)에서 측정됩니다. 15개의 홀드아웃(held out) 뉴런에 대해 예측된 천장의 평균 절대 오차는 0.14이며, 대부분의 레이어에서는 약 0.07입니다. 확정된 열림 또는 닫힘 판정은 15개 중 10개의 다수결 기준선(baseline) 대비 11개에서 유지됩니다. 닫힌 사례는 위반보다는 세 가지 실패 모드를 보여줍니다: 트리거 이전의 붕괴, 전파할 깊이가 부족함, 또는 하나의 뉴런이 밀어낼 수 있는 거리를 제한하는 정규화(normalization)입니다. 이 법칙은 지역 그래디언트(gradient) 귀속이 제어를 반대로 예측하는 이유를 설명합니다: 진정한 컨트롤러는 리드아웃 축(readout axis)에서 벗어나 쓰기(write)하며 거의 0에 가까운 1차 그래디언트를 가집니다. 창(window)에 의해 정밀해진 순전파(forward pass) 전용 대비 스크린(screen)은 귀속이 놓치는 컨트롤러를 회복합니다. 가장 어려운 사례인 거절의 경우, 개입 성공은 스칼라가 아닌 유형(typed)입니다: 일관된 우회와 엄격한 실행 가능 도달 범위(actionable reach)가 분리되므로, 뉴런은 실행 가능한 콘텐츠 없이 유창하고 과제에 부합하는 텍스트에서 거절을 뒤집을 수 있으며, 진정한 실행 가능 도달 범위는 감사된 6개의 Llama 피벗(pivot) 중 3개에서만 후기 롤아웃(rollout) 지평에서 나타납니다. 따라서 단일 뉴런 조향은 고정된 투여량(dose)에 대한 일화가 아니라, 제어 가능성에 대한 예산이 책정되고 유형이 부여된 감사(audit)입니다.