PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.21843v1cs.AI

지속되는 것을 측정하기: AI 에이전트 정체성의 조건화 메커니즘과 기하학적 프레임워크

Measuring What Persists: Conditioning Mechanisms and a Geometric Framework for AI Agent Identity

AI 에이전트는 장문맥 응용에서 지정된 정체성으로부터 표류(drift)한다. 현재 방법들은 질적 저하가 눈에 띄게 나타난 후에만 이를 탐지한다. 우리는 enriched category theory의 magnitude homology와 $\sqrt{\mathrm{JSD}}$ 계량 공간(metric space)을 사용하여 정체성 구조를 측정하는 기하학적 프레임워크를 제시한다. 여기서 정체성은 비측지선(non-geodesic) 구조이며 표류는 이것이 측지선(geodesic)으로 이완(relaxation)되는 현상이다. 지속적 AI 에이전트에서 검증한 결과, 이 프레임워크의 가장 강력한 실증적 발견은 이중 메커니즘 조건화 구조이다: 교차 조건 거리는 정체성 명세가 행동적 공백을 채우는 정체성-진공(identity-vacuum) 클러스터와, 사후 학습(post-training) attractor로부터 치환되는 안전-베이sin(safety-basin) 클러스터를 드러낸다. 정삼각형 프로브 기준선은 정체성 명세가 최대 프로브 분리에서 측정 가능한 행동적 풍부성(기본 모델의 1개 대비 55개의 고유 응답 패턴)을 생성함을 확인한다. 정삼각형 구성에 대한 1차 섭동 이론은 둘레(perimeter) 변화만으로 magnitude 변화를 예측하며, 형태 섭동은 $S_n$ 대칭에 의해 1차로 상쇄된다; 이 공식은 관측된 섭동 진폭에서 자기 일관적(self-consistent)이다. 문맥 압력 하에서 magnitude 감소를 측정한 표류 실험은 이후 진정한 문맥 길이 표류가 아니라 반복적 패딩(padding) 아티팩트를 반영한 것으로 밝혀졌으며, 다양한 패딩은 150K 토큰까지 측정 가능한 변형을 만들지 않는다. magnitude homology 프레임워크의 전체 진단적 잠재력—이방성(anisotropic) 수축과 호몰로지적(homological) 단순화를 통한 구조적 붕괴 탐지—은 섭동 이론과 선택 규칙에 구조적으로 기반하지만, 실증적으로는 아직 확인되지 않았다.