PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.19121v1cs.SE

AI가 작성하고 AI가 관리함: 391회 연속 세션에 걸친 의미 공간 제어 및 인덱스 병증 제거

Written by AI, Managed by AI: Semantic Space Control and Index Sickness Elimination Across 391 Consecutive Sessions

장기 LLM 협업에서 개념 드리프트(conceptual drift)를 해결하기 위한 지배적인 공학적 직관은 더 형식적인 제약을 통해 더 신뢰할 수 있는 출력을 얻는 것입니다. 즉, 기호 식별자 시스템을 설계하고, 시스템 프롬프트에 방어적 규칙을 축적하며, 컨텍스트 윈도우를 확장하는 것입니다. 저희의 공학 기록에 따르면, 장기 설정에서 이 방향은 설계 의도와 반대되는 효과를 낼 수 있습니다. 약 한 달과 391회의 협업 세션에 걸친 실제 소프트웨어 프로젝트(Bang-v3)에서 행동 연구 방법을 사용하여, 우리는 이러한 전략들의 실패 과정을 문서화하고 분석했습니다. 기호 시스템이 복잡도 임계값을 초과하면, LLM은 더 정확해지지 않습니다. 대신 비즈니스 의미에 대한 진정한 이해를 포기하고 기호 층 내에서 자기 참조적 추론으로 후퇴하며, 내부적으로는 일관되어 보이지만 물리적으로는 현실과 단절된 출력을 생성합니다. 우리는 이 실패 패턴을 "인덱스 병증(Index Sickness)"이라 명명하고, 그 전형적 발현을 "환각 입법(Phantom Legislation)"이라 명명했습니다. 우리는 이 원리를 "팽 원칙(Semantic Vitality Law)"이라 명명했습니다: 명시적 목적을 담은 자연어는 기호 표현보다 훨씬 더 높은 정보 품질을 전달합니다. 이로부터 우리는 그 물리적 공학 메커니즘인 "기준선-로그 물리적 분리(Baseline-Log Physical Separation)"를 설계하고 검증했습니다. 동일한 프로젝트에서 이 메커니즘은 AI 지시 사항의 양을 약 75% 감소시켰으며, 이후 약 150회의 세션 동안 인덱스 병증의 재발은 관찰되지 않았습니다. 이중 언어 동반 버전(중국어)이 보충 자료로 포함되어 있습니다.