PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.00041v1cs.MA

위임 위험 대역: 중급 성능의 서브 에이전트가 상속된 오래된 상태를 과도하게 신뢰하는 이유

The Delegation Danger Band: Why Mid-Capability Sub-Agents Over-Trust Inherited Stale State

에이전트(agent) 프레임워크는 서브 에이전트를 포크(fork)하여 작업을 위임하는 방식을 점점 더 많이 채택하고 있으며, 흔히 자식 에이전트가 부모의 전체 작업 컨텍스트를 상속하도록 기본 설정되어 있습니다. 본 논문에서는 상속된 상태의 영향이 모델 성능에 따라 어떻게 달라지는지 측정하며, 여기서 $C_m$은 깨끗한 상태로 새로 포크되었을 때의 정확도(clean fork-fresh accuracy)를 나타냅니다. 고정된 폐쇄형 세트 및 행동 평가 벤치마크(benchmark)에서 동일 계열 모델 래더(ladder)(Qwen3 0.6/1.7/4/8B)를 대상으로 세 가지 상속 정책을 비교합니다: 리셋(Reset, 새로 포크: 기본 증거만 포함), 선택적(Selective, 선별된 전달: 유용한 이전 결론 추가), 전체(Full, 암시적 포크: 유용한 결론 및 대체된 결론의 $d$개 사본 추가). 모든 작업은 기본 증거만으로 해결 가능하므로, 성능 손실(loss)은 오래된 상태(stale state)에 대한 의존 때문인 것으로 볼 수 있습니다. (1) 2가지 합성 기본 작업과 MuSiQue 및 HotpotQA 전반에서 대체된 상태에 대한 복종은 측정된 성능 $C_m$에 따라 급격히 감소합니다(기울기의 신뢰 구간 CI는 모든 계열에서 0을 제외함). (2) Qwen3 합성 래더에서 순 상속 피해(net inheritance harm)는 비단조적 패턴을 따릅니다. 중급 성능 모델(Qwen3-1.7B)은 순 피해의 통계적으로 유의미한 국소 최솟값을 보이며, 새로 포크된 기준선(baseline)($Δ(32)=-0.19$ [-0.25, -0.12]) 및 양쪽 인접 모델보다 낮은 성능을 기록하는 반면, 가장 약한 모델은 중립에 가깝게 유지되고 가장 강한 모델(model)들은 견고함을 유지합니다. 저자들은 이처럼 유해한 성능 범위를 '위험 대역(danger band)'이라고 부릅니다. 모델 내 계산 난이도 스윕을 통해 동일한 $C_m$에서도 이 효과가 모델 클래스에 따라 달라짐을 확인했으며, 실제 부모-자식 간 포크 실험에서도 중간 모델의 성능 저하가 재현됩니다. (3) 선별된 선택적 전달은 3개 데이터셋(dataset) 모두에서 전체 상속 대비 평균 정확도를 향상시키며 위험 대역 내 모델에서 그 효과가 가장 컸던 반면, 고정 임계값 기반의 성능 라우터는 다른 데이터셋에서 실패했습니다. 전이 가능한 라우터는 재사용 이점과 오래된 컨텍스트 페널티 사이의 균형을 예측할 수 있어야 합니다. 해당 벤치마크는 동결되었으며 버전 해시가 적용되었습니다.