에이전트 시스템의 신뢰도 세탁(Confidence Laundering): 불확실성에 잠재 캐리어가 필요한 이유
Confidence Laundering in Agent Systems: Why Uncertainty Needs a Latent Carrier
현대 에이전트 시스템은 불확실성을 과잉 확신으로 바꿀 수 있다. 취약한 상류 결정이 그 배후의 불확실성은 인터페이스에서 소실된 채 깨끗한 중간 산출물로 하류 구성요소에 노출되는 경우가 많다. 그 결과 국소적 모호성이 시스템 수준의 오류 증폭으로 이어질 수 있다. 우리는 이것이 에이전트 불확실성 전파의 인터페이스 병목을 드러낸다고 주장한다. 불확실성은 궤적에 불확실한 단계가 포함되어 있다는 이유만으로 전파되는 것이 아니라, 구성요소 간 핸드오프(handoff)를 거치며 살아남을 때만 전파된다. 우리는 불확실한 결정 핸드오프(uncertain decision handoff)를 불확실성 아래에서 내려진 중간 결정의 전달로 정의하고, 신뢰도 세탁(confidence laundering)을 취약한 상류 상태가 절차적으로 유효한 산출물로 재포장되어 하류 에이전트가 과도하게 신뢰하는 실패 모드로 규정한다. 이 병목을 해결하기 위해 우리는 결정 핸드오프에 부착되는 불확실성을 담는 캐리어인 잠재 불확실성(latent uncertainty)을 제안한다. 텍스트를 은닉 상태(hidden state)로 대체하는 대신, 잠재 불확실성은 하류 구성요소가 활용할 수 있는 형태로 사전 확정(pre-commitment) 이전의 취약성을 보존하는 것을 목표로 한다. 이 관점은 에이전트 불확실성 전파를 단계별 불확실성 추정에서 불확실성 보존적 인터페이스 설계로 전환하여, 더 복구 가능한(recoverable) 에이전트 시스템을 지향한다.