PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.01348v1cs.AI

점수가 아닌 주장을 검증하라: 모듈형 에이전트의 증거 기반 검증

Verify Claims, Not Scores: Evidence-Based Verification of Modular Agents

개발자가 제어기, 학습된 모델, 검증기(verifier)와 같은 에이전트의 한 구성 요소를 변경할 때, 대개 종합 작업 점수로 그 변경을 평가한다. 그러나 해당 점수로는 개선이 달성 가능했는지, 어떤 구성 요소에서 가치가 손실되었는지, 또는 에이전트 자체의 점검이 무엇을 보증하는지 알 수 없다. 본 연구에서는 계획, 행동, 점검, 개선을 수행하는 모듈형 에이전트를 위한 주장별 검증 감사(claim-specific verification audit)를 도입한다. 이 감사는 에이전트를 점수화하는 대신 증거를 평가한다. 즉, 각 결론은 그 이면의 증거, 4가지 판정(지지됨, 지지되지 않음, 미해결, 평가되지 않음) 중 하나, 그리고 그것이 성립하는 경계와 함께 기록된다. 세 가지 도구가 이러한 증거를 제공한다. 오라클 정책(oracle policies)은 명시적으로 명시된 행동 집합 하에서 달성 가능한 개선을 측정하여, 낮은 가치가 환경이 아닌 평가 때문임을 추적할 수 있도록 한다. 구성 요소를 한 번에 하나씩 완벽한 대응물로 교체하여 손실된 가치를 찾아내며, 다운스트림 구성 요소가 이를 가릴 수 있을 때마다 널(null) 결과는 미해결로 판정된다. 별도의 테스트에서는 검증기의 점수가 그것이 한정하는 것으로 간주되는 수량을 실제로 식별하는지 묻는다. 숨겨진 체제(regimes)가 알려진 합성 시장 내 제약된 포트폴리오 배분 에이전트에 적용한 결과, 본 감사는 완벽한 체제 정보의 가치가 이를 측정하는 데 사용된 행동 집합에 따라 달라진다는 점, 시나리오 생성기가 체제 신호의 대부분을 폐기하는 반면 더 나은 국소적 충실도(local fidelity)가 의사결정을 향상시키지 않는다는 점, 그리고 결과에 눈에 띄는 변화 없이 런타임 검증기를 우회할 수 있음을 보여준다. 본 연구의 기여는 프로토콜과 그것이 강제하는 증거적 구분이며, 실증적 연구 결과는 연구된 에이전트 및 환경에 한정된다.