모든 근거를 채택할 수는 없다: 도구 증강 의료 에이전트의 근거 관리
Not All Evidence Is Admissible: Evidence Governance for Tool-Augmented Medical Agents
한국어 초록
도구를 사용하는 의료 에이전트는 도구가 반환하는 모든 내용을 근거로 취급한다. 그러나 의료 도구는 오류를 드러내지 않은 채 실패할 수 있고, 동결된 추론 모델은 문맥에 들어온 정보를 무시하기 어렵다. 그 결과 도구 출력이 추가되자, 원래 올바르게 답했을 많은 사례에서 오답이 나왔다. 이를 근거 가로채기라고 부른다. $\mathcal{V}$-정보로 이 현상을 설명한다. 추론 모델은 정보를 무시할 선택권을 잃었으므로 도구 출력이 음의 활용 가능 정보를 담을 수 있다. 어떤 근거를 남길지 모델 밖에서 정하면 이 선택권을 되찾는다. 이론에 따르면 필터링의 이점 일부는 추론 모델에 보여 주는 양을 줄이는 데서 나오지만, 내용에 따라 선택해야 더 좋은 근거를 보여 줄 수 있다. 이에 어떤 내용을 근거로 삼을지 결정하는 일을 답하는 추론 모델에서 분리하고, 문맥 독립 근거 관리(CIEG)를 제안한다. 의료 에이전트가 정보를 수집한 뒤 도구 출력 각각을 근거로 채택할지 판정하는 첫 프레임워크다. 각 도구 출력은 원본 입력과 대조할 수 있는 카드로 기록한다. 입력과 카드만 보는 독립 검사기가 채택할 카드를 고르고, 추론 모델은 채택된 카드만으로 답한다. 어느 단계에서도 추가 학습은 필요하지 않다. 의료 질의응답, 안저 영상 녹내장 선별, 흉부 X선 폐렴 분류에서 비슷한 규모의 모델 중 정확도가 가장 높았다. 같은 백본의 최고 수준 도구 사용 에이전트 및 다중 에이전트 시스템보다 비용이 낮으면서 성능은 유의하게 높았다.
원문 초록
Tool-augmented medical agents treat whatever their tools return as evidence. We show that this default is costly: medical tools fail silently, and a frozen reasoner cannot ignore what enters its context, so many cases it would have answered correctly are flipped to wrong once tool outputs are added. We call this evidence hijacking. $\mathcal{V}$-information explains the phenomenon: the reasoner has lost the option to ignore, so a tool output can carry negative usable information, and moving the decision of what to keep outside the reasoner restores that option. The theory further shows that part of any filtering gain comes merely from letting the reasoner see less, and only selection by content lets it see better. Building on this, we recast tool-augmented reasoning as evidence governance, which separates deciding what counts as evidence from the reasoner that answers, and propose context-independent evidence governance (CIEG), the first medical agent framework that rules, after acquisition, on whether each individual tool output may enter as evidence. Every tool output is written as a card that can be checked against the raw input; an independent checker that sees only the input and the cards decides which cards become evidence; and the reasoner answers from the admitted cards alone, with no training anywhere. On medical question answering, fundus glaucoma screening, and chest X-ray pneumonia classification, it achieves the highest accuracy among models of comparable scale, and significantly outperforms state-of-the-art tool-using agents and multi-agent systems built on the same backbone at lower cost.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.22169v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.