자신이 아는 것을 안다는 것: 인간-AI 인지 시스템에서 검토자 가치에 대한 특성 이론
Knowing What You Know: A Trait Theory of Reviewer Value in Human-AI Cognitive Systems
한국어 초록
유능한 모델과 인간 검토자가 같은 결정에 협력할 때, 어떤 인간이 여전히 가치를 더하는가? 우리는 이것이 메타인지적 보정, 즉 검토자의 행동상 확신과 판단의 실제 정확성 사이의 일치라는 단일한 인지 특성에 관한 질문이라고 주장한다. 이를 정밀하게 하기 위해 검토자 가치에 대한 특성 이론을 전개한다. 이 이론은 다섯 가지 주장을 한다. 첫째, 가치는 활동량, 속도, 동의 정도, 근속 기간이 아니라 보정에 의해 결정된다. 둘째, 보정은 행동 텔레메트리에 관찰 가능한 흔적을 남긴다. 셋째, 이러한 흔적은 그 자체로는 진단적이지 않은데, 보정된 전문가의 빠르고 수정이 적은 특징은 결과에 의해 걸러지기 전까지는 자신감 있는 초심자의 특징과 구별되지 않기 때문이다. 넷째, 인간의 보정과 모델의 자기 지식은 동일한 구성개념이므로, 결합 시스템은 각 항목에서 더 잘 보정된 쪽에 판단을 맡겨야 한다. 다섯째, 개인의 보정은 단일 판단의 수준보다 위에서만 인과적으로 식별 가능하다. 우리는 AI 지원 회계 시스템의 6개월간 운영 기간(검토자 이벤트 541621건, 검토자 483명)을 바탕으로 각 주장을 검증하며, 순수하게 행동에 기반한 전문성 프로파일이 실제와 반대로 나타나 과신하는 집단(수정 유지율 5.2퍼센트)에 진짜 전문가(99.2퍼센트)보다 더 높은 점수를 준다는 것, 검토자의 품질이 근속 기간에 걸쳐 일정하여 이 특성이 업무 중에 학습되지 않는다는 것, 그리고 좋은 검토자와 나쁜 검토자를 가르는 동일한 보정 논리를 모델에 적용하면 인간의 노력 중 92.5퍼센트를 실제 오류에 집중시킨다는 것을 확인한다. 마지막으로 이 이론이 지켜야 할 경계를 제시한다. 다수결 집계 하에서는 개인의 인과적 가치를 식별할 수 없다.
원문 초록
When a capable model and a human reviewer cooperate on the same decision, which human still adds value? We argue this is a question about a single cognitive trait, metacognitive calibration: the alignment between a reviewer's behavioral confidence and the actual correctness of their judgments. We develop a trait theory of reviewer value to make it precise. The theory makes five claims: value is governed by calibration rather than by activity, speed, agreement, or tenure; calibration leaves observable traces in behavioral telemetry; those traces are non-diagnostic on their own, because the fast, low-revision signature of a calibrated expert is indistinguishable from that of a confident novice until it is gated by outcomes; human calibration and a model's self-knowledge are the same construct, so the joint system should defer to whichever agent is better calibrated on each item; and individual calibration is causally identifiable only above the level of the single judgment. We ground each claim in a six-month production window of an AI-assisted accounting system (541621 reviewer events, 483 reviewers), and find that a purely behavioral expertise profile inverts the ground truth, scoring an overconfident cohort (5.2 percent correction survival) higher than genuine experts (99.2 percent); that reviewer quality is flat across tenure, so the trait is not learned on the job; and that the same calibration logic that separates good from bad reviewers, applied to the model, concentrates 92.5 percent of human effort on genuine errors. We close with the boundary the theory must respect: under majority-vote aggregation, individual causal value is unidentifiable.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.24932v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.