사고의 연쇄(Chain-of-Thought) 모니터링은 AI 감독(oversight)을 위한 방법으로 제안되고 있으나, 기존 평가에서는 모니터에 신뢰할 수 있는 참조 정답을 제공하는 경우가 많다. 본 연구에서는 정답에 대한 접근 권한이 추론 과정의 검증 능력을 향상시키는지, 아니면 주로 결론에 대한 정보만을 제공하는지 질문을 던진다. 이를 위해 Humanity's Last Exam의 79개 물리학 문항에 대해 자연스럽게 생성된 단계별 번호가 매겨진 풀이 237개를 수집하고, 최종 정답의 정확성과 최초의 오류 단계를 독립적으로 라벨링했다. 8개의 대규모 언어 모델(LLM) 모니터가 참조 정답 접근 조건을 달리하며 해당 추론 과정을 평가했다. 정답 증명(certification) 제공 시 평균 균형 정확도(balanced accuracy)는 0.637에서 0.796으로 증가했으나, 오류 탐지에 미치는 영향은 결론에 강하게 의존했다. 오답 추론 과정에서는 재현율(recall)이 +0.299 증가한 반면, 추론 오류가 포함된 정답 추론 과정에서는 개선의 증거가 관찰되지 않았다(-0.083, 95% CI [-0.196, +0.030]). 이어서 7개 모니터를 대상으로 추론 과정을 고정한 채 증명 일치성(certificate-congruence) 개입 실험을 진행했다. 실제 정답 증명을 추론 과정 자체의 부정확한 결론으로 대체하자 오류 플래깅(flagging)이 0.659(95% CI [0.602, 0.711]) 감소했으며, 이는 정답을 보지 않는 조건보다도 0.389 낮은 수치였다. 반대로 상충하는 거짓 증명을 제공했을 때는 오류가 없는 정상 추론 과정에 대한 플래깅이 0.580 증가했으며, 새로 플래깅된 사례의 82.9%가 내부 추론 단계에 결함이 있다고 잘못 지정했다. 따라서 종합적인 성능 평가에 독립적인 추론 검증뿐만 아니라 강력한 증명-결론 일치 신호가 혼재되어 있으므로, 신뢰할 수 있는 정답에 접근할 수 있도록 하는 설정은 모니터링 성능을 실제보다 훨씬 강력해 보이게 만들 수 있다.
대규모 언어 모델(LLM)의 자체 설명(self-explanation)은 AI 감독(AI oversight)을 위한 유망한 도구로 자주 제시되지만, 모델의 실제 추론 과정에 대한 충실성(faithfulness)은 잘 이해되지 않고 있습니다. 기존의 충실성 평가 지표는 적대적 프롬프팅을 통해 불충실성을 식별하거나 추론 오류를 감지하는 데 주로 의존한다는 치명적인 한계가 있습니다. 이러한 방법들은 설명이 지닌 예측적 가치를 간과합니다. 우리는 충실한 설명이라면 관찰자가 모델의 의사결정 기준을 학습할 수 있게 하여 관련된 입력에 대한 모델의 행동을 더 잘 예측할 수 있어야 한다는 아이디어에 기반한 일반적이고 확장 가능한 지표인 정규화 시뮬레이션 가능성 이득(Normalized Simulatability Gain, NSG)을 소개합니다. 우리는 건강, 비즈니스, 윤리를 다루는 널리 쓰이는 데이터셋에서 추출한 7,000개의 반사실적(counterfactual) 사례에 대해 Gemini 3, GPT-5.2, Claude 4.5 등 18개의 최첨단 상용 및 공개 가중치 모델을 평가합니다. 그 결과, 자체 설명이 모델 행동 예측을 실질적으로 향상시킴을 확인했습니다(11-37% NSG). 또한 자체 설명은 외부 모델이 더 강력하더라도 해당 모델이 생성한 설명보다 더 많은 예측 정보를 제공합니다. 이는 외부 설명 방법이 모방할 수 없는 자기 지식(self-knowledge)에서 비롯된 이점을 시사합니다. 한편, 우리의 접근 방식은 모델 전반에 걸쳐 5-15%의 자체 설명이 심각한 오해의 소지가 있음을 보여줍니다. 이러한 불완전성에도 불구하고, 우리는 자체 설명에 대한 긍정적인 근거를 제시합니다. 즉, 자체 설명은 모델 행동을 예측하는 데 도움이 되는 정보를 인코딩하고 있습니다.
코드 생성이 AI 시스템에 점점 더 많이 위임됨에 따라, 병목 현상은 코드를 직접 작성하는 것에서 코드를 작성하는 시스템을 감독하는 것으로 이동하고 있으며, 이는 컴퓨터 과학 교육 연구자들이 명명하기 시작한 변화입니다. 이러한 변화는 어휘의 공백을 드러냅니다. 즉, 학계는 위임 채널에서 언어가 수행하는 두 가지 역할, 즉 행동의 조율(사이버네틱: 단어에 맞춰 세상이 변화할 때 성공함)과 이해의 조율(인식론적: 단어가 세상에 부합하고 청자가 이를 검증할 수 있을 때 성공함) 사이의 실질적인 구분 없이 "인간의 감독(human oversight)"만을 요구하고 있습니다. 여기서 지적하는 실패는 사이버네틱 언어 자체가 아니라 사이버네틱 역할을 수행하는 인식론적 형태의 언어, 즉 진실보다는 승인을 얻기 위해 조율된 설명 형태의 출력입니다. 출력이 승인되었는지만 확인하는 감독은 형식적인 승인(rubber-stamping)으로도 만족될 수 있습니다. 에이전트(agent)에게 책임을 묻는 감독은 작업 이면의 추론을 회수하고 검증할 수 있어야 합니다. 본 연구에서는 감사 가능성을 유지하면서도 인식론적 참여가 실현 가능함을 보여주는 세 가지 위임 사례(통제된 실증이 아닌 예시), 권고안이 자체적으로 명시한 조건에 따라 철회된 공개 기록 한 건, 그리고 재량적 선택에 대한 이유를 요구하지 않는 감독을 보여주는 실패 사례 한 건을 제시합니다. 또한 기존의 기술적 신뢰성 특성과 더불어 에이전트 시스템 거버넌스를 위한 기준을 제안합니다. 즉, 모든 중대한 선택은 제3자가 테스트할 수 있는 형태로, 다른 선택을 내렸을 조건을 함께 수반해야 한다는 점입니다. 이러한 조건이 없다면 제3자는 진정한 결정과 형식적인 승인을 구별할 수 없습니다. 본 연구는 이 기준을 실행 가능한 형태, 즉 섭동(perturbation) 하에서 제2의 독자가 에이전트의 행동을 예측할 수 있는지 여부로 위임 기록을 평가하는 2단계 재구성 테스트와 함께, 해당 조건을 기록된 모든 선택의 필수 요소로 만드는 숙고 기록 규약인 ORRCF로 제시합니다.