PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.01006v1cs.AI

답변 신뢰도를 넘어서: 블랙박스 의사결정 모델의 자기 지식에 대한 통제된 감사

Beyond Answer Confidence: A Controlled Audit of Self-Knowledge in a Black-Box Decision Model

의사결정 모델(decision model)은 라우팅, 기권, 자동화된 조치를 목적으로 확률을 반환합니다. 캘리브레이션(calibration)은 이러한 확률을 평균적으로 유용하게 만들지만, 낮은 신뢰도가 단순 우연을 반영하는지 혹은 결측된 지식을 반영하는지, 그리고 모델이 자신이 아는 범위를 벗어날 때 신뢰도가 떨어지는지는 규명하지 못합니다. 본 연구에서는 고정된 항목에 제공되는 정보를 변화시키는 쌍체 개입을 활용하여, 15개 이상의 공개 데이터셋과 6개의 생성된 태스크 패밀리를 통해 의사결정 모델인 Jev에서 이러한 차이를 감사(audit)합니다. Jev의 신뢰도는 익숙한 폐쇄형 선택 태스크에서는 잘 보정(calibrated)되지만, 결측된 지식을 나타내는 지표로서는 실패합니다. 답변 관련 정보가 전혀 없는 경우에도 두드러진 선택지에 최대 0.80을 할당하며, 관찰된 지식 경계를 벗어난 뉴스에서는 정확도보다 0.21~0.33 높은 값을 보여 이전 달의 데이터로 재보정해도 이 격차는 좁혀지지 않습니다. 타깃팅된 예/아니오 질문은 해당 사례에 대해 더 명확한 판독 결과를 제공합니다. 결과가 확정되었는지 여부(AUROC 1.00) 및 증거가 충분한지 여부(동일 항목의 신뢰도 0.85 대비 0.95)를 더 잘 포착합니다. Jev에게 답을 알고 있는지 묻는 방식은 조작된 개체와 지식 경계 이후의 뉴스를 식별(0.91)하는 것처럼 보이지만, 현실적인 이름이 주어지거나 날짜가 제거되면 답변 불확실성 대비 아무런 이점을 보이지 않습니다. 따라서 블랙박스 지식 감사에는 표면적 단서에 대한 명시적인 통제가 필요합니다. 코드: https://github.com/Syntheme/beyond-answer-confidence.