arXiv:2611.22084v1 cs.AI

위해 감소가 오해를 부를 때: 개념 예측 수정 감사

When Lower Harm Misleads: Auditing Concept Corrections

Tianyou Lai, Wentao Yue, Hongji Li, Chaoyuan Hao, Qilei Li

제출 2026-11-18

한국어 초록

유방 초음파의 BI-RADS 기술어처럼 모델이 예측한 개념을 전문가가 수정하면 진단이 개선될 것으로 기대한다. 이러한 수정의 위해를 줄이는 목적함수는 위해와 정확도로 평가한다. 그러나 모델이 모든 수정에 덜 반응하거나 위해 산정의 기준인 수정 전 예측의 성능이 낮아져도 위해는 줄어든다. 이러한 원인을 구분하기 위해 재현 가능한 평가 절차인 수정 감사를 제안한다. 동일한 사례에서 각 수정의 영향을 위해와 유용한 개선으로 나누고, 시작 예측과 수정에 대한 반응을 분리하며, 원천 데이터에서의 위해가 같도록 반응 크기를 조정한 기준선과 비교한다. 유방 초음파 데이터 출처 세 곳에서 평균 사례를 기준으로 학습한 모델의 시작 예측을 고정해 최악 사례 수정 학습을 평가했다. 시드 6개의 결과를 합쳐 출처별로 비교한 21건 모두에서 위해는 낮아졌지만 유용한 개선은 그보다 더 크게 줄어 수정 후 음의 로그 가능도(NLL)가 높아졌다. 같은 시작 예측에서 위해만을 기준으로 목적함수를 고르면 세 출처 모두에서 덜 유용한 모델을 선택했다. CUB에서는 논문에 보고된 가중치의 단조 위해 페널티가 80개 개념 집합 모두에서 경로 단위 위해를 낮췄지만 NLL은 모두 높아졌다. NLL 상승은 거의 전부 수정 전에 발생했다. 시작 예측을 고정하고 두 반응의 크기를 원천 데이터에서 위해가 같도록 조정하면, 반응 방향이 다른데도 단일 개념 수정의 평균 위해, 유용한 개선, NLL에서 페널티의 결과를 사전 지정한 0.0005나트의 허용 오차 안에서 재현했다. 따라서 위해 감소가 더 나은 수정을 뜻하는지는 유용한 개선, 절대 위험, 위해 산정의 출발점을 함께 살펴야 판단할 수 있다.

원문 초록

An expert who corrects a concept prediction, such as a BI-RADS descriptor in breast ultrasound, expects the diagnosis to improve. Objectives that reduce the harm of such corrections are judged by harm and accuracy, yet harm also falls when a model responds less to every correction or starts from a worse uncorrected prediction, the reference for harm. We propose a correction audit, a reproducible evaluation protocol that separates these explanations: it splits each correction into harm and useful gain on identical events, separates the starting prediction from the correction response, and compares objectives with amplitude baselines matched in source harm. On three breast-ultrasound sources, worst-case correction training, evaluated from the mean-case model's start, lowers harm but gives up more useful gain in all 21 source comparisons pooled over six seeds, raising the corrected negative log-likelihood (NLL); from the same start, selecting between the objectives by harm picks the less helpful model on all three sources. On CUB, a monotonic harm penalty at its reported weight lowers path-level harm in all 80 concept sets while raising the NLL in all 80, almost entirely before any correction. At a fixed start, rescaling both responses to the same source harm reproduces the penalty's mean harm, useful gain and NLL on single-concept corrections within a prespecified margin of 0.0005 nat, although the two responses point in different directions. Lower harm therefore signals better corrections only when it is read together with useful gain, absolute risk and the start it is measured from.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.22084v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.