희소 레이블을 함께 나타나는 레이블로 맞힐 때: 긴 꼬리 다중 레이블 분류의 레이블 의존성 측정
When the tail is earned by its companions: measuring label dependence in long-tailed multi-label classification
한국어 초록
희소 레이블은 단독으로 나타나는 경우가 드물다. 분류기는 희소 레이블 자체를 학습하지 않고도 함께 자주 나타나는 레이블을 단서로 이를 맞힐 수 있다. 기존 진단 방법은 학습된 모델이 있어야 사용할 수 있다. 데이터에 이런 실패가 생길 가능성이 있는지, 일반적인 집계 지표가 무엇을 가리는지 학습 전에 알려 주지는 못한다. 매크로 F1은 다른 레이블별 혼동 집계 지표와 마찬가지로, 한 레이블의 재현율이 동반 레이블의 유무에 따라 어떻게 나뉘는지에 영향을 받지 않는다. 같은 레이블 안에서 이 차이를 측정하는 추정 대상과, 동반 레이블이 없는 경우의 재현율이 올라갈 때만 의존성이 줄었다고 해석하는 규칙을 제시한다. 보고 재현율이 동반 레이블 없는 재현율을 얼마나 초과할 수 있는지 학습 전에 상한을 정하는 학습 레이블 통계량도 제안한다. 말뭉치 23개, 학습 목적함수 7개, 레이블 상관관계를 이용하는 방법 5개 계열을 평가했다. 추정 대상을 정의할 수 있는 말뭉치 6개 모두에서 동반 레이블 없는 재현율이 더 낮았다. 동반 레이블 없는 재현율을 적용하면 매크로 F1에 반영된 희소 레이블의 참양성 중 최대 18.4%가 사라진다. 모든 말뭉치에서 그 차이는 학습 레이블로 구한 상한 이내였다. 긴 꼬리를 다루는 목적함수 중 의존성을 줄인 것은 없었으나, 아키텍처에 따라 의존성은 달라졌다. 다른 레이블의 예측으로 희소 레이블의 점수를 계산하는 모델은 의존성이 높았다.
원문 초록
A rare label seldom occurs alone, and a classifier can recover it from the frequent labels it co-occurs with, its companions, without having learned the label itself. Existing diagnostics of this need a trained model: none says before training whether a corpus admits the failure, or what the standard aggregate hides. Macro-F1, like any measure built from per-label confusion counts, is unchanged by how a label's recall divides between occurrences with and without a companion. We introduce a within-label estimand of that division, a reading rule under which a fall in dependence counts only if companion-free recall rises, and a statistic of training labels that bounds, before training, how far reported recall can exceed companion-free recall. Across 23 corpora, 7 training objectives and five families of label-correlation mechanisms, companion-free recall falls short on all six corpora where the estimand is defined. Up to 18.4% of the tail true positives macro-F1 credits would vanish at the companion-free rate, within the training-label bound on every corpus. No long-tail objective reduces the dependence, but architecture moves it. Models whose tail score is computed from other labels' predictions are strongly dependent.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.22859v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.