PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.02925v1cs.AI

에이전트 안전성 오경보 감사를 위한 포지티브-비라벨 학습

Positive-Unlabeled Learning for Agent Safety False Alarm Auditing

안전성(safety) 모니터는 외부 도구 및 환경과 상호작용하는 언어 모델 에이전트(agent)를 보호하는 데 도움이 되지만, 보수적인 모니터링은 많은 오경보(false alarm)를 발생시켜 광범위한 검토 자원을 소모하고 경보에 대한 신뢰를 약화시킬 수 있습니다. 오경보와 실제 경보는 기존 모니터 점수 내에서 서로 뒤섞여 있는 경우가 많기 때문에, 신뢰할 수 있는 기준값(cutoff)을 얻으려면 여전히 상당한 수작업 검증이 필요합니다. 실제 환경에서는 안전성이 검증된 소수의 비경보 궤적(trajectory)을 확보할 수 있는 반면 경보는 라벨이 지정되지 않은 상태로 남아 있어, 오경보 감사는 자연스럽게 포지티브-비라벨(Positive-Unlabeled, PU) 랭킹 문제로 귀결됩니다. 핵심 과제는 모니터로 인해 유도된 선택 편향(monitor-induced selection)입니다. 관측된 안전 레퍼런스는 모니터가 수용한 것인 반면, 복구하고자 하는 숨겨진 안전 경보는 모니터가 잘못 플래그를 지정한 것이므로, 관측된 포지티브가 복구 대상 포지티브를 제대로 대표하지 못합니다. 이러한 문제를 해결하기 위해 본 논문에서는 2단계 프레임워크를 제안합니다. 여기서는 신뢰 인식 PU 지도(Trust-aware PU Supervision)를 통해 안전 레퍼런스를 경보 도메인에 맞게 적응시키고 타당한 오경보가 과도한 네거티브 압력을 받지 않도록 보호하는 한편, 신뢰도 게이트 순위 증류(Reliability-gated Rank Distillation)를 통해 여러 PU 레퍼런스 모델의 일관된 순서 선호도를 단일 학생 모델로 통합합니다. 이후 합의 기반 구조적 정제(Consensus-guided Structural Refinement)는 계층적 안전 레퍼런스 지원, 경보 간 관계, 예측된 레퍼런스 합의를 활용하여 학생 모델의 순위를 개선합니다. 이 프레임워크는 학습을 위한 경보 안전성 라벨을 필요로 하지 않으며 기존 모니터를 변경하지 않고 그대로 유지합니다. 주요 안전성 모니터 전반에서 본 방법은 $0.6444$의 매크로 AUPRC를 달성하여 평가된 8개의 PU 기준선(baseline)을 절대 백분율 포인트 기준 5.27~16.98%p 앞섰으며, 평가된 가장 강력한 PU 기준선인 PULDA와 비교했을 때 5%의 검토 예산에서 33.3% 더 많은 오경보를 복구합니다.

arXiv:2607.13428v1cs.LG

PUe: 인과 추론에 의한 바이어스 Positive-Unlabeled 학습 향상

PUe: Biased Positive-Unlabeled Learning Enhancement by Causal Inference

Positive-Unlabeled(PU) 학습은 라벨이 붙은 양성(positive) 예시가 제한적이고 비표기(unlabeled) 예시가 많은 상황에서 높은 정확도의 이진 분류(classification)를 달성하는 것을 목표로 한다. 기존 비용 민감(cost-sensitive) 기반 방법들은 관측된 양성 라벨을 가진 예시가 완전히 무작위로 선택되었다는 강한 가정에 종종 의존한다. 실제로 라벨의 불균등한 분포는 실세계 PU 문제에서 흔하며, 이는 대부분의 실제 양성 데이터와 비표기 데이터가 선택(selection) 바이어스의 영향을 받는다는 것을 시사한다. Bekker 등의 SAR-PU 성향 가중(propensity-weighted) 프레임워크를 기반으로, 우리는 정규화된 성향 점수와 정규화 역확률 가중(normalized inverse probability weighting, NIPW)를 사용하는 PU 학습 향상(PUe) 프레임워크를 연구한다. PUe의 주요 기여는 정규화 역확률 가중 PU 위험(risk) 정식화, 바이어스된 라벨링 하에서 정규화 표본 가중치(weight) 오류와 일반적인 PU 추정량(estimator)에 대한 추가 이론 분석, 정규화된 심층 성향 점수 추정, 최신 비용 민감 PU 방법과의 통합, 선택적으로 라벨이 붙은 음성(negative) 클래스 지원이다. MNIST, CIFAR-10, ADNI에 대한 실험은 비균등 라벨 분포 하에서 여러 PU 베이스라인 대비 개선을 보여준다.

arXiv:2606.19057v1stat.ML

양성-비식별 학습을 통한 LLM 평가의 정량화 및 감사

Quantifying and Auditing LLM Evaluation via Positive--Unlabeled Learning

대규모 언어 모델(LLM)은 확장 가능한 평가를 위한 판사로 점점 더 많이 사용되고 있으나, 이러한 LLM-as-a-Judge 시스템은 의미적 품질과 무관한 체계적인 바이어스(bias), 특히 장황함 바이어스(verbosity bias)를 나타냅니다. 한편, 인간 감독은 비용이 많이 들고 일반적으로 선택적이어서 신뢰할 수 있는 긍정적 판단을 산출하지만, 대부분의 출력은 라벨이 없으며 품질이 혼재되어 있을 수 있습니다. 본 연구는 선택적 인간 감독 하에서의 LLM 평가를 양성-비식별(positive-unlabeled) 학습 문제로 공식화하고, 부분 최적 전송(Partial Optimal Transport)에 기반한 기하학적 감사 프레임워크를 제안합니다. 고정된 임베딩(embedding) 공간에서 인간이 검증한 소수의 양성(positive) 샘플과 신뢰할 수 있는 비식별(unlabelled) 출력의 부분 집합을 정렬함으로써, 본 방법은 인간과 일치하는 선호도를 식별하고 재학습 없이 바이어스(bias)가 있는 판사를 교정합니다. 실험 결과 인간 선호도와의 정렬 개선, 프레젠테이션 바이어스(presentation bias)에 대한 강건성 증가, 해석 가능한 신뢰도 추정을 입증하였으며, 이는 기존 LLM-as-a-judge 파이프라인에 대한 확장 가능하고 통계적으로 타당한 대안을 제공합니다.