KV-cache 축출(eviction)은 일반적으로 평균적인 품질-메모리 트레이드오프를 통해 평가되지만, 평균 손실이 작더라도 유틸리티가 크게 저하되는 요청이 가려질 수 있습니다. 본 연구는 축출을 배포 환경의 위험 제어(risk-control) 문제로 재정의합니다. 즉, 동일한 요청에 대해 전체 KV(full-KV) 추론 대비 축출로 인해 작업 유틸리티가 배포 환경에서 지정한 허용 오차보다 더 크게 낮아지면 실질적인 성능 저하가 발생한 것으로 보고, 배포 위험을 이러한 사건이 발생하는 모집단 내 빈도로 정의합니다. 목표 위험 수준과 신뢰도 요건을 명시한 신뢰성 계약(reliability contract)이 주어지면, 압축기에 구애받지 않는(compressor-agnostic) 사후(post-hoc) 인증 절차를 사용하여 보정(calibration) 데이터로부터 유한 표본 보장(finite-sample guarantee)을 갖는 보존 정책(retention policy)을 선택하며, 인증된 압축 정책이 없을 경우 full KV로 폴백(fallback)합니다. 여러 축출 방법, Llama 및 Mistral 모델, 그리고 LongBench와 RULER-32K 전반에 걸쳐, 동일한 계약이 상당히 다른 수준의 축출을 지원합니다. Llama에서는 LongBench의 75% 보존률에서 SnapKV를 인증하지만, RULER-32K에서는 테스트한 어떤 압축 정책도 인증하지 못해 full-KV 폴백이 발동됩니다. 경험적 저하율이 5% 목표 미만인 정책이라도 유한 표본 인증에는 실패할 수 있으며, Llama LongBench에서 경험적 임계값 설정(empirical thresholding)은 고정 예산 방법 전반에서 캐시를 5~10%p 적게 보존하는 미인증 정책을 선택합니다. 제안하는 프레임워크는 배포 수준의 신뢰성 요건을 KV 메모리 운영점(operating point)으로 변환합니다.
에너지 관리 시스템에서의 실시간 N-1 사고(contingency) 선별은 보증과 비용 사이의 트레이드오프를 수반한다. 모든 신뢰 가능한 정전(outage)을 전력조류(power flow)로 완전히 검증하는 것은 너무 느린 반면, 빠른 선형 민감도(linear-sensitivity) 기반 선별은 통계적 보증을 제공하지 않으며, 특히 제어기가 시스템을 낯선 운전 영역으로 유도할 때 불안전한 운전점을 조용히 통과시킬 수 있다. 본 논문은 Audited Selective Verification을 제안하며, 이는 최적화(optimization), 모델 예측(model-predictive), 또는 학습 기반(learned) 제어기 출력에 적용할 수 있는 위험 예산(risk-budgeted) 기반 선별 및 분류(triage) 층이다. 저비용 서로게이트(surrogate)가 건너뛸 정전을 제안하고, 온라인 감사(audit)는 각 윈도우마다 소규모 무작위 표본에 대해 전력조류를 수행하며, 보정된(calibrated) 임계값은 선택된 예산과 신뢰도에서 건너뛴 집합에 대한 열 위반률(thermal-violation-rate) 경계를 인증하고, 미검증 신뢰 부분집합에 대응하는 경계도 제공한다. 타당성은 서로게이트 정확도가 아니라 실제 검증과 감사에 기반하므로 임의의 배포 시프트(deployment shift) 하에서도 성립한다. 이는 위험 예산 기반 선별일 뿐, 정책이 모든 신뢰 가능한 사고를 검증하도록 요구할 때 결정적(deterministic) 검증을 대체하는 것이 아니다. 최대 1354 버스 규모의 3개 공개 송전(transmission) 시스템에서, 실현된 위반률은 예산 내에 유지되고, 표준 결정적 및 보정된 선별 방법은 시프트 하에서 불안전해지며, 본 방법은 실시간 운전점당 전력조류 연구를 29%에서 75%까지 절감한다.
대규모 언어 모델(LLM)은 질의응답(QA) 시스템에 점점 더 많이 배포되고 있으나, 신뢰할 수 있는 신뢰도 추정 없이 환각(hallucination)되거나 정렬(alignment)되지 않은 응답을 생성할 수 있다. 불확실성 정량화(UQ)는 선택적 답변의 자연스러운 기반을 제공하는데, 이는 시스템이 예측이 신뢰 가능하다고 판단될 때만 답변하고 그렇지 않으면 답변을 거부하는 방식이다. 그러나 LLM을 위한 기존 불확실성 점수는 흔히 휴리스틱에 의존한다. 이러한 점수에 대해 선택된 임계값만으로는 수락된 답변의 오류율에 대한 통계적 보장을 제공하지 않는다. 본 논문에서는 임의의 불확실성 점수를 위험 제어 선택적 답변 규칙으로 변환하는 신뢰 구간 기반 캘리브레이션 프레임워크인 CIC를 제안한다. 보류된 캘리브레이션 세트가 주어지면, CIC는 응용 프로그램별 정렬 기준을 사용하여 각 생성된 응답을 평가하고 불확실성 점수 및 이진 오류 레이블과 연결한다. 각 후보 불확실성 임계값에 대해 CIC는 수락 조건부 오류율을 추정하고 Hoeffding 방식 또는 Clopper-Pearson 신뢰 구간을 사용하여 높은 확률의 상한 신뢰 경계를 구성한다. 그런 다음 CIC는 상한이 사용자 지정 위험 수준 $α$ 아래에 있는 가장 큰 임계값을 선택함으로써, 유한 표본 신뢰성 제약 하에서 답변율을 최대화한다. 교환 가능성 하에서 CIC는 확률 최소 $1-δ$로, 선택된 임계값이 null이 아닌 경우 수락된 답변의 오류율을 수준 $α$에서 제어함을 보장한다. 우리는 CIC를 7개의 LLM과 여러 불확실성 추정기에 걸쳐 폐쇄형 및 개방형 QA 벤치마크 모두에서 평가한다. 실험 결과, CIC는 강력한 답변 효율성을 유지하면서 유효한 위험 제어를 일관되게 달성하여, 신뢰성이 중요한 QA 워크플로에서 LLM을 배포하기 위한 실용적이고 통계적으로 근거 있는 메커니즘을 제공함을 보인다.
정렬(alignment) 학습에도 불구하고 배포 시점에 안전하지 않은 출력을 생성할 수 있는 대규모 언어 모델(LLM)을 위해, 외부 검증 모델의 안전성 신호를 리스크 제어(risk control) 기반으로 보정된 임계값으로 변환하는 단순한 실시간 온라인 모니터링 프레임워크를 제안한다. 수학적 추론 및 레드팀 테스팅 데이터셋 실험에서 이 단순한 설계가 순차적 가설 검정(sequential hypothesis testing) 기반의 고급 모니터와 경쟁력 있는 성능을 보이면서도 생성 과정 초기에 더 빠르게 위험을 감지함을 보였다.
최신 AI 에이전트는 문서를 검색하고, 도구를 호출하며, 중간 정보를 확인한 후 최종 답변 또는 행동을 생성합니다. 이는 최종 답변만으로는 파악할 수 없는 위험 제어(risk control) 문제를 야기합니다. 검색 결과가 약하거나, 도구 출력이 잘못되었거나, 이전 단계가 근거가 없더라도 최종 응답은 양호해 보일 수 있습니다. 우리는 드리프트 환경에서 검색-증강(retrieval-augmented) 및 도구 사용 에이전트를 위한 준거 위험 제어(conformal risk-control) 방법인 ToolChain-CRC를 제안합니다. 이 방법은 각 에이전트 실행을 행동, 관찰, 최종 출력의 전체 궤적(trajectory)으로 처리합니다. 단계별 위험 점수를 구축하여 이를 궤적 위험 점수로 결합하고, 수용 또는 개입 규칙을 보정(calibrate)하며, 최종 답변 전에 위험한 실행을 중단시킬 수 있는 언제든지 경보(anytime alarm)를 추가합니다. 우리는 교환 가능한 보정 실행 하에서 궤적 수준 위험 제어를 증명하고, 감사 가능한 상수(auditable constants)를 갖는 드리프트 인식 확장 기능을 제공하며, 슈퍼마팅게일(supermartingale) 구성을 통해 언제든지 에스컬레이션 규칙을 증명합니다. 실험은 합성 도구 체인 드리프트, RAG/도구 사용 스트레스 테스트, 공개 SQuAD 기반 검색 작업, API 없는 에이전트형 QA 사례 연구, 제거 연구(ablations), 목표 위험 민감도 검사, 20시드 강건성 검사, 드리프트 마진(drift-margin) 감사, 그리고 실시간 RAG/도구 사용 에이전트 벤치마크를 포괄합니다. 이러한 설정 전반에서 최종 답변 전용 보정은 검색 및 도구 실패를 놓칠 수 있는 반면, 궤적 수준 보정은 수용된 궤적의 위험을 목표 수준 이하로 유지합니다.