배포 후 단계에서 심층 학습(deep learning) 모델에 입력되는 데이터는 적대적 패치가 적용되었을 수도 있고 그렇지 않을 수도 있습니다. 패치 경계 내에서 이러한 입력에 대한 패치 강건성 인증은 라벨의 무해성(benignity)을 검증할 수 있으며 높은 예측 정확도를 유지해야 합니다. 그러나 기존의 스무딩(smoothing) 기반 및 마스킹(masking) 기반 복구 방어 기법들은 이 두 가지를 동시에 달성하지 못합니다. 즉, 전자는 예측 정확도를 크게 저하시키고, 후자는 적대적 패치가 적용된 입력에 대해 반환된 라벨의 무해성을 검증할 수 없습니다. 본 연구에서는 두 목표를 모두 달성할 수 있는 타당성을 보여주는 최초의 마스킹 기반 인증 복구 방어 기법인 MRCert를 제안합니다. 인증을 위해 두 유형의 입력(무해한 샘플 및 적대적 패치가 적용된 샘플) 전체에 공통 조건을 적용하는 기존의 모든 연구와 달리, MRCert는 배포 후 단계에서 두 유형에 대한 심층 학습 모델의 유형별 필수 속성을 추론하고, 라벨 복구 및 인증 함수 쌍의 새로운 유형 지향 설계를 통해 라벨 무해성을 검증하도록 이들을 정형적으로 연결합니다. 실험 결과에 따르면 MRCert는 스무딩으로 인한 클린 정확도 저하를 유발하지 않으면서도 패치 크기 16픽셀의 ImageNet에서 35.1%의 적대적 인증 정확도를 달성한 반면, 최고 성능(SOTA)의 PatchCURE는 완전히 실패함을 확인했습니다.
입력 스케일링 모듈을 제거하면 분류기(classifier)와 인코더에 도달하는 섭동(perturbation)이 모두 변경됩니다. 따라서 견고성(robustness)의 차이는 모듈 자체뿐만 아니라 비교 규칙을 반영할 수도 있습니다. 본 연구에서는 생성된 전력망 궤적 데이터에 대한 4큐비트 양자 어텐션 검출기에서 이러한 문제를 입증합니다. 학습된 스케일링 모듈은 고정된 물리적 공격 예산 하에서는 유익한 것처럼 보이지만, 인코더에서의 섭동 상한을 일치시키면 그 순위가 역전됩니다. 두 비교 중 어느 하나만으로는 모듈로 인한 견고성 이점을 입증할 수 없습니다. 또한 초기 테스트는 깨끗한 예시(clean example)의 원래 레이블을 유지한 채 공격된 예시로 섭동을 가하지만, 이미 공격을 받은 예시로만 제한된 테스트에서는 이점이 입증되지 않습니다. 학습된 모델의 입력 스케일을 교체하면 검출 기능이 저하됩니다. 선형 분류 층을 재학습하면 검출률은 회복되지만 개별 예측이 변경되어, 해당 비교는 인과적이기보다는 기술적(descriptive)인 수준에 머무르게 됩니다. 두 가지 추가적인 설계 검증을 통해 입력 양자 피셔 정보 정규화기(quantum Fisher information regularizer)가 이 모델의 쿼리 파라미터를 학습시킬 수 없는 이유와, 신뢰 경계(confidence bound)를 제거하더라도 더 큰 인증된 반경(certified radius)을 입증하지 못하는 이유를 설명합니다. 본 연구의 실증적 근거는 10개의 시드, 정확한 시뮬레이션, 합성 데이터, 그리고 제한된 공격 세트에 국한되며, 고전적인 베이스라인이 더 우수한 정상 예측 성능을 달성합니다. 실질적인 교훈은 어떤 섭동 예산이 고정되어 있는지 명시하고, 공격이 레이블을 보존하는지와 개입이 예측을 보존하는지 확인하며, 탐색적 통제와 확증적 근거를 구분해야 한다는 점입니다.
심층 신경망은 적대적 섭동(adversarial perturbation)에 여전히 취약하며, 이는 예측뿐만 아니라 신뢰도 점수(confidence score)까지 왜곡하여 불확실성 보정(uncertainty calibration)을 저해할 수 있습니다. 기존의 인증 방법들은 예측된 범주를 보존하는 데 초점을 맞추고 있는 반면, 적대적 공격 하에서 보정이 어떻게 작동하는지에 대한 보장을 제공하는 것은 여전히 간과되어 왔습니다. 본 연구에서는 사전학습된 모든 미분 가능한 분류기를 대상으로 구간별(bin-wise) 신뢰도 보정을 인증하는 간단하고 효율적인 사후(post-hoc) 전략인 CalCErt를 소개합니다. 우리의 접근 방식은 경험적 보정 추정치, 통계적 집중 한계(concentration bound), 그리고 신뢰도 함수의 국소 립시츠(Lipschitz) 추정치를 결합하여 반지름 R의 $ell_2$-볼 내에서 최악의 경우에 대한 오보정(miscalibration)의 데이터 의존적 상한을 도출합니다. 11개의 의료 이미지 분류 작업과 다양한 적대적 섭동에 걸쳐 CalCErt를 평가한 결과, 경쟁력 있는 긴밀도(tightness)를 유지하면서도 기준선 전략보다 실질적으로 더 높은 인증 적용 범위(certified coverage)를 보임을 입증합니다. 우리의 코드는 https://github.com/leofillioux/calcert 에서 확인할 수 있습니다.
회귀(regression) 모델의 적대적 견고성 인증을 위해 랜덤화 스무딩(randomized smoothing)에 평균·분산·그래디언트 정보를 명시적으로 결합한 고차(higher-order) 프레임워크를 제안하며, 스무딩된 모델의 예측을 직접 중심으로 하는 인증서를 변분법(calculus of variations)으로 도출한다. MNIST 회전 태스크에서 그래디언트 정보 활용 시 기존 최신 기법인 alpha-smoothing 대비 유의미하게 엄밀한 견고성 반경을 달성함을 실험적으로 입증한다.
랜덤화 스무딩(RS)은 아키텍처 제약 없이 신경망에 대한 엄격한 견고성 보장을 제공하지만, 극심한 계산 비용으로 인해 채택이 제한됩니다. 표준 RS는 입력당 수만 번의 모델 평가를 요구하며, 실무자가 사전에 고정된 표본 크기에 확정적으로 commit해야 합니다. 본 연구에서는 계산 자원을 적응적으로 배치하는 anytime-valid 인증 견고성을 위한 새로운 메타학습 프레임워크를 제안합니다. 경량 메타-러너를 사용해 순차 E-process에 대한 이미지별 사전분포를 예측함으로써, 엄격한 통계적 보장을 유지하면서 기존 방법 대비 표본 복잡도를 20배 줄였습니다. 순수한 효율성을 넘어, anytime-validity가 응용별 위험 임계값에 따라 계산을 적응적으로 할당할 수 있게 하며, 이는 기존 인증 프레임워크에서는 불가능한 형태의 자원 분류(triage)임을 보여줍니다. 이것이 유사한 인증 성능도 함께 제공하면서 달성 가능하다는 점은, 본 접근법이 실시간·안전-중요 인증 배포를 위한 경로를 제공함을 보여줍니다.
기존 1차 민감도 기반 방법의 한계를 극복하기 위해 헤시안(Hessian)의 곡률을 고려하여 원소별로 제한하는 2차 방법인 Smooth Growth Bound Tensor (S-GBT)를 제안한다. 학습 과정에서 1차 및 2차 정규화를 결합하여 단어 대체 공격에 대한 인증된 강건성(certified robustness)을 최대 23.4% 향상시켰다.
현대 기계학습 파이프라인은 대량의 공개 데이터를 활용하므로 데이터 품질을 보장하기 어렵고, 모델이 데이터 중독(data poisoning) 및 백도어(backdoor) 공격에 노출됩니다. 이러한 공격 하에서 모델 동작을 증명 가능하게 한정하는 것은 여전히 미해결 문제입니다. 본 연구에서는 모델이나 학습 알고리즘을 수정하지 않고도 잠재적으로 조작된 데이터로 학습된 모델의 동작에 대한 증명 가능한 보장을 제공하는 최초의 프레임워크를 개발하여 이 문제에 대응합니다. 특히 본 프레임워크는 학습 입력과 레이블에 대한 유계 및 무계 조작에 대해 비표적 및 표적 중독과 백도어 공격 모두에 대한 견고성을 인증합니다. 본 방법은 볼록 완화(convex relaxation)를 활용하여 주어진 중독 위협 모델에 대한 모든 가능한 매개변수 업데이트 집합을 과대 근사함으로써, 모든 그래디언트 기반 학습 알고리즘에 대해 도달 가능한 매개변수 집합 전체를 경계합니다. 이 매개변수 집합을 바탕으로 모델 성능과 백도어 성공률을 포함한 최악의 경우 동작에 대한 경계를 제공합니다. 에너지 소비, 의료 영상, 자율 주행 등의 응용 분야에서 다수의 실제 데이터셋에 대해 본 접근법을 시연합니다.