대규모 언어 모델(LLM) 기반 침입 탐지 시스템(IDS)은 보안 모니터링을 위해 점점 더 연구되고 있지만, 실행 가능한 트래픽 조작에 대한 견고성은 여전히 대체로 경험적 수준에 머물러 있다. 본 논문은 트래픽 인식 무작위 평활화(TA-RS)를 제안하며, 이는 분류기에 구애받지 않는 인증 방어 기법으로, 미세조정과 인증 모두에서 원격 공격자가 수정할 수 있는 특성, 즉 직접 제어 가능(DC) 부분공간에만 가우시안 노이즈를 주입하여 평활화 분포를 공격자가 제어 가능한 부분공간과 정렬한다. 우리는 중요한 전제 조건을 확인한다. 표준 무작위 평활화를 클린 학습된 LLM-IDS에 적용하면, 테스트한 네 가지 (모델, 데이터셋) 쌍 중 세 쌍에서는 약한 인증 정확도(14-33%, 무작위 수준이거나 그 이하)만, 네 번째에서는 57%(노이즈 증강 결과보다 43 pp 낮음)만 달성한다. 노이즈 증강 미세조정은 세 벤치마크 데이터셋 중 두 개에서(sigma=0.25) 68-100%로 회복한다. L_inf 등가 임계값 R_inf = epsilon*sqrt(|DC|) (epsilon=0.05)에서 TA-RS는 CIC-IDS-2018과 HIKARI-2021에서 55-100%의 인증 정확도를 달성하며, 중앙값 인증 반경(R approx 0.45-0.96)은 R_inf를 1.8-5배(sigma=0.25-1.00) 초과한다. 공정하게 학습된 등방성 RS 기준선 대비 잔여 이점은 데이터셋에 따라 달라진다(CIC-IDS-2018에서 4-19 pp). 더 큰 격차, 즉 DC-노이즈-증강 학습 레시피를 공유하는 등방성 RS 기준선 대비 최대 72 pp, 는 주로 DC 정렬만이 아니라 학습-인증 불일치를 반영한다. 등방성 테스트 시점 노이즈는 공격자가 악용할 수 없는 제어 불가능 특성을 교란하여 최대 68%의 기권 비율을 유발한다. RT-IoT2022는 이 방법의 한계를 시험한다. 기본 미세조정 레시피에서는 실패하지만, 노이즈 증강을 늘리면 76%/69%의 인증 정확도(LLaMA3-8B/Qwen3-8B)로 회복한다.
회귀(regression) 모델의 적대적 견고성 인증을 위해 랜덤화 스무딩(randomized smoothing)에 평균·분산·그래디언트 정보를 명시적으로 결합한 고차(higher-order) 프레임워크를 제안하며, 스무딩된 모델의 예측을 직접 중심으로 하는 인증서를 변분법(calculus of variations)으로 도출한다. MNIST 회전 태스크에서 그래디언트 정보 활용 시 기존 최신 기법인 alpha-smoothing 대비 유의미하게 엄밀한 견고성 반경을 달성함을 실험적으로 입증한다.
The robustness of trajectory prediction models is crucial for developing safe autonomous driving systems. Adversarial attacks on trajectory prediction can significantly impair the accuracy of predicted trajectories, leading to hazardous driving behaviors. While heuristic defense strategies have been implemented to enhance the robustness of trajectory prediction models, these measures often fail against more sophisticated, targeted adversarial attacks. Hence, there is a pressing need to establish verifiable safety assurances for trajectory prediction models. In this paper, we extend the traditional Randomized Smoothing framework to "TrajRS", which provides a certified robust radius for smoothed trajectory predictors. We clarify and expand the formal definitions of robustness in trajectory prediction and tailor the practical TrajRS scheme specifically to "robustness for the optimal prediction" and "robustness for all possible predictions". An extensive set of experiments demonstrates that TrajRS effectively achieves robustness certification for all smoothed pedestrian trajectory predictors in this work.
랜덤화 스무딩(RS)은 아키텍처 제약 없이 신경망에 대한 엄격한 견고성 보장을 제공하지만, 극심한 계산 비용으로 인해 채택이 제한됩니다. 표준 RS는 입력당 수만 번의 모델 평가를 요구하며, 실무자가 사전에 고정된 표본 크기에 확정적으로 commit해야 합니다. 본 연구에서는 계산 자원을 적응적으로 배치하는 anytime-valid 인증 견고성을 위한 새로운 메타학습 프레임워크를 제안합니다. 경량 메타-러너를 사용해 순차 E-process에 대한 이미지별 사전분포를 예측함으로써, 엄격한 통계적 보장을 유지하면서 기존 방법 대비 표본 복잡도를 20배 줄였습니다. 순수한 효율성을 넘어, anytime-validity가 응용별 위험 임계값에 따라 계산을 적응적으로 할당할 수 있게 하며, 이는 기존 인증 프레임워크에서는 불가능한 형태의 자원 분류(triage)임을 보여줍니다. 이것이 유사한 인증 성능도 함께 제공하면서 달성 가능하다는 점은, 본 접근법이 실시간·안전-중요 인증 배포를 위한 경로를 제공함을 보여줍니다.