멀티모달 대규모 언어 모델(MLLM)은 환각(hallucination) 문제를 겪고 있어, 신뢰할 수 있는 배포를 보장하기 위한 불확실성 정량화(UQ)의 필요성이 매우 중요해졌습니다. 그러나 기존 접근 방식들은 특히 질의 관련 신호가 약할 때 피상적인 연관성으로 인해 발생하는 불확실성을 감지하는 데 어려움을 겪습니다. 본 논문에서는 이러한 문제가 주로 모델의 한계에서 기인하는 인식론적 불확실성(epistemic uncertainty)을 간과하고 데이터의 모호성에서 비롯되는 우연적 불확실성(aleatoric uncertainty)에 편향된 바이어스(bias) 때문이라고 설명합니다. 포괄적인 UQ를 위해 불확실성의 유형을 추가로 분해하고자, 원래 예측과 인과적으로 집중된 뷰에 조건화된 예측 간의 의미론적 변화(semantic shift)를 측정하는 인과-불변 마스킹(CIM)을 제안합니다. 이 프레임워크를 기반으로, UQ를 위한 핵심 지표로서 의미론적 발산(Semantic Divergence)을 도입하고, 이것이 비인과적 상관관계에 대한 모델 민감도의 분산으로 수렴함을 이론적으로 입증하여 MLLM의 한계를 포착하는 능력을 입증합니다. MLLM에서 UQ 속도를 가속하기 위해, 초구체(hyperspherical) 임베딩 공간 내에서 의미론적 변화를 직접 추정하는 빠른 기하학적 대리지표인 기대 임베딩 표류(EED)를 추가로 제안합니다. 실험 결과는 우리의 방법이 다양한 벤치마크에서 최고 성능을 달성하는 동시에, 제안된 EED를 통해 유사한 성능을 유지하면서 속도를 약 50% 가속함을 보여줍니다.
프롬프트 인젝션 공격은 LLM 애플리케이션에 있어 점점 더 커지는 취약점이 되었으며, 적대적 프롬프트가 이메일이나 사용자 생성 콘텐츠와 같은 간접 입력 채널을 악용하여 정렬(alignment) 안전장치를 우회하고 유해하거나 의도하지 않은 출력을 유발한다. 정렬(alignment)의 발전에도 불구하고, 최신 LLM조차도 적대적 프롬프트에 광범위하게 취약하여, 비효율적이고 모델별 패치를 넘어서는 강건하고 실용적이며 일반화 가능한 탐지 메커니즘이 시급히 필요함을 보여준다. 본 연구에서는 제로샷 임베딩 드리프트 탐지(ZEDD)를 제안한다. ZEDD는 경량·저공학 부담 프레임워크로, 양성 입력과 의심 입력 간 임베딩 공간에서의 의미적 변화를 정량화하여 직접 및 간접 프롬프트 인젝션 시도를 식별한다. ZEDD는 모델 내부 접근, 공격 유형에 대한 사전 지식, 작업별 재학습 없이 동작하며, 다양한 LLM 아키텍처에 걸쳐 효율적인 제로샷 배포를 가능하게 한다. 본 방법은 적대적-정상 프롬프트 쌍을 사용하고 코사인 유사도를 통해 임베딩 드리프트를 측정하여, 실제 인젝션 공격에 내재된 미묘한 적대적 조작을 포착한다. 강건한 평가(evaluation)를 위해, 공개 출처에서 파생된 5개 인젝션 카테고리를 아우르는 포괄적 LLMail-Inject 데이터셋을 구축하고 재주석 처리했다. 광범위한 실험은 임베딩 드리프트가 강건하고 전이 가능한 신호이며, 탐지 정확도와 운영 효율성에서 기존 방법을 능가함을 보여준다. Llama 3, Qwen 2, Mistral과 같은 모델 아키텍처 전반에서 프롬프트 인젝션 분류 정확도 93% 이상, 오탐(false positive)률 3% 미만을 달성함으로써, 본 접근법은 기존 LLM 파이프라인에 통합 가능한 경량·확장 가능한 방어 계층을 제공하며, 적응형 적대적 위협에 견디도록 LLM 기반 시스템을 보호하는 데 있어 중요한 공백을 메운다.