Impact of Inaccurate Contamination Ratio on Robust Unsupervised Anomaly Detection
원문 초록
Training data sets intended for unsupervised anomaly detection, typically presumed to be anomaly-free, often contain anomalies (or contamination), a challenge that significantly undermines model performance. Most robust unsupervised anomaly detection models rely on contamination ratio information to tackle contamination. However, in reality, contamination ratio may be inaccurate. We investigate on the impact of inaccurate contamination ratio information in robust unsupervised anomaly detection. We verify whether they are resilient to misinformed contamination ratios. Our investigation on 6 benchmark data sets reveals that such models are not adversely affected by exposure to misinformation. In fact, they can exhibit improved performance when provided with such inaccurate contamination ratios.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
고위험 시나리오에서 AI 생성 이미지가 시각적 신뢰에 도전한다
AI-generated Images Challenge Visual Trust in High-risk Scenarios
이미지 생성의 급속한 발전은 진위가 공공 안전과 개인 명성에 영향을 줄 수 있는 환경에서 시각 콘텐츠의 증거적 가치를 약화시키고 있다. 그러나 기존 탐지 벤치마크는 오해를 불러일 수 있는 시각 콘텐츠가 상당한 위험을 수반할 수 있는 공공 및 개인 안전 맥락에서 합성 이미지를 거의 검토하지 않는다. 본 연구에서는 GPT Image 2를 사용해 생성한 12개의 공공 및 개인 안전 시나리오를 아우르는 안전 중심 벤치마크 SafeIMG를 제안한다. 일반적 이미지와 이미지 수준 라벨에 초점을 둔 벤치마크와 달리, SafeIMG는 탐지기가 합성 이미지를 인식하는지 여부뿐 아니라 그들의 판단이 인간이 식별한 이상을 반영하는지도 평가한다. 이를 위해 SafeIMG는 의심스러운 영역을 국소화하고 국소 아티팩트 및 상위 수준의 상식적·물리적 불일치를 설명하는 인간 주석을 제공한다. 우리는 특화된 합성 이미지 탐지기와 비전-언어 모델(VLM)을 평가했으며, 어느 쪽도 신뢰할 만한 탐지를 제공하지 않음을 확인했다. 가장 강력한 VLM은 생성된 이미지의 49.5%만 식별하는 반면, 최고의 특화 탐지기는 33.1%를 식별했고, 인간 평가자의 정확도는 81.7%였다. 모델 설명은 인간 주석 이상의 29.8%만 포괄하며, 주로 텍스트, 얼굴, 손의 국소 결함을 포착한다. 상식적 충돌에서는 포괄률이 15.0%로, 물리적 불일치에서는 12.0%로 떨어지며, 유포로 인한 이미지 열화 이후 탐지 성능은 더욱 악화된다. 이러한 결과는 현재 탐지기가 공공 및 개인 안전 환경 전반에서 AI 생성 이미지를 신뢰할 수 있게 평가하는 데 필요한 정확도, 설명적 정렬, 견고성을 갖추지 못함을 보여준다.
노이즈 잔차 클러스터링을 통한 효과적인 합성 이미지 탐지
Effective Synthetic Image Detection via Noise Residual Clustering
생성형 인공지능(AI)의 빠른 발전으로 합성 이미지가 놀라울 정도로 사실적이 되면서 허위정보 및 사기와 같은 보안 위협이 증가하고 있다. 수동적이고 블라인드 방식의 이미지 인증으로 합성 이미지를 탐지하는 것이 중요하다. 기존 탐지기 대부분은 대규모 레이블 데이터셋을 사용한 지도 학습에 의존하여 높은 비용이 발생하고 알려지지 않은 생성 모델에서 성능이 저하된다. 이러한 결함을 완화하기 위해 학습이 필요 없는 탐지 방법을 제안한다. 구체적으로, 노이즈 잔차 핑거프린트를 간단하면서도 효과적인 사전학습된 Noiseprint++ 모델로 먼저 추출한다. 이후 고정된 Vision Transformer(ViT)를 통해 해당 잔차로부터 다중 스케일 특징을 추출하고 적응형 가중 융합을 적용한다. 소수의 실제 이미지 샘플만으로 비지도 K-Means의 클러스터 중심을 초기화하여 학습 없이 실제 이미지와 합성 이미지를 구별한다. 네 개의 벤치마크 데이터셋에 대한 광범위한 평가 결과, 제안 방법이 평균 정확도 82.2%를 달성하여 일반화 능력에서 최신 탐지기들을 능가하는 것으로 나타났다. 확산 방식의 합성 이미지에서 우수한 성능을 보이며, 각 모듈의 효과는 에블레이션 연구를 통해 검증되었다. 소스 코드는 https://github.com/multimediaFor/NoiseCluSID 에 공개될 예정이다.
AI 생성 비디오 탐지: 비전-언어 이중 관점 서베이
Detecting AI-Generated Video: A Vision-Language Dual-View Survey
AI 생성 비디오(AIGC-V)의 사실적 표현이 급속도로 향상됨에 따라 기존의 아티팩트 중심 탐지 방식이 점차 한계를 드러내고 있으며, 저수준 검사에서 고수준 의미 검증으로의 패러다임 전환이 요구되고 있다. 본 논문은 AIGC-V 탐지에 관한 종합적인 서베이를 제시하며, 이 과제를 사실적 충실도 검증(Factual Fidelity Verification)으로 재정의한다. 이는 비디오에 묘사된 사건, 개체, 물리적 과정이 실제 사실과 일치하는지를 묻는 문제이다. 이 빠르게 진화하는 분야를 체계화하기 위해, 우리는 기존 방법들을 내재적 단서 분석, 시공간 일관성 모델링, 교차 모달 일관성 추론, 언어 기반 세계 수준 추론의 네 개 층(layer)으로 구성된 계층적 분류 체계인 비전-언어 이중 관점(Vision-Language Dual-View) 분류 체계를 제안한다. 이 이중 관점 프레임은 기존 딥페이크 탐지의 아티팩트 매칭에서 비전-언어 모델과 에이전트(agentic) 추론 파이프라인이 가능케 하는 증거 기반 의미 검증으로의 근본적인 전환을 부각시킨다. 221편의 연구에 대한 체계적 검토를 바탕으로, AIGC-V 생성 패러다임을 종합하고, 탐지 방법의 전반적 현황을 조망하며, 제안된 관점에 따라 평가 지표 및 벤치마크를 검토한다. 마지막으로 현재의 과제를 논의하고 강건하고 설명 가능하며 신뢰할 수 있는 탐지를 위한 유망한 방향을 제시한다.
Unsupervised Anomaly Detection of Information Operations Users via Behavioral and Language Patterns
포렌식 합성 미디어 탐지를 위한 확률적 AI 모델의 귀추적 입증
Abductive Corroboration of Probabilistic AI Models for Forensic Synthetic Media Detection
인공지능(AI) 모델은 그 핵심에서, 광범위한 데이터셋으로부터 얻은 일반적인 학습 결과를 확률적 동작을 통해 개별 상황에 적용한다. 이러한 귀납적 접근 방식은 전제로부터 결론을 증명하려는 연역적 추론 접근 방식과 대비된다. 그러나 연구에 따르면 AI 모델을 활용한 연역적 추론은 어려운 문제이며, 실제 환경에서는 항상 실현 가능하지 않을 수 있다. 이에 대한 대안적 방향은 귀추적 추론(abductive reasoning)을 활용하는 것으로, 사실적 증거 행렬로부터 가장 가능성 높은 결론을 도출하기 위해 여러 접근 방식의 출력을 입증하는 것이다. 우리는 이를 포렌식 환경에서의 합성 미디어 탐지에 적용하여, 진양성 재현율 대비 위양성 위험을 불균형적으로 낮출 수 있음을 발견했다. 또한 합성 이미지에 대한 OpenAI의 SynthID 롤아웃에 대한 최초의 실증적 평가를 제공하고, 서로 다른 합성 미디어 탐지 접근 방식들이 얼마나 상호 보완적인지를 평가한다.
DATE: Dual Attentive Tree-aware Embedding for Customs Fraud Detection
토론
이 논문과 연결된 포럼 글이 아직 없습니다.