REVEAL: 설명 가능한 AI 생성 영상 탐지를 위한 비전-언어 모델의 강건한 진화
REVEAL: Robust Evolution of Vision-Language Models for Explainable AI-Video Detection
AI 생성 영상의 빠른 발전은 디지털 진위성과 보안에 어려움을 야기한다. 현재의 탐지 방법들은 특정 데이터셋(dataset)으로 학습되는 경우가 많아, 끊임없이 진화하는 생성 기술 환경과 보지 못한 조작 방식에 어려움을 겪는다. 우리는 강건한 AI 생성 영상 탐지를 위해 비전-언어 모델(Vision Language Model, VLM)을 활용하는 프레임워크를 소개한다. 우리의 접근법은 VLM에 영상 콘텐츠에 대해 추론하고 외부 도구를 사용하여 미묘한 불일치를 식별하는 능력을 부여함으로써, 인간의 시스템 2 사고를 모방한다. 우리의 자가 진화형 VLM은 적절한 도구를 동적으로 선택하고 조합하여, 새로운 영상 생성 기술에 대한 일반화 능력을 향상시킨다. 모듈형 설계는 해석 가능성을 높여 VLM의 의사결정 과정을 더 명확하게 이해할 수 있게 한다. 평가를 위해, 우리는 8개의 생성 모델에 걸친 1,400개 이상의 고품질 AI 생성 영상으로 구성된 최초의 벤치마크(benchmark)인 VidForensic을 구축한다. 실험 결과 REVEAL은 GPT-4o, Gemini 1.5 pro, QWen-VL-Max, Llava-One-Vision-7B를 비롯한 VLM들에 대해 우리의 데이터셋 전반에서 상위 베이스라인 대비 F1 점수를 9.1%에서 30.2%까지 향상시키는 것으로 나타났다. 개방형 환경(open-world)에서의 AI 영상 탐지는 여전히 해결되지 않은 과제로 남아 있지만, 우리의 결과는 기존 방법들이 주로 도구 기반의 고차원적 추론 능력이 부족하기 때문에 실패한다는 것을 보여준다.