arXiv:2606.28510v1 cs.HC

Generative AI Literacy Training Improves Intelligence Analysts' Discrimination of Real and AI-Generated Images

Negar Kamali, Candice Rockell Gerstner, Jessica Hullman, Matthew Groh

제출 2026-06-26

원문 초록

Across social and online platforms, people are increasingly exposed to AI-generated images. As a consequence, the task of distinguishing AI-generated from authentic images is becoming a central challenge for information ecosystems. While humans perform better than chance, accuracy falls short of many operational needs. Initial evidence shows that visually oriented training can improve deepfake detection but does not improve participants' ability to identify real images as real. Here, we investigate the efficacy of a brief training intervention for intelligence analysts employed by the United States government in 2024. We conducted a counterbalanced within-subject randomized experiment in which we showed participants real and AI-generated images varying in pose complexity and scene context and asked them whether each image was real or AI-generated, both before and after an expert delivered a 30-minute training that pointed out patterns in seven real and 50 AI-generated images. We collected 2,544 image-level judgments from 32 intelligence analysts. We find training increased overall accuracy by 9 percentage points (95% CI: [2.7, 15.4]) from a baseline of 72%. We find the improvement is driven by a 14.2 percentage point increase in accuracy for real images (95% CI: [0.7, 27.7]). Through a careful experimental setup that curated matched pairs of real and AI-generated images across pose complexity categories, we reveal how these trainings influence people with different levels of digital forensics and generative AI experience and identify the kind of image-based content where this training intervention appears to be most effective. Ultimately, these results provide causal evidence that a brief, structured training can improve human judgment across a diverse array of real and AI-generated images, informing organizational responses to AI-generated visual misinformation.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.28510v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.27371v1cs.HC공통 태그 Generative Adversarial Network, Image Generation, Misinformation, DeepFake Detection

ASAP: AI 생성 이미지의 이미지 패턴 식별 및 분석을 위한 시각적 분석 시스템

ASAP: Visual Analytics for Identifying and Analyzing Image Patterns in AI-generated Images

생성형 이미지 모델은 매우 사실적인 이미지를 생성할 수 있어 기만적인 콘텐츠 제작에 악용될 수 있다는 우려를 낳고 있습니다. 기존의 딥페이크(deepfake) 접근 방식은 제한된 일반화 가능성, 해석 가능성(interpretability)의 부족, 실행 가능성(actionability)의 미흡함 등 여러 문제에 직면해 있습니다. 이를 해결하기 위해, 본 논문에서는 사용자가 AI 생성 이미지의 기만적인 패턴을 분석하고 요약할 수 있도록 설계된 인터랙티브 시각화 시스템인 ASAP을 제시합니다. ASAP은 해석 가능한 표현(representation)을 생성하는 새로운 CLIP 적응형 이미지 인코더를 도입하여, 계산된 마스크를 통해 영향력 있는 픽셀 영역을 추출할 수 있도록 합니다. 이 접근 방식은 영향력 측정 기법을 통해 핵심적인 기만적 특징의 식별을 촉진합니다. 이러한 백엔드 기법들은 실제 이미지와 AI 생성 이미지가 모두 포함된 이미지 컬렉션에서 진위 여부를 나타내는 패턴을 사용자가 정량화하고 분석할 수 있는 시각적 분석 대시보드에 통합됩니다. 또한 이 접근 방식은 GAN 및 확산 모델(diffusion model)을 포함한 다양한 생성 모델의 비교 분석을 지원합니다. 저자들은 기존의 가짜 이미지 탐지 벤치마크(benchmark)를 활용한 사용자 연구와 두 가지 응용 시나리오를 통해 ASAP의 효용성을 입증하며, 기만적인 패턴을 효과적으로 추출하고 정량화하는 능력을 보여줍니다.

arXiv:2610.02188v1cs.CV공통 태그 Generative Adversarial Network, Image Generation

DMAD: 빠른 시각적 생성을 위한 적대적 증류 기반의 분포 매칭

DMAD: Distribution Matching as Adversarial Distillation for Fast Visual Generation

분포 매칭 증류(DMD, Distribution Matching Distillation)는 개별적으로 추정된 타깃 및 학생 스코어 간의 차이로부터 소수 단계(few-step) 학생 모델을 학습시키므로, 추가적인 메모리와 계산 비용을 들여 학생의 변화하는 분포에 맞춰진 보조 확산 모델을 유지해야 합니다. 본 논문에서는 분포 매칭을 분류(classification) 문제로 재구성하고 필요한 로그 밀도 비(log-density ratios)를 직접 학습하는 적대적 증류 기반의 분포 매칭인 DMAD(Distribution Matching as Adversarial Distillation)를 소개합니다. 공유된 백본 상의 두 판별기 헤드는 실제 데이터 및 교사 샘플을 학생 샘플과 구별하며, 이들의 로짓(logit)에 적용되는 선형 손실은 보조 스코어 피팅 없이 학생 모델을 학습시킵니다. 판별기 로짓을 로그 밀도 비로 연결하는 고전적 항등식을 통해, 판별기 최적점에서 이러한 손실들이 DMD의 기반이 되는 분포 매칭 그래디언트(gradient)를 복원함을 증명합니다. 나아가 실제 데이터 헤드에서 측정한 실제 샘플과 교사 샘플 간의 경험적 로짓 갭을 바탕으로 노이즈 레벨 전반에 걸쳐 교사 지도를 적응시키는 갭 기반 재가중치(gap-based reweighting)를 제안합니다. DMAD는 ImageNet-64x64에서 1단계 생성으로 1.04의 Fréchet Inception Distance(FID)를 기록하고, COCO-10K에서 4단계 SDXL로 14.47, 4단계 Wan2.1-T2V-14B로 85.15의 VBench 총점을 달성하여 비교된 소수 단계 방법론과 다단계 교사 모델 중 최고의 성능을 보였습니다. MiniMax-H3-33B 기반의 오디오-비디오 공동 생성에서 본 연구의 4단계 학생 모델은 동점을 제외했을 때 DMD2 대비 79.1%, rCM 대비 84.6%의 전반적인 인간 선호도를 달성했습니다. 코드, 모델 및 데모는 https://yzmblog.github.io/projects/DMAD 에서 확인할 수 있습니다.

arXiv:2609.22282v1cs.CV공통 태그 Generative Adversarial Network, Image Generation

뇌-이미지 생성: 생성적 적대 신경망을 이용한 뇌파 기반 시각 자극 재구성

Brain-to-Image Generation: Reconstructing Visual Stimuli from EEG using Generative Adversarial Networks

뇌파(EEG)로부터 시각 자극을 재구성하는 것은 두피 측정이 높은 시간 해상도를 갖지만 공간 해상도가 제한적이고, 짝지어진 EEG-이미지 데이터셋이 현대 생성 모델(generative model) 학습 코퍼스에 비해 여전히 작기 때문에 어렵습니다. 본 논문에서는 EEG가 시각 임베딩 공간에서 피험자가 본 자극을 검색할 수 있는지에 대한 보다 타당한 질문을 먼저 검증하는 THINGS-EEG2 기반의 재현 가능한 단일 피험자 기준선(baseline)을 제시합니다. 소형 시공간 합성곱 인코더(temporal-spatial convolutional encoder)는 반복 평균된 EEG(63 x 250)를 사전에 제공된 512차원 ViT-B/32 이미지 특징에 매핑합니다. 모델 선택에는 개념이 분리된 검증 분할을 사용하며, 최종 평가에는 공식 200개 이미지, 200개 개념의 테스트 갤러리를 사용합니다. 세 가지 학습 시드에 걸쳐, 제안 모델은 1, 5, 10에서의 이미지 재현율(recall) 각각 12.83 ± 0.58%, 39.17 ± 1.76%, 58.00 ± 1.73%(평균 ± 표본 표준편차)를 달성하여 0.5%, 2.5%, 5.0%인 이론적 무작위 확률 수준(chance level)과 비교되는 성능을 보였습니다. 세션 균형 제거 연구(ablation study)는 더 많은 테스트 반복을 평균화할수록 전반적으로 순위 매김이 향상됨을 보여줍니다. 적응 과정 없이 피험자 01의 모델을 다른 9명의 피험자에게 적용하면 성능이 급격히 저하되어 피험자 특이성이 드러납니다. 나아가 외부 시각 가중치 없이 학습된 직접 조건부 생성기(direct conditional generator)에 대한 탐색적 스트레스 테스트를 보고합니다. 단일 피험자 및 10명 피험자 변형 모델은 노이즈가 지배적인 출력을 생성하며, 초기 검증 성능 개선은 1~4 에포크 후에 반전되었습니다. 마지막으로 사전학습된 확산 사전확률(diffusion prior)을 사용하는 시맨틱 렌더링과 직접 재구성을 구별합니다. 결과는 폐쇄 집합(closed-set) 및 반복 평균화 프로토콜 하에서 무작위 수준을 넘어서는 대략적인 시맨틱 디코딩은 지지하지만, 자극 픽셀의 충실한 복원은 지지하지 않습니다.

arXiv:2609.22397v1eess.IV공통 태그 Generative Adversarial Network, Image Generation

가상 조영증강 유방 MRI를 위한 병변-게이팅 하이브리드 합성: MAMA-SYNTH 챌린지 솔루션

Lesion-Gated Hybrid Synthesis for Virtual Contrast-Enhanced Breast MRI: A MAMA-SYNTH Challenge Solution

목적: 조영증강 유방 MRI는 정맥 내 가돌리늄 기반 조영제에 의존하며, 이는 조영 전(pre-contrast) 영상만으로 조영 후(post-contrast) 모습을 합성하는 방법에 대한 동기를 제공한다. MAMA-SYNTH 챌린지(MICCAI 2026 Deep-Breath 워크숍)는 이러한 합성을 영상 충실도(image fidelity), 종양 관심 영역(tumour region of interest), 다운스트림 분류, 다운스트림 분할(segmentation)의 네 가지 지표 그룹에 걸쳐 평가한다. 네 그룹의 순위는 평균화되므로, 단일 목적 함수를 최적화하는 것만으로는 충분하지 않다. 재료 및 방법: 우리는 병변-게이팅(lesion-gated) 하이브리드 합성 파이프라인을 개발했다. 조영 전 영상만을 사용하는 분할 네트워크 앙상블(ensemble)에 의해 조영 전 슬라이스만으로 추정된 병변 확률 지도는, 종양 중심 회귀(regression) 경로와 배경 중심 Pix2PixHD 합성 경로를 공간적으로 조율하며, 이후 예측된 조영증강에 대한 영역-의존적 보정이 이어진다. 학습(training)에는 환자 단위 분할을 적용한 공개 MAMA-MIA 데이터 수집을 사용했다. 추론(inference)은 단일 조영 전 2D 슬라이스만을 입력으로 사용하며, 마스크, 조영 후 영상, 영상 기하 정보 이외의 보조 메타데이터는 사용하지 않는다. 결과: 내부 검증(validation)(n = 120명의 환자)에서 이 방법은 MSE 0.523, LPIPS 0.185, 종양 영역 SSIM 0.495를 달성했다. 이 방법은 자체 완결형(self-contained) 추론 컨테이너 형태로 비공개 외부 300건 테스트 코호트에 제출되었다. 이 방법은 공식 MAMA-SYNTH 챌린지 리더보드에서 6위를 기록했다. 결론: 조영 전 영상으로부터 도출된, 테스트 시점에도 적용 가능한 병변 확률 지도는 상호 보완적인 종양 중심 회귀와 배경 중심 지각적 합성을 조율할 수 있으며, 이를 통해 다중 지표(multi-metric) 챌린지 환경에서 균형 잡힌 가상 조영증강을 가능하게 한다.

arXiv:2607.24016v3cs.CV공통 태그 Image Generation, DeepFake Detection

DailyBench: 최신 생성 모델의 AI 생성 및 조작 이미지를 위한 통합 벤치마크

DailyBench: A Unified Benchmark for AI-Generated and Manipulated Images from Modern Generative Models

최근 생성 모델의 발전으로 AI 생성 이미지 탐지는 쉽게 구별 가능한 완전 합성 이미지를 식별하는 것에서, 최신 생성 및 조작 파이프라인 모두에서 생성된 고도로 사실적인 콘텐츠를 식별하는 것으로 초점이 이동했다. 그러나 기존 탐지 벤치마크는 종종 구식 생성 모델로 구축되었으며 주로 전체 이미지 합성에 중점을 두어, 벤치마크 데이터와 실제 생성 및 편집 시나리오에서 접하는 이미지 사이의 불일치가 점점 커지고 있다. 이 격차를 해소하기 위해, 우리는 AI 생성 이미지 탐지기가 최신 전체 이미지 합성과 객체 수준 조작 모두에 걸쳐 일반화할 수 있는지 평가하는 고품질 통합 벤치마크인 DailyBench를 제안한다. DailyBench는 두 가지 상호 보완적인 하위 집합으로 구성된다: 최근 오픈소스 및 상용 생성 모델로 합성한 고품질 이미지를 포함하는 FakeBench, 그리고 고급 이미지 조건부 모델을 사용해 실제 이미지에 적용한 도전적인 객체 수준 편집을 도입하는 ManipulationBench. 이 설계는 DailyBench를 미세한 국소 편집 하에서 생성기 수준 일반화와 조작 인식 탐지를 모두 연구하기 위한 현실적인 테스트베드로 만든다. DailyBench에서의 실험은 현재 탐지기의 상당한 견고성 격차를 드러낸다: GenImage에서 91-96%의 균형 정확도를 보고한 방법들은 FakeBench에서 60-76%, ManipulationBench에서 54-66%로 하락한다. 이 결과는 기존 탐지기가 사실적인 합성 및 조작에 대해 여전히 일반화가 부족함을 보여주며, DailyBench가 견고하고 조작 인식 AI 생성 이미지 탐지 방법 개발을 위한 엄격한 테스트베드임을 강조한다. 프로젝트는 https://dailybench.github.io/ 에서 확인할 수 있다.

arXiv:2607.22745v1cs.CV공통 태그 Image Generation, Misinformation

고위험 시나리오에서 AI 생성 이미지가 시각적 신뢰에 도전한다

AI-generated Images Challenge Visual Trust in High-risk Scenarios

이미지 생성의 급속한 발전은 진위가 공공 안전과 개인 명성에 영향을 줄 수 있는 환경에서 시각 콘텐츠의 증거적 가치를 약화시키고 있다. 그러나 기존 탐지 벤치마크는 오해를 불러일 수 있는 시각 콘텐츠가 상당한 위험을 수반할 수 있는 공공 및 개인 안전 맥락에서 합성 이미지를 거의 검토하지 않는다. 본 연구에서는 GPT Image 2를 사용해 생성한 12개의 공공 및 개인 안전 시나리오를 아우르는 안전 중심 벤치마크 SafeIMG를 제안한다. 일반적 이미지와 이미지 수준 라벨에 초점을 둔 벤치마크와 달리, SafeIMG는 탐지기가 합성 이미지를 인식하는지 여부뿐 아니라 그들의 판단이 인간이 식별한 이상을 반영하는지도 평가한다. 이를 위해 SafeIMG는 의심스러운 영역을 국소화하고 국소 아티팩트 및 상위 수준의 상식적·물리적 불일치를 설명하는 인간 주석을 제공한다. 우리는 특화된 합성 이미지 탐지기와 비전-언어 모델(VLM)을 평가했으며, 어느 쪽도 신뢰할 만한 탐지를 제공하지 않음을 확인했다. 가장 강력한 VLM은 생성된 이미지의 49.5%만 식별하는 반면, 최고의 특화 탐지기는 33.1%를 식별했고, 인간 평가자의 정확도는 81.7%였다. 모델 설명은 인간 주석 이상의 29.8%만 포괄하며, 주로 텍스트, 얼굴, 손의 국소 결함을 포착한다. 상식적 충돌에서는 포괄률이 15.0%로, 물리적 불일치에서는 12.0%로 떨어지며, 유포로 인한 이미지 열화 이후 탐지 성능은 더욱 악화된다. 이러한 결과는 현재 탐지기가 공공 및 개인 안전 환경 전반에서 AI 생성 이미지를 신뢰할 수 있게 평가하는 데 필요한 정확도, 설명적 정렬, 견고성을 갖추지 못함을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.