PyTorchKR Papers

업데이트된 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2604.24197v4cs.CL

보는 것이 더 이상 믿는 것이 아닐 때: 프론티어 이미지 생성 모델, 합성 시각적 증거, 그리고 현실 세계의 위험

Seeing Is No Longer Believing: Frontier Image Generation Models, Synthetic Visual Evidence, and Real-World Risk

이미지 생성 시스템은 그럴듯한 사진, 판독 가능한 문서, 사람과 장소에 대한 일관된 묘사를 만들어 낼 수 있다. 이러한 결과물이 실제 사건의 기록으로 제시되면 뉴스, 금융, 신원 확인, 의료, 법률 분야의 의사결정에 영향을 미칠 수 있다. 이 서술형 리뷰는 2026년 10월 1일까지 확인 가능한 공개 모델 문서, 사고 보고서, 실증 연구, 거버넌스 자료, 그리고 영어와 중국어로 된 실무자 논평 사례를 검토한다. 우리는 제공사의 성능 주장, 문서화된 사고, 실험 결과, 앞으로 발생할 수 있는 피해 경로를 구분한다. 사실감, 텍스트 렌더링, 참조 일관성, 대화형 편집, 검색 기반 근거화, 낮은 생성 비용은 합성 이미지가 증거로서의 비중을 얻는 조건을 형성한다. 문서화된 사례는 조작된 시각 자료가 공공 및 기관의 업무 흐름에 유입되는 방식을 보여 주지만, 공개 보고만으로는 현재 출시된 모델의 오용 확산 정도를 측정할 수 없다. 제공사의 안전장치, 출처 증명 자격 정보, 워터마크, 플랫폼 라벨, 법적 의무를 비교한 결과, 출처 신호만으로는 묘사된 사건이나 거래를 검증할 수 없음이 드러난다. 우리의 프레임워크는 산출물 유형과 의사결정의 중요도를 구체적인 통제 수단에 대응시킨다. 중대한 결정에는 인증된 원본 기록, 독립적인 채널을 통한 교차 확인, 조치 전의 비례적 검토가 필요하다.

arXiv:2507.14632v5cs.CV

BusterX++: MLLM을 통한 통합 크로스 모달 AI 생성 콘텐츠 탐지 및 설명

BusterX++: Towards Unified Cross-Modal AI-Generated Content Detection and Explanation with MLLM

생성형 AI의 급속한 발전으로 이미지 및 비디오 합성 품질이 크게 향상되었으며, 이로 인해 멀티모달 시각적 허위 정보의 위험이 증폭되고 있다. 최근 MLLM은 추론과 설명을 통한 투명한 AI 생성 콘텐츠 탐지에서 가능성을 보였으나, 기존 접근법은 대체로 이미지와 비디오 포렌식을 별개의 과제로 취급하여 교차 모달 시너지는 충분히 탐구되지 않았다. 이를 해결하기 위해 우리는 해석 가능한 추론을 갖춘 이미지·비디오 공동 탐지용 통합 MLLM인 \textbf{BusterX++}를 제시한다. 또한 최신 생성 모델과 다양한 실제 시나리오를 아우르는 균형 잡힌 이미지 및 비디오 샘플을 포함하며, 합성 이미지와 비디오를 동일한 인간 난이도 기준으로 선별한 선별 벤치마크 \textbf{GenBuster-Bench++}를 도입한다. 이러한 통제된 설정에서 널리 채택된 SFT+RL 사후 학습 패러다임을 재검토한다. 특히 통합 이미지-비디오 설정에서, 희소한 결과 보상을 주로 사용하는 단일 단계 순수 RL 전략이 강력한 SFT+RL 기준선을 능가한다는 결과를 보인다. 단일 단계 순수 RL은 학습 내내 SFT로 초기화한 RL보다 더 높은 정책 엔트로피를 유지함을 관찰하였다. 이 관찰은 통합 이미지-비디오 학습에서 나타난 성능 향상에 탐색이 일정한 역할을 했을 가능성을 시사한다. 폭넓은 실험을 통해 BusterX++가 최고 수준의 성능을 달성함을 보이며, 통합 교차 모달 시각 추론에서 RL의 강력한 잠재력을 부각한다.

arXiv:2607.21776v2cs.LG

PulseGuard: 토킹페이스 딥페이크 탐지를 위한 포렌식 모달리티로서의 rPPG 기반 시간 신호

PulseGuard: rPPG-Derived Temporal Signals as a Forensic Modality for Talking-Face Deepfake Detection

토킹페이스(TF) 딥페이크 생성은 정지된 원본 이미지와 음성 신호로부터 사실적인 얼굴 영상을 합성하며, 현재의 이미지 기반 탐지기가 일관되게 식별하지 못하는 위조물을 만들어 낸다. 얼굴 교체 조작과 달리 TF 합성에는 생리적 특성을 물려받을 기반 실제 영상이 없으므로, 이 위조 범주의 탐지 모달리티로 원격 광혈류측정(rPPG)이 동기화된다. 우리는 RhythmFormer로 윈도우별 rPPG 파형을 추출하고 경량 분류기 모음을 학습시켜 실제 신호와 합성 신호를 구분하는 탐지 프레임워크 PulseGuard를 제안한다. 테스트 신원이 학습 신원과 완전히 분리된 엄격한 피험자 독립 프로토콜로 Celeb-DF++의 TF 부분집합에서 평가한 결과, 우리의 1D ResNet은 추출된 시간 신호만으로 동작하면서 EER 25.1%에서 윈도우 수준 AUC 0.826(DeepFakesON-Phys가 평가되는 단위인 영상 수준으로 풀링 시 0.842)을 달성하며, 학습에서 완전히 제외된 생성기에 대해서도 AUC 0.754를 유지한다. 우리는 대표적인 기존 rPPG 탐지기인 DeepFakesON-Phys의 통제된 재현 연구를 제시하여, 기존 얼굴 교체 데이터에서의 AUC 0.999가 Celeb-DF++의 TF 부분집합에서는 0.576으로 저하됨을 보인다. 또한 탐지 난이도가 방법에 크게 의존함을 보이는데, 일곱 개의 TF 생성기에 걸쳐 AUC는 0.937(Real3DPortrait)에서 0.617(IP-LAP)까지 분포하며, 이 순서는 방법별 학습에서도 대체로 유지된다. 이 편차는 평가 잡음이 아니라 학습 방식 전반에 걸쳐 안정적이며, 본 연구의 주된 실증적 기여이다. 우리는 이를 실증적 기준선으로 보고하며, 판별 근거가 심장 기원임을 입증하지는 않는다.