PyTorchKR Papers

최신 논문

총 5편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2604.24197v4cs.CL

보는 것이 더 이상 믿는 것이 아닐 때: 프론티어 이미지 생성 모델, 합성 시각적 증거, 그리고 현실 세계의 위험

Seeing Is No Longer Believing: Frontier Image Generation Models, Synthetic Visual Evidence, and Real-World Risk

Image generation systems can produce plausible photographs, readable documents, and consistent depictions of people and places. Presented as records of real events, these outputs can influence decisions in news, finance, identity verification, medicine, and law. This narrative review examines public model documentation, incident reports, empirical studies, governance materials, and illustrative English and Chinese practitioner commentary available through 1 October 2026. We separate vendor capability claims, documented incidents, experimental findings, and prospective harm pathways. Realism, text rendering, reference consistency, conversational editing, search grounding, and low generation cost shape the conditions under which synthetic images acquire evidentiary weight. Documented episodes show how fabricated visuals enter public and institutional workflows, although public reporting cannot measure misuse prevalence for current releases. Comparing provider safeguards, provenance credentials, watermarks, platform labels, and statutory duties shows that origin signals do not verify a depicted event or transaction. Our framework matches artifact types and decision stakes to specific controls. Consequential decisions require authenticated source records, independent channel corroboration, and proportionate review before action.

arXiv:2603.07090v2cs.CR

mAVE: 결합 오디오-비주얼 생성 모델을 위한 워터마크

mAVE: A Watermark for Joint Audio-Visual Generation Models

결합 오디오-비주얼(joint audio-visual) 생성에 워터마크를 적용하는 것은 제공업체의 저작권 보호 및 콘텐츠 출처(provenance) 증명을 지원합니다. 그러나 독립적으로 유효한 오디오 및 비디오 워터마크는 공유된 생성 세션을 입증하지 못합니다. 공격자는 서로 다른 세션의 워터마크된 모달리티를 이어 붙여(splice), 해당 쌍이 제공업체의 원래 결합 결과물인 것처럼 오인되게 만들 수 있습니다. 본 연구에서는 네이티브 결합 오디오-비주얼 디퓨전 트랜스포머(diffusion transformer)에서 세션 바인딩을 통해 제공업체 귀속성을 강화하는 학습(training) 불필요 워터마킹 프레임워크인 mAVE(Manifold Audio-Visual Entanglement)를 소개합니다. mAVE는 공개 기록 검색과 비밀 세션 인증을 분리합니다. 고정된 공개 인덱스는 서버 기록을 찾고, 무작위 페이로드는 암호화 다이제스트를 통해 오디오 비트를 세션 키 기반 비디오 그리드에 바인딩합니다. 프롬프트(prompt) 조건부 단일 결합 역변환(inversion)은 생성기 가중치를 수정하거나 보조 워터마크 네트워크를 학습하지 않고도, 세션 기록에 대해 두 모달리티를 검증하는 제공업체 지원 검증을 지원합니다. 본 연구의 분석은 적응형 세션 풀 보안 및 안정적인 국소 섭동(local-perturbation) 경계와 함께, 구현 일치 분포 보존 및 완전 초기화(initialization) 라우팅/클리핑 예산을 확립합니다. LTX-2 및 MOVA에 대한 실험은 유사한 생성 품질을 보여줍니다. mAVE는 평가된 교체(swap) 테스트에서 99.8%의 참 긍정률(true-positive rate)과 0%의 관찰된 거짓 긍정률(false-positive rate)을 달성하며, FrameAvg 시간 평균화에서도 99.2%의 참 긍정률을 유지합니다. 동일 프롬프트 및 유사도 기반 선택 교체 실험은 지각적 호환성을 넘어 세션 인증을 추가로 테스트합니다.

arXiv:2607.13099v1cs.CR

WaterMoE: 고충실도 및 고효율을 위한 전문가 라우팅 기반 워터마킹

WaterMoE: Expert-Routing-based Watermarking for High Fidelity and Efficiency

대규모 언어 모델(LLM)은 놀라운 성공을 거두었지만, 콘텐츠 출처와 오남용에 대한 우려가 커지면서 신뢰할 수 있는 워터마킹 기법의 필요성을 촉발하고 있다. 그러나 이러한 기법은 주로 두 가지 이유로 실무에서 거의 채택되지 않았다: i) 모델 성능의 심각한 저하, ii) 추가 추론 오버헤드. 이 문제를 확인하기 위해, 우리는 서로 다른 생성 태스크를 아우르는 포괄적인 벤치마크를 구축하여 9개의 대표적인 워터마킹 방법을 체계적으로 평가했다. 우리는 거의 모든 기존 방법이 텍스트 유창성을 위해 설계되었지 제한적이고 복잡한 태스크를 위해 설계되지 않았으며, 그 오버헤드가 지연 시간에 민감한 시스템에서의 배포를 막는다는 것을 발견했다. i)와 ii)를 해결하기 위해, 우리는 점점 더 인기를 끄는 전문가 혼합(MoE) LLM을 위한 LLM 워터마킹 방안 \textit{WaterMoE}를 제안한다. WaterMoE는 각 라우터에서 전문가 선택에 제어된 섭동을 통해 워터마킹 신호를 내장하며, 이는 최종 출력에서 토큰 선택 변화로 누적된다. 후처리 토큰 샘플링 접근법으로서의 워터마킹과 달리, WaterMoE는 추론 루프 내에 워터마크를 내장하여 무시할 수 있는 품질 저하와 계산 오버헤드만을 발생시킨다. 광범위한 실험을 통해 우리 방법이 워터마크가 없는 경우에 근접한 충실도 성능을 달성하고, 벤치마크에서 최신(state-of-the-art) 워터마킹 방법들을 지속적으로 능가하며, 최대 $4\times$ 속도 향상을 달성하고 네이티브 생성 대비 추가 추론 지연 시간이 단 1%에 불과함을 보여준다. 결과는 WaterMoE가 실제 태스크에 배포될 수 있는 능력을 보여준다.

arXiv:2607.05410v1cs.CY

CANONIC: 거버넌스는 컴파일이다

CANONIC: Governance Is Compilation

CANONIC은 대규모 언어 모델(LLM)이 생성하는 검증 불가능한 콘텐츠(slop) 문제를 해결하기 위해, 컴파일러 이론의 구문·스코프·타입 시스템에 대응하는 세 가지 공리(Triad, Inheritance, Introspection)를 기반으로 콘텐츠 승인을 선형 시간 내에 결정하는 거버넌스 프레임워크다. 사전 등록된 크로스-프로바이더 벤치마크 평가 결과, 구조적 승인 게이트는 slop을 자동으로 필터링하지 못하며, 이 프레임워크의 역할은 진위 판별이 아닌 모든 주장을 커밋과 증거 윈도우에 고정하여 감사 가능한 기록을 유지하는 것임을 보인다.

arXiv:2606.19116v1cs.AI

에이전트 우선 웹으로: AI 에이전트를 위한 웹 재설계

Towards an Agent-First Web: Redesigning the Web for AI Agents

웹이 인간 소비자를 전제로 한 접근·경제·콘텐츠 구조가 AI 에이전트 확산과 충돌하는 문제를 진단하고, 에이전트 식별 메타데이터·이중 층 아키텍처·토큰 기반 구독·ATML과 암호화 기원 체인을 포함한 세 층 재설계를 제안한다. 이를 에이전트 우선 인터넷을 위한 10가지 설계 원칙으로 통합하며, 에이전트를 차단 대상이 아닌 1급 시민으로 삼는 웹의 사회 계약 재협상을 촉구한다.