PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.23953v1cs.AI

문서를 편집하는 에이전트: 비에이전트 대조군을 대비한 에이전트형 PDF 위조 측정

Agents That Edit Documents: Measuring Agentic PDF Forgery Against a Non-Agentic Control

지난 1년간 스스로 다단계 컴퓨터 작업을 끝까지 수행하는 AI 에이전트가 일상적인 도구가 되었고, 같은 자율성은 해로운 목적을 가진 누구에게나 이용 가능해졌다. 우리는 증거가 제출된 PDF인 신뢰 당사자—보험사, 대출기관, 감사인—에게 그것이 무엇을 의미하는지 묻는다. AgentForge-Bench는 셸과 기본 Python PDF 스택으로 일곱 개의 오픈 가중치 모델 중 하나를 구동하는 상용 코딩 에이전트가, 의도를 담은 한 문장만으로 실제 제출된 금융 문서에서 달러 금액, 날짜 또는 주소 중 하나를 얼마나 안정적으로 변경하는지를, 모델이 아니라 규칙으로 채점하여 측정한다. 1,750개 셀 가운데 1,419개(81.1%)가 검증기를 통과했고, 808개(46.2%)는 더 엄격한 필터—눈에 보이는 변경, 국소적 변경, 글꼴 일치, 문서 전체에서 원래 값 소거—를 모두 통과했다. 모델이 없는 결정론적 스크립트는 125개 문서 중 98개를 해결했고, 에이전트는 124개를 해결했으며, 스크립트만 단독으로 해결한 문서는 없었다. 에이전트는 잘못된 편집의 41%를 완료된 것으로 잘못 보고했고, 어떤 모델도 거부하지 않았으며, 검증된 위조 중 가장 저렴한 비용은 2.4센트였다. 원시 비율은 위협을 약 2배 과대평가하지만, 엄격한 기준의 비율도 여전히 크다.

arXiv:2604.02694v2cs.CV

DocShield: 증거 그라운딩 에이전트 추론을 통한 AI 문서 안전성

DocShield: Towards AI Document Safety via Evidence-Grounded Agentic Reasoning

생성형 AI의 급속한 발전으로 텍스트 중심 이미지 위조가 점점 더 현실적으로 가능해지면서 문서 안전성에 큰 도전을 제기하고 있다. 기존 포렌식 방법은 주로 시각적 단서에 의존하며, 미묘한 텍스트 조작을 드러내기 위한 증거 기반 추론이 부족하다. 탐지, 위치 특정, 설명은 종종 개별 과제로 취급되어 신뢰성과 해석 가능성을 제한한다. 이러한 과제를 해결하기 위해, 텍스트 중심 위조 분석을 시각-논리 공동 추론 문제로 공식화하는 최초의 통합 프레임워크인 DocShield를 제안한다. 핵심은 새로운 Cross-Cues-aware Chain of Thought(CCT) 메커니즘으로, 암묵적 에이전트 추론을 가능하게 하며 시각적 이상과 텍스트 의미를 반복적으로 교차 검증하여 일관되고 증거 그라운딩(evidence-grounded) 포렌식 분석을 생성한다. 또한 GRPO 기반 최적화를 위한 Weighted Multi-Task Reward(가중 다중 과제 보상)를 도입하여 추론 구조, 공간적 증거, 진위 예측을 정렬한다. 프레임워크를 보완하기 위해 픽셀 수준 조작 마스크와 전문가 수준의 텍스트 설명을 포함한 문서형 텍스트 이미지 다국어 데이터셋 RealText-V1을 구축한다. 광범위한 실험 결과 DocShield는 기존 방법을 크게 능가하며, T-IC13에서 특화 프레임워크 대비 매크로 평균 F1을 41.4% 향상하고 GPT-4o 대비 23.4% 향상했으며, 어려운 T-SROIE 벤치마크에서도 일관된 성능 향상을 보였다. 데이터셋, 모델, 코드는 공개될 예정이다.