The Sensitivity of Word Embeddings-based Author Detection Models to Semantic-preserving Adversarial Perturbations
원문 초록
Authorship analysis is an important subject in the field of natural language processing. It allows the detection of the most likely writer of articles, news, books, or messages. This technique has multiple uses in tasks related to authorship attribution, detection of plagiarism, style analysis, sources of misinformation, etc. The focus of this paper is to explore the limitations and sensitiveness of established approaches to adversarial manipulations of inputs. To this end, and using those established techniques, we first developed an experimental frame-work for author detection and input perturbations. Next, we experimentally evaluated the performance of the authorship detection model to a collection of semantic-preserving adversarial perturbations of input narratives. Finally, we compare and analyze the effects of different perturbation strategies, input and model configurations, and the effects of these on the author detection model.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
Advancing Fake News Detection: Hybrid DeepLearning with FastText and Explainable AI
Using Word Embeddings for Italian Crime News Categorization
보는 것이 더 이상 믿는 것이 아닐 때: 프론티어 이미지 생성 모델, 합성 시각적 증거, 그리고 현실 세계의 위험
Seeing Is No Longer Believing: Frontier Image Generation Models, Synthetic Visual Evidence, and Real-World Risk
이미지 생성 시스템은 그럴듯한 사진, 판독 가능한 문서, 사람과 장소에 대한 일관된 묘사를 만들어 낼 수 있다. 이러한 결과물이 실제 사건의 기록으로 제시되면 뉴스, 금융, 신원 확인, 의료, 법률 분야의 의사결정에 영향을 미칠 수 있다. 이 서술형 리뷰는 2026년 10월 1일까지 확인 가능한 공개 모델 문서, 사고 보고서, 실증 연구, 거버넌스 자료, 그리고 영어와 중국어로 된 실무자 논평 사례를 검토한다. 우리는 제공사의 성능 주장, 문서화된 사고, 실험 결과, 앞으로 발생할 수 있는 피해 경로를 구분한다. 사실감, 텍스트 렌더링, 참조 일관성, 대화형 편집, 검색 기반 근거화, 낮은 생성 비용은 합성 이미지가 증거로서의 비중을 얻는 조건을 형성한다. 문서화된 사례는 조작된 시각 자료가 공공 및 기관의 업무 흐름에 유입되는 방식을 보여 주지만, 공개 보고만으로는 현재 출시된 모델의 오용 확산 정도를 측정할 수 없다. 제공사의 안전장치, 출처 증명 자격 정보, 워터마크, 플랫폼 라벨, 법적 의무를 비교한 결과, 출처 신호만으로는 묘사된 사건이나 거래를 검증할 수 없음이 드러난다. 우리의 프레임워크는 산출물 유형과 의사결정의 중요도를 구체적인 통제 수단에 대응시킨다. 중대한 결정에는 인증된 원본 기록, 독립적인 채널을 통한 교차 확인, 조치 전의 비례적 검토가 필요하다.
BusterX++: MLLM을 통한 통합 크로스 모달 AI 생성 콘텐츠 탐지 및 설명
BusterX++: Towards Unified Cross-Modal AI-Generated Content Detection and Explanation with MLLM
생성형 AI의 급속한 발전으로 이미지 및 비디오 합성 품질이 크게 향상되었으며, 이로 인해 멀티모달 시각적 허위 정보의 위험이 증폭되고 있다. 최근 MLLM은 추론과 설명을 통한 투명한 AI 생성 콘텐츠 탐지에서 가능성을 보였으나, 기존 접근법은 대체로 이미지와 비디오 포렌식을 별개의 과제로 취급하여 교차 모달 시너지는 충분히 탐구되지 않았다. 이를 해결하기 위해 우리는 해석 가능한 추론을 갖춘 이미지·비디오 공동 탐지용 통합 MLLM인 \textbf{BusterX++}를 제시한다. 또한 최신 생성 모델과 다양한 실제 시나리오를 아우르는 균형 잡힌 이미지 및 비디오 샘플을 포함하며, 합성 이미지와 비디오를 동일한 인간 난이도 기준으로 선별한 선별 벤치마크 \textbf{GenBuster-Bench++}를 도입한다. 이러한 통제된 설정에서 널리 채택된 SFT+RL 사후 학습 패러다임을 재검토한다. 특히 통합 이미지-비디오 설정에서, 희소한 결과 보상을 주로 사용하는 단일 단계 순수 RL 전략이 강력한 SFT+RL 기준선을 능가한다는 결과를 보인다. 단일 단계 순수 RL은 학습 내내 SFT로 초기화한 RL보다 더 높은 정책 엔트로피를 유지함을 관찰하였다. 이 관찰은 통합 이미지-비디오 학습에서 나타난 성능 향상에 탐색이 일정한 역할을 했을 가능성을 시사한다. 폭넓은 실험을 통해 BusterX++가 최고 수준의 성능을 달성함을 보이며, 통합 교차 모달 시각 추론에서 RL의 강력한 잠재력을 부각한다.
DeepStress: 딥 검색 에이전트 스트레스 테스트
DeepStress: Stress-Testing Deep Search Agents
검색 에이전트는 다단계 질의응답에서 인상적인 능력을 보이지만, 품질이 낮은 증거에 대한 견고성은 충분히 연구되지 않았다. 이러한 증거는 벤치마크 코퍼스에서 드물며, 그로 인한 실패는 재현하기 어렵다. 우리는 에이전트에 열화된 증거를 통제된 비율로 제공하는 동적 스트레스 테스트 프레임워크인 DeepStress를 제안한다. 이 프레임워크는 검색 모듈을 질의마다 문서가 동적으로 생성되는 합성 환경으로 대체하며, 문서의 신뢰성, 관련성, 사실성을 독립적으로 제어한다. 스트레스 상황에서의 행동을 규명하기 위해, 이진 정확도를 넘어 최종 답변 결과에 대한 5가지 분류와, 신중한 행동을 인정하고 계산 비용을 반영하는 두 가지 새로운 신뢰성 인지 지표인 RAS와 CoPRAS를 도입한다. HotpotQA와 BrowseComp-Plus의 질문으로 12개 시스템을 평가한 결과, 여러 오픈 웨이트 에이전트가 출처에 명백한 신뢰성 경고 신호가 있을 때도 자신 있게 답하며, 많은 HotpotQA 질문이 반환된 모든 문서가 사실과 다른 경우에도 파라미터 지식으로 답해진다는 것을 확인하였다.
연속 언어 확산에서 단순 리드아웃이 놓치는 것
What Simple Readouts Miss in Continuous Language Diffusion
학습된 디코더를 단순한 리드아웃이 얼마나 보존할 수 있는가? 생성된 ELF 및 AURORA 상태에서 토큰별 아핀 사상은 기본(native) 어휘 결정의 각각 $97.17\%$와 $95.74\%$를 복원한다. 맥락적 계산은 이미 이 상태들을 생성한 상태이며, 단순화되는 것은 최종 리드아웃뿐이다. 남은 불일치는 그 개수 이상의 의미를 가진다. 동일한 개수의 희귀도 우선 수정과 낮은 기본 마진 우선 수정은 두 인터페이스 모두에서 풀링된 평가자 효과가 상반된다. 조건부 요약에서 희귀도 우선 수정은 참조 유사도를 개선하지만, 원문 일관성은 해결되지 않은 채 남는다. 점수 분해는 유니그램 비용이 증가했음에도 이점의 일부가 변경되지 않은 텍스트에 있음을 보여 주지만, 희귀도를 원인으로 규명하지는 않는다. 반복 가능한 수정 효과가 예측의 전이를 보장하지는 않는다. 고정된 예측기는 두 ELF 체크포인트에서는 개선되지만 증류된 학생 모델에서는 실패한다. 별도의 과제 적합 선택기는 기본 호출 예산 $50\%$에서 새로운 256개 기사에 대해 무작위 선택보다 BERTScore를 $0.261$점 향상시키지만, 전체 기본 디코딩이 여전히 더 높은 점수를 보이며 가속은 입증되지 않았다. 압축 및 방향성 인터페이스 실험은 적합 상태 포괄성, 기본 결정, 소프트 입력을 추가로 구분한다. 종합하면, 이 결과는 단순화를 보존된 결정, 출력 결과, 계산 절감이라는 세 수준에서 검증해야 함을 시사한다. 기본 결정은 충실도의 목표이지 의미적 진실이 아니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.