PyTorchKR Papers

최신 논문

총 5편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.14967v1cs.CL

AI 생성 텍스트 탐지를 위한 잠재 궤적 판별

Latent Trajectory Discrimination for AI-Generated Text Detection

기존 AI 생성 텍스트 탐지(AIGTD) 접근법의 대부분은 문서를 정적 객체로 취급하고, 집계 통계 또는 전역적으로 압축된 임베딩에 기반하여 판단을 내린다. 그러나 이러한 관점은 내용이 잠재 공간을 통해 점진적으로 진화하는 자기회귀 생성의 본질적으로 동적인 특성을 간과한다. 본 논문에서는 AIGTD를 잠재 생성 궤적 간의 구별 문제로 재정식화한다. 정적 표현에 의존하는 대신, 시퀀스 전반에 걸쳐 텍스트 표현이 어떻게 진화하는지를 모델링한다. 이를 위해 문서를 순서가 있는 지역 단위로 분할하고, 각 단위를 임베딩 공간에 인코딩하며, 구조화된 시퀀스 수준 표현을 구성하는 프레임워크인 Geometric Trajectory and Contrastive Learning(GTCL)을 제안한다. GTCL은 이러한 궤적에 대비 학습(contrastive learning)을 적용하여 자기회귀 생성과 관련된 기하학적 규칙성을 학습한다. 세 가지 서로 다른 벤치마크와 여러 접근법에 대해 수행된 평가 결과, GTCL이 탐지 기준선을 지속적으로 능가하며, 이는 순차적 동역학을 명시적으로 모델링하는 것이 모델과 도메인 전반에 걸쳐 강건한 판별 신호를 제공함을 시사한다. 이러한 결과는 궤적 차이를 모델링하는 것이 탐지 성능을 향상시킬 수 있으며, 기존 AIGTD 문헌에서 충분히 탐구되지 않은 동적 방향을 열어줄 수 있음을 시사한다.

arXiv:2607.14729v1cs.CL

자폐 작문이 AI 생성 텍스트로 오분류되는 현상

The Misclassification of Autistic Writing as AI-Generated

최근 연구에 따르면 인공지능(AI) 탐지 모델은 AI 생성 텍스트를 정확히 식별하지 못할 수 있으며, 특정 소수 집단에 대해 바이어스를 보일 수 있다. 본 연구에서는 자폐 작가의 글이 AI 생성으로 더 자주 탐지된다는 일화적 주장을 실증적으로 검증한다. 약 60,000개의 Reddit 게시물로 구성된 코퍼스를 "자폐 가능성 높음(likely-autistic)" 및 "일반 Reddit(general-Reddit)" 하위 코퍼스로 나누어 OpenAI GPT-2 탐지 모델이 출력하는 확률 분포를 비교한다. 하위 코퍼스 간 텍스트 특성 차이를 관찰하고 AI 생성 텍스트의 보고된 특성과 비교한다. 결과적으로 모델이 AI 생성으로 표시한 글은 각 하위 코퍼스 모두 2% 미만이었지만, 자폐 가능성 높은 하위 코퍼스의 글이 유의미하게 더 많이 표시되었다. 자폐 가능성 높은 작가의 글 특성과 AI 생성 텍스트 특성 간의 연관은 단순하지 않았다. 자폐 작가에 대한 잠재적 바이어스를 드러낼 수 있는 AI 탐지 모델의 광범위한 사용은 윤리적 검토를 촉발하며, 저자들은 모델 자체와 학술 맥락에서의 활용에 대한 비판적 재검토를 권고한다.

arXiv:2607.13565v1cs.CR

UTS at ELOQUENT 2026 Voight-Kampff: AI 글쓰기의 구조적 변화가 최첨단 탐지기를 우회한다

UTS at ELOQUENT 2026 Voight-Kampff: structural shifts in AI writing bypass state-of-the-art detectors

우리는 최첨단 적대적 미세조정(adversarial fine-tuning)을 거쳐도 유지되는 언어 모델 회피 공격을 조사하고, ELOQUENT 2026 Voight-Kampff 리더보드 상위 5위를 차지하는 전략을 개발한다. 적대적 미세조정은 2025년 우승 회피 방법을 손쉽게 봉쇄하지만, 우리는 탐지기 취약성에서 근본적인 비대칭을 발견한다: 생성된 텍스트를 탐지기의 학습 분포 밖으로 밀어내는 것은 적대적 탐지를 안정적으로 이기지만, 분포 안으로 끌어들이는 것(예: 인간 학습 데이터 모방)은 완전히 실패한다. 이를 이용해, 우리는 두 가지 새로운 분포 밖(out-of-distribution) 공격 계열—시대를 가로지르는 레지스터(register) 공격과 모더니스트 의식의 흐름(stream-of-consciousness) 형식—을 제안한다. 두 전략 모두 적대적 봉쇄를 손쉽게 우회하며, 자연스러움을 유지하면서 이전 방법 대비 최대 약 50배 높은 기만률을 달성한다. 또한 실험은 명백한 배포자 대응책(시대별 산문으로 학습 데이터 증강)이 취약점을 메우지 못함을 보여준다. 우리의 발견은 적대적 미세조정을 포함한 검증된 탐지기 계열이 구조적 분포 밖 변화 하에서 지속적인 취약성을 보이며, 이 메커니즘이 우리의 선두 경쟁 성과를 직접 뒷받침함을 보여준다.

arXiv:2607.13044v1cs.CL

퍼플렉시티 함정: 특허법이 인간 작성 텍스트를 AI처럼 보이게 할 때

The Perplexity Trap: When Patent Law Makes Human Writing Look Like AI

유럽특허청(EPO)은 2025년 기록적인 출원 건수를 보고했으며, 2026년 EPO 지침은 제83조 및 규칙 42에 따라 대규모 언어 모델(LLM) 보조 콘텐츠에 대해 출원인에게 엄격한 책임을 부과하여, AI 생성으로 의심되는 특허 텍스트를 선별해야 하는 압력을 형성하고 있다. 이를 어렵게 만드는 두 가지 제약이 있다. 첫째, 현실적인 출원·심사(prosecution) 환경에서는 데이터센터급 스코oring 스택이 아닌, 약 8GB VRAM을 갖춘 소비자용 GPU만 갖춘 경우가 많다. 둘째, 유럽특허협약 제84조는 청구항이 명확하고 간결할 것을 요구하여, 인간의 초안 작성을 LLM이 차지하는 것과 동일한 낮은 perplexity·낮은 burstiness 다양체(manifold)로 밀어붙인다. 다섯 가지 프롬프팅(prompting) 전략을 모두 소비자용 하드웨어 환경 내에서 적용하여, 승인된 EPO H04 통신 특허 500건과 LLM 생성 대응물 500건에 대해 세 가지 오픈소스 제로샷(zero-shot) 감지기를 벤치마크했다. 청구항 수준에서 모든 감지기는 60%를 초과하는 오탐률(false-positive rate)을 기록했다: Binoculars 78.3%, Fast-DetectGPT 61.3%, DetectGPT 80.5%. 이러한 실패는 Qwen2.5-3B-Instruct 재생성, LoRA 적응 Pythia-2.8B 스코oring 헤드, A61K·C07D·F03D에 대한 IPC 간 복제(평균 FPR 84.6%), 및 공개된 Falcon-7B와 GPT-J-6B 헤드를 사용한 H100 재평가에서도 지속되며, 문제가 대체 모델(substitute-model) 용량(capacity)이라기보다 구조적임을 시사한다. 7개 특징(feature)을 사용한 언어 복잡도 로지스틱 회귀는 28.1% FPR에서 74.0% 정확도에 도달하며, 유사한 운영 지점(operating point)에서 perplexity만 사용한 기준선 대비 13퍼센트포인트 향상을 보였다. 이는 추론(inference) 시 가능도(likelihood)를 사용하지 않으며 동일한 하드웨어 예산 내에서 달성되었다.

arXiv:2603.20450v2cs.CL

Policies Permitting LLM Use for Polishing Peer Reviews Are Currently Not Enforceable

동료 심사에서 문법·표현 다듬기만 허용하는 LLM 정책의 집행 가능성을 검증하기 위해, 인간-AI 협업 수준별 동료 심사 데이터셋을 구축해 5개 최신 AI 텍스트 탐지기를 평가했다. 모든 탐지기가 LLM으로 다듬은(H-AI) 심사를 상당 비율 오탐해 학술 부정행위 오인 위험이 있으며, 논문 원고 등 심사 맥락을 활용해도 정책 집행에 필요한 정확도에 미치지 못해 선택적 LLM 사용 허용 정책은 현재 집행하기 어렵다.