PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.24369v1cs.HC

DeceptionAnalyser: 논증 체계와 LLM을 활용한 구조화된 기만 분석 웹 기반 AI 도구

DeceptionAnalyser: A Web-Based AI Tool for Performing Structured Deception Analysis with Argumentation Schemes and LLMs

기만(deception)은 정보 작전(intelligence operations)에서 핵심적인 역할을 하지만, 추론 패턴과 인지적 조작에 대한 전문 지식 없이는 체계적으로 분석하기 어렵다. 예를 들어 계산 논증(computational argumentation) 분야에서는 통계적 검증(validation)을 뒷받침할 scheme 수준의 ground-truth 코퍼스가 현재 존재하지 않는다. 본 논문에서는 서로 다른 형태의 기만을 모델링하도록 설계된 열 가지 논증 체계(argument schemes) 집합을 도입하여 이를 해결하며, 각 체계에는 구조화된 전제(premises)와 비판적 질문(critical questions)이 수반된다. 이를 통해 기만 분석 전용으로 설계된 최초의 논증 체계 라이브러리를 제시하고, 서사 텍스트에서 기만을 체계적으로 모델링·분석하기 위한 구조적 토대를 제공한다. 이어서 LLM 기반 전제 추출과 비판적 질문 주도 평가를 결합한 2단계 방법론으로 이러한 체계를 구현하는 브라우저 기반 도구 DeceptionAnalyser를 소개한다. 우리의 목표는 서사 텍스트에서 기만적 추론을 분석하기 위한 개념적·방법론적 토대를 마련하는 것이며, 본 논문은 구조화된 논증 이론과 AI 보조 분석이 잠재적 기만에 대한 투명하고 설명 가능한 평가를 어떻게 지원할 수 있는지 보여줌으로써 이를 다룬다. 체계는 기만 판정을 출력하기보다 주장을 면밀 검토 대상으로 표시하도록 설계되었기 때문에 분류(classification) 정확도를 벤치마킹하지 않고, 대신 열 개의 최신 대규모 언어 모델(LLM)과 반복 실행에 걸쳐 도구의 전제 및 결론 평가의 일관성을 측정하여 방법론의 신뢰성(reliability)을 평가한다. 명확한 기만에 대해서는 scheme 탐지가 매우 안정적이며, 보다 모호한 정보 작전 스타일의 서사에서는 해석 가능한 방식으로 완만하게 저하됨을 확인한다.