arXiv:2607.01248v1 cs.CY

A Practice Auditing Framework for Large Language Model Use: Collective Empiricism, Pseudo-Rational Cognition, and Governance of AI-Generated Content

Yang Zhao, Yingshuo Li, Zeyu Zhang

제출 2026-06-02

원문 초록

Large language models are increasingly used for knowledge acquisition, code generation, academic writing, and agent-based automation. In these settings, users may obtain highly structured answers, plans, and judgments without sufficient domain practice. This paper proposes a practice auditing framework for LLM use and AI-generated content governance. It introduces collective empiricism to describe how LLMs compress and reorganize large-scale human experience into outputs that appear empirical and rational, and pseudo-rational cognition to describe how users may mistake AI-generated structured expression for their own rational understanding. The paper analyzes AI subjectivity illusion, subjectivity structures in input materials, template loops in AI-AI conversations, statistical misjudgment in AIGC detection, and memory pollution when generated content enters future contexts, long-term memory, retrieval spaces, or agent skill systems. To reduce these risks, the paper proposes an auditing process based on requirement definition, problem-boundary identification, evidence-source auditing, practical validation, reverse questioning, logging, version management, rollback, and renewed cognition. The framework does not reject AI productivity; it argues that LLM outputs should be returned to verifiable, reproducible, and intervenable processes of practice. The paper provides a conceptual and auditable framework for cognitive risks in LLM interaction, AI-generated content governance, long-term memory systems, and human-AI interaction.

요약

대규모 언어 모델(LLM) 사용에서 발생하는 인지적 위험을 다루기 위해, 이 연구는 LLM이 대규모 인간 경험을 압축·재구성하는 방식을 설명하는 집단적 경험주의(collective empiricism)와 사용자가 AI 생성 구조화 표현을 자신의 이성적 이해로 오인하는 유사 이성적 인지(pseudo-rational cognition) 개념을 제안한다. 이를 기반으로 요구사항 정의, 증거 출처 감사, 실천적 검증, 역질문, 로깅 및 롤백 메커니즘을 포함한 실천 감사(practice auditing) 프레임워크를 제시하며, AI 생성 콘텐츠가 미래 컨텍스트·메모리 시스템·검색 공간에 유입될 때 발생하는 템플릿 루프, 메모리 오염 등의 거버넌스 위험도 분석한다.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2607.01248v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.