한국어 초록
생성형 인공지능(generative artificial intelligence) 하에서 창의 산업의 구조적 변화를 조사하며, 정책 문서, 산업 데이터, 창작자 설문, 플랫폼 분석에 걸친 374개의 1차 자료를 활용한다. 2024년 12월 OpenAI의 Sora 비디오 모델 출시를 전환점으로 삼아, 기술적 파괴에 대한 창작계의 저항이라는 역사적 패턴을 추적한 뒤, 창작 작업에서 인간과 기계의 협업 스펙트럼을 맵핑하기 위한 분석 프레임워크인 Human-AI Agency Continuum(인간-AI 주체성 연속체)을 제안한다. "슬롭 상한(slop ceiling)"에 대한 증거를 제시하는데, 이는 시청자가 부과하는 품질 임계값으로, AI 생성 콘텐츠가 업로드의 44%를 차지함에도 불구하고 플랫폼 스트리밍의 약 1–3%로 제한된다. 영국 정부의 2025년 AI와 저작권에 관한 공청회(11,500건 이상의 응답, 88%가 AI 학습(training) 권한 확대에 반대) 분석은 기술 기업과 창작 노동자 사이의 깊은 구조적 긴장을 드러낸다. Disney의 OpenAI 10억 달러 투자부터 Netflix의 AI 네이티브 애니메이션 부서에 이르기까지, 주요 스튜디오가 AI 증강 제작 파이프라인을 위해 어떻게 포지셔닝하고 있는지 조사한다. 본 연구는 창의 공급망에서의 조율 붕괴, 프롬프트(prompt) 엔지니어 및 AI 오케스트레이터와 같은 새로운 전문 직군의 등장을 다루며, 전환을 navigate하기 위한 네 가지 원칙—투명성, 동의, 보상, 인간 중심 설계—을 제안한다. 8개의 부록은 정량 분석, 용어집, 주제별 참고문헌, 그리고 섀도 AI(shadow AI) 도입, AI 낙인(stigma), 알고리즘적 의도(algorithmic intent)에 대한 심층 분석을 제공한다.
원문 초록
We examine the structural transformation of creative industries under generative artificial intelligence, drawing on 374 primary sources spanning policy documents, industry data, creator surveys, and platform analytics. Beginning with the December 2024 release of OpenAI's Sora video model as a watershed event, we trace the historical pattern of creative resistance to technological disruption, then develop an analytical framework -- the Human-AI Agency Continuum for mapping the spectrum of human and machine collaboration in creative work. We present evidence for the "slop ceiling," an audience-imposed quality threshold that constrains AI-generated content to approximately 1--3% of platform streams despite comprising 44% of uploads. Analysis of the UK Government's 2025 consultation on AI and copyright (over 11,500 responses, 88% opposing expanded AI training rights) reveals deep structural tensions between technology firms and creative workers. We investigate how major studios, from Disney's $1 billion OpenAI investment to Netflix's AI-native animation unit, are positioning for an AI-augmented production pipeline. The work covers coordination collapse in creative supply chains, the emergence of new professional roles such as prompt engineers and AI orchestrators, and proposes four principles for navigating the transition: transparency, consent, compensation, and human-centred design. Eight appendices provide quantitative analysis, a glossary, topical bibliography, and deep dives into shadow AI adoption, AI stigma, and algorithmic intent.
요약
생성형 AI가 창의 산업에 미치는 구조적 변화를 정책 문서·산업 데이터·창작자 설문 등 374개 1차 자료로 분석하고, Human-AI Agency Continuum(인간-AI 주체성 연속체)과 슬롭 상한(slop ceiling) 등 분석 프레임워크를 제시한다. AI 생성 콘텐츠가 업로드의 44%를 차지해도 스트리밍은 약 1–3%에 그치는 현상, 영국 AI·저작권 공청회 응답의 88%가 학습 권한 확대에 반대한 결과, Disney·Netflix 등 주요 스튜디오의 AI 증강 제작 대응을 다루며 전환을 위한 투명성·동의·보상·인간 중심 설계 원칙을 제안한다.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.26114v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
비디오 생성 모델: 사후 학습 및 정렬에 관한 서베이
Video Generation Models: A Survey of Post-Training and Alignment
비디오 생성은 짧고 화질이 낮은 클립에서 복잡한 시공간적 역학을 지닌 고해상도·장시간 시퀀스로 빠르게 발전했습니다. 대규모 사전학습(pre-training)을 통해 학습된 강력한 생성 사전 지식(generative priors)에도 불구하고, 사전학습된 비디오 모델은 인간의 의도를 안정적으로 따르거나, 시간적 일관성을 유지하거나, 물리적 및 안전성 제약 조건을 만족하지 못하는 경우가 많습니다. 이미지 및 텍스트 생성과 비교할 때, 비디오 생성에서의 정렬(alignment)은 시간에 따른 오류 누적, 모션과 외형의 결합, 다중 목표 간의 트레이드오프, 시간적 속성에 대한 제한적인 지도(supervision) 등 고유한 도전 과제를 안고 있습니다. 이러한 과제들은 사전학습된 모델을 처음부터 다시 학습하지 않고 적응시키는 체계적인 사후 학습 전략의 필요성을 촉발합니다. 본 서베이에서는 비디오 생성 모델의 사후 학습 및 정렬에 대한 최초의 포괄적인 개괄을 제시합니다. 우리는 사후 학습을 통합적 프레임워크로 정의하고, 정렬 신호가 적용되는 방식에 따라 암시적 정렬과 명시적 정렬로 구분합니다. 이러한 관점에서 기존 접근 방식을 지도 미세조정 방법, 자가 학습(self-training) 및 지식 증류 방법, 선호도 및 보상 기반 방법, 추론 시점(inference-time) 방법의 네 가지 주요 범주로 정리합니다. 이 분류 체계는 정렬 신호가 학습과 배포 전반에 걸쳐 모델의 동작을 어떻게 형성하는지에 대한 일관된 관점을 제공합니다. 방법론적 진전을 넘어, 본 연구는 흔히 사용되는 데이터셋, 벤치마크, 평가 관행을 검토하며, 확장 가능한 보상 설계, 장기적(long-horizon) 시간적 일관성, 안정성-표현력 간의 트레이드오프, 안전성을 고려한 생성과 같은 미해결 과제를 논의합니다. 본 서베이는 제어 가능하고 신뢰할 수 있는 비디오 생성 모델을 발전시키기 위한 체계적인 개념적 토대와 실질적인 지침을 제공하는 것을 목표로 합니다.
과거가 미래를 규정한다: 자기회귀 비디오 생성을 위한 메모리
The Past Frames the Future: Memory for Autoregressive Video Generation
생성 모델의 발전은 비디오 충실도를 높여 장기간 생성, 상호작용적 세계 모델링, 진화하는 시각 환경을 가능하게 했다. 자기회귀(AR) 비디오 생성은 인과적 롤아웃을 통해 시각 시퀀스를 확장한다. 그러나 근본적인 병목이 드러난다. 생성 시퀀스가 길어질수록 실용적 모델은 엄격히 제한된 컨텍스트 윈도우, 저장 공간, 계산 한계 아래에서 동작해야 한다. 그 결과 개체 정체성, 동적 상태, 개입에 의해 유발된 인과적 변화 등 중요한 과거 정보는 그 관련성이 사라지기 훨씬 전에 활성 컨텍스트를 벗어나는 경우가 많다. 이 한계를 극복하고 시간적 지속성을 유지하는 것은 근본적인 메모리 문제를 이룬다. 본 논문은 AR 비디오 생성에서의 메모리 메커니즘에 대한 체계적이고 포괄적인 리뷰를 제시한다. 메모리를 외부 AR 단계에 걸쳐 유지되는 지속적인 과거 정보로 연산적으로 정식화하며, 근원 증거가 더 이상 국소적으로 접근할 수 없게 된 뒤에도 미래 생성에 영향을 줄 수 있도록 한다. 이 통합 프레임워크를 바탕으로 문헌을 다섯 가지 상보적 관점으로 정리한다. (I) Forms, 역사의 표현적 담체; (II) Functions, 보존해야 할 구체적 의미·물리 정보; (III) Operations, 쓰기·읽기·갱신·관리·통합을 포함한 메모리 수명 주기; (IV) Learning, 폐루프 롤아웃 하에서 메모리 동작의 최적화; (V) Evaluation, 진정한 메모리 능력을 진단하는 패러다임. 마지막으로 구성 가능하고 자원 인식적인 메모리 아키텍처, 신뢰할 수 있는 상태 갱신, 자기 롤아웃(self-rollout) 학습, 표준화된 평가 등 미해결 과제를 종합한다. 표현, 메커니즘, 학습 패러다임을 연결함으로써 본 논문은 신뢰할 수 있는 메모리 조건부 비디오 생성 시스템 개발을 위한 구조화된 기반을 마련한다.
신뢰할 수 있는 에이전틱 AI: 자율적 LLM 시스템을 위한 실패 모드, 완화 전략 및 생애주기 프레임워크
Trustworthy Agentic AI: Failure Modes, Mitigation Strategies, and a Lifecycle Framework for Autonomous LLM Systems
대규모 언어 모델(LLM)을 기반으로 구축된 에이전틱 AI(Agentic AI) 시스템은 여러 단계에 걸친 계획 수립, 외부 도구 활용, 메모리 내 정보 보존, 다른 에이전트와의 협업을 수행할 수 있습니다. 이러한 기능은 기존의 정적 언어 모델보다 뛰어난 유용성을 제공하지만, 동시에 새로운 보안 및 운영상의 위험을 야기합니다. 웹사이트, 이메일, 문서, 데이터베이스 등 신뢰할 수 없는 콘텐츠가 시스템 인스트럭션과 동일한 컨텍스트로 유입될 수 있고, 영구 메모리는 침해된 정보를 세션 전반에 걸쳐 전달할 수 있으며, 외부 도구에 대한 접근 권한은 모델의 부정확한 응답을 중대한 실제 행동으로 이어지게 할 수 있습니다. 본 논문은 안전성(safety) 및 견고성, 정렬(alignment) 및 인간 감독, 투명성 및 감사 가능성, 프라이버시 및 데이터 거버넌스, 규제 준수라는 다섯 가지 상호 연결된 차원에서 에이전틱 AI의 신뢰성을 검토합니다. 또한 간접 프롬프트 인젝션(indirect prompt injection), 백도어 트리거, 목표 오일반화(goal misgeneralization), 메모리 오염, 세션 간 데이터 유출을 포함한 주요 실패 모드를 통합된 분류 체계로 정리합니다. 아울러 인스트럭션 계층 구조, 컨텍스트 격리, 스포트라이팅(spotlighting), 프로세스 기반 감독, 제한적 도구 사용, 프라이버시 보존 메모리 등 주요 완화 방식을 살펴보며, 실증적 증거로 뒷받침되는 기법과 여전히 주로 개념적 수준에 머물러 있는 기법을 구분합니다. 이러한 분석을 바탕으로, 명세, 설계, 학습(training), 평가(evaluation), 배포, 모니터링의 6단계로 구성된 '신뢰할 수 있는 에이전트 개발 생애주기(TADL)' 프레임워크를 소개합니다. TADL은 각 단계별로 관련 신뢰성 활동, 요구되는 증거, 위험 기반 의사결정 게이트를 정의합니다. TADL은 아직 실증적으로 검증되지는 않았으나, 보다 안전하고 책임 있는 에이전틱 시스템을 개발하고 평가하기 위한 구조화된 기반을 제공합니다. 마지막으로 본 논문은 현재 벤치마크(benchmark)의 한계를 짚어보고 향후 연구를 위한 우선 과제를 제시하며 마무리합니다.
에이전틱 AI 보안의 연결 고리: 다차원 위협 분류 체계, 평가 성숙도 및 공개 도전 과제
Connecting the Dots in Agentic AI Security: A Cross-Dimensional Threat Taxonomy, Evaluation Maturity, and Open Challenges
에이전틱 AI(Agentic AI)는 대규모 언어 모델(LLM) 보안의 범위를 생성된 콘텐츠를 넘어 영구 상태(persistent state), 자율 행동, 도구 사용, 그리고 인간 및 타 에이전트와의 상호작용으로 확장합니다. 기존의 위협 분류는 대개 개별 차원을 강조하여 진입점, 영향을 받는 컴포넌트, 보안 결과 간의 연결 고리를 모호하게 만듭니다. 또한 알려진 위협 환경은 실증 연구에서 입증된 커버리지와 차이를 보입니다. 본 논문에서는 2022년부터 2026년까지 발표된 66편의 연구에 대한 체계적인 검토를 통해 영향을 받는 기능적 또는 시스템 표면 {S}, 상호작용 또는 신뢰 경계 {B}, 침해된 보안 속성 {P}, 실증적으로 검토된 아키텍처 {A}를 연결하는 다차원 표현 T={S, B, P, A}를 제안합니다. 또한 실증적 커버리지와 평가 성숙도를 규명하기 위해 아티팩트 기반 레드팀 테스팅(red-teaming) 연구 22편과 대표적인 보안 벤치마크(benchmark) 11개를 분석합니다. 선정된 연구 내에서 실증적 증거는 주로 단일 에이전트 환경의 프롬프트(prompt)/추론, 메모리 및 도구 매개 공격에 집중되어 있습니다. 영구성, 인간-에이전트(Human-Agent), 복잡한 멀티 에이전트, 시스템적, 장기적(long-horizon) 위협에 대한 연구 커버리지는 상대적으로 부족합니다. 이러한 발견은 전체 실증 연구 전반의 격차를 규정하기보다는 선정된 연구 코퍼스의 특성을 설명합니다. 이질적인 지표, 제한적인 적응형 방어 평가, 아키텍처적 불균형, 불완전한 실행 상태 캡처는 비교 및 재현성을 더욱 제약합니다. 마지막으로 에이전틱 AI의 보다 체계적이고 아키텍처를 인식하며 재현 가능한 보안 평가를 유도하기 위한 13가지 공개 연구 질문을 도출합니다.
HALLELUAI: 대규모 초현실적 이미지-투-비디오 생성을 위한 환각 인식 AI 시스템
HALLELUAI: A Hallucination-Aware AI System for Ultra-Realistic Image-to-Video Generation at Scale
AI 생성 비디오는 마케팅, 제품 스토리텔링, 창작 워크플로 전반에서 점점 더 많이 사용되고 있지만, 자동화된 고정밀 품질 관리는 생산 확장의 주요 제약으로 남아 있다. 우리는 이미지-투-비디오 출력을 검수·재생성하여 전문가 수준의 창작 기준을 충족하고, 일관된 최종 사용자 품질 경험(QoE)을 갖춘 초현실적 비디오를 대규모로 제공하는 end-to-end 시스템인 HALLELUAI를 제시한다. 이 시스템은 프레임 수준의 미학, 시간적 모션 충실도, 원본 이미지 대비 세밀한 환각(hallucination) 위험을 평가하는 비디오 검수 모듈과, 프롬프트 정제, 제어된 카메라 조정, 대상 모델 또는 이미지 전환, 구조화된 재시도 전략을 통해 실패를 반복적으로 수정하는 에이전트(agentic) 재생성 모듈을 통합한다. 검수 로직은 도메인별 창작 가이드라인에 정렬(alignment)되어 있으며, 재생성을 직접 구동하는 세분화되고 기계 실행 가능한 피드백을 생성한다. 창작 전문가와의 human-in-the-loop 평가에서 HALLELUAI는 강한 정렬을 보이며, 제품 및 마케팅 배치에 적합한 초현실적·프로덕션급 비디오를 대규모로 안정적으로 출력한다. 이 프레임워크는 대규모 이미지-투-비디오 생성을 가능하게 하면서 시각적 사실성, 브랜드 안전성, 엄격한 입력 이미지 충실도를 강제함으로써 신뢰할 수 있는 AI 생성 비디오 콘텐츠를 발전시킨다.
거래 비용 인식 LLM 에이전트를 활용한 에너지 정책 개입에 대한 세입자 반응 시뮬레이션
Simulating Tenant Responses to Energy Policy Interventions with Transaction-Cost-Aware LLM Age
최근 연구들은 인구통계적, 태도적 또는 페르소나 기반 설명으로 모델에 프롬프트를 제공하여 대규모 언어 모델(LLM)로 인간의 의견과 의사결정을 시뮬레이션한다. 그러나 이러한 시뮬레이션은 사람들이 정책 개입에 어떻게 반응하는지를 형성하는 실무적, 인지적 또는 사회적 마찰을 거의 모델링하지 않는다. 지각된 거래 비용(perceived transaction cost, PTC)은 정보 부담, 행정적 노력, 조정(coordination) 요구, 지각된 불확실성 등 정책 반응을 형성하는 실무적 마찰을 모델링하는 데 유용한 렌즈를 제공한다. 우리는 이 렌즈를 사용하여 LLM 기반 시뮬레이션을 위한 마찰 인식(friction-aware) 페르소나 모델링 접근법을 개발한다. 에너지 효율 리노베이션(energy-efficient renovation, EER) 맥락에서 세입자는 인구통계적으로 누구인지뿐만 아니라, 제안된 리노베이션 계획과 관련된 비용, 이익, 장벽, 불확실성을 어떻게 지각하는지에 의해 표현된다. 네덜란드에서 1,068명의 시민으로부터 수집하고 약 40,548개의 설문 질문-답변 쌍으로 구성된 설문 데이터를 사용하여, GPT-3.5-turbo, Ministral-8B-Instruct, Llama-3.1-8B-Instruct에 걸쳐 프롬프트 전용(prompt-only) 및 미세조정(fine-tuned) 설정을 비교하고, 로컬 오픈 가중치(open-weight) 모델에 대해 지도 미세조정(SFT) 및 Group Relative Policy Optimization(GRPO)을 평가한다. 결과는 PTC 기반 페르소나와 추론(reasoning)을 통합하면 프롬프트 전용 및 미세조정 설정 모두에서 모델 성능이 일관되게 향상됨을 보여주며, PTC 기반 페르소나 설계가 제도적 정책 이론과 해석 가능한 LLM 기반 정책 시뮬레이션 사이의 유용한 가교를 제공함을 시사한다. 코드는 https://github.com/xiaweijie1996/socialagent 에서 제공된다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.