Reflections on Disentanglement and the Latent Space
원문 초록
The latent space of image generative models is a multi-dimensional space of compressed hidden visual knowledge. Its entity captivates computer scientists, digital artists, and media scholars alike. Latent space has become an aesthetic category in AI art, inspiring artistic techniques such as the latent space walk, exemplified by the works of Mario Klingemann and others. It is also viewed as cultural snapshots, encoding rich representations of our visual world. This paper proposes a double view of the latent space, as a multi-dimensional archive of culture and as a multi-dimensional space of potentiality. The paper discusses disentanglement as a method to elucidate the double nature of the space and as an interpretative direction to exploit its organization in human terms. The paper compares the role of disentanglement as potentiality to that of conditioning, as imagination, and confronts this interpretation with the philosophy of Deleuzian potentiality and Hume's imagination. Lastly, this paper notes the difference between traditional generative models and recent architectures.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
Streaming 4D Visual Geometry Transformer
Simple is what you need for efficient and accurate medical image segmentation
Adversarial Disentanglement by Backpropagation with Physics-Informed Variational Autoencoder
Dual-View Disentangled Multi-Intent Learning for Enhanced Collaborative Filtering
Time Series Forecasting as Reasoning: A Slow-Thinking Approach with Reinforced LLMs
시간 시계열 예측(Time Series Forecasting, TSF)을 발전시키기 위해, 예측 정확도를 향상시키기 위한 다양한 방법이 제안되었으며, 이는 통계 기법에서 데이터 기반의 심층 학습 아키텍처로 발전해왔습니다. 이러한 방법들이 효과적임에도 불구하고, 대부분의 기존 방법은 여전히 빠른 사고 패러다임에 의존하고 있으며, 이는 역사적 패턴을 추출하고 이를 미래 값에 매핑하는 것을 핵심 모델링 철학으로 삼고 있어 중간 시간 시계열 추론을 포함한 명시적인 사고 과정을 결여하고 있습니다. 한편, 새로운 느린 사고 대규모 언어 모델(LLM)들(예: OpenAI-o1)은 놀라운 다단계 추론 능력을 보여주며, 이러한 문제를 극복할 수 있는 대안을 제공합니다. 그러나 프롬프트 엔지니어링만으로는 높은 계산 비용, 개인 정보 위험, 그리고 심층 도메인 특화된 시간 시계열 추론에 대한 제한된 능력 등 여러 가지 한계가 존재합니다. 이러한 한계를 해결하기 위해, LLM이 느린 사고 능력을 개발하고 강력한 시간 시계열 추론 기술을 습득하도록 훈련하는 것이 더 유망한 접근 방식입니다. 이를 위해, 우리는 시간 시계열 예측을 위한 LLM의 다단계 추론 능력을 향상시키기 위해 설계된 두 단계 강화 파인튜닝 프레임워크인 Time-R1을 제안합니다. 구체적으로, 첫 번째 단계에서는 워밍업 적응을 위한 감독된 파인튜닝을 수행하고, 두 번째 단계에서는 모델의 일반화 능력을 향상시키기 위해 강화 학습을 적용합니다. 특히, 우리는 시간 시계열 예측을 위해 특별히 설계된 세분화된 다목적 보상을 설계하고, 비균일 샘플링을 활용하여 모델의 효과적인 추론 경로 탐색을 더욱 장려하고 최적화하는 GRIP(정책 최적화를 위한 그룹 기반 상대 중요도)를 도입합니다. 실험 결과, Time-R1은 다양한 데이터셋에서 예측 성능을 크게 향상시키는 것으로 나타났습니다.
Instruction-Tuned Video-Audio Models Elucidate Functional Specialization in the Brain
토론
이 논문과 연결된 포럼 글이 아직 없습니다.