arXiv:2206.11894

MaskViT: Masked Visual Pre-Training for Video Prediction

Agrim Gupta, Stephen Tian, Yunzhi Zhang, Jiajun Wu, Roberto Martín-Martín, Li Fei-Fei

제출 2022-06-23

원문 초록

The ability to predict future visual observations conditioned on past observations and motor commands can enable embodied agents to plan solutions to a variety of tasks in complex environments. This work shows that we can create good video prediction models by pre-training transformers via masked visual modeling. Our approach, named MaskViT, is based on two simple design decisions. First, for memory and training efficiency, we use two types of window attention: spatial and spatiotemporal. Second, during training, we mask a variable percentage of tokens instead of a fixed mask ratio. For inference, MaskViT generates all tokens via iterative refinement where we incrementally decrease the masking ratio following a mask scheduling function. On several datasets we demonstrate that MaskViT outperforms prior works in video prediction, is parameter efficient, and can generate high-resolution videos (256x256). Further, we demonstrate the benefits of inference speedup (up to 512x) due to iterative decoding by using MaskViT for planning on a real robot. Our work suggests that we can endow embodied agents with powerful predictive models by leveraging the general framework of masked visual modeling with minimal domain knowledge.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.02442v1cs.LG공통 태그 Prediction, Scheduling

AI 기반 열 인지형 데이터 센터 용량 계획

AI-driven Thermal-aware Data Center Capacity Planning

대규모 언어 모델(LLM)의 등장은 데이터 센터의 열 관리에 중대한 도전 과제를 안겨주었습니다. LLM을 위한 집중적인 GPU 연산은 국소적인 핫스팟(hotspot)을 발생시킵니다. 더욱이 학습(training) 및 추론(inference) 급증 시 발생하는 급격한 열 부하 변동은 실시간 냉각 대응을 예측하고 제어하기를 더욱 어렵게 만듭니다. 데이터 센터의 열 인지형(thermal-aware) 용량 계획에는 막대한 비용이 드는 고정밀 CFD 시뮬레이션이 다수 필요합니다. AI 모델은 이전에 보지 못한 설계에 대해서도 실시간 예측을 수행할 수 있습니다. 그러나 기존 연구들은 예측 오차가 크거나 데이터 센터 운영에 대해 지나치게 단순화된 가정을 두고 있습니다. 본 연구에서는 실제 데이터 센터를 대상으로 수 초 만에 열 인지형 용량 계획을 수행할 수 있는 AI 기반 프레임워크를 제시합니다. 내장된 AI 모델은 수많은 주요 파라미터(랙 전력, 서버 전력, 서버 배치, HVAC 설정 등)로부터 학습하며, 수 밀리초 이내에 온도 예측을 제공합니다. 이 AI 모델을 고정밀 CFD 시뮬레이션을 기준으로 검증한 결과, 보지 못한 새로운 데이터 센터 설계에 대해서도 10,000배의 속도 향상과 함께 높은 정확도를 달성할 수 있음을 보여줍니다. 저자들은 이 AI 모델을 바탕으로 열 인지형 용량 계획 프레임워크를 설계했습니다. 이 프레임워크는 데이터 센터 설계자와 운영자가 워크로드 분배와 HVAC 냉각 효율을 즉각적으로 최적화할 수 있도록 지원합니다.

arXiv:2607.22400v1cs.NI공통 태그 Prediction, Scheduling

자율 엣지 자원 할당을 위한 자기 보정 에이전틱 AI 프레임워크

A Self-Calibrating Agentic AI Framework for Autonomous Edge Resource Allocation

대규모 언어 모델(LLM)은 점점 더 자율 에이전트로 배포되며, 정적 대화형 인터페이스에서 복잡한 추론, 도구 실행, 의사결정이 가능한 동적 시스템으로 전환되고 있다. 그러나 이러한 에이전틱 AI 시스템의 운영 신뢰성은 개방형 환경에서 신뢰할 수 있는 ground truth(기준 진실값)의 부재와 시간이 지남에 따라 운영 드리프트가 증가할 위험에 의해 근본적으로 도전받는다. 이 문제를 해결하기 위해, LLM 기반 시스템 내에서 자율적 무결성을 강제하도록 설계된 에이전틱 AI 프레임워크를 제안하고 실험적으로 평가한다. 우리는 지속적인 인간 감독 없이 ARIMA 예측기(forecaster)를 통합하여 드리프트를 완화하고 ground truth를 동적으로 근사하는 자기 보정(self-calibration) 메커니즘을 설계한다. 방법론의 효과와 신뢰성을 입증하기 위해, 엣지 컴퓨팅 네트워크에서 영지식(zero-knowledge) 워크로드의 자원 사용량 프로파일링이라는 복잡한 영역에 이를 적용한다. 실험 결과, 제안된 자기 보정 에이전틱 프레임워크가 영지식 워크로드를 성공적으로 프로파일링하며, 자원 사용량 예측에서 기준선 LLM 에이전트보다 91.7% 더 높은 정확도를 달성하고, 순수 프로파일링 대비 예측 속도를 71.7% 개선하여, 분산 인프라에 자율 AI를 배포하기 위한 견고한 기반을 마련함을 보여준다. 또한, 제안된 ARIMA leaping 알고리즘을 사용한 ground truth 생성은 동일한 정확도를 달성하면서 표준 ARIMA 예측 알고리즘보다 52% 더 빠르다.

arXiv:2608.23986v4math.OC공통 태그 Scheduling

지능의 그림자 가격: LLM 추론에서의 품질 저하와 재시도 피드백

The Shadow Price of Intelligence: Quality Degradation and Retry Feedback in LLM Inference

대규모 언어 모델 제공자는 연산 자원이 제약되어 있으며, 혼잡에 대한 일반적인 대응은 서비스를 저하시키는 것이다. 즉, 질의를 더 작은 모델로 라우팅하거나, 추론 예산을 줄이거나, 컨텍스트 윈도를 단축한다. 만족스럽지 못한 답을 받은 사용자는 재시도하여 시스템이 바쁜 동안 부하를 늘리거나, 이탈하여 잠재적으로 고객 이탈로 이어진다. 우리는 추론 서비스를 서비스 품질이 제공자의 의사결정인 제어 문제로 모델링한다. 재시도를 서비스율에 포함한 2국면 유체 근사는 닫힌 형태의 궤적과 교차 시간을 제공하므로, 품질 등급에 대한 동적 계획법에 시뮬레이션이 필요하지 않다. 우리는 더 약한 등급이 작업당 에너지는 덜 쓰지만 작업당 용량은 더 쓰는 영역을 규명하고, 유체 모델에서 그러한 등급으로의 반응적 스로틀링이 큐가 해소되지 못하게 할 수 있음을 보인다. 이질적인 고객이 있는 경우 이 문제는 재시도로 부풀려진 용량 계수를 갖는 수송 문제가 되며, 최적 라우팅은 $c\mu$ 유형의 지수를 따르고, 용량 제약의 쌍대는 클래스와 시간별로 질의 하나를 더 처리하는 한계 비용을 제공한다. 우리는 공개 벤치마크 데이터로 보정한 다섯 가지 사례에서 이 방법을 예시한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.