arXiv:2102.03012

A Serverless Cloud-Fog Platform for DNN-Based Video Analytics with Incremental Learning

Huaizheng Zhang, Meng Shen, Yizheng Huang, Yonggang Wen, Yong Luo, Guanyu Gao, Kyle Guan

제출 2021-02-05

원문 초록

DNN-based video analytics have empowered many new applications (e.g., automated retail). Meanwhile, the proliferation of fog devices provides developers with more design options to improve performance and save cost. To the best of our knowledge, this paper presents the first serverless system that takes full advantage of the client-fog-cloud synergy to better serve the DNN-based video analytics. Specifically, the system aims to achieve two goals: 1) Provide the optimal analytics results under the constraints of lower bandwidth usage and shorter round-trip time (RTT) by judiciously managing the computational and bandwidth resources deployed in the client, fog, and cloud environment. 2) Free developers from tedious administration and operation tasks, including DNN deployment, cloud and fog's resource management. To this end, we implement a holistic cloud-fog system referred to as VPaaS (Video-Platform-as-a-Service). VPaaS adopts serverless computing to enable developers to build a video analytics pipeline by simply programming a set of functions (e.g., model inference), which are then orchestrated to process videos through carefully designed modules. To save bandwidth and reduce RTT, VPaaS provides a new video streaming protocol that only sends low-quality video to the cloud. The state-of-the-art (SOTA) DNNs deployed at the cloud can identify regions of video frames that need further processing at the fog ends. At the fog ends, misidentified labels in these regions can be corrected using a light-weight DNN model. To address the data drift issues, we incorporate limited human feedback into the system to verify the results and adopt incremental learning to improve our system continuously. The evaluation demonstrates that VPaaS is superior to several SOTA systems: it maintains high accuracy while reducing bandwidth usage by up to 21%, RTT by up to 62.5%, and cloud monetary cost by up to 50%.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2606.21364v1cs.LG공통 태그 Incremental Learning, Management

멀티헤드 어텐션 트랜스포머와 온라인 학습을 활용한 예측적 수리 관리

Predictive Repair Management Using a Multi-Head Attention Transformer and Online Learning

수리 소요 시간의 정확한 예측은 자원 배분, 고객 만족, 운영 성능에 미치는 영향으로 인해 제품 유지보수에서 중요한 과제이다. 본 연구는 제품의 과거 데이터를 바탕으로 차량 수리점이 수리 시간을 정확하게 분류할 수 있도록 돕는 심층 학습 프레임워크를 개발하는 것을 목표로 한다. 본 연구는 자동차 수리 및 유지보수 데이터셋을 사용하고, 표 형식 데이터를 위해 설계된 멀티헤드 어텐션 네트워크를 활용하여 종단간 예측 프레임워크를 구축한다. 개발된 프레임워크는 임베딩과 어텐션 메커니즘을 통해 변환된 범주형 정보와 수치적 과거 데이터를 결합하여 다양한 데이터 특징의 통합 및 학습을 용이하게 한다. 대규모 데이터셋의 클래스 불균형 문제를 극복하기 위해 가중 손실 함수를 도입한다. 또한 변화하는 운영 환경에서 예측 정확도를 유지하기 위해 지속적인 점진적 모델 업데이트를 위한 온라인 학습 전략을 사용한다. 실험 결과, 멀티헤드 어텐션 메커니즘은 피드포워드 신경망 및 랜덤 포레스트 모델에 비해 차량 식별자와 수리 유형 간의 의미 있는 상호작용을 추출함을 보여준다. 또한 과거 유지보수 데이터와 온라인 학습 전략을 결합하면 변화하는 패턴에 대한 실시간 조정을 가능하게 하고 새 데이터에 대한 모델의 예측 성능을 향상시킨다. 모델은 2013년부터 2020년까지의 실제 수리 데이터에 대해 검증되며 78%의 정확도를 달성하고, 어텐션 가중치 분석이 특징 상호작용을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.