arXiv:2611.21691v1 cs.LG

AdaFlowLite: 비동기 모바일 데이터에 대한 확장 가능하고 비차단적인 추론

AdaFlowLite: Scalable and Non-blocking Inference on Asynchronous Mobile Data

Sicong Liu, Fengmin Wu, Yuan Gao, Bin Guo, Zimu Zhou, Hongkai Wen, Zhiwen Yu

제출 2026-11-18

한국어 초록

LiDAR와 카메라 등 다수의 센서를 갖춘 모바일 기기의 증가로 스마트 캐빈과 운전 보조 같은 분산 센싱 과제에 멀티모달 딥 인텔리전스가 도입되고 있다. 그러나 모바일 센서 데이터의 도착 시간은 모달리티 크기와 네트워크 동태에 따라 달라, 느린 데이터를 기다리면 지연이, 기다리지 않고 추론을 진행하면 정확도 저하가 발생할 수 있다. 더욱이 모바일 시스템의 다양성과 동적 특성이 이 문제를 악화시킨다. 이에 대응하여 우리는 비동기 분산 멀티모달 데이터에 대해 부분 데이터가 도착하는 즉시 추론을 가능하게 하는 \textit{기회주의적} 추론으로의 전환을 제시한다. 기존 방법은 모달 친화도로 알려진 모달리티 일관성과 상보성의 최적화에 초점을 두지만, 개방형 모바일 환경에서 이 친화도를 제어하는 \textit{계산적} 접근은 부족하다. \sysname은 계층적 분석 기반 정규화 행렬을 사용하여 모바일 맥락에서 구조화된 교차 모달리티 친화도를 정식화하는 데 선도적이다. 이 접근은 모달리티의 다양성과 동태를 수용하며, 입력의 종류와 개수에 걸쳐 일반화된다. 멀티모달 경량 Swin Transformer(MMLST)를 사용하여 \sysname은 재학습 없이 다양한 모달리티와 하위 과제에 적응하는 실시간의 유연한 데이터 대체(imputation)를 가능하게 한다. 실험에서 \sysname은 추론 지연을 최대 80.4% 줄이고 정확도를 최대 62.1% 향상시키며 에너지 소비를 거의 50% 절감하여 기존 접근을 능가한다. 또한 이 방법은 비동기 데이터를 전처리하는 LLM의 성능을 향상시킬 수 있다.

원문 초록

The rise of mobile devices equipped with numerous sensors, such as LiDAR and cameras, has driven the adoption of multi-modal deep intelligence for distributed sensing tasks, such as smart cabins and driving assistance. However, the arrival time of mobile sensory data vary due to modality size and network dynamics, which can lead to delays (if waiting for slow data) or accuracy decline (if inference proceeds without waiting). Moreover, the diversity and dynamic nature of mobile systems exacerbate this challenge. In response, we present a shift to \textit{opportunistic} inference for asynchronous distributed multi-modal data, enabling inference as soon as partial data arrives. While existing methods focus on optimizing modality consistency and complementarity, known as modal affinity, they lack a \textit{computational} approach to control this affinity in open-world mobile environments. % \sysname pioneers the formulation of structured cross-modality affinity in mobile contexts using a hierarchical analysis-based normalized matrix. This approach accommodates the diversity and dynamics of modalities, generalizing across different types and numbers of inputs. Employing an multi-modal lightweight Swin Transformer (MMLST), \sysname facilitates real-time and flexible data imputation, adapting to various modalities and downstream tasks without retraining. Experiments show that \sysname significantly reduces inference latency by up to 80.4\% and enhances accuracy by up to 62.1\%, while achieving nearly a 50\% reduction in energy consumption, outperforming status quo approaches. Also, this method can enhance LLM performance to preprocess asynchronous data.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.21691v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.