멀티헤드 어텐션 트랜스포머와 온라인 학습을 활용한 예측적 수리 관리
Predictive Repair Management Using a Multi-Head Attention Transformer and Online Learning
한국어 초록
수리 소요 시간의 정확한 예측은 자원 배분, 고객 만족, 운영 성능에 미치는 영향으로 인해 제품 유지보수에서 중요한 과제이다. 본 연구는 제품의 과거 데이터를 바탕으로 차량 수리점이 수리 시간을 정확하게 분류할 수 있도록 돕는 심층 학습 프레임워크를 개발하는 것을 목표로 한다. 본 연구는 자동차 수리 및 유지보수 데이터셋을 사용하고, 표 형식 데이터를 위해 설계된 멀티헤드 어텐션 네트워크를 활용하여 종단간 예측 프레임워크를 구축한다. 개발된 프레임워크는 임베딩과 어텐션 메커니즘을 통해 변환된 범주형 정보와 수치적 과거 데이터를 결합하여 다양한 데이터 특징의 통합 및 학습을 용이하게 한다. 대규모 데이터셋의 클래스 불균형 문제를 극복하기 위해 가중 손실 함수를 도입한다. 또한 변화하는 운영 환경에서 예측 정확도를 유지하기 위해 지속적인 점진적 모델 업데이트를 위한 온라인 학습 전략을 사용한다. 실험 결과, 멀티헤드 어텐션 메커니즘은 피드포워드 신경망 및 랜덤 포레스트 모델에 비해 차량 식별자와 수리 유형 간의 의미 있는 상호작용을 추출함을 보여준다. 또한 과거 유지보수 데이터와 온라인 학습 전략을 결합하면 변화하는 패턴에 대한 실시간 조정을 가능하게 하고 새 데이터에 대한 모델의 예측 성능을 향상시킨다. 모델은 2013년부터 2020년까지의 실제 수리 데이터에 대해 검증되며 78%의 정확도를 달성하고, 어텐션 가중치 분석이 특징 상호작용을 보여준다.
원문 초록
Accurate prediction of repair duration is an important challenge in product maintenance due to its implications for resource allocation, customer satisfaction, and operational performance. This study aims to develop a deep learning framework to help fleet repair shops accurately categorize repair time given product historical data. The study uses an automobile repair and maintenance dataset and creates an end-to-end predictive framework by employing a multi-head attention network designed for tabular data. The developed framework combines categorical information, transformed through embeddings and attention mechanisms, with numerical historical data to facilitate integration and learning from diverse data features. A weighted loss function is introduced to overcome class imbalance issues in large datasets. Moreover, an online learning strategy is used for continuous incremental model updates to maintain predictive accuracy in evolving operational environments. Our empirical findings demonstrate that the multi-head attention mechanism extracts meaningful interactions between vehicle identifiers and repair types compared to a feed-forward neural network and a random forest model. Also, combining historical maintenance data with an online learning strategy facilitates real-time adjustments to changing patterns and increases the model's predictive performance on new data. The model is tested on real-world repair data spanning 2013 to 2020 and achieves an accuracy of 78%, with attention weight analyses illustrating feature interactions.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.21364v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
Metapath-guided Heterogeneous Graph Neural Network for Intent Recommendation
SelectArena: 실제 환경 정형 데이터를 위한 특징 선택 현대적 벤치마크
SelectArena: A Modern Benchmark for Feature Selection on Real-world Tabular Data
정형 데이터셋(tabular dataset)에서 특징(특성/열)의 하위 집합을 선택하는 것은 실제 응용 분야 전반에서 흔히 마주하는 과제입니다. 산업계 전문가들은 모델 학습(training) 비용을 최소화하고자 하며, 기후 과학자들은 극단적 기상 현상을 이해하기 위해 해석 가능한 요인들의 부분집합을 필요로 하고, 임상의들은 비용 및 시간 제약으로 인해 진단 검사 항목 중 일부를 선택해야 합니다. 어떤 특징 선택(feature selection) 방법을 사용해야 할지 결정하기 위해 학술 문헌을 살펴볼 때, 다양한 분야의 실무자들은 실제 현실을 제대로 반영하지 못하는 벤치마킹 환경과 마주하게 됩니다. 광범위한 연구에도 불구하고, 기존 특징 선택 벤치마크들은 구식 모델, 임시방편적 평가(evaluation) 프로토콜, 또는 실제 문제를 반영하지 못하는 인위적으로 생성된 데이터에 의존하여 유용한 지침을 제공하는 데 한계가 있었습니다. 이러한 과학적 벤치마킹과 실제 응용 사이의 격차를 해소하기 위해, 본 연구에서는 현대적인 특징 선택 벤치마크인 SelectArena를 소개합니다. 본 논문에서는 분류(classification) 및 회귀 문제를 포괄하는 엄선된 71개의 실제 정형 데이터셋을 대상으로, 표준화된 평가 프로토콜과 최신 정형 (파운데이션) 모델을 활용하여 널리 사용되는 15가지 특징 선택 방법을 비교합니다. 실험 결과는 예측 성능, 실행 시간, 안정성, 유효성 전반에서 명확한 트레이드오프를 보여줍니다. 트리 기반 방법인 CART 및 RFImportance와 F-검정(F-Test)은 예측 성능과 실행 시간을 종합적으로 고려했을 때 파레토 최적(Pareto-optimal)인 것으로 나타났습니다. F-검정, 정보 이론 기반 방법, 거리 기반 방법은 안정성과 유효성 측면에서 앞섰으며, 특히 F-검정은 모든 평가 지표에서 균형 잡힌 선택지로 부상했습니다. 탐색 기반 방법들은 느리고 불안정하며 낮은 성능을 보였습니다. SelectArena는 이러한 연구 결과를 실질적인 지침으로 전환하고, 확장 가능한 플랫폼으로서 향후 특징 선택 연구를 지원합니다.
SMART HEALTHCARE PREDICTION MANAGEMENT SYSTEM PROJECT.
Open-World Social Event Classification
STMGCN: Mobile Edge Computing-Empowered Vessel Trajectory Prediction Using Spatio-Temporal Multigraph Convolutional Network
Spatio-Temporal-Categorical Graph Neural Networks for Fine-Grained Multi-Incident Co-Prediction
토론
이 논문과 연결된 포럼 글이 아직 없습니다.