arXiv:2210.01727

Enhanced CNN with Global Features for Fault Diagnosis of Complex Chemical Processes

Qiugang Lu, Saif S. S. Al-Wahaibi

제출 2022-10-04

원문 초록

Convolutional neural network (CNN) models have been widely used for fault diagnosis of complex systems. However, traditional CNN models rely on small kernel filters to obtain local features from images. Thus, an excessively deep CNN is required to capture global features, which are critical for fault diagnosis of dynamical systems. In this work, we present an improved CNN that embeds global features (GF-CNN). Our method uses a multi-layer perceptron (MLP) for dimension reduction to directly extract global features and integrate them into the CNN. The advantage of this method is that both local and global patterns in images can be captured by a simple model architecture instead of establishing deep CNN models. The proposed method is applied to the fault diagnosis of the Tennessee Eastman process. Simulation results show that the GF-CNN can significantly improve the fault diagnosis performance compared to traditional CNN. The proposed method can also be applied to other areas such as computer vision and image processing.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2506.11641v2math.NA공통 태그 Dimensionality Reduction공식 코드 · Papers with Code

에카르트-영-슈미트 관점에서 본 심층 대칭 오토인코더

Deep Symmetric Autoencoders from the Eckart-Young-Schmidt Perspective

심층 오토인코더(deep autoencoder)는 차원 축소와 편미분 방정식의 차수 축소 모델링부터 이상치 탐지 및 신경망 기계 번역에 이르기까지 다양한 머신러닝 응용 분야에서 핵심적인 도구로 자리 잡았습니다. 이러한 실증적 성공에도 불구하고, 특히 고전적인 사영 기반 기법들과 비교했을 때 이들의 표현력에 대한 확고한 이론적 기반은 여전히 부족한 실정입니다. 본 연구에서는 최근 문헌에서 자주 등장하고 있는 광범위한 심층 학습(deep learning) 아키텍처 군인 대칭 오토인코더(symmetric autoencoder)에 대한 종합적인 분석을 제시하여 이러한 방향으로 한 걸음 나아가는 것을 목표로 합니다. 구체적으로, 서로 다른 대칭 아키텍처 군 간의 형식적 구분을 도입하고 수학적 관점에서 이들의 장점과 한계를 분석합니다. 예를 들어, 정규직교성(orthonormality) 제약 조건을 가진 대칭 오토인코더의 재구성 오차는 널리 알려진 에카르트-영-슈미트(EYS) 정리를 활용하여 이해할 수 있음을 보입니다. 또한 분석의 부산물로서, 특잇값 분해(SVD)의 반복 적용에 기반한 대칭 오토인코더용 EYS 초기화(initialization) 전략을 개발합니다. 연구 결과를 검증하기 위해 기존의 심층 오토인코더를 대상으로 제안 기법을 벤치마크하는 일련의 수치 실험을 수행하고, 모델(model) 설계 및 초기화의 중요성을 논의합니다.

arXiv:2505.18918v4stat.ML공통 태그 Dimensionality Reduction공식 코드 · Papers with Code

ALPCAHUS: 이분산성 데이터를 위한 부분공간 군집화

ALPCAHUS: Subspace Clustering for Heteroscedastic Data

주성분 분석(PCA)은 데이터 차원 축소 분야의 핵심 도구입니다. K-서브스페이스(KSS)와 같이 여러 부분공간에서 파생된 데이터를 군집화하기 위해, PCA를 부분공간 합집합(UoS) 설정으로 확장하는 다양한 방법들이 제안되어 왔습니다. 그러나 일부 응용 분야에서는 각 데이터 샘플과 관련된 노이즈 특성으로 인해 품질이 달라지는 이종(heterogeneous) 데이터를 다룹니다. 이분산성(heteroscedastic) 방법은 이러한 혼합된 데이터 품질을 처리하는 것을 목표로 합니다. 본 논문에서는 샘플별 노이즈 분산을 추정하고 이 정보를 활용하여 데이터의 저차원(low-rank) 구조와 관련된 부분공간 기저(subspace bases) 추정을 개선할 수 있는, ALPCAHUS라는 이분산성 기반 부분공간 군집화(subspace clustering) 방법을 개발합니다. 이 군집화 알고리즘은 UoS 설정에서 이분산성 노이즈를 갖는 군집을 위해 최근 제안된 이분산성 PCA 방법인 LR-ALPCAH를 확장함으로써 K-서브스페이스(KSS) 원리를 기반으로 구축됩니다. 시뮬레이션 및 실제 데이터 실험을 통해 기존 군집화 알고리즘 대비 데이터의 이분산성을 고려하는 것의 효과성을 입증합니다. 코드는 https://github.com/javiersc1/ALPCAHUS 에서 이용 가능합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.