arXiv:2304.04964

A priori compression of convolutional neural networks for wave simulators

Hamza Boukraichi, Nissrine Akkari, Fabien Casenave, David Ryckelynck

제출 2023-04-11

원문 초록

Convolutional neural networks are now seeing widespread use in a variety of fields, including image classification, facial and object recognition, medical imaging analysis, and many more. In addition, there are applications such as physics-informed simulators in which accurate forecasts in real time with a minimal lag are required. The present neural network designs include millions of parameters, which makes it difficult to install such complex models on devices that have limited memory. Compression techniques might be able to resolve these issues by decreasing the size of CNN models that are created by reducing the number of parameters that contribute to the complexity of the models. We propose a compressed tensor format of convolutional layer, a priori, before the training of the neural network. 3-way kernels or 2-way kernels in convolutional layers are replaced by one-way fiters. The overfitting phenomena will be reduced also. The time needed to make predictions or time required for training using the original Convolutional Neural Networks model would be cut significantly if there were fewer parameters to deal with. In this paper we present a method of a priori compressing convolutional neural networks for finite element (FE) predictions of physical data. Afterwards we validate our a priori compressed models on physical data from a FE model solving a 2D wave equation. We show that the proposed convolutinal compression technique achieves equivalent performance as classical convolutional layers with fewer trainable parameters and lower memory footprint.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.22897v1cs.CV공통 태그 image-classification, Object Recognition

Scout: 엣지 디바이스에서의 오픈월드 종 인식

Scout: Open-World Species Recognition on the Edge

대규모 비전-언어 모델(VLM)은 고정된 클래스 집합을 넘어서는 인식을 가능하게 하지만, 높은 연산 요구량으로 인해 많은 엣지 디바이스에서는 실행할 수 없다. 클라우드 오프로드(cloud offload)를 통해 이러한 기능을 활용할 수 있지만, 모든 이미지를 전송하는 것은 제한된 대역폭과 통신 에너지를 소모한다. 우리는 엄격한 연산량, 에너지, 대역폭 예산 안에서 VLM의 오픈월드 인식 능력을 엣지로 가져오는 방법을 탐구한다. 야생동물 모니터링은 배포 시점에 알려지지 않은 종을 카메라 트랩이 마주치기 때문에 이 문제를 탐구하기에 자연스러운 환경을 제공한다. 우리는 클라우드 VLM을 간헐적으로 호출하여 소형 엣지 모델에 새로운 클래스를 학습시키는 자율적 오픈월드 인식 시스템인 Scout를 제시한다. 배포 위치와 (개체가 없는) 빈 현장 프레임만 주어지면, Scout는 사전 정의된 종 목록, 사람에 의한 레이블링, 수동 튜닝 없이도 VLM이 식별한 각 종을 자원 효율적인 엣지 모델 내의 지속적이고 현장 조건부(site-conditioned) 인식 능력으로 자율적으로 전환한다. NVIDIA Jetson Orin Nano 상에서 세 개 지역에 걸친 30개의 카메라 트랩 배포 환경에서, Scout의 정확도는 사전 정의된 종 목록이 주어진 모델 대비 0.1~2.5% 이내로 유지된다. 초기 클래스 집합에 포함되지 않은 종에 대해서는 Scout가 53.7~59.1%의 정확도를 달성하며, 이는 전체 클라우드 오프로드의 56.5~65.1%와 비교되는 수치이고, 동시에 배포 에너지는 59~71% 더 적게 사용한다.

arXiv:2607.12352v1cs.CV공통 태그 Image Classification, Object Recognition

데이터 준비를 위한 저품질 이미지 필터링

Filtering-out poor-quality images for data preparation

노이즈 필터링은 객체 분할, 검출, 인식과 같은 응용에서 이미지 품질을 향상시키는 데이터 준비의 기본적인 부분이다. 문헌에는 중간값, 가우시안, 양방향 필터 사용 등 다양한 노이즈 감소 기법이 제안되어 있다. 합성곱 신경망(CNN)은 데이터로부터 복잡한 패턴과 특징을 추출하는 능력 때문에 이미지 노이즈 제거에서 인기를 얻었다. CNN은 적응성이 높아 다양한 이미지 노이즈 제거 작업에 효과적인 도구이다. CNN 기반 기법의 단점 중 하나는 적절한 학습 데이터셋과 모든 이미지의 크기 조정이 필요하다는 것이다. 이러한 모든 필터링 기법의 또 다른 주목할 만한 단점은 특정 유형의 환경 및 카메라 노이즈에만 작동한다는 것이다. 이 연구 공백을 메우기 위해, 본 논문에서는 최초로 노이즈 제거 대신 다양한 환경 및 카메라 영향에 대한 저품질 이미지를 걸러내는 접근법을 제안한다. 우리의 접근법에서는 이미지 품질 평가(image quality assessment) 지표를 사용하여 품질을 평가하고, 최적 임계값을 사용하여 저품질 이미지를 걸러낸다. 또한 심층 학습(DL) 모델을 개발하기 위해 충분한 수의 이미지가 남도록 보장한다. 실제 및 시뮬레이션 교통 및 객체 인식 데이터를 사용한 결과는 제안 접근법이 최신(state-of-the-art) 접근법과 비교하여 성능 우위를 보여준다. 제안 접근법의 평균 인식 정확도는 교통 표지판 인식 데이터셋에서 93.8%, 객체 인식 데이터셋에서 84.9%이다. 이는 자율 주행 차량과 같은 실생활 응용에서 우리 모델의 잠재력을 나타낸다.

arXiv:2607.12881v1cs.CV공통 태그 image-classification, Image Classification

억제적 셀프-어텐션: 비전 트랜스포머에서 초점 선명화

Inhibited Self-Attention: Sharpening Focus in Vision Transformers

비전 트랜스포머(ViT)는 컴퓨터 비전(CV) 과제에서 뛰어난 성능을 보여 왔다. 그러나 셀프-어텐션 메커니즘은 종종 배경 영역 전반에 초점을 분산시키며, 객체 관련 단서보다는 가짜 상관관계에 의존하는 경향이 있다. 생물학적 시각 시스템에서 관찰되는 억제 메커니즘에서 영감을 받아, 억제 신호를 통합하여 특징 선택성을 높이고 가짜 반응을 억제하는 새로운 셀프-어텐션인 억제적 셀프-어텐션(ISA)을 제안한다. 소프트맥스 정규화로 인해 양의 어텐션 값에만 의존하는 기존 셀프-어텐션과 달리, 우리 접근법은 음의 어텐션 점수를 유지하고 활용하여 무관한 특징을 억제하고 관심 객체에 대한 초점을 선명하게 한다. ImageNet-1k와 COCO를 포함한 여러 데이터셋과 여러 견고성 벤치마크에 걸친 실험은 ISA가 객체 중심 선택성을 높이고, 지름길 의존을 줄이며, 분포 외 일반화를 개선함을 보여 준다. 관련성 맵 분석은 ISA를 적용한 ViT가 객체 관련 영역에 더 선명하고 국소화된 초점을 보이면서 무관한(배경) 특징으로부터의 방해를 줄여 더 신뢰할 수 있는 모델을 가능하게 함을 확인한다. 코드는 https://github.com/prdvanderwal/inhibited-self-attention 에서 공개한다.

arXiv:2607.10851v1cs.CV공통 태그 image-classification, Image Classification

집중 학습: 의료 이미지 분류를 위한 해부학 유도 어텐션 정규화

Learning To Focus: Anatomy-Guided Attention Regularization for Medical Image Classification

의료 이미지 분류 모델은 예측 시 진단적으로 관련된 영역을 식별하는 것이 이상적으로 기대되지만, 표준 분류 손실은 공간적 감독을 거의 제공하지 않는다. 과제 관련 해부학의 분할 마스크와 같은 해부학적 형태 정보를 통한 명시적 감독은 네트워크를 목표 예측에 관련된 영역으로 유도하는 것으로 나타났다. 그러나 이러한 마스크를 획득하는 데는 상당한 수동 어노테이션 노력과 계산 오버헤드가 수반된다. 다양한 영상 모달리티에서 해부학적 구조를 강력하게 위치 파악하는 분할 파운데이션 모델의 등장으로, 우리는 전용 분할 모델을 학습하는 부담 없이 해부학적 형태 사전 정보를 추출하기 위해 이 능력을 활용한다. 본 논문에서는 사전학습된 분할 파운데이션 모델을 활용하여 다양한 영상 모달리티에서 분류기의 어텐션을 진단적으로 의미 있는 해부학적 구조로 유도하는 해부학적 어텐션 정규화 프레임워크인 Locus를 제안한다. 파운데이션 모델에서 도출된 마스크와의 픽셀 단위 정렬을 강제하는 대신, 해부학적(전경) 영역과 배경 영역 사이의 어텐션을 적응적으로 균형 조정하는 정규화 항을 도입하여 배경 어텐션이 지배적일 때 분류기에 페널티를 부여한다. 우리는 피부경검사, X선, 조직병리학, 심장 MRI를 포괄하는 8개의 다양한 의료 영상 데이터셋에서 Locus를 검증하여, 향상된 해부학적 근거 어텐션과 함께 분류 성능의 일관된 향상을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.