Efficient architecture for deep neural networks with heterogeneous sensitivity
원문 초록
This work presents a neural network that consists of nodes with heterogeneous sensitivity. Each node in a network is assigned a variable that determines the sensitivity with which it learns to perform a given task. The network is trained by a constrained optimization that maximizes the sparsity of the sensitivity variables while ensuring the network's performance. As a result, the network learns to perform a given task using only a small number of sensitive nodes. Insensitive nodes, the nodes with zero sensitivity, can be removed from a trained network to obtain a computationally efficient network. Removing zero-sensitivity nodes has no effect on the network's performance because the network has already been trained to perform the task without them. The regularization parameter used to solve the optimization problem is found simultaneously during the training of networks. To validate our approach, we design networks with computationally efficient architectures for various tasks such as autoregression, object recognition, facial expression recognition, and object detection using various datasets. In our experiments, the networks designed by the proposed method provide the same or higher performance but with far less computational complexity.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
DetFusion: A Detection-driven Infrared and Visible Image Fusion Network
방송 스누커 큐볼 식별을 위한 규칙 제약 할당
Rule-Constrained Assignment for Cue-Ball Identification in Broadcast Snooker
정확한 큐볼 식별은 방송 스누커의 계량(metric) 분석에 필수적이다. 기존 시스템은 고정된 흰색 프로토타입에 대해 각 후보를 독립적으로 평가하고, 외관 임계값을 초과하는 후보를 배제한다. 방송 환경에서는 조명 변화로 유색 공이 흰색처럼 보일 수 있으며, 선수와 장비의 침입이 큐볼을 가리거나 경쟁 후보를 유발할 수 있다. 우리는 큐볼 식별을 규칙 제약 할당 문제로 formulation하여, 탐지된 후보를 한정된 스누커 인벤토리—큐볼 1개, 최대 15개의 레드, 알려진 위치의 6색 공—에 공동으로 할당한다. 큐볼은 각 후보를 흰색 슬롯에 할당할 때의 증분(incremental) 비용으로 선택되며, 기존의 외관 검사는 단일 슬롯 경우에 해당한다. 수작업 주석 419샷에서 본 방법은 식별 정확도를 88.1%에서 95.5%로, 홀드아웃(hold-out) 경기장에서는 80.5%에서 95.2%로 향상시킨다. 계량 상태 복구 시스템 CueLift 내에서 할당은 6,241개의 득점 가능 샷에 대해 커버리지를 36.2%에서 55.4%로 확대한다. 2,529샷에 대한 별도 평가에서 모든 샷에 추정치를 할당해도 이 이점이 유지된다.
재귀 ArUco 마커: 무인항공기 착륙 패드를 위한 확장 가능한 피듀셜 마커 설계
Recursive ArUco Markers: A Scalable Fiducial Marker Design for Unmanned Aerial Vehicle Landing Pads
무인항공기(UAV)는 자율 항법 및 정밀 착륙을 위해 시각적 피듀셜 마커(fiducial marker)에 점점 더 의존하고 있다. 그러나 표준 마커는 운용 거리가 제한적이라, 카메라가 너무 멀거나 너무 가까울 때 탐지되지 않는다. 재귀 및 프랙탈(fractal) 마커가 이 문제를 해결하기 위해 제안되었지만, 기존 접근법은 마커의 중심이 계속 보여야 하여 가려짐(occlusion)에 취약하거나, 재귀 깊이와 배치에 제한이 있다. 우리는 새로운 재귀 ArUco 마커 설계를 제안한다. 우리 방법은 임의의 깊이를 갖는 재귀 마커로 어떤 표준 피듀셜 마커든 변환할 수 있게 한다. 탐지 시 수정된 비트 샘플링(bit-sampling) 전략을 사용하여, 부모 마커의 검은색과 흰색 비트 모두에 완전한 마커를 내장한다. 이 접근법은 마커의 중심이 보이는 것에 의존하지 않으므로, 부분적 가림이 있어도 무제한 재귀 깊이와 견고한 탐지를 보장한다. 또한 모든 재귀 스케일에서 단일 고유 식별자를 유지함으로써, 본 제안은 다수의 고유 착륙 패드를 포괄하는 광범위한 사전(dictionary)을 제공한다. 이 기능은 각 드론이 지정된 위치에 착륙하면서 UAV 무리가 동시에 운용되도록 하며, 이는 구조적 및 사전 제약으로 인해 기존 Fractal 및 Harco 마커가 지원하지 않는 기능이다.
데이터 준비를 위한 저품질 이미지 필터링
Filtering-out poor-quality images for data preparation
노이즈 필터링은 객체 분할, 검출, 인식과 같은 응용에서 이미지 품질을 향상시키는 데이터 준비의 기본적인 부분이다. 문헌에는 중간값, 가우시안, 양방향 필터 사용 등 다양한 노이즈 감소 기법이 제안되어 있다. 합성곱 신경망(CNN)은 데이터로부터 복잡한 패턴과 특징을 추출하는 능력 때문에 이미지 노이즈 제거에서 인기를 얻었다. CNN은 적응성이 높아 다양한 이미지 노이즈 제거 작업에 효과적인 도구이다. CNN 기반 기법의 단점 중 하나는 적절한 학습 데이터셋과 모든 이미지의 크기 조정이 필요하다는 것이다. 이러한 모든 필터링 기법의 또 다른 주목할 만한 단점은 특정 유형의 환경 및 카메라 노이즈에만 작동한다는 것이다. 이 연구 공백을 메우기 위해, 본 논문에서는 최초로 노이즈 제거 대신 다양한 환경 및 카메라 영향에 대한 저품질 이미지를 걸러내는 접근법을 제안한다. 우리의 접근법에서는 이미지 품질 평가(image quality assessment) 지표를 사용하여 품질을 평가하고, 최적 임계값을 사용하여 저품질 이미지를 걸러낸다. 또한 심층 학습(DL) 모델을 개발하기 위해 충분한 수의 이미지가 남도록 보장한다. 실제 및 시뮬레이션 교통 및 객체 인식 데이터를 사용한 결과는 제안 접근법이 최신(state-of-the-art) 접근법과 비교하여 성능 우위를 보여준다. 제안 접근법의 평균 인식 정확도는 교통 표지판 인식 데이터셋에서 93.8%, 객체 인식 데이터셋에서 84.9%이다. 이는 자율 주행 차량과 같은 실생활 응용에서 우리 모델의 잠재력을 나타낸다.
VocaDet: 시각적 토큰화와 벡터 데이터베이스 검색을 통한 샘플 기반 개방형 어휘 객체 검출 및 분할
VocaDet: Sample-Driven Open-Vocabulary Object Detection and Segmentation via Visual Tokenization and Vector Database Retrieval
개방형 어휘(open-vocabulary) 객체 검출 및 분할은 사전 정의된 카테고리를 넘어 임의의 객체를 인식하는 것을 목표로 한다. 최근 비전-언어(vision-language) 및 참조 기반 접근법들이 이 분야를 크게 발전시켰지만, 이러한 방법들은 텍스트 프롬프트, 제한된 시각적 예시, 또는 비용이 큰 특징 매칭 절차에 의존하는 경우가 많아 대규모로 지속적으로 확장되는 객체 저장소에 적용하기 어렵다. 본 연구에서는 모델 재학습 없이 사용자가 제공한 긍정 및 부정 샘플 컬렉션으로부터 객체 개념을 직접 학습하는 샘플 기반 개방형 어휘 객체 검출 및 분할 프레임워크인 VocaDet을 제안한다. 핵심 아이디어는 연속적인 시각적 표현을 이산적인 시각적 어휘로 변환하고, 확장 가능한 벡터 데이터베이스를 통해 효율적인 검색 기반 인식을 수행하는 것이다. 구체적으로, 시각적 특징 추출기로 DINOv3를 사용하고, 적응형 클러스터링 감도를 갖는 응집형 클러스터링(agglomerative clustering)을 적용하여 다중 세분성(multi-granularity) 시각적 토큰을 생성한다. 이러한 시각적 토큰은 위치 편향 제거 표현 및 공간 위상 정보와 함께 벡터 데이터베이스에 확장 가능한 객체 메모리로 저장된다. 추론 시, 쿼리 이미지를 시각적 토큰으로 변환하고 저장된 객체 메모리와 효율적으로 매칭하여 객체 위치 파악 및 분할을 수행한다. 또한 실제 고정 카메라 환경에서 빈번하게 등장하는 배경 패턴을 제거하고 중복 검색 연산을 줄이기 위한 배경 필터링 메커니즘을 도입하였다. UA-DETRAC 데이터셋에 대한 실험을 통해 VocaDet이 기존 검출기 학습 없이 효과적인 개방형 어휘 검출 성능을 달성하며, 추가적인 긍정 및 부정 샘플이 축적됨에 따라 지속적으로 확장 가능한 인식 능력을 지원함을 입증한다.
EfficientFER: EfficientNetv2 Based Deep Learning Approach for Facial Expression Recognition
토론
이 논문과 연결된 포럼 글이 아직 없습니다.