PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2605.01742v3cs.CV

반도체 IC 패키징을 위한 비전 트랜스포머의 구조-토큰-비트폭 결합 다축 최적화

Joint Architecture-Token-Bitwidth Multi-Axis Optimization of Vision Transformers for Semiconductor IC Packaging

비전 트랜스포머(ViT)는 시각적 인식에서 뛰어난 성능을 달성했지만, 자원이 제한된 산업 환경에서의 배포는 여전히 제한적입니다. 주요 과제는 높은 연산 비용, 메모리 요구량 및 에너지 소비입니다. 신경망 구조 탐색(NAS), 토큰 압축, 저정밀도 추론과 같은 개별 효율화 기법들이 널리 연구되어 왔으나, 대부분의 기존 연구는 단일 최적화 축만을 대상으로 하여 정확도를 유지하면서 전반적인 배포 이점을 얻는 데 한계가 있었습니다. 본 논문에서는 구조, 토큰, 비트폭이라는 상호 보완적인 세 가지 축을 결합하여 최적화하는 최초의 총체적 프레임워크 중 하나를 제시합니다. 구체적으로, 이 프레임워크는 신경망 구조 탐색(AutoFormer)을 통해 컴팩트한 백본을 식별하고, 토큰 병합(ToMe)을 통해 정보 처리를 줄이며, fp16 혼합 정밀도 추론을 통해 연산별 실행을 가속화합니다. 본 연구에서는 공격적인 압축 조건 하에서 ImageNet-1K에 대한 정확도-효율성 트레이드오프를 분석합니다. 그런 다음 선택된 구성들을 IC 칩 패키징 검사를 위한 실제 사내 3D X-ray 반도체 결함 분류 데이터셋에 적용합니다. 결과에 따르면 제안된 다축 프레임워크는 다운스트림 산업 작업에서 요구되는 정확도를 유지하면서 처리량을 10배 이상 향상시키고 매개변수 수, FLOPs, 에너지 소비를 10배 이상 절감합니다. 저자들이 아는 한, 이는 ViT에서 구조, 토큰, 비트폭 차원을 결합하여 최적화한 최초의 연구 중 하나이며, 반도체 제조에 맞춤화된 자원 효율적 배포 중심의 최초 연구입니다.