CIM-Explorer를 이용한 RRAM 크로스바에서의 이진 및 삼진 신경망 추론 최적화
Optimizing Binary and Ternary Neural Network Inference on RRAM Crossbars using CIM-Explorer
메모리 내 연산(Computing-in-Memory, CIM) 아키텍처에서 저항형 랜덤 액세스 메모리(Resistive Random Access Memory, RRAM) 크로스바를 사용하는 것은 폰 노이만 병목을 극복하기 위한 유망한 해법을 제공한다. 셀 변동성과 같은 비이상적 특성으로 인해 RRAM 크로스바는 종종 저저항 상태(Low Resistive State, LRS)와 고저항 상태(High Resistive State, HRS)라는 두 가지 상태만을 활용하는 이진 모드로 동작한다. 이진 신경망(Binary Neural Networks, BNN)과 삼진 신경망(Ternary Neural Networks, TNN)은 효율적인 매핑 덕분에 이러한 하드웨어에 잘 적합하다. RRAM 기반 CIM을 위한 기존 소프트웨어 프로젝트는 일반적으로 컴파일, 시뮬레이션, 또는 설계 공간 탐색(Design Space Exploration, DSE) 중 한 측면만을 다룬다. 게다가 이들은 종종 기존의 8비트 양자화에 의존한다. 이러한 한계를 해결하기 위해, 우리는 RRAM 크로스바에서 BNN 및 TNN 추론을 최적화하기 위한 모듈형 툴킷인 CIM-Explorer를 제안한다. CIM-Explorer는 엔드투엔드 컴파일러 스택, 다양한 매핑 옵션, 시뮬레이터를 포함하여, 서로 다른 크로스바 파라미터와 매핑에 걸친 정확도 추정을 위한 DSE 흐름을 가능하게 한다. CIM-Explorer는 특정 크로스바 파라미터에 대한 초기 정확도 추정부터 적절한 매핑 선택, 최종화된 크로스바 칩을 위한 BNN 및 TNN 컴파일에 이르기까지 전체 설계 과정을 함께할 수 있다. DSE 사례 연구에서, 우리는 다양한 매핑과 크로스바 파라미터에 대한 기대 정확도를 보여준다. CIM-Explorer는 GitHub에서 확인할 수 있다.