논리 게이트만을 사용하여 동작하는 미분 가능한 논리 게이트 네트워크는 최근 기존 신경망의 효율적인 대안으로 주목받고 있습니다. 그러나 이러한 효율성에도 불구하고, 논리 게이트 네트워크의 스케일링(scaling) 동작은 여전히 충분히 연구되지 않았습니다. 이와 대조적으로 모델(model) 용량의 확장은 딥 신경망에서 핵심적인 설계 원칙이며 일반적으로 성능 향상으로 이어집니다. 이러한 차이는 중요한 질문을 제기합니다: 논리 게이트 네트워크에서도 유사한 스케일링 이점을 달성할 수 있는가? 본 연구에서는 너비(width)를 주요 스케일링 축으로 설정하고 논리 게이트 네트워크에서의 동작을 체계적으로 분석합니다. 분석 결과 단순한 너비 확장은 논리 커널(kernel) 간의 중복성을 유발하는 경우가 많아, 추가 커널의 효과적인 활용을 제한하고 성능 포화로 이어진다는 점을 관찰했습니다. 이러한 한계를 해결하기 위해 커널 그룹 간의 전문화를 유도하여 커널 활용을 재구성하는 동적 논리 커널 프레임워크를 제안합니다. 이를 통해 네트워크는 입력 의존적 커널 라우팅을 거쳐 증가된 너비를 더 잘 활용할 수 있으며, 추론(inference) 시 라우팅과 연산 모두 전적으로 게이트 수준의 불리언(Boolean) 연산으로 구현되도록 보장합니다. 나아가 커널 중복성이 첫 번째 게이트 레벨에서 가장 두드러진다는 점을 발견하고, 해당 레벨에 적응을 집중하는 초기 단계 동적 논리 커널 전략을 도입했습니다. 실험 결과는 제안하는 접근 방식이 커널 활용도를 개선하고 커널 다양성을 증대시켜, 향상된 매개변수(parameter) 효율성과 함께 더 높은 정확도를 달성함을 보여줍니다.
우리는 심층 미분 가능 논리 게이트 네트워크(LGN)와 룩업 테이블 네트워크(LUTN)의 연결에 대한 부분 및 완전 최적화를 위한 새로운 방법을 제안한다. 우리의 학습 방법은 각 게이트/룩업 테이블(LUT) 입력 핀당 연결 집합에 대한 확률 분포를 활용하여 가장 높은 merit를 가진 연결을 선택하는 동시에, 최적의 게이트 유형 또는 LUT 엔트리를 병렬로 학습한다. 우리는 연결이 최적화된 LGN이 Yin-Yang, MNIST 손글씨 숫자, Fashion-MNIST 벤치마크에서 표준 고정 연결 LGN을 능가하면서도 훨씬 적은 수의 논리 게이트만을 필요로 함을 보인다. 8000개의 게이트로 구성된 두 층으로 MNIST 데이터셋에서 98.92%를 달성하였으며, 단 한 층의 8000개 게이트만으로도 98.45%를 달성하여, 우리의 방법이 고정 연결 LGN에 비해 거의 50배 적은 게이트를 필요로 함을 보여준다. 높은 학습률, 직통 추정기(straight-through estimator), 상수 출력 게이트 유형의 트리밍을 적용하여 최대 10개 층까지의 학습 안정성을 확보하였다. 또한 역전파를 통한 안정적인 학습을 가능하게 하는 LUT 뉴런 표현을 제시하며, 최대 6층 깊이의 네트워크에서 테스트하였다. 이 모델은 고정 연결 LGN 학습 알고리즘과 비교하여 학습 가능한 파라미터가 4배 적으면서도 더 높은 정확도를 달성한다. 우리의 연결 학습 알고리즘은 LUTN에도 효과적으로 적용되어, 두 층의 2000개 6-입력 LUT 구성에서 98.88%의 정확도를 달성한다.
NAND, XOR 등 기본 논리 게이트 연산만으로 이미지 복원을 수행하는 최초의 논리 게이트 네트워크(LGN)인 LogicIR을 제안하며, UNet 기반 아키텍처에 미분 가능한 비트 디코딩 레이어와 인덱스 셔플링 메커니즘을 결합하여 경량 설계를 구현하였다. 여러 이미지 복원 벤치마크에서 LogicIR은 기존 이진 신경망(BNN) 및 룩업 테이블(LUT) 기반 방법 대비 현저히 적은 연산량(169.3G binary operations)으로 경쟁력 있는 성능(27.71 dB PSNR)을 달성하였다.