심층 신경망(neural network)은 계층화된 수치 변환을 통해 높은 정확도를 달성하지만, 결정 근거가 명시적 규칙이 아닌 은닉 활성화에 인코딩되어 있어 결정을 검증하기 어렵습니다. 본 논문에서는 이진 신경망 교사 모델의 마지막 층(layer) 활성화 벡터(LLAV)를 세틀린 머신(TM) 절(clause)로 재구성하는 프레임워크인 CRISP를 소개합니다. CRISP는 교사 모델의 마지막 직전 층 로짓(logit) 전 활성화를 부호 기준 이진화하고, 각 LLAV 뉴런에 개별 TM(ITM)을 하나씩 할당합니다. 재구성된 각 은닉 비트는 불리언화(Booleanized)된 입력 특성에 대한 명제 절로 표현되어, 명명된 입력 임계값에서 명명된 교사 뉴런까지의 직접적인 기호적 추적을 제공합니다. CRISP는 BinaryConnect 합성곱 신경망(BCCNN) 교사 모델과 완전 이진 신경망(BNN) 교사 모델을 사용하여 MNIST, KMNIST, FashionMNIST(FMNIST), SVHN, CIFAR10에서 평가되었으며, 다양한 비트 심도에서의 이진 임계값 처리, 서모미터 인코딩(thermometer encoding), 사분위수 비닝(quartile binning)에 대한 추가 연구도 수행되었습니다. 실험 결과에 따르면 테스트된 BNN 설정에서 LLAV 부호 이진화는 교사 헤드 정확도를 저하시키지 않는 반면, ITM 재구성 오차가 주된 제한 요인인 것으로 나타났습니다. 사분위수 1비트 불리언화는 SVHN에서 87.52%의 테스트 충실도로 가장 높은 재구성 충실도를 보였고 CIFAR10에서도 경쟁력 있는 성능을 보였으며, 재구성된 LLAV는 FMNIST에서 78.41%의 교사 헤드 정확도를 유지했습니다. 풀링된 절-근거 시각화는 학습된 ITM 리터럴(literal)이 중앙 집중형 벤치마크에서 객체 영역에 집중됨을 보여줍니다. 따라서 CRISP는 이진 신경망 교사 모델의 최종 은닉 표현을 검사할 수 있는 절 수준의 경로를 제공합니다.
LUTNet, LogicNets 등 기존 그래디언트 기반 LUT 신경망들이 각자의 학습 파이프라인과 평가 방식을 갖고 있어 직접 비교가 불가능한 문제를 해결하기 위해, BitLogic은 해당 분야를 인코더·연결성·팬인·노드 파라미터화·헤드의 5축 설계 공간으로 통합하고 모든 기존 방법을 단일 학습·평가 프로토콜 하에 구현한다. 축별 최적 설계를 조합한 새로운 최적 구성은 MNIST, Fashion-MNIST, CIFAR-10, CIFAR-100 전반에서 모든 기존 방법을 능가하며, FPGA에서 약 126 MSamples/s의 처리량으로 GPU 대비 약 15배의 성능을 4~5자릿수 낮은 에너지 소비로 달성한다.
EeveeDark는 이진 신경망(BNN) 아키텍처를 활용해 센서 수준 RAW 데이터와 이벤트 스트림을 융합함으로써 극단적 저조도 환경에서 효율적인 비디오 향상을 달성하는 프레임워크로, 모달리티별 이진 인코더, 경량 융합 블록, 이벤트 기반 스킵 게이팅 메커니즘을 포함한다. 합성 및 실제 데이터셋 실험에서 기존 BNN 기반 방법(BBCU, BRVE)을 크게 능가하며 완전 정밀도 모델 대비 우수한 성능-효율성 트레이드오프를 제공함을 입증했다.
6-DoF LiDAR 기반 국지화는 대규모 실외 환경에서 작동하는 자율 시스템의 핵심 기능이다. 지금까지 많은 딥러닝 기반 국지화 방법이 유망한 성능을 달성해 왔다. 그러나 항상 켜져 있는(always-on) 모듈 중 하나로서 제한된 온보드(on-board) 연산 자원을 두고 경쟁하는 국지화 모듈은 전체 연산 예산의 일부만 소비할 것으로 기대된다. 대부분의 기존 학습 기반 방법은 이 목적에는 여전히 너무 무겁다. 반면 이진 신경망(binary neural network, BNN)은 매력적인 해결책을 제공하지만, 1-bit 압축은 심각한 정보 손실과 성능 저하를 초래한다. 본 논문에서는 6-DoF LiDAR 국지화를 위한 최초의 이진 신경망 프레임워크인 Binarized LiDAR-based Localization(BiLoc)을 제안하여 이 과제를 해결한다. 구체적으로, 우리는 정보 병목(information-bottleneck) 원리의 관점에서 BNN의 학습을 재해석하여, 포즈 추정(pose estimation)에 필요한 최소하면서도 충분한 표현을 유지하고 중복 변동을 억제하는 것을 목표로 한다. 또한 이진 인코더에서 정보 보존을 적응적으로 조절하는 보조 목적 함수를 도입하여, 이진화(binarization)로 인한 정보 손실을 효과적으로 완화한다. 이 보조 목적 함수는 BNN에 내재된 제한된 표현 용량과 그래디언트 불일치를 보상하는 추가 최적화 신호를 제공한다. 대규모 실외 LiDAR 데이터셋에 대한 광범위한 실험을 통해 BiLoc이 BNN을 이용한 LiDAR 국지화에서 새로운 최첨단(state of the art) 성능을 확립함을 보여준다.