예측 코딩 네트워크(predictive coding networks, PCN)는 역전파로 학습된 네트워크가 제공하지 못하는 특성들을 제공할 것으로 기대된다: 순수하게 지역적인 정보로부터의 학습, 판별과 생성을 모두 수행하는 단일 네트워크, 그리고 에너지 최소화를 통한 유연한 추론이다. 그러나 이러한 반복적 추론은 비용이 크기 때문에 하드웨어 가속이 바람직하며, 유용하고 효율적인 가속기는 깊이(depth)와 공격적인 양자화를 모두 필요로 한다. 전형적인 상태 기반(state-based) PC는 이 둘 중 어느 것도 제공하지 못한다: 추론 신호가 층이 깊어질수록 지수적으로 감쇠하여 깊은 모델이 학습에 실패하며, 낮은 정밀도는 이를 더욱 악화시킨다. 우리는 최근 제안된 두 가지 방법을 결합하면 PCN의 전체 특성 집합을 깊고 4비트인 영역까지 유지할 수 있음을 보인다: 판별과 생성을 통합하는 양방향 PC(bidirectional PC, bPC)와, 추론 과정에서 상태가 아니라 예측 오차를 최적화하는 오류 기반 재매개변수화(error-based reparameterization, ePC)가 그것이다. 오류 최적화는 단일 역방향 패스로 모든 층에 출력 신호를 전달하여 신호 감쇠를 제거하며, 오류 기울기(error gradient)에 대한 전역 노름 클리핑(global-norm clipping)이라는 추가 요소 하나가 깊은 층에서도 오류 역학을 안정화시킨다. 그 결과로 얻어진 ePC+bPC 모델은 최소 8개 층까지 안정적으로 학습되며, FP4와 세 가지 포짓(posit) 형식에 걸친 W4A4E4 양자화 인식 학습(quantization-aware training) 하에서도 전정밀도(full-precision) 수준의 정확도와 깨끗한 클래스 조건부 생성을 유지한다. 상태 기반 bPC가 무작위 수준으로 붕괴하는 6개 층 네트워크에서, ePC+bPC는 1 에포크의 학습 후 정확도가 50 포인트 이상 더 높았으며, 클래스 조건부 생성은 RMSE 기준으로 5~9배 더 우수했다. 4비트 양자화는 거의 비용이 들지 않는다: 전정밀도와 4비트 정확도의 차이는 최대 약 5포인트이며, 성능이 가장 우수한 형식에서는 2포인트 미만이다. 우리는 이 방법이 극복하는 두 가지 실패 모드, 즉 상태 기반 PC에서의 제한된 신호 감쇠와 정규화되지 않은 오류 최적화에서의 오류 발산(error divergence)을 규명하고, 4비트 네이티브 PCN 가속기에 대한 함의를 논의한다.
포워드-포워드(Forward-Forward, FF) 알고리즘은 순수하게 국소적인 층(layer)별 최적화를 통해 신경망을 학습(training)시킴으로써 역전파(backpropagation, BP)에 대한 계산 효율적이며 생물학적으로 타당한 대안을 제공합니다. 그러나 FF는 대조적인 양성-음성 샘플 쌍을 통한 분류(classification)를 목적으로 본질적으로 설계되었으며, 이를 회귀로 확장하는 데에는 근본적인 난제들이 존재합니다. 즉, 연속적인 타깃 공간에는 대조 학습을 위한 자연스러운 "반대(opposites)"가 결여되어 있고, 표준 적합도(goodness) 함수는 타깃의 크기나 순서에 대한 정보를 담고 있지 않습니다. 본 논문에서는 우리가 아는 한 FF를 실제 회귀 문제로 확장하고 다양한 실제 데이터셋에 걸쳐 경쟁력 있는 성능을 입증한 최초의 프레임워크인 FFR(Forward-Forward for Regression)을 제안합니다. FFR은 세 가지 핵심적인 혁신을 도입합니다: (1) 대조 쌍 대신 거리 인식 순서형 감독 하에서 분할된 뉴런 그룹 간의 경쟁 학습을 활용하는 순서형 경쟁 적합도 함수, (2) 얕은 층은 거친 순서 구분을 학습하고 깊은 층은 미세 회귀로 정제하며 층간 협업을 위한 다중 스케일 특징(feature) 집계를 포함하는 계층화된 사다리 아키텍처, (3) 다중 스케일 예측기가 공동으로 강건한 예측과 1회 전달(single-pass) 불확실성 점수를 제공하는 불확실성 추정을 동반한 계층적 예측. 광범위한 실험 결과는 FFR이 6개의 실제 회귀 벤치마크에서 BP 정확도의 평균 98.5%를 회복하는 동시에, 최대 학습 메모리를 깊이 8에서 BP의 27%, 깊이 32에서 BP의 8% 수준으로 절감하고 반복(iteration)당 시간을 BP의 약 72% 수준으로 단축하며, 모든 무역전파(BP-free) 경쟁 모델들을 크게 능가함을 보여줍니다.
로컬 학습(local learning)은 전역 역전파(global backward pass) 없이 각 층(layer)을 자체 보조 손실(loss)로 학습(training)하므로 층 업데이트를 구조적으로 병렬화할 수 있게 합니다. 그러나 깊이가 깊어질수록 정확도가 저하되고 하이퍼파라미터가 취약하다는 두 가지 문제로 인해 비주류에 머물러 있었습니다. 본 연구에서는 기존에 연구되지 않았던 교집합 영역으로서, 층별 로컬 업데이트에 Muon 스타일의 스펙트럼 업데이트 기하학(스펙트럼 스텝 스케일링을 결합한 모멘텀 직교화)을 적용합니다. 로컬 선형 헤드를 갖춘 CIFAR-10 MLP 벤치마크(benchmark)에서, 로컬 Adam은 너비와 깊이 두 축 모두에서 재튜닝이 필요하고 깊이 48에서는 여전히 붕괴(깊이별 재튜닝 시 31.3%, 깊이 12 설정을 전이했을 때 19%, 반면 스펙트럼 업데이트는 변경되지 않은 설정에서 42.7%)하는 반면, 스펙트럼 업데이트는 단일 스텝 크기 설정만으로 테스트된 너비 128~2048 및 깊이 12~48 격자에서 최적의 값을 보였습니다. 5개의 시드와 너비 512에서 스펙트럼 업데이트는 로컬 Adam을 뚜렷한 마진(margin)으로 앞섭니다(48.9 +/- 0.5 대 46.6 +/- 0.3). 전향적으로 명시된 대조 실험을 통해 이러한 전이 성능과 대부분의 깊이 강건성이 그 위의 어떤 스텝 크기 규칙보다는 스펙트럼 기하학 자체에 기인함을 확인했습니다. 추가로 스텝 크기를 드리프트 계약(drift contract), 즉 lr = epsilon / RMS(input)으로 정형화하여, 현재 입력을 조건으로 각 층의 스텝당 가중치(weight) 유도 사전 활성화(pre-activation) 변화를 제한합니다. 이 계약은 해당 기준선(baseline)이 측정된 지점에서 최적의 고정 학습률(learning rate) 대비 약간의 성능 향상을 가져오고, 스텝 크기를 해석 가능하게 만들며, 표준 최적화(optimization) 도구가 제공하지 못하는 층별·입력 조건부 드리프트 한계를 제공합니다. 한 가지 부정적 결과도 보고합니다. 트렁크(trunk)에 RMSNorm과 가중치 감쇠(weight decay)가 포함된 경우 스펙트럼 업데이트의 안정성 이점은 로컬 학습이 아닌 전역 학습에 귀속되므로, 로컬 학습의 이점은 정확히 정규화(normalization)가 부재한 곳에 집중됩니다.
예측 코딩(PC)은 국소적 가중치 업데이트를 통해 역전파에 대한 생물학적으로 동기 부여된 대안을 제시하지만, 층 간 오류 전달은 여전히 자동 미분 야코비안 전치($J^\top$) 곱에 의존하며, 이는 PC에서 마지막 비국소 연산이다. 우리는 이 의존성이 대체로 피할 수 있음을 보인다. 정규화 통계가 고정된 임의의 층 $f(x)=\mathrm{Act}(\mathrm{Norm}(L(x)))$에 대해, 정확한 $J^\top$는 세 가지 국소적으로 이용 가능한 항으로 분해되며, $J^\top v = L^\top(s \odot σ'(z) \odot v)$이고, 여기서 $σ'$는 활성화 도함수, $z$는 사전 활성화, $s=γ/σ_{\mathrm{run}}$는 정규화 이득이다. 기존 가중치 피드백 방법들은 두 보정을 모두 생략했다; 이를 복원하면 이 층 클래스에 대해 전달 간극을 메운다. 여기서 국소성은 우리가 미리 명시하는 세 가지 가정 하에서 성립한다: 가중치 대칭($L^\top$가 순방향 연산자를 반영하며, 모든 PC에서 가정하는 것과 같음), 시냅스-국소적이지 않은 부드러운 스펙트럴 노름 제어, MaxPool에 대한 최근접 이웃 근사. 동일식을 PC에 대입하면 WF-Act-PC가 되며, 이는 오류 전달에서 자동 미분 역방향 패스를 제거한다. CIFAR-10/100(50 epoch, 5 seed)에서 WF-Act-PC는 깊이가 증가할수록 정확도가 향상되는 유일한 PC 방법이며, CIFAR-10에서 가장 강력한 고전 PC 기준선인 iPC를 2.7-22.3 pp만큼 능가한다. 아키텍처별로 두 방법을 모두 튜닝했을 때, 더 깊은 CIFAR-10 아키텍처(VGG-9: 93.57% vs. 92.43%; ResNet-18: 92.76% vs. 91.54%)와 더 어려운 Tiny-ImageNet 벤치마크에서 동등하게 튜닝된 역전파 기준선과 동등하거나 이를 초과하며, 더 깊은 CIFAR-100 VGG 셀에서는 튜닝된 BP에 뒤처진다. WF-Act-PC 구현은 https://github.com/jlshen025/pcax 에서 공개적으로 이용 가능하다.
예측 코딩 네트워크(PCN)는 오차 역전파(backprop)에 대한 생물학적으로 타당한, 지역 학습 대안을 제공한다. 그럼에도 이들은 대체로 얕은 아키텍처에 국한되어 왔으며 단순한 기계 지능 벤치마크에서 평가되어 왔다. PCN을 스케일링하는 데 있어 핵심 장애물은 학습 신호가 고정(clamped)된 경계로부터 멀어질수록 빠르게 감쇠하여 내부 층이 사실상 변하지 않는다는 점이다. 이 문제에 직접 대응하기 위해, 우리는 선택된 은닉 상태를 고정된 출력 오류에 직접 결합하는 피드백 행렬 $V_{L\to i}$로 예측 코딩(PC)의 기반이 되는 자유 에너지 함수를 신경 구조를 변경하여 보강하는 방식인 하이웨이 오류 전파(HEP)를 제안한다. 은닉 상태에 대한 이 결합이 선형이므로, 하이웨이 경로는 깊이와 무관한 크기의 보정을 매 추론 단계에서 전달하는데, 이는 출력 오류가 깊이에 대해 지수적으로 감쇠하는 감쇠와 함께 $i$번째 은닉층에 도달하는 vanilla PC와 대조된다. 이는 야코비안 연쇄를 우회하면서 지역 PC 시냅스 갱신 규칙을 보존한다. MNIST와 Fashion-MNIST에서, 우리는 HEP가 깊이에 대해 강건한 정확도로 최대 128층 MLP를 효과적으로 학습시킨다는 것을 보인다.
현대 심층 신경망 아키텍처는 역전파를 통해 학습되는데, 이는 파라미터를 업데이트하기 전에 오류가 모든 층을 통해 순차적으로 전파되어야 함을 요구한다. 이로 인해 두 가지 제약이 발생한다: 층별 업데이트가 엄격히 상호 의존적이어서 병렬로 진행할 수 없는 잠금(locking) 문제, 그리고 정확한 그래디언트 계산을 위해 대칭적인 순방향 및 역방향 경로를 요구하는 가중치 전달(weight transport) 문제이다. 이러한 제약들은 병렬성을 제한하고 메모리 및 통신 오버헤드를 증가시키며 확장 가능한 학습에 어려움을 초래한다. 본 연구에서는 계층적 블록-로컬 학습(HBLL, Hierarchical Block-Local Learning)을 제안한다. 이는 심층 신경망을 변분 원리에서 도출된 로컬 학습 목표를 사용해 학습되는 계층적으로 연결된 블록으로 분해하는 프레임워크로, 네트워크 전반에 걸쳐 효과적인 정보 전파를 유지하면서 완전한 엔드-투-엔드 역전파의 필요성을 제거한다. HBLL은 층의 수를 $N$이라 할 때 $\mathcal{O}(\log N)$ 병렬 시간 복잡도로 심층 신경망을 학습할 수 있는 최초의 알고리즘이다. HBLL이 서로 다른 계층적 경로에 대응하는 서브네트워크 계열을 암묵적으로 정의함을 보이며, 이를 통해 유효 층 수를 달리하는 유연한 추론이 가능하다. 비전 및 언어 모델링 태스크로 구성된 도전적인 벤치마크에서 HBLL을 평가하여 경쟁력 있는 성능을 달성하였다. 또한 HBLL을 순환 시퀀스 아키텍처로 확장하여 시간에 따른 역전파(backpropagation through time)에 의존하는 환경에도 적용하였다.