확률적 프로그램의 기댓값 그래디언트를 추정하는 문제를 확률적 추론(probabilistic inference) 문제로 공식 환원하는 새로운 프레임워크인 그래디언트 추론(gradient inference)을 제안하며, 커플링(coupling)과 인수분해(factorization)라는 두 통계 연산을 핵심으로 한다. 이를 구현한 확률적 프로그래밍 시스템 GradInf는 소스-투-소스 변환과 정보 흐름 타이핑(information-flow typing)을 활용해 기존 주요 그래디언트 추정기들을 통합적으로 표현하고, 기존 최고 기준선을 능가하는 새로운 최첨단 추정기 구성을 가능하게 함을 다양한 사례 연구로 입증한다.
손실이 낮은 샘플을 역전파에서 제외하여 학습 비용을 줄이는 기존 선택적 역전파(selective backpropagation) 방법들이 그래디언트 편향을 유발하는 구조적 결함을 가짐을 증명하고, 이를 해결하기 위해 Horvitz-Thompson 역확률 가중치와 방어적 혼합 샘플링을 결합한 K-ABENA를 제안한다. 보정된 추정기(compensated estimator)는 전체 배치 SGD와 통계적으로 동등한 성능을 유지하면서 에폭당 그래디언트 연산을 28~54% 절감함을 이론적 수렴 보장과 실험을 통해 입증한다.
비교 오라클(comparison oracle)만으로 매끄러운 함수의 정규화된 그래디언트 방향을 검정·추정하는 문제를 다루며, 그래디언트 검정은 O(1)번, 방향 추정은 O(n log(1/ε))번의 쿼리로 달성하고 후자의 쿼리 복잡도가 최적임을 증명한다. 쿼리를 중첩(superposition) 상태로 수행할 수 있는 양자 비교 오라클 모델에서는 O(log(n/ε))번의 쿼리로 그래디언트를 추정하는 알고리즘을 제안한다.
파라미터화된 마르코프 연쇄 계열과 관련된 정상 평균들의 그래디언트(gradient)에 대한 무편향 추정을 위한 새로운 접근법을 제안합니다. 우리의 추정기는 마르코프 연쇄의 혼합 속도(mixing rate)가 느릴 때 특히 효율적입니다. 우리의 접근법은 주어진 데이터 점에서 천이 밀도(transition density)와 그 그래디언트(gradient)를 평가할 수 있는 오라클(oracle) 외에는 특정한 파라미터화를 요구하지 않으며, 밀도 함수 자체에 대한 추가적인 지식은 필요하지 않습니다. 이는 우리의 추정기를 신경망(neural network)과 관련된 파라미터화에 적합하게 만듭니다. 해당 추정기는 효율성 측면에서 큰 개선을 달성할 잠재력이 있습니다. 수치 실험을 통해 이론적으로 예측된 우수한 성능이 확인되었습니다.