비평활 서브모듈러-오목 함수의 오프라인 및 온라인 최소-최대 문제 해결: 영차(Zeroth-Order) 접근법
Solving the Offline and Online Min-Max Problem of Non-smooth Submodular-Concave Functions: A Zeroth-Order Approach
우리는 최소화 변수에 대해 서브모듈러(submodular)이고 최대화 변수에 대해 오목(concave)이며, 비평활(non-smooth)할 수 있는 목적 함수를 갖는 최대-최소(max-min) 및 최소-최대(min-max) 문제를 고려한다. 우리는 이 문제에 적용된 영차(zeroth-order) 방법의 성능을 조사한다. 이 방법은 최소화 변수에 대한 목적 함수의 로바스 확장(Lovász extension)의 서브그래디언트(subgradient)와, 최대화 변수에 대한 평활화된 함수의 그래디언트(gradient)를 추정하기 위한 가우시안 스무딩(Gaussian smoothing)에 기반한다. 기댓값의 의미에서, 우리는 오프라인의 경우 알고리즘이 ε-안장점(saddle point)으로 수렴(convergence)함을 증명한다. 더 나아가, 우리는 온라인 설정에서 기댓값의 의미로 알고리즘이 $O(\sqrt{N(1+\bar{P}_N)})$의 온라인 듀얼리티 갭(duality gap)을 달성함을 보인다. 여기서 $N$은 반복 횟수이고 $\bar{P}_N$은 최적 결정 시퀀스의 경로 길이(path length)이다. 모든 경우에 대한 복잡도 분석과 하이퍼파라미터(hyperparameter) 선택이 제시된다. 이론적 결과는 수치 예제를 통해 설명된다.