PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.10666v2cs.LG

적대적 학습된 신경망의 돌출도 맵 희소성에 대한 규명

Explaining the Saliency Map Sparsity of Adversarially-Trained Neural Networks

심층 신경망이 특정 예측을 수행하는 이유를 이해하는 것은 신경망의 안전한 배포를 위해 매우 중요합니다. 컴퓨터 비전(CV) 분야에서는 예측에 가장 큰 영향을 미치는 이미지 영역을 강조하는 돌출도 맵(saliency map)이 널리 사용되는 설명 방식으로 남아 있습니다. 한 가지 실증적 관찰 결과는 적대적 학습(adversarial training)된 신경망의 그래디언트 돌출도 맵에서 뚜렷한 희소성(sparsity)이 나타난다는 점입니다. 본 논문에서는 2개 층(layer) 렐루(ReLU) 네트워크를 대상으로 이러한 현상에 대한 이론적 설명을 제안합니다. 우리는 특정 손실 함수에서 유효한 것으로 밝혀진 적대적 학습과 가중치 감쇠(weight-decay) 페널티 및 적대적 전변동(total variation) 항이 추가된 경험적 위험 최소화 사이의 기존 동등성 관계를 기반으로 논의를 전개합니다. 데이터 포인트 수와 뉴런 수가 증가하고 정규화 매개변수가 적절한 비율로 0으로 수렴함에 따라, 최소화기(minimizer)가 최소 그래디언트 및 배런 노름(Barron norm)을 갖는 베이즈 분류기(Bayes classifier)로 수렴함을 증명합니다. $\ell_\infty$ 공격을 사용하는 적대적 학습의 경우 그래디언트 노름이 비등방적(anisotropic)이며 축에 정렬된/희소한 그래디언트를 선호하기 때문에 이러한 희소성이 나타납니다. 우리는 자연 학습된 모델과 적대적 학습된 모델의 그래디언트 $\ell_1$-노름 및 임계화된 희소성을 평가하여 이론적 발견을 실험적으로 제시합니다.

arXiv:2607.22525v1cs.AI

항공 교통 관제사 지원을 위한 설명 가능한 강화학습

Explainable Reinforcement Learning for assisting Air Traffic Controllers

의료, 자율 주행, 항공과 같은 고위험·임계 환경에 AI를 효과적으로 통합하고, 더 높은 수준의 자동화와 원활한 인간-AI 협업을 향해 나아가기 위해서는 AI 기반 솔루션에 대한 신뢰 구축이 필수적이다. 신뢰는 다시 AI 시스템의 설명 가능성(explainability)과 밀접하게 연결된다. 다양한 분야에서 AI의 급속한 발전은 신뢰 구축의 어려움을 부각시켰으며, 특히 심층 학습에 적용될 때 AI 설명 가능성에 대한 관심을 더욱 높였다. 이러한 맥락에서 본 연구는 강화학습(RL) 알고리즘, 특히 안전 임계(safety-critical) 영역인 항공 교통 관제(ATC)에서 설명 가능성 기법의 적용을 탐구하는 것을 목표로 한다. 단순화된 ATC 환경을 초기 테스트베드(testbed)로 사용하여, 지능형 에이전트가 강화학습 알고리즘으로 학습되어 비행 금지 구역을 회피하는 대체 항로에 대한 의사결정을 내리도록 한다. 예비적인 설명 가능성 접근법으로 saliency map을 사용하여, 에이전트의 의사결정 과정에 가장 크게 영향을 미치는 입력 특징(feature)에 대한 통찰을 제공한다.