arXiv:1809.02362

A proof that artificial neural networks overcome the curse of dimensionality in the numerical approximation of Black-Scholes partial differential equations

Philipp Grohs, Fabian Hornung, Arnulf Jentzen, Philippe von Wurstemberger

제출 2018-09-07

원문 초록

Artificial neural networks (ANNs) have very successfully been used in numerical simulations for a series of computational problems ranging from image classification/image recognition, speech recognition, time series analysis, game intelligence, and computational advertising to numerical approximations of partial differential equations (PDEs). Such numerical simulations suggest that ANNs have the capacity to very efficiently approximate high-dimensional functions and, especially, indicate that ANNs seem to admit the fundamental power to overcome the curse of dimensionality when approximating the high-dimensional functions appearing in the above named computational problems. There are a series of rigorous mathematical approximation results for ANNs in the scientific literature. Some of them prove convergence without convergence rates and some even rigorously establish convergence rates but there are only a few special cases where mathematical results can rigorously explain the empirical success of ANNs when approximating high-dimensional functions. The key contribution of this article is to disclose that ANNs can efficiently approximate high-dimensional functions in the case of numerical approximations of Black-Scholes PDEs. More precisely, this work reveals that the number of required parameters of an ANN to approximate the solution of the Black-Scholes PDE grows at most polynomially in both the reciprocal of the prescribed approximation accuracy $\varepsilon > 0$ and the PDE dimension $d \in \mathbb{N}$. We thereby prove, for the first time, that ANNs do indeed overcome the curse of dimensionality in the numerical approximation of Black-Scholes PDEs.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.27409v1cs.LG공통 태그 Speech Recognition, Image Classification

생물 다양성 모니터링을 위한 능동 학습: 라벨 효율에서 신뢰 가능한 생태학적 추론까지

Active Learning for Biodiversity Monitoring: From Label Efficiency to Reliable Ecological Inference

전문가 어노테이션 역량의 한계는 생물 다양성 모니터링에서 흔한 제약이다. 수동 음향 기록 장치와 카메라 트랩은 전문가가 분석할 수 있는 속도보다 빠르게 데이터를 생성한다. 기계 학습(ML) 모델은 이러한 데이터를 대규모로 처리할 수 있지만, 그 신뢰성은 라벨이 붙은 표본의 품질, 양, 커버리지에 달려 있어 전문가 시간은 여전히 병목이다. 능동 학습(active learning, AL)은 고정된 어노테이션 예산 하에서 모델을 가장 크게 개선할 것으로 기대되는 표본을 선택함으로씨 이 병목을 완화하며, 발표된 근거에 따르면 목표 성능에 도달하는 데 필요한 라벨 수를 줄일 수 있다. 그러나 모니터링 프로그램은 더 넓은 질문에 직면한다: 제한된 전문가 예산을 어떻게 나누어야 모델 학습, 검증, 그리고 모델 출력에 기반한 생태 추정이 모두 신뢰 가능하게 유지되는가? AL은 표본을 비무작위로 선택하므로, 그 라벨은 검증, 보정(calibration), 또는 임계값 선택에 적합하지 않으며, 이 긴장은 드물게 인식된다. 우리는 음향 및 영상 양식에 걸친 AL 연구를 종합하고 공백과 기회를 식별한다. 대부분의 연구는 시뮬레이션 어노테이터를 사용한 사전 라벨 벤치마크에서 쿼리 전략을 평가하며, 실제 모니터링 워크플로에서의 배포는 드물고 조류와 고래류에 집중되어 있다. 박쥐, 곤충, 양서류, 어류는 과소 대표되며, 멀티모달 응용은 대체로 미탐색 상태이다. 평가는 어노테이션 노력의 헤드라인 감소에 초점을 맞추는 경우가 많고, 무작위 샘플링 베이스라인, 클래스별 결과, 또는 보정 분석 없이, 검증에 필요한 라벨을 거의 반영하지 않는다. 우리는 이러한 예산 결정을 명시적으로 드러내는 AL 루프에 대한 튜토리얼적 정리를 제공하고, 라벨 효율적 학습, 검증, 신뢰할 수 있는 하류 생태학적 추론을 지원하는 AL 방법을 향한 로드맵을 제시한다.

arXiv:2609.28183v1cs.CV공통 태그 Time Series Analysis, Image Classification

생체 인식 식별을 위한 심전도 신호 기반 대표 형태 히트맵

From ECG Signals to Representative-Morphology Heatmaps for Biometric Recognition

심전도(ECG)는 생체 인식(biometric recognition)을 지원하는 대상자 고유의 형태학적 특성을 포함하고 있으나, 이미지 기반 성능은 파형(waveform)이 어떻게 렌더링되는지에 따라 달라집니다. 본 논문에서는 ECGXtractor를 기반으로 변형한 결정론적 ECG-투-이미지 표현 방식인 대표 형태 히트맵(representative-morphology heatmaps)을 소개합니다. 정렬된 10개 박동으로 구성된 각 블록 내에서 블록 평균에 가장 가까운 5개 박동을 평균화하여 400 × L 행렬로 구성한 뒤, 기존의 트레이스(trace) 형태 또는 심장 시간-리드(cardiac-time-by-lead) 밀집 히트맵으로 렌더링합니다. 두 표현 모두 동일한 생리학적 샘플을 포함하므로, 이들의 비교를 통해 렌더링 방식의 효과만을 분리하여 분석할 수 있습니다. 본 연구에서는 PTB, ECG-ID, MIMIC-IV-ECG-DEMO 데이터셋에서 검증(verification) 및 닫힌 집합 식별(closed-set identification) 성능을 평가(evaluation)합니다. ZACH-ViT를 포함한 5개의 소형 모델을 처음부터 학습(training from scratch)시키는 한편, ImageNet 사전학습(pre-training)된 6개의 CNN 및 트랜스포머(transformer) 백본을 통해 모델 규모와 시각적 전이 성능을 평가합니다. 15개의 모든 소형 모델-데이터셋 비교에서 히트맵은 FNMR 동작점 및 두 식별 순위 모두를 향상시켰으며, 14개 비교에서는 EER을 개선했습니다. 짝을 이룬 실험 전반에서 EER은 평균 9.59%p 감소했고 Rank-1은 24.69%p 증가했습니다. ConvNeXt-Tiny는 PTB에서 2.43%, ECG-ID에서 5.79%의 EER을 달성한 반면, DeiT-Base는 MIMIC-DEMO에서 14.92%를 기록했습니다. ImageNet 초기화(initialization)는 두 다중 리드(multilead) 데이터셋에는 분명한 이점을 주었으나 ECG-ID에서는 복합적인 영향을 미쳤으며, 성능이 모델 크기에 따라 단조롭게 증가하지는 않았습니다. 최고의 히트맵 시스템들은 PTB와 ECG-ID에서 가장 강력한 신호 도메인 EER에 근접했으며, DeiT-Base는 MIMIC-DEMO에서 평가된 성능 중 가장 높은 성능을 보였습니다. 리드-채널 절제 연구(ablation study)는 유용한 채널 조합이 집단(cohort)과 생체 인식 작업에 따라 달라진다는 점을 추가로 보여줍니다. 전반적으로 대표 형태 히트맵은 심전도 검증 및 식별을 위한 효과적인 이미지 표현을 제공합니다.

arXiv:2609.24453v1cs.AI공통 태그 image-classification, Time Series Analysis

식사 이미지, 임상 변수, 장내 미생물군 정보를 이용한 식후 혈당 반응 예측

Predicting Postprandial Glycemic Response from Meal Images, Clinical Variables, and Gut Microbiome Information

식후 혈당 반응(postprandial glycemic response, PPGR) 예측은 맞춤형 영양과 2형 당뇨 관리의 기본이지만, 기존 접근법은 대개 수동으로 보고된 식이 섭취에 의존하여 일상 생활 환경에서의 확장성을 제한한다. 본 연구는 수동 식이 기록을 이미지 기반 대사영양소 추정으로 대체하고, 이를 임상 변수 및 장내 미생물군 정보와 통합하여 맞춤형 PPGR 예측을 수행하는 멀티모달 프레임워크를 제안한다. 이 프레임워크는 이미지 기반 대사영양소 추정과 혈당 예측을 공동으로 수행하며, 어텐션 기반 예측 모듈이 식이 정보와 숙주 특이적 정보 간 상호작용을 모델링한다. 제안 방법을 식사 이미지, 연속 혈당 모니터링, 임상 변수, 장내 미생물군 프로필을 포함하는 실세계 데이터셋에서 평가하였다. 제안 모델은 이미지 기반 영양 입력을 사용하는 기존 PPGR 베이스라인을 능가하며, 자동 추정 영양 정보를 사용함에도 수동 보고 대사영양소에 의존하는 방법의 성능에 근접하였다. 이러한 결과는 이미지 기반 영양 정보와 보완적인 임상 및 장내 미생물군 정보를 결합하는 것이 확장 가능한 맞춤형 PPGR 예측을 위한 실용적 토대를 제공함을 보여준다.

arXiv:2609.22295v1cs.CV공통 태그 Speech Recognition, Image Classification

이벤트 스트림의 시간 양자화에서 견고성-해상도 트레이드오프

On The Robustness-Resolution Tradeoff In Temporal Quantization Of Event Streams

이벤트 파이프라인은 종종 학습 전에 비동기 타임스탬프를 이산화한다. 이 단계는 무해해 보이지만, 안정성은 시간 해상도에 직접적으로 의존한다. 우리는 표현 수준에서 이러한 의존성을 연구한다. 먼저 경직된 시간 빈ning(hard temporal binning)이 불연속임을 보인다. 경계 근처에서 임의로 작은 타임스탬프 이동만으로도 단위 이벤트 질량이 빈(bin) 사이로 이동할 수 있다. 이어서 비음(nonnegative), 질량 보존(mass-preserving), 해상도 충실(resolution-faithful) 연속 인코더의 한 클래스를 정의하고, 이 클래스에 속하는 모든 인코더의 전역 L1 민감도(sensitivity)가 최소 2/Δ(Δ는 빈 너비)임을 증명한다. 선형 2-bin 보간이 이 한계에 도달한다. 국소 지지(local support)와 1차 모멘트 보존(first-moment preservation) 또한 이를 유일하게 만든다. SHD, N-MNIST, DVS128 Gesture에서의 실험이 분석을 뒷받침한다. 균일한 타임스탬프 예산 전반에서 선형 보간은 평균 표현 drift를 47–72% 낮추면서 clean 정확도는 거의 변하지 않게 유지한다. DVS Gesture에서는 테스트된 모든 예산과 세 개의 시드에 걸쳐 예측 전환(prediction flip)이 0이다. SHD에서는 측정된 drift가 R² = 0.992와 함께 1/Δ를 따른다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.