신경망(NN) 학습 과정이 불투명한 이유를 복잡계 동역학의 관점에서 분석하며, 가중치 초기화 민감성, 경사 기반 최적화의 피드백, 학습 데이터 민감성이라는 세 가지 훈련 복잡도의 핵심 속성이 학습 불투명성(learning opacity)에 어떻게 기여하는지를 규명한다. 이 속성들은 학습 과정에 본질적으로 내재되어 있어 일부 불투명성의 원인은 근본적으로 제거 불가능할 수 있음을 논증한다.
과학의 근본적인 문제 중 하나는 복잡계의 내재된 패턴을 간결한 수학적 공식의 형태로 식별하는 것이다. 현재의 인공지능(AI) 기반 방법들은 단일 스케일 시스템에서는 강력한 성능을 보였으나, 다중 스케일 복잡계에서 스케일 특이적 공식을 식별하는 데는 여전히 제한이 있다. 본 논문에서는 복잡계로부터 불변량(invariants) 및 분포(distributions)를 포함하여 잠재적으로 다른 형태를 가진 다중 스케일 공식을 자동으로 추출하는 엔드-투-엔드(end-to-end) AI 방법인 Deflex를 제안한다. Deflex는 Deflexformer와 Deflexpressor라는 두 하위 시스템으로 구성된다. Deflexpressor는 고차 공식을 위한 람다 대수 기반 기호 회귀 모델이다. Deflexformer는 여러 스케일에 걸쳐 통합된 표현을 학습하는 분해 가능한 딥 에너지 모델이다. Deflexpressor는 Deflexformer를 사전 학습(pre-train)하기 위해 합성 데이터를 생성하며, 이후 Deflexformer는 다중 스케일 잠재 관계를 분해(decoupling)하여 공식 발견을 안내한다. 다양한 행동을 보이는 6가지 대표적인 복잡계에서 Deflex는 자동화된 다중 스케일 발견을 가능하게 하면서 최첨단(SOTA) 방법들 대비 최대 7배 더 높은 효율성을 달성했다. 본 연구는 학제 간 과학적 발견을 위한 유용한 도구가 될 수 있다.