타원형 인터페이스 문제를 위한 하이브리드 반복 Deep Ritz 방법
A Hybrid Iterative Deep Ritz Method for Elliptic Interface Problems
한국어 초록
본 연구에서는 2차 타원 연산자에 대한 일류 인터페이스 문제를 위해 하이브리드 반복 Deep Ritz 방법(H-IDRM)을 제안한다. 이 방법은 문제의 새로운 혼합 형식에 기반하며, 일련의 볼록 최소화 문제를 풀는 과정을 포함한다. 해와 플럭스의 구간별 매끄러움을 수용하기 위해, 인터페이스의 level-set 표현을 특징으로 하는 level-set 신경망 아키텍처를 사용한다. 이 접근법은 인터페이스에서의 쌍대 쌍짓(duality pairing) 대신 체적 표현만을 사용하며, 복잡한 인터페이스 기하에서 불편한 명시적 인터페이스 샘플링을 피한다. 또한 신경망 근사, Monte Carlo 근사, 반복 scheme, 페널티 매개변수에서 기인하는 오차를 포함하여 방법에 대한 분석을 제시한다. 수치 실험 결과, H-IDRM은 고차원 영역, 복잡한 인터페이스 기하, 낮은 부영역 정칙성(regularity)을 갖는 문제에서 기존 신경망 솔버보다 우수한 성능을 보인다.
원문 초록
In this work, we propose a hybrid iterative deep Ritz method (H-IDRM) for a class of interface problems for second-order elliptic operators. It is based on a new mixed formulation of the problem and involves solving a sequence of convex minimization problems. We employ a level-set neural network architecture, featuring a level-set representation of the interface, to accommodate the piecewise smoothness of the solution and the flux. The approach involves only volumetric representations instead of duality pairing on the interface and avoids explicit interface sampling that is inconvenient for complex interface geometries. Further, we present an analysis of the method, including the errors arising from the neural network approximation, Monte Carlo approximation, iterative scheme, and penalty parameters. Numerical experiments indicate that the H-IDRM outperforms existing neural solvers on problems with high-dimensional domains, intricate interface geometries, and lower subdomain regularity.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2609.27325v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
딥 리츠 방법을 활용한 고차원 정상 슈뢰딩거 방정식의 특징 학습
Feature Learning for the High Dimensional Stationary Schödinger Equation with Deep Ritz Method
이 논문은 노이만 경계 조건이 있는 정상 슈뢰딩거 방정식을 풀기 위한 딥 리츠 방법(deep Ritz method) 프레임워크 내에서의 특징(feature) 학습을 연구한다. 먼저, 가설 함수가 단일 인덱스 모델(single-index model)로 제한되고 편미분방정식(PDE) 해가 임의적인 불가지론적 설정에서 리만 경사하강법(Riemannian gradient descent)의 수렴을 분석한다. 경사하강법이 근사적 전역 최솟값에 도달함을 증명한다: T = O(log(1/ε))번의 반복 후, 손실은 최적 손실의 상수 배수에서 ε 이내에 위치한다. 이어서, 편미분방정식의 소스 항 자체가 단일 인덱스 모델을 따르는 경우의 손실 지형을 검토하며, 단일 인덱스 모델 또는 두 뉴런 다중 인덱스 모델(two-neuron multi-index model)로 주어진 가설 함수를 고려한다. 단일 인덱스 경우에서는, 최솟값 리츠 에너지(Ritz energy)가 소스 항의 특징 벡터와 정렬된 특징 벡터에서 달성됨을 보인다. 두 뉴런 경우에서는, 정규화된 리츠 손실의 지형을 연구하고, 첫 번째 특징이 소스와 정렬되어 있다는 조건 하에 정규화 매개변수가 변함에 따라 두 번째 특징이 어떻게 출현하는지를 규명한다. 마지막으로, 두 뉴런 설정에서 특징 출현 이론을 검증하기 위한 수치 실험 결과를 제시한다.
Proxy OPD: 전이 가능한 상대적 프록시 업데이트를 이용한 대규모 언어 모델의 온-폴리시 증류
Proxy OPD: On-Policy Distillation with Transferable Relative Proxy Update for Large Language Models
보상 기반 강화학습(RL)은 대규모 언어 모델을 개선하지만, 여러 대상 모델에 대해 반복하면 상당한 비용이 발생한다. 온-폴리시 증류(OPD)는 대상 모델이 생성한 궤적에서 전문가 모델의 분포를 맞추도록 하여 전문가를 재사용하지만, 기반 정책이 서로 다르면 보상으로 유도된 업데이트가 기존의 정책 차이와 뒤섞여 전이되는 업데이트 방향이 왜곡될 수 있다. 우리는 대상 모델의 동결된 기반 정책을 기준으로 삼아 보상으로 유도된 상대적 정책 업데이트를 전이하는 사후 학습 방법인 Proxy OPD(P-OPD)를 제안한다. 프록시는 보상에 따른 탐색을 거치며, 초기 정책과 최적화된 정책 사이의 토큰 수준 로그 확률 변화를 산출한다. 이 신호는 대상 모델이 생성한 궤적에서의 학습을 안내하며, 보정(calibration)이 신호 흡수 정도를 조절함으로써 보상으로 유도된 개선을 여러 대상 모델에 걸쳐 재사용할 수 있게 한다. 수학적 추론, 코드 생성, 지시 따르기에서 Qwen3 계열 대상 모델을 이용한 실험 결과, P-OPD는 대상 모델을 개선하고 대부분의 설정에서 기존 OPD보다 우수한 성능을 보였다. 1.7B에서 8B로의 전이에서 평균 Math Mean@16 및 Code Mean@8 점수는 OPD보다 각각 8.3점과 3.4점 높았다. 메커니즘 분석은 보상으로 유도된 감독 신호가 더 충실하며 적응을 제어할 수 있음을 보여 준다. 규모 간 및 세대 간 실험은 신호의 전이 가능성과 재사용 가능성을 확인해 주며, 다중 도메인 증류는 상승 효과와 도메인 간 간섭을 함께 드러낸다. 측정된 4B에서 8B 설정에서 프록시 탐색 이후 대상 모델의 적응에는 대상 모델 RL을 직접 수행하는 시간의 약 15\%가 소요되며, 신호를 반복 재사용하면 호환되는 모델 전반에서 일회성 탐색 비용이 상각된다. 이러한 결과는 상대적 정책 업데이트가 "한 번 탐색하고 여러 번 전이한다"는 사후 학습 패러다임을 위한 효과적이고 전이 가능하며 조합 가능한 감독 신호임을 뒷받침한다.
LISA: 효율적 긴 컨텍스트 추론을 위한 Linear-Indexed Sparse Attention
LISA: Linear-Indexed Sparse Attention for Efficient Long-Context Reasoning
DeepSeek-R1과 같은 긴 사고 사슬(CoT) 추론 모델은 테스트 시점 스케일링 하에서 추론 사슬을 계속 늘리고 있으나, 표준 셀프 어텐션은 문맥 길이에 대해 이차 비용이 들어 긴 CoT의 실서비스 배포를 고비용으로 만든다. 이에 본 논문은 전체 사전학습이 필요 없는 셀프 어텐션의 플러그 앤 플레이 대체 방식인 LISA(Linear-Indexed Sparse Attention)를 제안한다. LISA는 장거리 메모리를 위한 선형 어텐션 분기와, 희소 셀프 어텐션 분기를 위해 가장 관련성 높은 토큰을 동적으로 선택하는 Lightning Indexer를 결합한다. 두 분기는 학습된 게이트를 통해 융합되어, 모델이 폭넓은 문맥을 유지하면서 연산을 정보량이 많은 토큰에 집중시킨다. LISA는 두 단계로 학습한다. 1단계에서는 선형 어텐션 분기를 슬라이딩 윈도 어텐션과 통합하고, 고정된 교사 모델의 전체 어텐션 분포로부터 증류한다. 2단계에서는 Lightning Indexer가 정적 윈도를 대체하며, 교사의 어텐션 패턴을 모방하도록 헤드별 KL 발산 목적함수로 학습된다. 그 결과 모델은 eager 모드 셀프 어텐션 연산을 시퀀스 길이에 대한 이차에서, 생성된 토큰 수와 선택된 문맥 예산에 대한 선형으로 줄인다. DeepSeek 증류 Qwen 모델에 대한 실험에서 LISA는 긴 문맥 추론 품질을 저하시키지 않으면서 16K 문맥에서 측정된 eager 모드 평균 샘플 지연 시간을 23.9% 줄인다. 9개의 수학 및 코드 추론 벤치마크 전반에서 게이트 방식 LISA-1.5B 모델은 전체 어텐션 기준 모델 대비 동일 가중 벤치마크 평균을 4.2%p 향상시킨다.
토큰이 아닌 턴 주입하기: 자기 수정을 위해 LLM 추론을 리디렉션할 위치 학습
Inject a Turn, Not a Token: Learning Where to Redirect LLM Reasoning for Self-Correction
대규모 언어 모델(LLM)은 자신의 추론 과정에서 발생한 오류를 안정적으로 식별하고 수정하는 데 어려움을 겪는다. 수정이나 피드백을 생성하도록 LLM을 미세조정하는 기존의 학습 기반 접근법과 달리, 우리는 실패한 롤아웃에서 어디에 개입할지를 학습하고 이를 어떻게 리디렉션할지를 결정한다. 개입 위치를 선택하기 위해, 우리는 최종 답안의 정답 여부만을 이용해 고정된 인코더 위에 130K개의 매개변수를 가진 MLP 헤드를 학습시킨다. 리디렉션의 경우, 고정된 생성 예산 하에서 테스트한 인라인 주입(inline injection)은 추론을 안정적으로 리디렉션하지 못하는 반면, 동일한 지시문을 새로운 사용자 턴(user turn)으로 제시하면 모델의 진행 방향이 바뀐다는 것을 발견했다. 그 결과로 만들어진 수정 프레임워크인 UPTURN(User-Prompt TURN injection at a learned position)은 LLM의 미세조정을 전혀 요구하지 않는다: 선택된 접두 문맥(prefix)을 유지하고, 지시문을 새로운 사용자 턴으로 주입한 뒤, 나머지 부분을 재생성한다. 네 가지 추론 모델과 여섯 가지 수학 벤치마크 전반에서, UPTURN은 32회 롤아웃 기준선(baseline) 대비 모든 설정에서 평균 정확도를 향상시킨다. 동일한 수정 예산 하에서 자기 수정(self-correction) 및 리플렉션 토큰(reflection-token) 주입 기준선을 능가하며, 재학습 없이도 다른 추론 모델과 GPQA-Diamond로 전이되고, GRPO 및 자기 수정 기법과도 상호보완적이다.
추론의 기하학적 특징: 과제 난이도에 대한 스펙트럼적 관점
Geometric Signatures of Reasoning: A Spectral Perspective on Task Hardness
사고의 연쇄(CoT) 추론은 대규모 언어 모델(LLM)이 중간 추론 단계를 생성하여 복잡한 문제를 풀 수 있게 한다. 이러한 추론 사슬의 길이와 내용에는 많은 관심이 기울여져 왔지만, 그 내부 기하에 대해서는 훨씬 덜 알려져 있다. 우리는 트랜스포머 모델의 은닉 상태 공간에서 CoT 궤적의 기하를 연구하며, 각 추론 사슬을 $\mathbb{R}^d$ 상의 이산 곡선으로 형식화하고 스펙트럼, 위치, 운동학적 기하 범함수를 통해 특성화한다. 궤적 복잡도의 척도로 유효 차원 $d_\rho$를 도입하고, 더 어려운 과제일수록 더 큰 유효 차원을 보임을 실험적으로 보인다. 마지막으로 궤적의 운동학적 특징, 즉 평균 위치, 위치 분산, 초기 및 최종 은닉 상태, 평균 속도, 평균 속력, 속력 분산이 생성이 완료되기 전에 풀이의 정답 여부를 예측하는 데 사용될 수 있음을 탐구하며, 이는 향후 조기 종료 전략에 활용될 수 있다. 실험적으로 MATH500 데이터셋의 86개 수학 추론 문제와 세 가지 Qwen2.5 모델 규모(0.5B, 1.5B, 7B)에서 $d_\rho$는 각각 $0.90$, $0.94$, $0.96$의 난이도 예측 AUROC를 달성한다. 일곱 가지 운동학적 및 위치 특징은 생성된 토큰의 처음 $20\%$만으로 정답 여부를 예측하며, 규모 전반에서 AUROC는 $0.77$에서 $0.88$ 사이이다. 이러한 정답성 특징은 보류된 질문 간에도 전이되어, 모델의 내부 추론 궤적의 형태가 과제 난이도와 풀이 품질 모두를 들여다볼 수 있는 원리적 창임을 확립한다.
사고 모델을 위한 온-정책 자기 지식 증류의 재고찰
Rethinking On-Policy Self-Distillation for Thinking Models
온폴리시 자기 증류(OPSD)는 재귀적 자기 개선을 위한 유망한 접근법이다. 이 설정에서 모델은 수학 문제의 풀이와 같은 특권 정보가 추가되면 스스로의 교사 역할을 한다. 사고 모델은 숙고하고 검증하며 자기 수정할 수 있으므로 이런 방식으로 스스로를 가르치기에 특히 유리해 보인다. 놀랍게도 우리는 OPSD가 긴 추론 흔적에서 사고 모델의 성능을 저하시킴을 보인다. AIME24, AIME25, HMMT25에서 평가한 5개의 Qwen3 및 OLMo 사고 모델에서 특권 맥락 증류는 avg@16 정확도의 최대 17\% 상대적 하락을 일으킨다. 이러한 성능 저하는 학생에게 숨겨진 특권 맥락의 양에 따라 커지며, 사고 모델이 본래 가장 큰 이득을 얻는 긴 롤아웃 예산에서 가장 두드러진다. 이 실패 양상은 더 큰 특권 교사로부터의 증류로도 확장된다. 온폴리시 증류(OPD)는 사고 모델을 개선하지만, 특권 OPD는 이러한 이득을 되돌린다. 우리의 진단은 특권 교사 맥락이 고엔트로피 분기 위치, 즉 여러 후속 전개가 그럴듯하게 남아 서로 다른 추론 경로로 이어질 수 있는 롤아웃 위치에서 학습을 재편함을 시사한다. 특권 맥락은 사고 모델 롤아웃에서는 분기율을 낮추지만 지시 튜닝 모델 롤아웃에서는 그렇지 않으며, 이는 OPSD 학습이 사고 모델보다 지시 모델에 더 안정적으로 도움이 된다는 관찰을 설명할 수 있다. 자기 수정 분기에서 특권 OPD는 기본 OPD가 지지하는 샘플링된 재고 토큰에 불이익을 준다. 이와 일관되게, 특권 교사로 학습한 사고 모델은 길이 정규화 후에도 검증, 되돌아가기, 완곡 표현 표지를 더 적게 생성한다. 이러한 결과는 강력한 사고 모델에 자기 증류 방법을 적용하려면 토큰 수준의 신호, 특히 수정 및 핵심 추론 단계와 관련된 토큰 주변의 신호에 대한 추가적인 고려가 필요함을 나타낸다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.