arXiv:2606.20015v1 cs.LG

장경간 도로 교량을 위한 적응형 거리 인식 트렁크 딥 오퍼레이터 러닝

Adaptive Distance-Aware Trunk Deep Operator Learning for Long-Span Roadway Bridges

Bilal Ahmed, Diab W. Abueidda, Waleed El-Sekelly, Tarek Abdoun, Mostafa E. Mobasher

제출 2026-06-18

한국어 초록

장경간 도로 교량은 차량 하중 하에서 고도로 국소화된 구조 응답을 보이며, 이로 인해 영향면 생성 및 구조적 디지털 트윈과 같은 응용 분야에서 반복적인 유한요소(FE) 해석의 계산 비용이 높아집니다. 기존의 과학적 기계 학습(SciML) 접근 방식은 이러한 국소화된 응답을 정확하게 포착하는 데 어려움을 겪습니다. 이러한 문제를 해결하기 위해 본 연구는 대규모 교량 시스템에서의 국소화된 구조 응답 예측을 위해 적응형 트렁크 DeepONet을 제안합니다. 이 프레임워크는 KNN 전략을 사용하여 하중 종속 학습 도메인을 동적으로 구성함으로써, 네트워크가 구조 영향 영역에 집중할 수 있도록 합니다. 트렁크 네트워크는 하중과 구조 노드 사이의 기하학적 관계를 인코딩하는 거리 인식 특징을 사용하여 추가로 향상됩니다. 강성 정보 슈어 보체(Schur complement) 공식을 통해 물리 기반 전체장 재구성이 통합되어, 적응형 노드에서의 예측을 전체 구조 도메인으로 확장할 수 있습니다. 확장 가능한 학습을 가능하게 하기 위해, 지배적인 전역 거동을 보존하면서 계산 비용을 획기적으로 줄이는 축소 차수 등가 쉘 모델을 사용하여 응답 데이터를 생성합니다. 제안된 프레임워크는 벤치마크 교량 모델과 실제 무사파(Mussafah) 교량 모두에서 검증되었습니다. 결과에 따르면 해당 방법은 상대 오차 5% 미만으로 FEM 수준의 정확도를 달성하면서, 전체 응답 평가 시간(전체장 재구성 포함)을 약 60배 단축합니다. 후처리 재구성 단계를 제외하면 AD-DeepONet 추론은 FEM보다 최대 4자릿수 더 빠릅니다. 또한, 이 프레임워크는 임의의 차량 하중 구성 하에서 전체장 응답, 영향선 및 영향면의 빠른 생성을 가능하게 하여, 대규모 교량 해석 및 디지털 트윈 응용 분야에서 강력한 잠재력을 보여줍니다.

원문 초록

Long-span roadway bridges exhibit highly localized structural responses under vehicular loading, making repeated FE analysis computationally expensive for applications such as influence surface generation and structural digital twins. Existing SciML approaches struggle to accurately capture these localized responses. To address this challenge, this study proposes an adaptive-trunk DeepONet for localized structural response prediction in large-scale bridge systems. The framework dynamically constructs a load-dependent learning domain using a KNN strategy, allowing the network to focus on structural influence zones. The trunk network is further enhanced using distance-aware features that encode the geometric relationship between the load and structural nodes. A physics-based full-field reconstruction is incorporated through a stiffness-informed Schur complement formulation, enabling predictions at adaptive nodes to be extended to the entire structural domain. To enable scalable training, response data are generated using a reduced-order equivalent shell model that preserves the dominant global behavior while significantly reducing computational cost. The proposed framework is validated on both a benchmark bridge model and the real-world Mussafah Bridge. Results show that the method achieves FEM-level accuracy with relative errors below 5%, while reducing the total response evaluation time (including full-field reconstruction) by approximately 60x; excluding the post-processing reconstruction step, the AD-DeepONet inference is up to four orders of magnitude faster than FEM. In addition, the framework enables rapid generation of full-field responses, influence lines, and influence surfaces under arbitrary vehicular loading configurations, demonstrating strong potential for large-scale bridge analysis and digital twin applications.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.20015v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.27739v1cs.LG공통 태그 Computational Efficiency, scientific machine learning

MENO: 메모리 효율적 신경 연산자

MENO: Memory-Efficient Neural Operator

우리는 Manifold Function Encoder(MFE)를 기반으로 한 고성능 편미분방정식(PDE) 신경 솔버로서 Memory-Efficient Neural Operator(MENO)를 제안한다. MENO는 세 가지 주요 장점을 갖는다. (1) MENO는 다른 널리 쓰이는 아키텍처 대비 메모리 사용량이 현저히 작고 학습 속도가 훨씬 빠르며, 메모리 사용량이 데이터 해상도와 무관하므로 대규모 모델로의 스케일링 가능성을 지닌다. (2) MENO는 임의의 기하학적 영역과 임의의 이산화를 포함하여 임의 형태의 PDE 입력을 받을 수 있다. 특히 입력 함수와 출력 해가 서로 다른 매니폴드上에 정의되는 cross-geometry 시나리오, 즉 기하학 간 설정을 처리할 수 있다. (3) MENO는 강한 일반화 능력을 보이며, 문헌에 보고된 결과와 비교했을 때 우리가 테스트한 대부분의 벤치마크에서 최고 정확도를 달성한다. 코드는 https://github.com/jpzxshi/MENO 의 GitHub에서 제공되며, 본 논문의 모든 수치 예제는 보고된 결과를 재현하기 위해 단일 명령으로 실행할 수 있다.

arXiv:2610.10854v2cs.LG공통 태그 Computational Efficiency

KDFP: 대규모 언어 모델의 지식 증류를 위한 제1원리적 접근법

KDFP: A first-principles approach to knowledge distillation in large language models

지식 증류(knowledge distillation)는 더 크고 성능이 뛰어난 교사 모델의 표현(representation)을 활용해 작고 효율적인 학생 모델을 학습(training)시킴으로써 그 역량을 향상시키는 잘 정립된 기법입니다. 대규모 언어 모델(LLM) 증류에 관한 최근 연구의 상당수는 지시사항 준수(instruction following), 사고의 연쇄(Chain-of-Thought) 추론, 도구 사용 등 사후 학습(post-training) 과정에서 습득된 능력을 증류하는 데 집중되어 왔습니다. 이로 인해 엣지 기기 배포에 적합한 효율적이고 프라이버시가 보장되는 시스템을 개발하는 데 필수적인 LLM의 일반 지식 증류 연구에는 큰 공백이 남게 되었습니다. 본 연구에서는 이전 연구들의 교훈을 평가하고 새로운 탐색을 수행하는 제1원리적(first-principles) 접근법을 취하여 현대 LLM에 적합한 증류 방법론을 개발합니다. 본 논문에서는 LLM의 화이트박스 일반 지식 증류를 위한 새로운 방법론인 KDFP를 제시합니다. 실험을 통해 KDFP가 임시 매개변수(parameter) 감축을 통해 학습 효율성을 최대 99.1%까지 향상시키면서, 9개 벤치마크 전반에서 기존 기법들을 1.6% $-$ 4.9% 능가함을 입증합니다.

arXiv:2609.24894v2cs.CV공통 태그 Computational Efficiency

SLICEChat: 전슬라이드 병리 언어 모델을 위한 점진적 인코더 내 토큰 가지치기

SLICEChat: Progressive In-Encoder Token Pruning for Whole-Slide Pathology Language Models

전슬라이드 병리 이미지(WSI)는 기가픽셀 규모의 시각 정보를 담고 있어, 슬라이드 수준 멀티모달 대규모 언어 모델(MLLM)의 확장성에 큰 난제를 만든다. 기존 접근은 수천 개의 패치 토큰을 처리하고, 보통 슬라이드 인코딩 이후에만 압축을 적용하여 멀티모달 어텐션이 계산적으로 비싸게 남는다. 우리는 하이브리드 Mamba–트랜스포머 슬라이드 인코더 안에 점진적 토큰 가지치기를 통합한 슬라이드 수준 MLLM인 SLICEChat을 제안한다. Mamba 레이어는 효율적인 장거리 전파를 가능하게 하고, 트랜스포머 레이어는 시퀀스가 점진적으로 짧아지는 동안 전역 상호작용을 유지한다. 단계 사이에서는 언어 지도 하의 영역 인식 가지치기가 제어된 유지율(keep-rate) 스케줄 하에서 공간적으로 일관된 저유용 영역을 제거하여, 멀티모달 융합 전에 압축된 슬라이드 표현을 만든다. SlideBench VQA에서 SLICEChat은 TCGA에서 79.84%, BCNB 코호트에서 59.09% 정확도를 달성해 기존 슬라이드 수준 병리 MLLM을 능가했으며, WSI-Bench 전체 지표에서도 최고 성능을 기록했다. 또한 평가된 모델 중 경쟁력 있는 메모리 사용량과 추론 지연 시간을 보였다. 이 결과는 기가픽셀 WSI에 대한 정확하고 계산적으로 효율적인 멀티모달 추론을 보여 준다.

arXiv:2609.23790v1cs.AI공통 태그 Computational Efficiency

에이전시 총비용: 멀티 에이전트 LLM 워크플로에서 메모리 주입 비용의 정확한 귀속

Total Cost of Agency: Exact Attribution of Memory Injection Cost in Multi-Agent LLM Workflows

멀티 에이전트 대규모 언어 모델(LLM) 워크플로의 모든 노드는 메모리에서 컨텍스트를 검색하여 프롬프트에 주입하며, 주입된 토큰은 시스템 프롬프트와 사용자 쿼리와 동일한 토큰당 단가로 입력 토큰으로 청구된다. 프로덕션 관측(observability) 도구는 총 토큰 비용을 보고하지만 노드가 생성하는 토큰과 전달받은 토큰을 구분하지 않으므로, 청구서의 이 항목은 비용을 지불하는 팀에게는 보이지 않는다. 우리는 멀티 에이전트 워크플로 비용을 기본 프롬프트, 추론, 메모리 주입, 미스 페널티, 컨텍스트 누적 구성요소로 분해한 Total Cost of Agency(TCA)와, 단어 수 프록시로 추정하지 않고 주입 토큰을 직접 측정하는 2-pass 비청구 토큰 카운트 기반의 정확한 귀속 방법을 제안한다. 실제 모델 API에 대해 실행한 200개 태스크 기업 벤치마크에서 메모리 주입은 컴파일 타임 옵티마이저가 개입할 수 있는 가변 비용의 13.6%, 전체 청구 비용의 약 12%를 차지하며, 워크플로 깊이 1에서의 구조적 0에서 깊이 6에서 27.6%까지 그 비중이 증가한다. 측정 구간(깊이 2~6)에서 주입 토큰은 깊이에 대해 선형적으로 증가한다(R^2 = 0.9974); 2차 피팅의 leading coefficient가 음수이므로, 해당 깊이에서 데이터는 볼록(convex) 성장을 보이지 않는다. 고정된 모델 tier에서 이 구성요소가 제어 가능함을 보인다: 검색 윈도우 용량을 32개 항목에서 2개로 줄이면 주입 토큰이 28.7% 감소하고 정확도 변화는 시드(seed) 수준 변동 범위 내이다. 그래프 재작성(graph-rewriting) 변환이 단독으로는 대체로 비용 중립적임을, 다섯 분해 항 중 두 항이 이 하네스(harness)에서 구조적으로 0임을, 총 워크플로 비용이 모델 tier 할당에 의해 지배되며 이를 고정하고 선행 연구로 취급함을 전면 보고한다. 프롬프트 캐싱(prompt caching)은 평가하지 않았으며 모든 수치는 캐시 미사용(uncached) 경우에 대한 것이다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.