Discovering High-Strength Alloys via Physics-Transfer Learning
원문 초록
Predicting the strength of materials requires considering various length and time scales, striking a balance between accuracy and efficiency. Peierls stress measures material strength by evaluating dislocation resistance to plastic flow, reliant on elastic lattice responses and crystal slip energy landscape. Computational challenges due to the non-local and non-equilibrium nature of dislocations prohibit Peierls stress evaluation from state-of-the-art material databases. We propose a data-driven framework that leverages neural networks trained on force field simulations to understand crystal plasticity physics, predicting Peierls stress from material parameters derived via density functional theory computations, which are otherwise computationally intensive for direct dislocation modeling. This physics transfer approach successfully screen the strength of metallic alloys from a limited number of single-point calculations with chemical accuracy. Guided by these predictions, we fabricate high-strength binary alloys previously unexplored, utilizing high-throughput ion beam deposition techniques. The framework extends to problems facing the accuracy-performance dilemma in general by harnessing the hierarchy of physics of multiscale models in materials sciences.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
MACTS-EM: 창발적 메모리를 활용한 다중 에이전트 협업 시계열 예측
MACTS-EM: Multi-Agent Collaborative Time Series Forecasting with Emergent Memory
시계열 예측(time series forecasting)은 여러 분야에서 여전히 중요한 과제로 남아 있다. 상당한 발전이 있었음에도, 기존 접근법들은 체제 전환(regime shift), 도메인 간 지식 전이, 멀티모달 데이터 통합과 같은 복잡한 현상을 다루는 데 어려움을 겪는다. 본 논문은 전문화된 에이전트들이 협업하여 우수한 예측 성능을 달성하는 새로운 프레임워크인 창발적 메모리를 활용한 다중 에이전트 협업 시계열 예측(Multi-Agent Collaborative Time Series Forecasting with Emergent Memory, MACTS-EM)을 소개한다. MACTS-EM 아키텍처는 다음을 통합한다: (1) 패턴 인식, 이상 탐지, 인과 추론, 불확실성 정량화를 위한 도메인 특화 예측 에이전트; (2) 동적 에이전트 할당을 위한 메타인지 층(meta-cognitive layer); (3) 도메인 간 패턴 전이를 가능하게 하는 창발적 메모리 메커니즘; (4) 멀티모달 맥락 통합; (5) 적대적 강건성(adversarial robustness) 구성 요소. 금융 시장, 기후 패턴, 에너지 소비, 전염병 확산에 대한 평가 결과, MACTS-EM은 대부분의 시나리오에서 기존 접근법을 능가하며, 예측 정확도에서 8-12%의 향상, 제로샷 전이 능력에서 22-27%의 개선, 체제 전환 시 복원력에서 16-21%의 강화, 분포 변화 이후 회복 속도에서 15-18%의 향상을 보였다. 본 연구 결과는 시계열 예측에 대한 협업적이고 에이전트 기반(agentic)인 접근법이 전통적인 아키텍처를 넘어서는 유망한 방향임을 시사하며, 다중 해상도의 시간적 이해와 맥락적 적응을 요구하는 복잡한 실세계 시나리오에서 특히 그렇다.
순환단전으로 인한 데이터 희소성 환경에서 태양광 발전을 예측하기 위한 컨포멀 분위수 회귀 결합 전이학습
Transfer Learning with Conformalized Quantile Regression for Solar PV Forecasting Under Load-Shedding-Driven Data Scarcity
순환단전(load shedding)의 영향을 받는 지역에서의 태양광(PV) 발전 예측은 신뢰할 수 있는 과거 관측 데이터가 부족하여 난도가 높습니다. 본 연구에서는 심각한 데이터 희소성 환경에서 태양광 발전 예측 성능을 향상시키고 신뢰성 있는 불확실성 추정치를 제공하기 위해 컨포멀 분위수 회귀(Conformalized Quantile Regression, CQR)와 결합된 전이학습(transfer learning) 프레임워크를 제안합니다. 호주 앨리스스프링스(Alice Springs)의 소스 도메인 태양광 데이터셋을 활용해 시계열 예측 모델을 사전학습(pre-training)한 후, 다양한 수준의 과거 데이터 가용성을 모사한 방글라데시 시뮬레이션 태양광 데이터에 이를 적응시킵니다. 실험 결과에 따르면, 전이학습은 타깃 도메인 데이터가 1개월치만 가용할 때 RMSE를 최대 23.7% 감소시켰으며, 3개월치의 데이터가 있을 때는 13.7% 감소시켰습니다. 제안된 전이학습 및 CQR 프레임워크는 3개월의 타깃 데이터로 94.3%의 경험적 커버리지(empirical coverage)를 달성하는 동시에, 전이학습을 적용하지 않은 경우보다 14% 더 좁은 예측 구간을 생성했습니다. 이러한 결과는 타깃 도메인의 태양광 데이터가 극히 제한적인 상황에서 전이학습과 컨포멀 불확실성 정량화의 결합이 점 예측 정확도와 불확실성 신뢰도를 모두 향상시킬 수 있음을 입증합니다.
정확도 격차가 인증을 대신하지 못할 때: LLM 심판의 교차 도메인 재보정 감사
When Accuracy Gaps Fail to Certify: Auditing Cross-Domain Recalibration of LLM Judges
한 과제에서 LLM 심판에 대해 적합시킨 스칼라 재보정 맵은 과제 분포가 바뀌면 실패할 수 있지만, 소스-타깃 정확도 격차는 그 실패에 대한 대리 지표로 자주 취급된다. 13개의 심판, 2개의 생성기, 8개 도메인, 1,176개의 사전 선언된 전이에 걸쳐 이 격차가 무엇을 예측할 수 있고 무엇을 인증할 수 있는지 검증한다. 평균 점수 이동을 보정한 뒤, 격차는 타깃 보정 오류에 대한 모집단 하한을 제공하지만, 동일한 격차가 상반된 전이 결과를 낳을 수 있다. 정확한 importance weighting은 공변량 이동(covariate shift) 하에서 타깃 proper 손실을 복원하므로, 추정 가중치 파이프라인의 실패만으로는 조건부 이동이 성립한다고 볼 수 없다. 유한 표본 동시 하한 인증서는 평가 결과와 분리된 감사 레이블을 사용하여 모집단 하한을 일측 거부 규칙으로 변환한다. 누수 없는 격차 상관은 0.25(95% CI [-0.09, 0.55])이며, 두 번째 생성기에서는 0.09로 떨어지고 생성기 불변 연관을 뒷받침하지 않는다. 인증서는 명목 coverage를 유지하지만 m=1024에서도 검정력이 0.13이고, 반면 16개 레이블을 사용한 타깃 도메인 temperature scaling은 harm rate 0.09에 도달하며, 소스에서 적합한 Platt scaling은 0.34이다. 따라서 정확도 격차는 스칼라 확률 전이에 대한 약한 경고 신호일 뿐이며, 배포 인증서가 아니다.
CS-WCP: 불확실한 그룹 비율을 갖는 LLM 판정 모델 트래픽 변화에 대한 강건한 적합 예측 집합
CS-WCP: Robust Conformal Sets for LLM-Judge Traffic Shifts with Uncertain Group Proportions
LLM(대규모 언어 모델) 판정 모델(LLM judge)을 기반으로 구축된 예측 집합은 배포 트래픽에서 태스크 또는 정책 그룹의 유병률이 달라질 때 목표 커버리지에 미달(undercover)할 수 있습니다. 가중 적합 예측(Weighted conformal prediction)은 밀도 비(density ratio)가 알려진 공변량 변화(covariate shift) 하에서는 정확하지만, 그룹 비율은 일반적으로 유한한 라벨 없는 샘플로부터 추정해야 합니다. 본 연구에서는 소스 및 타깃 그룹 질량에 대한 동시 정확 구간을 구성하고 호환 가능한 모든 비율 벡터에 대해 가중 적합 집합의 합집합을 반환하는 신뢰 집합 가중 적합 예측(CS-WCP)을 도입합니다. 고정되거나 독립적으로 학습된 유한 분할에 대해 CS-WCP는 최소 1-alpha-delta_w-tau_A-kappa의 커버리지를 달성하며, 여기서 tau_A는 셀 내 공변량 불일치를 측정하고 kappa는 조건부 변화를 측정합니다. 선형 끝점 규칙(linear endpoint rule)은 O(G|Y|) 시간에 강건한 합집합을 계산합니다. 구성된 336개의 공유 지지(shared-support) 트래픽 변화 전반에서, CS-WCP는 평균 이진 집합 크기 1.74 및 1.65에서 소스 적합 예측의 0.954 및 44회 실패와 비교해 13회 실패로 0.973의 평균 커버리지에 도달합니다. 336개의 자연스러운 교차 태스크 전이에서는 커버리지가 0.882에서 0.962로 증가하지만 평균 집합 크기는 1.87에 달하며 크기가 일치된 그룹 플러그인 기준선(baseline)도 경쟁력을 보입니다. 따라서 본 방법은 불확실한 혼합 가중치 하에서 감사 가능한 커버리지 보호 장치를 제공하며, 그 가치는 스칼라 확률 캘리브레이션이나 일률적으로 더 작은 집합이 아닌 보수적인 꼬리 위험 보호(tail protection)에 있습니다.
지상 기반 하늘 이미지 분류를 위한 레이블 효율적 학습: GCD에서의 전이학습, 능동 학습, 의사 레이블링 벤치마크
Label-Efficient Learning for Ground-Based Sky-Image Classification: A Benchmark of Transfer Learning, Active Learning, and Pseudo-Labeling on GCD
정확한 지상 기반 구름 분류는 대기 모니터링, 태양광 에너지 발전량 예측, 항공 기상 평가, 기후 관측 시스템에 중요하다. 그러나 신뢰할 수 있는 하늘 이미지 어노테이션은 시간이 많이 소요되며, 특히 구름 유형이 시각적으로 유사하거나 혼합되어 있을 때 더욱 그렇다. 본 연구는 지상 기반 구름 데이터셋(Ground-based Cloud Dataset, GCD)을 사용하여 지상 기반 구름 분류에 대한 심층 학습의 레이블 효율성을 연구한다. 새로운 아키텍처를 제안하는 대신, 제한된 어노테이션 예산 하에서 세 가지 실용적 전략, 즉 지도 전이학습(supervised transfer learning), 불확실성 기반 능동 학습(active learning), 고신뢰도 의사 레이블링(pseudo-labeling)을 벤치마크한다. ImageNet으로 사전학습된 ResNet50을 공통 고정(frozen) 백본으로 사용하며, 학습 레이블의 $1\%$부터 $100\%$까지의 레이블 예산에 대해 다섯 개의 랜덤 시드로 실험을 반복한다. 지도 전이학습은 이미 레이블 효율성이 매우 높다. 테스트 정확도는 레이블 $1\%$일 때 $0.635 \pm 0.018$에서 레이블 $40\%$일 때 $0.730 \pm 0.002$로 증가하여, 전체 레이블 결과인 $0.735 \pm 0.003$에 근접한다. 능동 학습과 의사 레이블링은 지도 샘플링과 대등한 성능을 보이며 일부 지표와 예산에서 소폭의 향상을 제공하지만, 둘 다 전체적으로 크거나 일관된 이득을 주지는 못한다. 진단 분석 결과, 채택된 의사 레이블은 $0.946$에서 $0.977$의 정확도로 신뢰할 수 있으나, 더 쉬운 고신뢰도 하늘 유형 그룹에 편향되어 있다. 반면 불확실성 샘플링은 Mixed 그룹과, 서로 혼동되기 쉬운 Stratocumulus 및 Cumulonimbus 그룹을 포함하여 시각적으로 어려운 그룹을 우선적으로 질의하지만, 이러한 표적 획득은 미미한 향상만을 가져온다. 종합하면, 전이학습은 GCD의 어노테이션 요구량을 크게 줄이는 반면, 단순한 능동 학습 및 준지도 학습 전략은 강력한 지도 학습 기준선 대비 추가적인 이점이 제한적이다.
Pinocchio: 블랙박스 언어 모델을 위한 빠른 불확실성 추정
Pinocchio: Fast Uncertainty Estimates for Black-Box Language Models
대규모 언어 모델(LLM)을 활용하는 중대한 의사결정 응용 분야에서 실무자는 정확한 LLM뿐만 아니라 예측에 대한 불확실성 추정(uncertainty estimate)도 필요로 합니다. 기존의 LLM 불확실성 추정 방식은 모델이 출력하는 로그 확률(log-probability)에 접근할 수 있거나 미세조정(fine-tuning) 권한이 있어야 합니다. 그러나 다수의 산업용 LLM 제품은 비공개 소스 API 모델을 사용하며, GPT와 같은 많은 API 모델은 로그 확률을 반환하지 않고 미세조정을 허용하지 않을 수도 있습니다. 본 논문에서는 블랙박스 API 모델의 응답 정확도를 추정하는 외부 캘리브레이터(calibrator)인 Pinocchio를 소개합니다. 7개 LLM의 응답으로 공동 학습된 Pinocchio는 동일한 모델들의 홀드아웃(held-out) 응답에 대한 정확도 예측에서 0.862 AUROC를 달성하며, 8개 기관의 13개 미확인 모델에 대해서도 제로샷(zero-shot) 전이 성능을 보여줍니다. 본 모델은 불확실성 추정을 생성하기 위해 단 한 번의 순전파(forward pass)만 필요로 하며, 대상 모델의 로짓(logits), 가중치, 내부 상태에 대한 접근을 전혀 요구하지 않습니다. 경량 텍스트 전용 0.8B 체크포인트는 가장 큰 모델의 AUROC와 대등한 성능을 보입니다. 단 두 줄의 추가 코드만으로 기존 저장소에 불확실성 추정을 추가할 수 있는 코드를 공개합니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.