arXiv:2608.05120v1 cs.LG

DASyR-LLM: 반응 속도론적 모델 발견을 위한 LLM 기반 도메인 인지 기호 회귀

DASyR-LLM: Domain-Aware Symbolic Regression with LLMs for Kinetic Model Discovery

Roberto Aliaga Medina, Paulina Quintanilla, Antonio del Rio Chanona

제출 2026-08-05

한국어 초록

정확한 반응 속도식은 화학 및 생물학적 공정을 이해하고 제어하는 데 필수적이므로, 반응 속도론적 모델(kinetic model) 발견은 화학 공학의 핵심적인 과제입니다. 기호 회귀(SR, Symbolic regression)는 해석 가능한 속도론적 모델을 식별하기 위한 강력한 데이터 기반 접근 방식으로 부상했으나, 대개 도메인 지식 없이 작동하여 물리화학적으로 타당하지 않은 모델을 탐색하는 경우가 많습니다. 대규모 언어 모델(LLM)은 이러한 탐색 과정에 도메인 전문 지식을 주입할 수 있는 유망한 경로를 제공합니다. 본 논문에서는 자동화된 반응 속도론적 모델 발견을 위해 반복(iteration) 기반 SR 알고리즘 내에 LLM 모듈을 임베딩(embedding)한 LLM 유도 SR 프레임워크를 소개합니다. LLM은 각 반복마다 두 가지 역할을 수행합니다: (1) 최적의 SR 후보들에 대한 정성적 물리화학적 비평, (2) SR이 생성한 모델과 내장된 화학 지식을 바탕으로 새로운 후보 반응 속도식 제안. 제안하는 프레임워크는 불균일계 촉매 반응 및 바이오프로세스 시스템을 아우르며 복잡도가 증가하는 네 가지 인실리코(in silico) 사례 연구에서 평가됩니다. 결과에 따르면 LLM 유도 프레임워크는 최첨단 SR 프레임워크 대비 참값(ground-truth) 모델을 식별하기까지의 반복 횟수를 $41.7-79.3\%$ 줄였으며, 유도 실행의 절반 이상에서 LLM이 올바른 모델 구조를 직접 제안했습니다. 각 반복마다 일반적으로 새로운 습식 실험(wet-lab experiment)이 필요한 실제 환경에서, 이는 실험적 노력의 상당한 감소로 이어집니다. 독립적인 검증(validation) 세트에서의 예측 성능은 두 접근 방식 간에 동등하며, 모든 사례 연구에서 $R^2>0.98$을 달성했습니다. 소거 연구(ablation study)에 따르면 SR 구성 요소와 LLM 규모 모두 이러한 성능에 기여하며, 축소된 크기의 LLM도 발견 효율성을 대부분 유지함을 보여줍니다. 이러한 결과는 LLM이 과학적 모델 발견에 도메인 지식을 효과적으로 주입할 수 있음을 입증하며, 완전히 자동화된 도메인 인지형 속도론적 모델링 파이프라인으로 나아가는 길을 열어줍니다.

원문 초록

Kinetic model discovery is a central challenge in chemical engineering, as accurate rate expressions are essential for understanding and controlling chemical and biological processes. Symbolic regression (SR) has emerged as a powerful data-driven approach for identifying interpretable kinetic models, but usually operates without domain knowledge, often exploring physicochemically implausible models. Large language models (LLMs) offer a promising avenue for injecting domain expertise into this search. Here, we introduce an LLM-guided SR framework, embedding an LLM module within an iterative SR algorithm for automated kinetic model discovery. The LLM performs two roles at each iteration: (1) a qualitative physicochemical critique of the best SR candidates, and (2) the proposal of new candidate rate expressions guided by the SR-generated models and embedded chemical knowledge. Our framework is evaluated on four in silico case studies of increasing complexity, spanning heterogeneous catalysis and bioprocess systems. Results show the LLM-guided framework reduces iterations to identify the ground-truth model by $41.7-79.3\%$ versus a state-of-the-art SR framework, with the LLM directly proposing the correct model structure in over half of the guided runs. In practical settings, where each iteration typically requires a new wet-lab experiment, this translates into a substantial reduction in experimental effort. Predictive performance on an independent validation set is equivalent between both approaches, with $R^2>0.98$ in all case studies. Ablation studies indicate that both the SR component and the LLM scale contribute to this performance, with a reduced-size LLM largely retaining discovery efficiency. These findings demonstrate that LLMs can effectively inject domain knowledge into scientific model discovery, paving the way toward fully automated, domain-aware kinetic modelling pipelines.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2608.05120v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.