arXiv:2512.12063v2 cs.SE

BPMN 모델 생성을 위한 오픈 웨이트 언어 모델의 지시 튜닝

Instruction-Tuning Open-Weight Language Models for BPMN Model Generation

G\"okberk \c{C}elikmasat, Atay \"Ozg\"ovde, Fatma Ba\c{s}ak Aydemir

제출 2026-11-02

한국어 초록

도메인 모델은 공통된 이해를 가능하게 하고 구현을 안내하며 자동화된 분석과 모델 주도 개발을 지원하므로 소프트웨어 공학에서 핵심적이다. 그러나 이러한 이점에도 불구하고, 실무자들은 모델링이 시간이 많이 들고 부족한 전문 지식을 요구하기 때문에 이를 생략하는 경우가 많다. 우리는 지시 튜닝으로 적응시킨 오픈 웨이트 대규모 언어 모델이 자연어 설명으로부터 비용 효율적이고 프라이버시를 보호하는 방식으로 고품질 BPMN 프로세스 모델을 직접 생성할 수 있는지 조사함으로써 이 장벽을 해결한다. 우리는 텍스트-다이어그램 쌍 데이터를 준비하고, 온프레미스 배포를 위해 매개변수 효율적 미세 조정과 양자화로 오픈 소스 대규모 언어 모델을 지시 튜닝하는 재현 가능한 접근법인 InstruBPM을 소개한다. 튜닝된 모델은 상호 보완적인 관점에서 평가한다. (i) BLEU, ROUGE-L, METEOR를 이용한 텍스트/코드 유사도, (ii) 상대 그래프 편집 거리를 이용한 구조적 충실도, (iii) 외부 도구 검사를 이용한 가이드라인 준수도, (iv) 소규모 전문가 검토이다. 다중 도메인 BPMN 데이터셋의 선별된 부분집합을 사용하여, 일관된 프롬프트 방식 하에서 튜닝된 모델을 튜닝되지 않은 오픈 웨이트 베이스라인 및 강력한 상용 모델과 비교한다. 우리의 소형 튜닝 모델은 훨씬 적은 자원을 필요로 하면서도 시퀀스 및 구조 지표 전반에서 모든 베이스라인을 능가하며, 가이드라인 분석과 전문가 피드백은 생성된 다이어그램이 대체로 BPMN 모범 사례를 따르고 모델링 노력을 줄여 주는 유용한 출발점임을 추가로 보여준다. 전반적으로 지시 튜닝은 튜닝되지 않은 베이스라인에 비해 구조적 정확도와 견고성을 개선하고 무거운 프롬프트 구성에 대한 의존을 줄인다. 재현성과 추가 연구를 지원하기 위해 학습된 모델과 스크립트를 공개한다.

원문 초록

Domain models are central to software engineering, as they enable a shared understanding, guide implementation, and support automated analyses and model-driven development. Yet, despite these benefits, practitioners often skip modeling because it is time-consuming and demands scarce expertise. We address this barrier by investigating whether open-weight large language models, adapted via instruction tuning, can generate high-quality BPMN process models directly from natural language descriptions in a cost-effective and privacy-preserving way. We introduce InstruBPM, a reproducible approach that prepares paired text-diagram data and instruction tunes an open source large language model with parameter-efficient fine-tuning and quantization for on-prem deployment. We evaluate the tuned model through complementary perspectives: (i) text/code similarity using BLEU, ROUGE-L, and METEOR, (ii) structural fidelity using Relative Graph Edit Distance, (iii) guidelines conformance using external tool checks, and (iv) a small expert review. Using a curated subset of a multi-domain BPMN dataset, we compare the tuned model with untuned open-weight baselines and strong proprietary models under consistent prompting regimes. Our compact tuned model outperforms all baselines across sequence and structural metrics while requiring substantially fewer resources; guideline analysis and expert feedback further indicate that the generated diagrams largely follow BPMN best practices and are useful starting points that reduce modeling effort. Overall, instruction tuning improves structural accuracy and robustness compared to untuned baselines and reduces reliance on heavy prompt scaffolding. We publicly share the trained models and scripts to support reproducibility and further research.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2512.12063v2제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.