PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.21565v1cs.AI

빌딩 블록을 통한 검증 가능한 개념 모델 구성: 에이전트 AI 워크플로우의 설계 시점 검증을 향하여

Composing Verifiable Conceptual Models via Building Blocks: Towards Design-Time Verification of Agentic AI Workflows

에이전트 AI 시스템은 결정, 도구, 외부 행동을 조율하는 워크플로우 아키텍처를 통해 여러 LLM 기반 에이전트를 오케스트레이션한다. 현재 플랫폼은 런타임(runtime) 안전장치를 강조하지만, 시스템 설계 단계에서 워크플로우를 검증하는 데 대한 지원은 거의 없다. 모델링 및 시뮬레이션(Modeling & Simulation) 관점에서 이 간극은, 빌딩 블록이 일관되게 상호작용하는지 검증하지 않고 개념 모델을 구성하는 것과 유사하다. 우리는 재사용 가능한 빌딩 블록의 조합으로 에이전트 워크플로우를 모델링하고 열두 가지 구조적 규칙을 통해 호환성을 검사하는 설계 시점 검증 접근법을 제안한다. 우리는 이러한 규칙을 소프트웨어 프로토타입으로 구현하고, 알려진 설계 결함이 있는 48개의 워크플로우와 워크플로우 논리는 유지하되 그래프 구조를 변경한 168개 변형을 포함하는 두 개의 공개 데이터셋으로 이를 평가했다. 결과는 결함 있는 설계가 에이전트 간 작업 분할과 같은 구조적 변환을 통해 가려지더라도 우리의 검증기가 위반을 신뢰성 있게 탐지함을 보여준다. 향후 연구에서는 우리의 검증을 빌딩 블록 커뮤니티 저장소와 결합하여 안전한 에이전트 워크플로우를 구성할 수 있을 것이다.