PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.02503v1cs.SE

복합 AI 시스템 신뢰성: 150건의 프로덕션 장애 사례를 통한 실패 분류체계 및 복원력 패턴 카탈로그

Compound AI System Reliability: A Failure Taxonomy and Resilience Pattern Catalog from 150 Production Incidents

복합 AI 시스템(Compound AI System)을 안정적이고 안전하게 배포하려면 개별 모델 내부가 아닌 컴포넌트 경계에서 발생하는 실패 모드(failure mode)를 이해해야 합니다. 연쇄 오류는 컴포넌트 경계를 넘어 전파되고, 조용한 품질 저하는 표준 모니터링을 회피하며, 조정 실패는 개별적으로 올바른 부분들로부터 잘못된 집합적 동작을 초래합니다. 본 연구에서는 오픈소스 복합 AI 프로젝트와 익명화된 기업 배포 환경의 150건의 프로덕션 장애 보고서를 분석하여 검색 실패, 생성 실패, 도구 실패, 오케스트레이션 실패, 통합 실패의 5개 범주로 구성된 23개 실패 모드의 분류체계를 구축합니다. 각 범주에 대해 통제된 장애 주입(fault injection) 실험을 통해 효과성이 측정된 복원력 패턴(resilience pattern)을 제안합니다. 서킷 브레이커는 연쇄 전파를 89% 줄이고, 출력 품질 게이트는 사용자 영향 발생 전에 조용한 저하의 73%를 포착하며, 컴포넌트 격리는 폭발 반경(blast radius)을 64% 줄입니다. 본 카탈로그의 복원력 패턴을 3개 이상 구현한 시스템은 비정형 모니터링 베이스라인 대비 평균 복구 시간(MTTR)을 71% 단축합니다. 본 연구는 실무자를 위한 리소스로 장애 분류체계 및 패턴 카탈로그를 공개합니다.