트레이스는 LLM 에이전트가 무엇을 수행했는지는 기록하지만, 각 단계가 무엇에 의존했는지는 암묵적인 상태로 남겨둡니다. GRADE는 두 가지를 하나의 그래프에 담아내며, 기존에 발표된 6가지 그래프 뷰는 이 그래프의 프로젝션(projection)입니다. 실행 엣지(edge)는 추가 비용 없이 확보되지만, 비용이 발생하는 각 의존성 엣지는 트레이스에서 관찰되었거나, 추가된 로깅을 통해 선언되었거나, 특정 가정하에 추론된 것으로 등급(grade)이 매겨집니다. 우리는 이 스키마를 한 등급씩 검증합니다. 6개의 도구 사용, 코딩 및 웹 코퍼스에서 의존성 층(layer)을 복원하고, 실행 크기(run size) 대비 실패 예측 성능 향상을 측정합니다. 첫째, 선형 실행 크기 기준선(baseline) 대비 3개의 코퍼스에서 예측 성능이 향상되지만, 성능 이득은 학습기(learner) 및 태스크 샘플링에 따라 달라집니다. 보류된(held-out) 코퍼스에서는 실행 크기 기준선이 무작위 확률 수준에 머무는 것과 달리 의존성 층은 무작위 수준 이상을 유지하지만, 이는 하나의 학습기에서 나타나며 동일하게 태스크 샘플링에 주의해야 합니다. 둘째, 구조는 실제로는 지니지 않은 신호인 것처럼 보일 수 있습니다. 전체 히스토리를 바탕으로 추론된 층은 실행 크기를 그대로 재진술할 뿐입니다. 코퍼스 내 사전 등록된 검증에서는 복원된 층이 각 단계의 의존성을 재연결하되 개수는 유지한 차수 일치 위조(degree-matched counterfeit) 구조와 구별되지 않습니다. 복원된 층이 이 위조 구조 대비 보였던 가장 큰 전이 우위는 보류된 코퍼스의 태스크 패밀리를 제외할 경우 역전됩니다. 구조의 유효성을 인정하기 전에 각 엣지의 등급을 매기고, 실행 크기 기준선을 유지하며, 차수 일치 연결 대조군(control)을 평가해야 합니다.
강력한 벤치마크 성능에도 불구하고 심층 비전 시스템은 손상(corruption), 가림(occlusion), 분포 이동(distribution shift)에 여전히 취약하다. 기존 신뢰성 방법은 일반적으로 개별 시간 단계에서 불확실성을 평가하며, 시스템이 실패로 진행하는 과정을 명시적으로 모델링하지 않는다. 우리는 Visual Tripwires를 제안한다. 이는 모델 동작의 시간적 불안정성을 이용해 임박한 실패를 예측하는 예측적 신뢰성 프레임워크이다. 우리의 핵심 가설은 예측적 성능 저하가 잠재 표현(latent representation), 예측 궤적, 어텐션 구조의 측정 가능한 변화를 통해 점진적으로 나타난다는 것이다. Visual Tripwires는 표현 드리프트(representation drift), 예측 진동(prediction oscillation), 궤적 곡률(trajectory curvature), 어텐션 엔트로피(attention entropy)로 이러한 변화를 포착한다. 경량 tripwire 예측기는 시간 윈도우에 걸쳐 이 신호들을 집계하여 미래 예측 지평(prediction horizon) 내 실패 확률을 추정한다. 여러 데이터셋, 아키텍처, 점진적 교란(progressive perturbation) 설정에 걸친 실험은 제안된 불안정성 신호가 예측적 성능 저하 이전에 나타나며, 기존 불확실성 추정 방법보다 더 이르고 더 정확한 실패 경고를 제공함을 보여준다. 이러한 결과는 시간적 불안정성이 향후 모델 신뢰성에 관한 유용한 정보를 담고 있으며, 심층 비vision 시스템에서 조기 경보를 위한 실용적 기반을 제공함을 보여준다.
소프트웨어의 복잡성이 증가하면서 신뢰할 수 있고 안전한 소프트웨어의 배포를 지원하는 혁신적인 해결책이 필요해지고 있다. 머신러닝(ML)은 다양한 복잡한 문제에 적용 가능함을 보여 주었으며, 시스템 설계 및 검증 활동을 지원하는 용도를 포함해 신뢰성(dependability) 도메인에서 자주 사용된다. 그러나 ML 사용은 복잡하고 다루는 문제에 크게 의존하므로, 결과를 훼손하는 실수가 발생할 가능성이 높아진다. 본 논문에서는 신뢰할 수 있고 안전한 소프트웨어 시스템을 위한 예측 모델을 생성하는 데 사용할 수 있는 ML 프레임워크인 Propheticus를 소개한다. Propheticus는 사용하기 쉬우면서 사용자 요구를 수용하면서 ML의 복잡성을 추상화하려고 시도한다. 사용법을 보여 주기 위해 취약점 예측과 온라인 장애 예측이라는 두 가지 사례 연구를 제시하며, 이를 통해 철저한 ML 워크플로를 상당히 용이하고 신속하게 수행할 수 있음을 보여 준다.