송전망 운영자(TSO)는 재생에너지 연계, 관성 감소, 더욱 엄격해진 보안 여유도로 인해 증가하는 복잡성에 직면해 있습니다. 대규모 언어 모델(LLM)은 자연어 기반 의사결정 지원을 제공하지만, 환각(hallucination), 통제되지 않는 도구 사용, 미흡한 추적성은 제어실의 요구사항과 상충합니다. 본 논문에서는 송전망 제어실을 위한 거버넌스 인식 에이전틱 디지털 트윈을 제시합니다. 대규모 언어 모델은 화이트리스트에 등록된 분석 도구만 선택하고 파라미터를 지정하며, 제안된 모든 동작은 모델이 우회할 수 없는 거버넌스 층을 통과합니다. 이 층은 매 실행마다 네 가지 규칙을 강제합니다. 화이트리스트에 등록된 도구만 실행됩니다. 어떤 실행도 단계 예산(step budget)을 초과하지 않습니다. 부작용(side effect)이 있는 동작은 운영자의 명시적 승인 없이는 실행되지 않습니다. 답변의 모든 숫자는 단위, 변수, 시점과 함께 백엔드 결과로부터 해당 층에 의해 렌더링됩니다. 이 규칙들은 그리스 송전망의 디지털 트윈 상에서 분석, 시뮬레이션, 다단계 워크플로, 12개 계열의 적대적 입력을 다루는 공개된 118개 작업 벤치마크의 모든 실행에 대해 영구 감사 추적(audit trail)을 통해 검증됩니다. 기본 모델의 590회 실행 전반에서 도구 선택은 96.5%, 작업 성공률은 93.7%에 달했으며, 네 가지 규칙 모두 예외 없이 유지되었습니다. 4개의 대규모 언어 모델에 걸쳐 총 1,416회 실행된 별도의 3회 반복 연구에서도 해당 규칙들은 매 실행마다 유지되었으며, 약 95% 하한은 99.8%였습니다. 해당 층을 제거하자 동일한 모델이 승인이 필요한 45회의 실행을 모두 승인 없이 실행했으며, 백엔드 기반 숫자를 포함한 답변은 39.2%에 불과했습니다. 규칙 강제에 소요되는 비용은 요청당 12~16밀리초입니다.
기업 전략적 의사결정 지원을 위해서는 정확할 뿐만 아니라 불확실성 인식, 위험 보정, 설명 가능, 거버넌스 준수가 가능한 AI 시스템이 필요하다. 본 논문은 불확실성 하의 기업 의사결정 지원을 위한 위험 보정 및 거버넌스 인식 프레임워크인 TRUST-ESD를 제안한다. TRUST-ESD는 예측적 효용 추정, conformal 불확실성 보정, CVaR 기반 하방 위험 점수화, 위험 메모리 검색, policy-as-code 거버넌스, 설명 가능성, 인간 감독을 통해 실행 가능한 반사실적(counterfactual) 전략을 평가한다. 최대 기대 효용으로 행동을 선택하는 예측 전용 방법과 달리, TRUST-ESD는 가치, 신뢰성, 위험 노출, 준수를 균형 있게 고려한 전략을 권고한다. 실험 결과, TRUST-ESD는 강력한 불확실성 인식 기준선 대비 위험 조정 효용을 7.95% 향상하고, 위험 노출을 23.22% 감소하며, CVaR을 23.78% 감소하고, 보정 오차를 13.89% 낮추며, 설명 충실도를 10.90% 향상하고, 거버넌스 준수율을 9.76% 높이는 동시에 경쟁력 있는 예측 정확도를 유지한다. Ablation 및 사례 연구 분석은 불확실성 보정, 하방 위험 점수화, 위험 메모리, 설명 가능성, 거버넌스 검증이 공동적으로 신뢰할 수 있는 기업 의사결정을 개선함을 추가로 확인한다.
대규모 언어 모델(LLM)에 의해 구동되는 자율적인 에이전트형 AI 시스템은 보안, 프라이버시 및 규정 준수와 관련된 새로운 유형의 문제를 야기합니다. 도구를 호출하고, 데이터를 조작하며, 소프트웨어를 설치하고, 조직 경계를 넘어 동료 에이전트와 협력할 수 있는 에이전트는 단순한 인증 및 접근 제어뿐만 아니라 기업 거버넌스의 전체 구조에 의해 제약되어야 합니다. 여기에는 에이전트가 무엇을 허용하고 금지하는지, 특정 작업 후에 무엇을 수행해야 하는지(예: CISO에게 통보), 어떤 조건에서 상시 의무가 면제될 수 있는지, 그리고 정책이 충돌할 때 어떤 규칙이 우선하는지를 명시하는 것이 포함됩니다. 이러한 거버넌스 문제는 현재의 정책 엔진이 제공하는 기능을 초과합니다. XACML, Rego, Cedar와 같은 시스템은 이 거버넌스 구조의 허용/금지 하위 집합만을 다룹니다. 이들은 의무 수명 주기 관리, 메타 정책 충돌 해결, 특정 상황에서 의무를 면제하는 면제 조항, 그리고 의료, 사이버 보안 또는 데이터 프라이버시와 같은 응용 프로그램에서 흔히 볼 수 있는 도메인 클래스 계층 구조에 대한 온톨로지적 추론을 제공하지 않습니다. 우리는 의무, 면제, 정책 충돌 해결, 정책에 대한 추론뿐만 아니라 기본적인 허용/금지 제약 조건과 같은 핵심 거버넌스 요구 사항을 실현하는 AgenticRei를 제안합니다. 우리는 Rei 프레임워크를 기반으로 구축된 의무론적 정책 언어를 사용하며, 이는 OWL(웹 온톨로지 언어)로 표현되고 LLM 외부의 고성능 논리 엔진에 의해 런타임에 평가됩니다. 동일한 파이프라인은 에이전트의 도구 호출과 에이전트 간 메시지를 모두 거버넌스합니다. 우리는 예시를 통해 의무론적 정책이 현재의 운용 엔진에서는 대부분 표현할 수 없는 보안 및 프라이버시와 관련된 거버넌스 제약 조건을 포착할 수 있음을 보여줍니다. 우리의 접근 방식은 A2AS와 같은 업계 표준 프레임워크와 자연스럽게 통합됩니다.