PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.24755v1cs.AI

Epi-Logic: 자율 AI 에이전트를 위한 인식론적 런타임 제어, 스키마 유효성 검사 및 통제된 수용의 개념적 프레임워크

Epi-Logic: A Conceptual Framework for Epistemic Runtime Control, Schema Validity Checking, and Controlled Accommodation in Autonomous AI Agents

자율 AI 에이전트는 잘못된 결정을 되돌리기 어려운 영역에 점점 더 배치되고 있다. 본 논문은 스키마 불일치(schema mismatch)를 검토한다. 이는 에이전트가 현재 맥락에 더 이상 적용되지 않는 해석 프레임 안에서 동작하는 상태를 말한다. 이러한 불일치 하에서 생성된 출력은 내적으로 일관되어 보이고, 언어적으로 그럴듯하며, 대체로 사실상 맞는 것처럼 보일 수 있다. 따라서 출력 품질 지표만으로는 근본적인 유효성 상실을 부분적으로만 포착할 수 있다. 본 논문은 인식론적 런타임 제어를 위한 개념적 프레임워크인 Epi-Logic을 제안한다. 이는 스키마 불협화음 탐지, 단계적 자율성 축소, 검증된 스키마로의 감사 가능한 전환을 결합한다. 스키마는 변수 공간, 기대 모델, 유효성 조건, 공리, 메타데이터의 튜플로 형식화된다. Epi-Score는 인식론적 불협화음의 일곱 가지 등급 차원을 집계한다. 시간적 유효성 차원 D8, 유효성 조건 G의 위반, 공리 위반은 집계와 상쇄되지 않는 별도의 범주형 경로로 유지된다. 이 아키텍처는 검사 비대칭에 기반한다. 형식화된 유효성 조건은 런타임에 검사할 수 있는 반면, 많은 행동의 정확성은 사후적으로만 확립된다. 본 논문은 두 가지 아키텍처적 속성, 순차적 변화점 탐지(sequential changepoint detection)로부터의 조건부 결과, 그리고 경험적 잔여(empirical remainder)를 구분한다. 명명된 베이스라인을 갖춘 여덟 개의 반증 가능한 명제가 경험적 검증으로의 전환을 기술한다. 모든 명제는 경험적으로 검증 가능한 가설이며, 확립된 결과가 아니다.

arXiv:2607.24371v1cs.CL

의료 상호운용성을 위한 폐루프 검증-수리: 임상 LLM의 스키마 준수에 관한 다중 모델 연구

Closed-Loop Validation-Repair for Healthcare Interoperability: A Multi-Model Study of Schema Compliance in Clinical LLMs

의료 상호운용성을 위해서는 AI 시스템이 진단 코딩을 위한 ICD-10, 시술 청구를 위한 CPT, 데이터 교환을 위한 HL7 FHIR 등 표준화된 스키마에 부합하는 구조화된 출력을 생성해야 한다. 대규모 언어 모델(LLM)은 임상 추론(clinical reasoning) 능력을 보여주지만, 전자 건강 기록(EHR) 시스템에 통합할 때 스키마 비준수라는 중요한 장벽에 직면한다. Qwen2.5 7B, Llama 3.1 8B, Gemma2 9B의 세 가지 오픈소스 모델을 10개 의료 전문 분야에 걸친 320개의 임상 시나리오에서 로컬 배포를 통해 평가하였으며, 기준선 및 검증-수리 조건 하에서 평가된 960개의 모델-시나리오 쌍을 도출하였다. 첫째, 스키마 비준수는 세 모델 계열에서 일관되게 나타났으며, 아키텍처와 학습 데이터가 달라도 기준선 준수율은 85.9%에서 91.6% 범위였다. 이는 모델별 한계라기보다 의료 학습 말뭉치의 공통된 공백을 시사한다. 둘째, 검증기가 탐지한 실패의 96%는 대체 의료 약어 및 코드 접두사와 같은 표현 수준의 형식 위반이었으며, 이는 모델이 임상 작성 관습은 따르지만 의료 IT 표준에 대한 인식이 부족함을 나타낸다. 셋째, 검증-수리 프레임워크는 전체 준수율 99.0%를 달성했으며, 모델별로 98.4%에서 99.4% 범위였고, 대부분의 오류는 한두 번의 반복 내에 해결되었다. 0.001 미만의 정확한 McNemar p-value와 모델 크기에 걸친 7.8~12.5%p의 절대 개선은 통계적 유의성을 확인한다. 이러한 결과는 폐루프 검증-수리가 의료 상호운용성을 위한 효과적인 시스템 수준의 안전장치이며, 하류 임상 시스템 통합을 위한 스키마 수준의 준비도를 향상시킨다는 점을 뒷받침한다.