PyTorchKR Papers

최신 논문

총 17편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.15912v1cs.CL

더 많은 추론이 항상 더 나은 것은 아니다: LLM과 규칙을 활용한 임상 가이드라인 실행

More Reasoning Is Not Always Better: Executing Clinical Guidelines with LLMs and Rules

대규모 언어 모델(LLM)은 임상 의사결정 지원에서 상당한 가능성을 보여주었다. 그러나 기존 접근법은 임상 가이드라인을 실행하기 위해 다단계 추론이나 다중 에이전트 협업에 의존하는 경우가 많아, 결정 오류를 안정적으로 방지하지 못하면서 상당한 계산 오버헤드를 초래한다. 이러한 한계를 해결하기 위해, 우리는 구조화된 환자 상태와 결정론적 규칙 실행을 통합하여 가이드라인 기반 치료 계획 수립을 지원하는 프레임워크인 Medical Decision Execution(MedDEx)을 제안한다. MedDEx는 임상 기록 해석과 가이드라인 실행을 분리하여, LLM을 활용해 환자 정보를 추출하고 치료 계획을 생성하는 한편, 가이드라인에서 정의된 결정 로직은 규칙 실행기(rule executor)에 할당한다. 여러 임상 가이드라인 벤치마크에 걸친 실험 결과, MedDEx는 추론 비용을 줄이면서도 결정 정확도를 향상시키는 것으로 나타났다. 추가 분석은 구조화된 환자 표현과 결정론적 규칙 실행의 핵심적인 역할을 부각시키며, 이는 LLM의 추가적인 추론이 반드시 더 나은 가이드라인 준수로 이어지지는 않음을 시사한다.

arXiv:2603.11413v4cs.HC

소비자용 헬스케어 AI 평가에서 측정된 중증도 분류 실패의 원인은 모델 역량이 아닌 평가 형식이다

Evaluation format, not model capability, drives measured triage failure in the assessment of consumer health AI

최근 한 Nature Medicine 연구는 ChatGPT Health가 응급 상황의 51.6%를 과소분류(under-triage)한다고 보고하며, 소비자 대면 AI의 중증도 분류(triage)가 안전성(safety) 위험을 초래한다고 결론지었다. 그러나 해당 프로토콜은 소비자가 건강 챗봇을 사용하는 방식과 달리 시험 스타일의 스캐폴드(강제 A/B/C/D 출력, 지식 억제, 추가 질문 없음)였다. 본 연구에서는 주요 오류율이 모델의 고유 특성인지 혹은 측정 방식의 특성인지 질문을 던진다. 첫 번째 기전 연구에서 17개 시나리오 뱅크를 대상으로 5개의 프론티어 대규모 언어 모델(LLM)을 평가한 결과, 제약된 스캐폴드 조건보다 자연스러운 환자 스타일 메시지 조건에서 6.4점 더 높은 점수를 기록했으며(p=0.015), 특정 시나리오에서는 3개 모델이 강제 선택 시 0~24%에서 자유 텍스트 작성 시 100%로 상승했다. 두 번째 충실한 재현 연구에서는 임상의의 재작성 검증과 LLM 판정자에 대한 맹검 임상의 감사를 거쳐, 저자들이 공개한 60개 시나리오를 4가지 일치된 형식으로 6개 프론티어 모델에 실행했다. 여기서는 방향이 반전되어 자유 텍스트 재작성은 정확한 구조화 프롬프트보다 약간 낮은 점수를 기록했고(78.7% 대 81.8%, p=0.020), 답변 스캐폴드만 제거한 경우는 거의 변화가 없었으며(80.6% 대 81.4%, p=0.81), 강제 범주형 답변을 요구하는 자연스러운 입력 방식은 정확한 프롬프트(84.4%, p=0.023)와 자유 텍스트(p=0.0001)를 모두 능가했다. 원래 응급 분류율을 정의한 4개 시나리오에서 과소분류율은 정확한 스캐폴드에서 17%, 자유 텍스트에서 50%, 동일한 메시지에 강제 문자 답변을 요구했을 때 21%였다. 자유 텍스트 '과소분류' 사례는 모두 D가 아닌 C로 채점된 당일 진료 권고였으며, 60%는 환자에게 확인하도록 요청한 정보에 따라 상급 병원 이송을 조건부로 제시하는 행동을 보였으나 단일 턴(single-turn) 벤치마크에서는 이를 채점할 수 없다. 따라서 주요 오류율은 대체로 출력 형식 및 산문형 응답을 4점 척도에 매핑하는 과정에서 비롯된 특성이다. 벤치마크 스캐폴드는 행동적으로 개입하는 도구이며, 안전성 주장은 입력 문구, 출력 형식 및 판정 방식에 대한 민감도를 함께 보고해야 한다.

arXiv:2605.20468v3cs.LG

CASCADE 적합 예측: 2단계 임상 의사결정 지원을 위한 불확실성 적응형 예측 구간

CASCADE Conformal Prediction: Uncertainty-Adaptive Prediction Intervals for Two-Stage Clinical Decision Support

파킨슨병(PD)에서의 효과적인 약물 관리는 이질적인 질병 진행, 가변적인 환자 반응, 그리고 약물 부작용으로 인해 매우 까다롭습니다. AI 모델이 약물 필요량의 지표로서 레보도파 등가 1일 용량(LEDD)을 예측할 수 있지만, 표준적인 불확실성 정량화(uncertainty quantification)는 높은 신뢰도와 낮은 신뢰도의 임상 의사결정을 동일하게 취급하여 이러한 예측의 신뢰성을 전달하지 못하는 경우가 많습니다. 본 논문에서는 선별 분류(classification)기로부터의 인식적 불확실성(epistemic uncertainty)을 전파하여 다운스트림 예측을 적응시키는 새로운 적합 예측(conformal prediction) 프레임워크인 CASCADE(Calibrated Adaptive Scaling via Conformal And Distributional Estimation)를 소개합니다. 보조 잔차 회귀에 의존하는 표준 적합 방법과 달리, 1차 분류 과제(약물 변경 필요 여부 식별)의 인식적 불확실성을 활용하여 2차 회귀 과제(변경량 예측)의 예측 구간을 동적으로 조정합니다. 벤-아버스(Venn-Abers) 다중 확률적 불확실성을 비적합 점수(non-conformity score)에 직접 매핑함으로써, 제안하는 프레임워크는 지속적인 위험 적응을 달성합니다. 우리는 이러한 캐스케이드 효과가 신뢰도가 높은 환자에 대해 매우 효율적인 구간(표준 적합 베이스라인보다 38.9% 더 좁음)을 생성하는 동시에, 불확실한 사례에 대해서는 견고한 커버리지를 보장하도록 구간을 자동으로 확장하여 파킨슨병에서 이산적인 임상 의사결정과 연속적인 용량 예측 간의 격차를 해소함을 입증합니다.

arXiv:2603.29608v2cs.CL

독성학 의사결정 지원을 위한 진단 추론 학습

Learning Diagnostic Reasoning for Decision Support in Toxicology

급성 다중 물질 중독은 불완전한 섭취 정보와 비특이적 증상에 의존해야 하는 임상의가 상당한 불확실성 속에서 생명을 구하기 위한 신속한 결정을 내려야 하는 상황이다. 이러한 혼란스러운 환경에서 효과적인 진단 추론을 수행하려면 구급대원의 현장 묘사, 신뢰하기 어려운 환자 자가 보고나 기존 병력과 같은 비정형·비의료적 서술을 활력징후 등의 정형 의료 데이터와 융합해야 한다. 대규모 언어 모델(LLM)은 이러한 이질적인 입력을 처리할 잠재력을 보이지만, 이 환경에서는 어려움을 겪으며 환자 병력에만 의존하는 단순한 베이스라인보다 성능이 낮은 경우도 많다. 이를 해결하기 위해 우리는 응급 독성학에 강화학습(RL)을 처음으로 적용한 DeToxR(Decision-support for Toxicology with Reasoning)을 제안한다. 우리는 그룹 상대 정책 최적화(GRPO)로 파인튜닝한 LLM을 기반으로, 14개 물질 클래스에 대한 다중 레이블 예측을 수행하는 견고한 데이터 융합 엔진을 설계한다. 임상 성능 보상을 이용해 모델의 추론을 직접 최적화한다. 다중 레이블 일치도 지표를 보상 신호로 정의함으로써, 모델은 함께 섭취된 물질을 놓치거나 존재하지 않는 독성 물질을 환각으로 생성하면 명시적으로 불이익을 받는다. 우리 모델은 적응을 거치지 않은 기반 LLM과 지도학습 베이스라인을 크게 능가한다. 더 나아가 예비 임상 검증 연구에서, 올바른 독성 물질을 식별하는 데 있어 더 높은 micro-F1(0.644 대 0.473)과 재현율을 달성하여 임상적 이점을 보인다. 이러한 결과는 RL로 정렬된 LLM이 비정형 병원 전 서술과 정형 의료 데이터를 종합하여 고위험 환경에서 의사결정을 지원할 수 있는 가능성을 보여준다.

arXiv:2607.08793v4stat.ML

EHR-MPC: 생성형 환자 디지털 트윈을 활용한 패혈증 치료의 추론 시간 제어

EHR-MPC: Inference-Time Control for Sepsis Treatment with Generative Patient Digital Twins

패혈증은 주요 사망 원인 중 하나이지만, 최적의 치료 정책은 여전히 논쟁 중이다. 기존의 강화학습(RL) 접근법은 패혈증 치료를 위한 고정된 전략을 학습하여, 추론 중 변화하는 임상 목표에 대한 적응력이 제한된다. 우리는 생성형 전자 건강 기록(EHR) 모델 형태의 환자 디지털 트윈을 학습시킴으로써 환자 동역학 학습과 치료 최적화를 분리하는 프레임워크인 EHR-MPC를 제안한다. 디지털 트윈은 개입 하에서의 임상 궤적을 예측하고, 모델 예측 제어(MPC)가 시뮬레이션에 대한 추론 시간 계획을 통해 치료를 최적화할 수 있도록 한다. 우리는 오프-정책 중요도 샘플링과 온-정책 시뮬레이션 기반 평가를 모두 사용하여, Mass General Brigham 의료 시스템의 8개 병원에 걸친 다기관 ICU 패혈증 코호트에서 EHR-MPC를 평가한다. RL 기준선 대비, EHR-MPC는 유사한 오프-정책 성능과 향상된 시뮬레이션 성능을 달성한다. RL과 달리, 이 연구는 패혈증 치료 최적화를 학습된 환자 동역학에 대한 추론 시간 제어로 구성하여, 생성형 임상 모델을 활용한 의사결정을 위한 일반적인 프레임워크를 확립한다.

arXiv:2607.22574v1cs.AI

증거는 너무 많고, 시간은 너무 적다: 다목적 증거 추론을 통한 텍스트에서 실행 가능한 권고안으로

Too much evidence, too little time: From text to actionable recommendations through multi-objective evidence reasoning

증거 기반 임상 의사결정은 전문가가 관련 과학 문헌을 식별·평가·종합하는 것을 요구한다. 그러나 복잡한 임상 사례에 대한 PubMed 검색은 종종 수백 편의 논문을 반환하며, 시간 제약 하에서는 이를 수동으로 검토할 수 없다. 본 연구는 임상 사례 설명을 증거 기반 권고안으로 변환하는 프레임워크인 SCEPTER(Single-Case Evidence-driven PubMed-To-rEcommendation Reasoner)를 제안한다. SCEPTER는 PubMed 검색, PubMedBERT 의미론적 순위화, 대규모 언어 모델(LLM) 기반 주장(claim) 추출, 증거 수준 가중치, 모순 탐지, 합의 분석, 다목적 Pareto 주장 선택을 결합한다. 이 프레임워크는 구조화된 증거 종합과 그라운딩된 실행 가능한 권고안을 생성한다. Paper Q&A 모듈은 선택된 출판물에 대한 대화형 탐험(exploration)을 추가로 가능하게 한다. 제안된 프레임워크는 문헌 지원, 모순 분석, 대화형 문헌 질의를 통합 임상 의사지원 파이프라인으로 통합하는 다목적 추론 모델을 도입한다. 150건의 사례 연구에 대한 평가에서, 이 프레임워크는 평균 576편의 검색 공간을 53편의 유지 논문, 7개의 Pareto-최적 주장, 3개의 최종 권고안으로 축소했으며, 이는 전체 압축 비율 192:1에 해당한다. 이러한 축소에도 불구하고, 유지된 증거는 높은 다양성(entropy=0.901)을 유지했다. Ablation study는 Pareto 기반 선택이 기존 순위화 접근법에 비해 증거 다양성과 권고안 유용성을 높였음을 보였다.

arXiv:2607.09165v1cs.LG

의료 AI 모델에서 부분 관측 데이터의 충분성 평가를 위한 개인화된 계산 프레임워크

A Personalized Computational Framework for Assessing the Sufficiency of Partially Observed Data in Healthcare AI models

질병의 조기 및 시의적절한 진단과 치료는 주요 과제로 남아 있다. 최근 환자 데이터로 학습된 머신러닝(ML) 알고리즘이 다양한 환경에서 환자 건강 상태를 예측하는 데 유망한 성과를 보이고 있다. 이러한 ML 알고리즘을 적용할 때 자주 직면하는 과제는, 특정 시점에서 예측 작업 수행을 위한 입력으로 필요한 모든 임상 변수(특징)가 항상 이용 가능하지 않다는 점이다. 우리는 알고리즘이 학습된 모든 특징을 활용할 때의 예측 성능을 지칭하는 개념으로 전체 특징 용량(FFC, full-feature-capacity)을 정의한다. 이어서, AI 모델에 필요한 모든 임상 특징의 부분 집합이 FFC 달성에 충분한지를 판단하는 분석 방법인 특징 충분성 분석(FSA, Feature Sufficiency Analysis)을 제안한다. FSA는 이용 가능한 특징들을 조건으로 누락된 변수들의 기저 분포를 추정한다. FSA는 기존에 측정된 특징 집합이 FFC를 달성하는지 여부를 환자별로 평가한다. 충분하다고 판단될 경우 추가 입력 획득이나 ML 기반 예측이 불필요하다. 우리는 두 가지 사례 연구를 제시한다: 심장 수술 회복 환자의 수술 후 장기 인공호흡 필요 예측, 외래 코호트에서의 10년 사망률 예측. 또한 FSA가 예측 충분성에 기반한 임상적으로 해석 가능한 특징 순위 결정 방법론을 제공하고, 본질적으로 예측이 어려운 환자 집단을 식별하며, 임상 데이터 획득을 위한 비용 인식 최적화를 수행할 잠재력을 지님을 보인다. FSA는 불완전한 임상 정보가 신뢰할 수 있는 AI 보조 임상 의사결정을 지원하기에 충분한지 판단하는 범용 계산 방법론을 제공하며, 이를 통해 다양한 임상 환경에서 의료 AI 시스템의 전향적 배포를 촉진한다.

arXiv:2607.06531v1cs.AI

Large Cancer Assistant (LCA): 종양학에서 확장 가능한 임상 의사결정 지원을 위한 모델 무관 오케스트레이션 프레임워크

The Large Cancer Assistant (LCA): A Model-Agnostic Orchestration Framework for Scalable Clinical Decision Support in Oncology

- 목적: 종양학의 멀티모달 심층 학습(deep learning) 모델은 현재 데이터 수집, 임상 라우팅, 인공지능(AI) 추론(inference)을 경직되게 결합하는 단일체(monolithic) 설계에 의해 제약을 받고 있다. 이러한 비유연성을 해결하기 위해, 우리는 확장 가능한 임상 의사결정 지원을 위해 설계된 모델 무관(model-agnostic) 사후(post-hoc) 오케스트레이션 프레임워크인 Large Cancer Assistant (LCA)를 제안한다. - 방법: LCA는 알고리즘 불침투성(Algorithmic Impermeability) 원칙에 기반한 7-튜플 아키텍처로 수학적으로 형식화되어, 오케스트레이션 로직이 기저의 블랙박스 AI 모델과 엄격하게 독립적으로 유지되도록 보장한다. 우리는 기하학적 심층 학습(Geometric Deep Learning, GDL)을 활용하는 진입 이론(Entry Theory)을 도입하여 멀티모달 환자 데이터를 구별되는 구조적 축 및 의료 축을 따라 표준화한다. 시스템은 Cancer Switching Module을 통해 데이터를 동적으로 오케스트레이션하고, 표준화된 중간 페이로드(Standardized Intermediate Payload, SIP)를 출력함으로써 핵심 AI 실행을 가변적인 병원 IT 인프라로부터 의도적으로 격리한다. - 결과: 개념 증명(Proof of Concept, PoC)은 네 가지 기술 시나리오에 걸쳐 오케스트레이션 로직을 검증하였다. 프레임워크는 무시할 수 있는 오케스트레이션 오버헤드로 정상 흐름을 실행하였다. AI 모델 교체 시 불변 라우팅 프로젝션을 유지함으로써 알고리즘 불침투성을 실험적으로 입증하였으며, 주입된 데이터 이상 상황에서 목표 보충 데이터 요청(Supplementary Data Requests, SDR) 생성에 100% 재현율(recall)을 달성하여 엄격한 실패 안전성을 검증하였다. 다중 프로토콜 실행 능력도 성공적으로 검증되었다. - 결론: 멀티모달 수집과 특징(feature) 추론을 구조적으로 분리함으로써, LCA는 고도로 적응 가능하고 모듈화된 오케스트레이션 기반을 제공한다. SIP는 명확한 아키텍처 경계를 확립하여, 독립적인 미래 패러다임으로서 다운스트림 전자의무기록(Electronic Medical Record, EMR) 상호운용성을 위한 토대를 자연스럽게 마련한다.

arXiv:2607.04907v1cs.AI

Medi-Gemma: 결정론적 EMR 분석과 검색-증강 생성을 통합한 하이브리드 임상 의사결정 지원 시스템

Medi-Gemma: A Hybrid Clinical Decision Support System Integrating Deterministic EMR Analytics and Retrieval-Augmented Generation

고위험 임상 환경에 대규모 언어 모델(LLM)을 배포하는 것은 구조적 환각(hallucination), 표 형식 환자 데이터에 대한 취약한 결정론적 추론, 그리고 벡터 검색의 누락 문제로 인해 여전히 제한적이다. 본 논문은 상처 병리 분류(triage) 및 워크플로 자동화를 위한 임상 의사결정 지원 시스템(CDSS)인 Medi-Gemma의 아키텍처와 검증을 제시한다. 이 플랫폼은 추적 가능한 추론을 보존하면서 임상 인식과 데이터 오케스트레이션을 분리하는 디커플링 프레임워크를 도입한다. Medi-Gemma는 중앙화된 ClinicalOrchestrator가 조율하는 다단계 파이프라인을 사용한다. 데이터 요청은 타입 강제 변환(type coercion)을 통해 비정형 전자의무기록(EMR) 파일을 정제하는 DataManager가 생성형 추론 없이 처리한다. 자연어 쿼리는 계층적 IntentRouter가 처리하며, 이는 요청을 PandasQueryEngine이 실행하는 결정론적 분석 경로 또는 CPU 최적화 벡터 스토어를 사용하는 ClinicalRAGEngine이 관리하는 환자별 추론 경로로 라우팅한다. 주요 기여는 Ground Truth Injection Module로, 이는 환자별 쿼리를 가로채어 수치 식별 토큰을 추출하고, Pandas를 통해 정형 데이터프레임을 조회하며, 최신 검증된 임상 상태를 가져와 생성 전에 이 스냅샷을 LLM 프롬프트의 우선 적용 컨텍스트 블록으로 삽입한다. 안전성 준수는 임상 용어를 고정된 근거 기반 위험 경로에 매핑하는 결정론적 ProtocolManager가 강제하며, SafetyVerifier 구문 필터가 출력 규칙 위반을 방지한다. 검증 결과, 이 아키텍처는 의미론적 컨텍스트 드리프트를 제거하고, 데이터베이스 컴파일 충돌을 방지하며, 백엔드 임상 저장소에 대한 사실적 충실도를 향상시키는 것으로 나타났다. 이러한 결과는 정형 데이터 충실성, 검색 그라운딩(retrieval grounding), 결정론적 안전장치가 필수적인 LLM 기반 임상 의사결정 지원에서 Medi-Gemma가 더 안전한 패턴임을 뒷받침한다.

arXiv:2606.30651v1cs.CY

Can Physician Expertise Improve Machine Learning Identification of Delirium?

Delirium is common in hospitalized patients and is often missed in routine care. We present a user-centered interactive machine learning (UC-iML) framework for delirium detection support that combines physician-guided feature refinement with interpretable modeling. Using 3,862 labeled admissions from six Toronto hospitals in the General Medicine Inpatient Initiative (GEMINI), we integrate administrative variables, laboratory results, medications, and a radiology-derived text indicator. Physicians guide feature refinement and model evaluation, and Shapley Additive exPlanations (SHAP) are used to summarize feature attribution. We evaluate standard supervised classifiers with temporally separated holdout testing and a later-phase validation cohort. Compared with automated and baseline variants, the proposed framework shows better overall discrimination and stronger temporal robustness, while the explanations highlight clinically meaningful signals. These results support UC-iML as a practical human-in-the-loop framework for clinically relevant delirium modeling.

arXiv:2606.28692v1cs.AI

An AI agent for treatment reasoning over a biomedical tool universe

Treatment reasoning underpins every therapeutic decision, integrating disease context, comorbidities, medications, contraindications, and evolving biomedical knowledge to select an appropriate therapy. It is inherently iterative: candidates are weighed against many constraints, revised as evidence emerges, and grounded in verifiable sources. Here we introduce ATHENA-R1, an AI agent for treatment reasoning across all FDA approved drugs since 1939, trained by reinforcement learning over a universe of 212 biomedical tools. At each step it identifies missing information, selects and runs relevant tools, and incorporates the evidence. To train it without human-annotated traces, we build a two-level self-learning framework: multi-agent systems construct the tools, tasks, and reasoning trajectories for supervised fine-tuning, then reinforcement learning with scientific feedback rewards reasoning quality (evidence gathering, grounded tool use, logical non-redundancy). Across five benchmarks of 3,168 drug reasoning tasks and 456 patient treatment cases, ATHENA-R1 outperforms language models and tool-use systems, reaching 94.7% accuracy on open-ended drug reasoning and 82.9% on treatment reasoning, 17.8 and 10.7 points above GPT-5. In blinded evaluations by experts from 28 rare disease organizations, it is preferred over reference models on all criteria, and physicians rated it favorably on complex hospitalized cardiovascular and infectious-disease cases. Adverse-event hypotheses it generated, tested in electronic health records from 5.4 million patients, reached adjusted odds ratios of 1.48-1.84, with no elevation among negative controls. Because it requires knowing what evidence to seek before concluding, treatment reasoning has long been hard for AI; we show it can be reframed as a learnable process of iterative evidence gathering that reinforcement learning can train AI to perform.

arXiv:2606.25108v1cs.AI

The Clinician's Veto: Navigating Trust, Liability, and Uncertainty in Autonomous AI Prescribing

Autonomous AI systems are transitioning from advisory to autonomous roles for medication prescriptions. Recent United States bill H.R. 238 and Utah's prescription-renewal pilot both authorize AI to prescribe medications in an agentic capacity. While some regulatory guidelines suggest aggregate model performance metrics for clearance, they do not require i) calibrated per-prediction confidence for action-gated thresholds, ii) differentiated communication of uncertainty arising from model ignorance (epistemic) versus genuine clinical ambiguity (aleatoric), and iii) inferential transparency at the moment of decision that allows for liability allocation. Here, we present a regulatory and technical argument (tested with a survey of 136 U.S. prescribing clinicians) positioning these as minimum architectural requirements for safe autonomous prescribing. Our results suggest prescribing clinicians i) would not permit autonomous prescribing without a calibrated confidence-based escalation mechanism, ii) preferred a competing-options summary when uncertainty was aleatoric but shifted to abstention when uncertainty was epistemic, and iii) were only willing to accept additional liability when inferential transparency enabled a substantive judgment under acknowledged uncertainty. These findings indicate our recommended architectural features would encourage higher rates of clinician adoption, largely through collapsing much of what "autonomy" conventionally means. A system meeting these requirements would function less as an autonomous agent and more as a heavily supervised decision-support tool. As legislation and state pilots proceed, our technical argument backed by clinician perspectives provides opportunities for regulation to constrain the degree of autonomy ethically granted to AI in prescribing while aligning liability with the institutional actors who control system design and deployment.

arXiv:2601.16529v3cs.AI

SycoEval-EM: Sycophancy Evaluation of Large Language Models in Simulated Clinical Encounters for Emergency Care

Large language models (LLMs) deployed in clinical decision support may acquiesce to patient requests for care that conflicts with evidence-based guidelines. We developed SycoEval-EM, a multi-agent simulation framework to evaluate LLM robustness to adversarial patient persuasion in emergency medicine. Across 19 contemporary LLMs and 1,425 simulated clinical encounters spanning three Choosing Wisely scenarios, acquiescence rates ranged from 0% to 100%, revealing a bimodal distribution. Seven models maintained near-perfect guideline adherence, while six acquiesced in the majority of encounters. Vulnerability varied substantially across clinical scenarios. Acquiescence was highest for CT imaging requests, intermediate for antibiotic prescriptions for sinusitis, and lowest for opioid prescriptions for acute back pain. Model scale, recency, and performance on static medical benchmarks did not consistently predict robustness. All five persuasion tactics produced similar acquiescence rates, with no statistically significant differences after correction for multiple comparisons, suggesting a generalized susceptibility rather than tactic-specific weaknesses. LLM-as-judge evaluation was validated against two independent physician raters across 95 matched conversations and demonstrated near-perfect agreement for the primary outcome of acquiescence (Cohens kappa = 0.957). These findings indicate that static medical benchmarks are insufficient to predict safety performance under sustained social pressure and support incorporating multi-turn adversarial testing into clinical AI evaluation. Notably, two models achieved perfect guideline adherence across all encounters, demonstrating that robustness to patient pressure is attainable without sacrificing effective clinical communication.

arXiv:2606.20723v1cs.CV

실제 이전에 보지 못한 상처 이미지에 대한 의료 비전-언어 모델 HuluMed·MedGemma 및 범용 챗봇 Gemma 3, ChatGPT Plus, Claude Pro 평가

Evaluation of Medical Vision Language Models HuluMed and MedGemma, and general purpose chatbots Gemma 3, ChatGPT Plus, and Claude Pro on real previously unseen wound images

만성 상처 평가는 상처 형태학, 조직 구성, 혈관 특성 및 감염 위험의 정확한 해석이 필요한 임상적으로 어려운 과제로 남아 있다. 비전-언어 모델(VLM)의 최근 발전은 이미지 이해와 임상적 추론을 결합한 자동화된 멀티모달 상처 분석의 가능성을 제시했다. 본 연구는 혈관성, 외과적, 허혈성, 정맥성, 림프부종 및 절단 관련 원인에 걸친 20개의 임상적으로 다양한 상처로 구성된 확장·정제된 데이터셋을 사용하여, 임상 상처 평가를 위해 여러 범용 및 의료 특화 오픈소스·독점 VLM의 성능을 평가한다. 6개의 VLM은 상처 분류, 감염 위험, 혈관 중재 권고, 괴사조직 제거(debridement) 긴급성, 상처 치료 선택 및 고급 관리 계획을 다루는 구조화된 12문항 임상 프레임워크를 사용하여 평가되었다. 20개 상처 사례와 240건의 임상의 채점 상처 분석 판단 전반에서 ChatGPT가 174/240 정답(72.50%)으로 최고의 전반적 성능을 달성했으며, Claude가 149/240(62.08%)으로 뒤를 이었다. 오픈소스 및 의료 특화 모델 중에서는 HuluMed가 96/240 정답(40.00%)으로 최고 성능을 보였고, Gemma 3(81/240, 33.75%), MedGemma 4B(62/240, 25.83%), MedGemma 27B(42/240, 17.50%) 순이었다. 결과는 최첨단 범용 멀티모달 시스템이 현재 의료 특화 대안보다 상처 분석 성능에서 실질적으로 더 우수함을 시사하며, 도메인 특화 의료 지식과 함께 폭넓은 멀티모달 추론 역량의 지속적 중요성을 강조한다. 현재 VLM은 임상 의사결정 지원에 유망한 잠재력을 보여 주지만, 고급 상처 관리 추론, 절차 계획 및 자율적 임상 신뢰성에서는 여전히 상당한 한계가 남아 있다.

arXiv:2606.20164v1cs.CL

MedRLM: 긴 문맥 임상 추론, 센서 유도 선별, 증거 기반 의사결정 지원 및 지역-3차 전원 최적화를 위한 재귀적 멀티모달 건강 지능

MedRLM: Recursive Multimodal Health Intelligence for Long-Context Clinical Reasoning, Sensor-Guided Screening, Evidence-Grounded Decision Support, and Community-to-Tertiary Referral Optimization

실제 임상 의사결정 지원(clinical decision support)은 고립된 의학적 질문에 답하는 것이 아니라 이질적이고 종단적인(longitudinal) 환자 정보에 대한 추론(reasoning)을 필요로 합니다. 그러나 현재의 의학용 대규모 언어 모델(LLM) 및 검색 증강 생성(RAG) 시스템은 종종 단일 단계 프롬프트(prompt) 또는 검색에 의존하는데, 임상 증거가 긴 전자 건강 기록(EHR), 의료 영상, 센서 스트림, 가이드라인 및 전원 제약에 분산되어 있는 경우 이러한 접근 방식은 취약할 수 있습니다. 본 논문은 긴 문맥 임상 추론, 센서 유도 선별, 지역-3차 전원 지원을 위한 재귀적 멀티모달 건강 지능 프레임워크인 MedRLM을 제안합니다. 모든 환자 정보를 하나의 프롬프트(prompt)로 압축하는 대신, MedRLM은 환자 케이스를 재귀적으로 검사, 분해, 검색, 검증 및 합성할 수 있는 외부 임상 환경(environment)으로 취급합니다. 이 프레임워크는 임상 텍스트, 종단적 EHR, 의료 영상, 생리학적 센서 신호, 가이드라인 검색, 불확실성 감사(auditing) 및 전원 계획을 위한 전문화된 에이전트(agent)들을 조율합니다. 또한 환자 특이적 관찰 결과와 검색된 증거, 표준화된 정의, 센서 유래 바이오마커(biomarker) 및 전원 기준을 연결하기 위해 임상 증거 그래프 메모리(Clinical Evidence Graph Memory)를 도입합니다. 센서 유도 재귀 트리거링 메커니즘은 비정상적인 생리학적 또는 행동 패턴이 감지될 때 더 깊은 추론을 활성화하며, 불확실성 게이트 정제(uncertainty-gated refinement)는 고위험 또는 낮은 신뢰도 사례에 대한 임상의 검토를 지원합니다. 또한 EHR, 방사선학, ECG, 중환자실(ICU) 시계열 및 전원 프록시(outcome) 결과에 걸친 공개 및 인증된 임상 데이터셋(dataset)을 사용하는 실제 데이터 평가 설계를 개요합니다. MedRLM은 의학용 AI를 정적인 질문 답변에서 감사 가능하고(auditable), 멀티모달이며, 워크플로우 인식(workflow-aware) 임상 의사결정 지원으로 발전시키는 것을 목표로 합니다.

arXiv:2606.19183v1cs.CL

언어 모델은 오라클이 아닌 인터페이스: 소아 맹장염을 위한 하이브리드 LLM-ML 시스템

Language Models as Interfaces, Not Oracles: A Hybrid LLM-ML System for Pediatric Appendicitis

소아 맹장염 진단에서 LLM을 최종 판단기가 아닌 인터페이스로 두고, 임상 내러티브에서 스키마 제약 특징을 추출·검증한 뒤 XGBoost 분류기로 위험을 예측하는 하이브리드 시스템 ClaMPAPP를 제안한다. 독일 병원 두 코호트에서 엔드투엔드 LLM 대비 전반적 진단 성능이 가장 우수했고 맹장염 미탐지를 줄였으며, 문장 순서 변경에도 상대적으로 강건했다.

arXiv:2606.15504v2cs.AI

Vibe Medicine을 향하여: 임상 의사결정 지원을 위한 자가 진화 멀티 에이전트 프레임워크

Toward Vibe Medicine: A Self-Evolving Multi-Agent Framework for Clinical Decision Support

기존 의료 AI가 대화형 세션의 환자 결과와 실패 기록에서 동적으로 학습하기 어렵다는 한계를 해결하기 위해, VIBEMed는 임상 진단·치료 실행·임상 진화 관리 세 전문 에이전트와 메모리·모델·코드 수준의 자가 진화 메커니즘, 아키텍처 수준 안전 샌드박스를 결합한 멀티 에이전트 임상 의사결정 지원 프레임워크를 제안한다. 실험에서 복잡한 임상 사례와 종양학 치료 계획 등 통합적·종단적 의사결정이 필요한 과제에서 진화 메커니즘을 통해 우수한 성능과 신뢰할 수 있는 엔드투엔드 결정을 보였다.