arXiv:2306.09968

ClinicalGPT: Large Language Models Finetuned with Diverse Medical Data and Comprehensive Evaluation

Guangyu Wang, Guoxing Yang, Zongxin Du, Longjun Fan, Xiaohu Li

제출 2023-06-16

원문 초록

Large language models have exhibited exceptional performance on various Natural Language Processing (NLP) tasks, leveraging techniques such as the pre-training, and instruction fine-tuning. Despite these advances, their effectiveness in medical applications is limited, due to challenges such as factual inaccuracies, reasoning abilities, and lack grounding in real-world experience. In this study, we present ClinicalGPT, a language model explicitly designed and optimized for clinical scenarios. By incorporating extensive and diverse real-world data, such as medical records, domain-specific knowledge, and multi-round dialogue consultations in the training process, ClinicalGPT is better prepared to handle multiple clinical task. Furthermore, we introduce a comprehensive evaluation framework that includes medical knowledge question-answering, medical exams, patient consultations, and diagnostic analysis of medical records. Our results demonstrate that ClinicalGPT significantly outperforms other models in these tasks, highlighting the effectiveness of our approach in adapting large language models to the critical domain of healthcare.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.13722v1cs.CL공통 태그 Question Answering, Language Modeling

지식 그래프 기반 멀티태스크 사전학습을 통한 사전학습 언어 모델의 법률 추론 능력 향상

Enhancing Legal Reasoning in Pre-trained Language Models via Knowledge Graph-Guided Multi-Task Pre-training

법률 언어 이해는 반정형 규제 문서에 대한 추론을 요구하지만, 표준 사전학습(pre-training) 목표는 이러한 구조적 역량을 명시적으로 겨냥하지 않습니다. 현재의 법률 언어 모델은 마스크 언어 모델링에만 의존하기 때문에, 법령 텍스트를 단순한 평면 토큰(token) 시퀀스로 취급하고 그 이면에 있는 계층적 제약 조건을 무시합니다. 이러한 격차를 해소하기 위해 본 연구에서는 독일 도로교통법(StVO)을 대상으로 한 멀티태스크 사전학습 방식을 제시합니다. 우리의 접근법은 다음 문장 예측(NSP), 지식 그래프(KG) 기반 클러스터링(CLU), 그리고 지식 그래프 인식 단락 분류(CLS)라는 세 가지 상호보완적인 목표를 결합합니다. 이 접근법은 구조화된 법률 지식을 모델 가중치에 직접 명시적으로 인코딩합니다. 이러한 인코딩을 통해 추론(inference) 시점에 제로샷(zero-shot) 법률 추론이 가능해지며 이산적인 그래프 순회의 필요성을 없앱니다. 우리는 9개의 트랜스포머(Transformer) 기반 인코더와 324회의 실험적 실행을 통해 제안 방식을 평가합니다. 합성 StVO 질의응답에서 본 연구의 모델은 베이스라인 대비 10.3%에서 155.0% 사이의 일관된 상대적 성능 향상을 보여줍니다. 나아가 기존에 확립된 LexGLUE 베이스라인(Chalkidis et al., 2022)과 비교하여 7개 법률 벤치마크 중 4개에서 이전 결과를 개선합니다. 또한 오스트리아 운전 규정에 대해서도 3.4%에서 15.8% 사이의 일관된 제로샷 전이 이득을 달성합니다. 이러한 실험 결과는 우리의 학습(training) 방식이 초기 학습 법률 도메인을 넘어 성공적으로 일반화됨을 나타냅니다.

arXiv:2609.34024v2cs.AI공통 태그 Question Answering, Diagnostic

의학 분야에서의 Jev: 벤치마크 평가

Jev in Medicine: A Benchmark Evaluation

Jev는 미리 정의된 답변 선택지에 확률을 부여하며 해당 선택지 외에는 답변할 수 없는 비생성형(non-generative) '시스템 1(System One)' 모델입니다. 의학 질의응답 및 사례 기반 진단 추론 과제에서 이 모델의 정확도와 캘리브레이션(calibration)은 아직 알려지지 않았습니다. 본 연구에서는 MetaMedQA, PubMedQA, DiagnosisArena-MCQ, 그리고 NEJM Case Challenges 등 네 가지 의학 벤치마크에서 Jev 1.13을 평가했습니다. (중간 수준의) 추론 기능이 적용된 경우와 적용되지 않은 GPT-6 Sol을 기준 모델로 삼았습니다. 1차 평가 지표는 Top-1 정확도였으며, 주요 2차 평가 지표는 캘리브레이션, 선택적 예측(selective prediction), 답변 불가능한 질문의 인식이었습니다. 총 8,469건의 모든 요청에서 유효한 답변이 반환되었습니다. Jev의 정확도는 PubMedQA에서는 중간 수준 추론을 사용한 GPT-6 Sol과 유사했으나(78.4% 대 78.2%), MetaMedQA에서는 더 낮았고(74.8% 대 82.7%), DiagnosisArena-MCQ(59.8% 대 82.4%)와 NEJM 사례(61.8% 대 82.4%)에서는 훨씬 낮았습니다. MetaMedQA에서 Jev의 확률값은 가장 잘 캘리브레이션되었으며(기대 캘리브레이션 오차 0.063 대 0.146), 확률이 0.9 이상인 답변(전체 질문의 52.9%)의 정확도는 93.4%였으나, GPT-6 Sol 역시 비슷한 비율의 질문을 수용했을 때 동등한 수준의 정확도를 보였습니다. DiagnosisArena-MCQ에서 Jev의 확률값은 판별 능력이 떨어졌습니다(AUROC 0.645 대 0.768). 정답이 '모르거나 답변할 수 없음'인 162개 질문 중 Jev는 10.5%에서 해당 선택지를 선택했습니다(GPT-6 Sol은 8.6%). 중앙값 지연 시간은 0.27~0.31초였으며, 2,823개 전체 항목의 비용은 0.08달러였습니다. Jev는 빠르고 저렴하며, 연구 논문 초록에 대해서는 프론티어 대규모 언어 모델(LLM)과 유사한 정확도를 보였으나 시험 문제에서는 더 낮았고 복잡한 진단 사례에서는 훨씬 낮았습니다. 임상에 적용하기 전에는 과제별 검증이 필수적입니다.

arXiv:2610.01451v1cs.AI공통 태그 Question Answering, Diagnostic

개인화된 건강검진 결과 해석 및 안내를 위한 멀티 에이전트 LLM 프레임워크

A Multi-Agent LLM Framework for Personalized Health Checkup Interpretation and Guidance

건강검진 결과의 개인화된 해석에는 종단적 기록, 의학 지식, 생활 습관 안내 및 의료 서비스 내비게이션 전반에 걸친 추론이 요구됩니다. 본 논문에서는 여러 의도를 식별하고, 각 의도를 작업별 전문 에이전트(agent)에 매핑하며, 이를 병렬로 실행한 후 결과를 종합하는 멀티 에이전트 대규모 언어 모델(LLM) 시스템을 제시합니다. 저자들은 합성 건강검진 기록을 활용하여 2개에서 4개의 요구사항이 결합된 120개의 한국어 복합 질의를 대상으로 단일 에이전트(Single Agent)와 멀티 에이전트(Multi Agent) 환경에서 생성된 답변을 비교했습니다. 멀티 에이전트는 가중치 적용 LLM 심사위원 점수를 1.695점에서 1.797점으로 향상시켰으며(p = 0.027), 3개의 추가 LLM 심사위원 평가에서도 일관된 향상($Δ$ = +0.111 ~ +0.186, 모두 p < 0.05)을 보였습니다. 이러한 성능 향상은 유용성, 일관성, 그리고 복합 질의의 모든 요구사항 처리에 기인한 반면, 수치적 정확도와 그라운딩(grounding)은 4개의 심사위원 중 1개에서만 유의미하게 향상되었고, 의학적 안전성(safety)에는 차이가 없었으며, 치명적 실패 발생률 또한 유사한 수준(단일 에이전트 15.0% 대 멀티 에이전트 13.3%)을 보였습니다. 두 명의 인간 평가자는 쌍별 비교에서 각각 66.7%와 68.3%의 비율로 멀티 에이전트를 선호했습니다. 멀티 에이전트 실행은 지연 시간과 비용을 각각 1.31배 및 2.02배 증가시켰습니다. 탐색적 하위 그룹 분석에서 이러한 개선 효과는 개인 기록 조회가 포함된 질의에 집중된 것으로 나타났습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.