PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.28199v1cs.LG

종단적 혈당 표현을 위한 전이 가능한 근거 재구성

Transferable Evidence Reconstruction for Longitudinal Glucose Representations

긴 생체 신호 기록에는 일상적인 측정값이 다수 포함되어 있지만, 예측 정보는 희귀 사건, 지속적인 부담, 반복적인 시계열 패턴에 집중되어 있는 경우가 많습니다. 마스크드 오토인코딩(masked autoencoding)은 측정값을 복원하고, 대조 학습(contrastive learning)은 뷰(view)를 정렬합니다. 본 연구에서는 구조화된 신호 근거를 명시적으로 우선시하는 자기지도학습(self-supervision)을 연구합니다. 저자들은 레이블이 지정되지 않은 기록에서 근거를 구축하고, 한 기록 그룹에 새로운 저용량 리더(reader)를 적합(fit)시킨 뒤, 해당 리더가 재적합 없이 다른 그룹에서도 동일한 근거를 복원하도록 요구하는 전이 가능한 근거 재구성(transferable evidence reconstruction, TER)을 도입합니다. 이러한 교차 그룹 테스트를 통해 역전파 미분을 수행함으로써 전이 가능한 근거 디코딩 규칙을 갖는 표현을 학습하며, 이때 근거는 자기지도학습을 유도하지만 다운스트림 특징(feature)으로는 사용되지 않습니다. 연속 혈당 측정(CGM)을 위해 관측 인지 일간 인코더와 시계 인지 다일 메모리는 최대 7일간의 기록을 정리하면서 혈당 수치 및 변화를 기록된 시간과 결합합니다. 14개 작업으로 구성된 리더보드에서 TER은 기존 최강 모델의 전반적인 PR-AUC/ROC-AUC/Macro-F1 점수를 각각 5.51/4.43/2.80%포인트 향상시키고 12/14개 작업에서 최고 지표를 경신했습니다. 이러한 리더보드 성능 향상은 상위 두 베이스라인 간 격차의 각각 2.0~2.9배에 달합니다. 공개 사전학습(pre-training) 데이터, 폴드, 선형 프로브(linear probe) 조건을 일치시켰을 때, TER은 저자들이 재현한 GlucoFM 대비 6.09/5.52/2.72포인트 더 우수한 성능을 보였습니다. 타깃 리더 소거 연구(ablation), 동일 이력 대조군, 교차 개인 판독 실험은 구조화된 근거, 교차 그룹 리더 적합, 학습된 다일 정리의 결합을 뒷받침합니다.

arXiv:2601.05353v3cs.LG

GlyRAG: 혈당 예측을 위한 컨텍스트 인식 검색-증강 프레임워크

GlyRAG: Context-Aware Retrieval-Augmented Framework for Blood Glucose Forecasting

연속 혈당 모니터링(CGM) 데이터를 이용한 정확한 혈당 예측은 혈당 이상 위험의 조기 예측을 지원할 수 있다. 그러나 현재 신경망 기반 예측 모델은 CGM 데이터를 순수 수치 시퀀스로만 다루며 CGM 신호 형태에 담긴 맥락 정보를 통합하지 않는다. 최근 대규모 언어 모델(LLM)은 시계열 예측에서 가능성을 보였으나, 당뇨 관리에서 에이전트적 맥락 추출기로서의 역할은 여전히 거의 탐구되지 않았다. 본 연구에서는 GlyRAG를 개발하여 혈당 예측과 LLM 기반 맥락화를 연결한다. GlyRAG는 컨텍스트 인식 검색-증강 예측 프레임워크로, LLM을 맥락화 에이전트로 사용해 시간 구간이 정해진 CGM 윈도우에서 직접 혈당 형태를 요약한다. 생성된 CGM 전용 서술은 임베딩되어 패치 기반 혈당 표현과 융합되며, 검색 모듈은 크로스-어텐션을 통해 유사한 과거 학습 에피소드를 통합한다. OhioT1DM 및 AZT1D 데이터셋에서 5분, 30분, 60분 예측 구간에 대해 GlyRAG를 평가한다. 강력한 CGM 전용 베이스라인과 비교할 때, GPT-4 GlyRAG는 두 데이터셋 모두에서 PatchTST 대비 장기 구간 RMSE(평균제곱근오차)를 유의하게 개선한다. 예를 들어 OhioT1DM에서 30분 구간 RMSE는 13.8에서 10.6으로, 60분 구간에서는 23.1에서 20.2로 감소한다. LLaMA 3.1은 더 작지만 유의한 장기 구간 향상을 보여, 맥락화 파이프라인이 GPT-4에 한정되지 않음을 시사한다. 임상 오류 격자 분석은 또한 예측의 약 85%가 임상적으로 허용 가능한 Clarke Error Grid Zone A 및 B에 해당함을 보여준다. 이러한 결과는 CGM에서 파생된 언어적 맥락과 사례 기반 검색이 추가 센싱 모달리티 없이 장기 혈당 예측을 개선할 수 있음을 시사한다.