bangor.ac.uk

이 이메일 도메인이 관측된 논문 2건

arXiv:2607.00870v1cs.CL

Dynamic Bidirectional Pattern Memory: A Production-Scale Empirical Characterisation of Inference-Time Gating in Clinical NLP

Llama-3.3 70B와 MMed-Llama-3.1 70B로 구성된 생성기-검증기 파이프라인에서 추론 시점에 패턴 메모리 게이팅(DBPM)의 선택성을 167,034개의 PMC-Patients 임상 내러티브를 대상으로 실증적으로 분석한 결과, 검증기의 거절 신호를 직접 누적하는 가장 자연스러운 설계는 프로덕션 규모에서 무효화될 수 있으며, 게이팅 신호가 검증기가 실제로 검토하는 증거와 동일한 질문을 테스트할 때만 선택적 필터링이 가능하다는 구조적 원칙을 도출했다.

arXiv:2606.29605v1cs.CL

LLM이 생성한 임상 코퍼스에서 실제로 새로운 내용은 얼마나 되는가? 출처 분류를 위한 콘텐츠 중복성의 프로덕션 규모 측정

How much of an LLM-generated clinical corpus is actually new? A production-scale measurement of content redundancy for provenance classification

임상 머신러닝은 임상의가 주석을 달기보다 대규모 언어 모델(LLM)이 생성한 학습 코퍼스에 점점 더 의존하고 있으며, 이러한 코퍼스는 보고된 규모를 기반으로 설명되고 재사용된다. 우리는 데이터 양이 정보 내용을 반영하는지 검증한다. 167,034개의 환자 내러티브에 적용된 멀티 에이전트 임상 추출 파이프라인의 전체 출력물을 분석하여—11채널 파이프라인 중 텍스트를 포함하는 10개 채널에 걸쳐 생성된 총 25.1억 토큰—우리는 출처 기반 중복성 분해(Provenance-based Redundancy Decomposition)를 도입하여 전체 출력물을 출처에 따라 토큰 수준에서 분류한다. 출력물의 단 10.9%만이 학습 가능한 고유 콘텐츠이며, 79.4%는 중복이다. 즉 원시 토큰 수는 정보 내용을 약 9배 과대평가한다. 중복성은 두 가지 별개의 메커니즘을 통해 발생하는데, 항목별 필드에 소스 컨텍스트를 그대로 복사하는 것과 레코드 전반에 걸쳐 생성된 텍스트가 중복되는 것이며, 전자만이 손실 없이 제거 가능하다. 무손실 압축에 기반한 독립적이고 모델 비의존적인 분석이 이 중복성을 확인하며, 출처 레이블을 참조하지 않고도 두 가지 메커니즘을 복원한다. 파이프라인 채널 하나는 거의 중복성이 없어, 중복성 수준이 LLM 추출의 고정적 특성이 아니라 각 채널의 구조 방식에 따라 달라짐을 보여준다. 수정되지 않은 중복성은 가장 많은 항목을 생성하는 더 길고 복잡한 사례에 가중치를 부여하기 때문에, 코퍼스의 토큰 수준 학습 분포를 왜곡하며 이를 직접 측정한다. 통제된 다운스트림 실험에서, 동일한 토큰 예산 하에 적응(adaptation) 전 코퍼스의 중복을 제거하면 외부 질병 인식 벤치마크에서 임상 인코더 성능이 향상되었으며, 이는 적응 깊이 전반에 걸쳐 강건하게 나타났고 두 번째 벤치마크에서도 재현되어 중복성이 저장 공간 이외에도 측정 가능한 비용을 수반함을 확인한다. 분류 도구는 공개적으로 배포된다.