PyTorchKR Papers

최신 논문

총 1,749편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:1806.01353공식 코드 · Papers with Code

Natural Language Generation for Electronic Health Records

A variety of methods existing for generating synthetic electronic health records (EHRs), but they are not capable of generating unstructured text, like emergency department (ED) chief complaints, history of present illness or progress notes. Here, we use the encoder-decoder model, a deep learning algorithm that features in many contemporary machine translation systems, to generate synthetic chief complaints from discrete variables in EHRs, like age group, gender, and discharge diagnosis. After being trained end-to-end on authentic records, the model can generate realistic chief complaint text that preserves much of the epidemiological information in the original data. As a side effect of the model's optimization goal, these synthetic chief complaints are also free of relatively uncommon abbreviation and misspellings, and they include none of the personally-identifiable information (PII) that was in the training data, suggesting it may be used to support the de-identification of text in EHRs. When combined with algorithms like generative adversarial networks (GANs), our model could be used to generate fully-synthetic EHRs, facilitating data sharing between healthcare providers and researchers and improving our ability to develop machine learning methods tailored to the information in healthcare data.

arXiv:1802.04591공식 코드 · Papers with Code

First Order Generative Adversarial Networks

GANs excel at learning high dimensional distributions, but they can update generator parameters in directions that do not correspond to the steepest descent direction of the objective. Prominent examples of problematic update directions include those used in both Goodfellow's original GAN and the WGAN-GP. To formally describe an optimal update direction, we introduce a theoretical framework which allows the derivation of requirements on both the divergence and corresponding method for determining an update direction, with these requirements guaranteeing unbiased mini-batch updates in the direction of steepest descent. We propose a novel divergence which approximates the Wasserstein distance while regularizing the critic's first order information. Together with an accompanying update direction, this divergence fulfills the requirements for unbiased steepest descent updates. We verify our method, the First Order GAN, with image generation on CelebA, LSUN and CIFAR-10 and set a new state of the art on the One Billion Word language generation task. Code to reproduce experiments is available.

arXiv:1802.02550공식 코드 · Papers with Code

Semi-Amortized Variational Autoencoders

Amortized variational inference (AVI) replaces instance-specific local inference with a global inference network. While AVI has enabled efficient training of deep generative models such as variational autoencoders (VAE), recent empirical work suggests that inference networks can produce suboptimal variational parameters. We propose a hybrid approach, to use AVI to initialize the variational parameters and run stochastic variational inference (SVI) to refine them. Crucially, the local SVI procedure is itself differentiable, so the inference network and generative model can be trained end-to-end with gradient-based optimization. This semi-amortized approach enables the use of rich generative models without experiencing the posterior-collapse phenomenon common in training VAEs for problems like text generation. Experiments show this approach outperforms strong autoregressive and variational baselines on standard text and image datasets.

arXiv:2409.19979v4cs.IR공식 코드 · Papers with Code

LLM 기반 추천 모델에서 고차 상호작용 인식 향상

Enhancing High-order Interaction Awareness in LLM-based Recommender Model

대규모 언어 모델(LLM)은 추천 태스크를 텍스트 생성 태스크로 변환함으로써 추천 분야에서 뛰어난 추론 능력을 입증해 왔습니다. 그러나 기존 접근 방식들은 사용자-아이템 간의 고차 상호작용을 무시하거나 비효율적으로 모델링합니다. 이를 위해 본 논문에서는 향상된 LLM 기반 추천기인 ELMRec을 제시합니다. 본 연구는 그래프 사전학습(pre-training) 없이도 추천을 위한 그래프 기반 상호작용에 대한 LLM의 해석 능력을 대폭 개선하기 위해 온단어 임베딩(whole-word embedding)을 강화합니다. 이러한 발견은 온단어 임베딩을 통해 풍부한 지식 그래프를 LLM 기반 추천 모델에 통합하려는 연구에 영감을 줄 수 있습니다. 또한 LLM이 최근의 상호작용보다 사용자의 초기 상호작용에 기반하여 아이템을 추천하는 경향이 있음을 발견하고, 이에 대한 재순위화(reranking) 솔루션을 제시합니다. 제안된 ELMRec은 직접 추천 및 순차적 추천 모두에서 최신(SOTA) 방법들보다 우수한 성능을 보입니다.

arXiv:2502.13141v2cs.CL공식 코드 · Papers with Code

UniGuardian: 대규모 언어 모델에서 프롬프트 주입, 백도어 공격, 적대적 공격을 탐지하는 통합 방어 기법

UniGuardian: A Unified Defense for Detecting Prompt Injection, Backdoor Attacks and Adversarial Attacks in Large Language Models

대규모 언어 모델(LLM)은 프롬프트나 모델을 조작하여 유해한 출력을 생성하게 만드는 프롬프트 주입(prompt injection), 백도어 공격(backdoor attack), 적대적 공격(adversarial attack)과 같은 공격에 취약하다. 본 논문에서는 전통적인 심층 학습 공격 패러다임에서 벗어나, 이들 공격의 본질적인 관계를 탐구하고 이를 통틀어 프롬프트 트리거 공격(Prompt Trigger Attack, PTA)이라고 명명한다. 이는 핵심적인 질문을 제기한다: 주어진 프롬프트에 대해, 숨겨진 트리거(trigger)가 모델의 동작을 조종하고 있는지 판별할 수 있는가? 우리는 UniGuardian을 제안한다. 이는 우리가 아는 한, 공격 유형을 알지 못한 상태에서도 성공적으로 활성화된 프롬프트 주입, 백도어, 적대적 공격을 공동으로 탐지하는 최초의 학습이 필요 없는(training-free) LLM 탐지기이다. 이 공유된 메커니즘은 구조화된 프롬프트 교란(perturbation)이 모델의 출력 분포를 얼마나 변화시키는지를 측정한다. 또한, 우리는 탐지 파이프라인을 최적화하기 위한 단일 순전파(single-forward) 전략을 도입하여, 각 디코딩 단계에서 공유된 배치 순전파(batched forward pass) 내에서 공격 탐지와 텍스트 생성을 동시에 수행할 수 있도록 한다. 우리의 실험은 UniGuardian이 LLM에서 트리거에 의해 활성화된 프롬프트를 정확하고 효율적으로 식별함을 확인한다.

arXiv:2505.11326v2cs.CV공식 코드 · Papers with Code

Temporally-Grounded Language Generation: Towards Real-Time Vision-Language Models

Vision-language models (VLMs) have shown remarkable progress in offline tasks such as image captioning and video question answering. However, real-time interactive environments impose new demands on VLMs, requiring them to generate utterances that are not only semantically accurate but also temporally precise. We identify two core capabilities necessary for such settings---\textit{perceptual updating} and \textit{contingency awareness}---and propose a new benchmark task, \textbf{Temporally-Grounded Language Generation (TGLG)}, to evaluate them. TGLG requires models to generate utterances in response to streaming video such that both content and timing align with dynamic visual input. To support this benchmark, we curate evaluation datasets from sports broadcasting and egocentric human interaction domains, and introduce a new metric, \textbf{TRACE}, to evaluate TGLG by jointly measuring semantic similarity and temporal alignment. Finally, we present \textbf{Vision-Language Model with Time-Synchronized Interleaving (VLM-TSI)}, a model that interleaves visual and linguistic tokens in a time-synchronized manner, enabling real-time language generation without relying on turn-based assumptions. Experimental results show that VLM-TSI significantly outperforms a strong baseline, yet overall performance remains modest---highlighting the difficulty of TGLG and motivating further research in real-time VLMs. Our code is available at https://github.com/yukw777/tglg.

arXiv:2405.15604v4cs.CL공식 코드 · Papers with Code

텍스트 생성: 과업, 평가 및 해결 과제에 대한 체계적 문헌 고찰

Text Generation: A Systematic Literature Review of Tasks, Evaluation, and Challenges

텍스트 생성에 대한 접근성이 그 어느 때보다 높아졌으며, 특히 대규모 언어 모델(LLM)을 활용한 시스템에 대한 관심이 커지면서 관련 논문의 출판이 급증하고 있습니다. 본 연구에서는 2017년 1월부터 2025년 12월까지의 기간을 아우르는 257편의 논문으로 구성된 체계적 문헌 고찰을 제공합니다. 이 리뷰에서는 텍스트 생성 분야의 기여를 오픈엔드(open-ended) 텍스트 생성, 요약, 번역, 패러프레이징, 질의응답이라는 다섯 가지 주요 과업으로 분류합니다. 자체적인 분류 체계의 각 과업에 대해 관련 특성과 핵심 하위 과업을 검토합니다. 또한 비모델 기반(model-free), 모델(model) 기반, 인간 평가를 아우르며 텍스트 생성 시스템을 평가하기 위한 최신 접근법을 평가합니다. 본 조사에서는 여러 과업별 도전 과제(예: 다중 문서 요약을 위한 데이터셋 부재, 스토리 생성에서의 일관성 부족, 질의응답에서의 복합 추론 어려움 등)를 밝혀냅니다. 나아가 최근 텍스트 생성 논문들의 모든 과업 및 하위 과업에서 공통으로 나타나는 9가지 도전 과제인 바이어스(bias), 추론, 환각(hallucination), 오용, 개인정보 보호, 해석 가능성, 투명성, 데이터셋, 컴퓨팅에 대해 논의합니다. 이 체계적 문헌 고찰은 두 가지 주요 독자층을 대상으로 합니다. 바로 해당 분야의 전반적인 개요와 유망한 연구 방향을 모색하는 자연어 처리(NLP) 분야의 신진 연구자와, 주요 과업, 평가, 도전 과제 및 완화 전략에 대한 최신 개요가 필요한 시니어 연구자입니다.

arXiv:2505.16839v4cs.CV공식 코드 · Papers with Code

LaViDa: 멀티모달 이해를 위한 대규모 디퓨전 언어 모델

LaViDa: A Large Diffusion Language Model for Multimodal Understanding

현대의 비전-언어 모델(VLM)은 시각적 추론을 요구하는 광범위한 작업을 해결할 수 있다. 실제 시나리오에서 VLM에 바람직한 특성으로는 빠른 추론과 제어 가능한 생성(예: 출력이 원하는 형식을 따르도록 제약하는 것)이 포함된다. 그러나 LLaVA와 같은 기존 자기회귀(AR) VLM은 이러한 측면에서 어려움을 겪는다. 이산 디퓨전 모델(DM)은 유망한 대안을 제공하며, 병렬 디코딩을 통해 더 빠른 추론을 가능하게 하고, 텍스트 인필링(text-infilling)을 통한 제어 가능한 생성을 위해 양방향 문맥을 제공한다. 언어 전용 설정에서는 효과적이지만, 멀티모달 작업에서 DM의 잠재력은 충분히 탐구되지 않았다. 우리는 DM 기반으로 구축된 VLM 계열인 LaViDa를 제안한다. LaViDa는 DM에 비전 인코더를 장착하고 멀티모달 지시(instruction) 따르기를 위해 결합된 구성 요소를 공동으로 파인튜닝하여 구축한다. 마주친 과제를 해결하기 위해 LaViDa는 효과적인 학습을 위한 상보적 마스킹(complementary masking), 효율적인 추론을 위한 접두 문맥(prefix) KV 캐시, 고품질 샘플링을 위한 타임스텝 시프팅(timestep shifting)과 같은 새로운 기법을 통합한다. 실험 결과 LaViDa는 MMMU와 같은 멀티모달 벤치마크에서 AR VLM과 경쟁력 있거나 우수한 성능을 달성하면서, 유연한 속도-품질 트레이드오프, 제어 가능성, 양방향 추론 등 DM만의 고유한 이점을 제공한다는 것을 보여준다. COCO 캡셔닝에서 LaViDa는 1.92배 속도 향상과 함께 Open-LLaVa-Next-8B보다 CIDEr +4.1을 초과한다. 양방향 작업에서는 Constrained Poem Completion에서 +59% 개선을 달성한다. 이러한 결과는 LaViDa가 AR VLM의 강력한 대안임을 보여준다. 코드와 모델은 카메라 레디(camera-ready) 버전에서 공개될 예정이다.

arXiv:2408.02600v3cs.CL공식 코드 · Papers with Code

BioMamba: 도메인 적응 바이오의학 언어 모델

BioMamba: Domain-Adaptive Biomedical Language Models

Mamba2 모델에 PubMed, C4, Wikipedia의 균형 잡힌 데이터를 사용하여 지속 사전학습을 수행한 BioMamba는 바이오의학 문헌 및 임상 텍스트에서의 성능을 향상시키면서 일반 언어 모델링 유창성을 유지합니다. 파인튜닝 후 MIMIC-IV 및 PubMedQA 벤치마크에서 기존 모델과 동등하거나 우수한 성능을 달성했습니다.