PyTorchKR Papers

최신 논문

총 155편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.11940v1cs.LG

CARE-LoRA: 메모리 효율적 LoRA를 위한 압축 활성화 재구성

CARE-LoRA: Compressed Activation REconstruction for Memory-Efficient LoRA

대규모 사전학습 모델의 규모가 계속 커짐에 따라, 제한된 메모리 예산 하에서 이들을 미세조정하는 것은 점점 더 어려워지고 있다. Low-Rank Adaptation(LoRA)는 현재 가장 널리 채택된 매개변수 효율적 미세조정(PEFT) 방법 중 하나로, 저랭크 적응 행렬만을 최적화함으로써 학습 가능한 매개변수 수를 크게 줄여 이 문제를 완화한다. 매개변수 오버헤드가 실질적으로 줄어든 결과, 역전파를 위해 보관되는 활성화가 LoRA 미세조정 과정에서 남아 있는 주요 메모리 병목으로 부상했다. 이를 해결하기 위해, 우리는 데이터 인식 압축 활성화 재구성(Compressed Activation REconstruction) 프레임워크인 CARE-LoRA를 제안한다. LoRA의 고유한 투영 구조를 활용하여, CARE-LoRA는 전체 입력 활성화를 LoRA 분기에서 자연스럽게 생성되는 저랭크 압축 활성화로 대체한다. 또한 순전파 동안 미미한 추가 계산 비용으로 경량 재구성 행렬을 계산하며, 이는 역전파 시 그래디언트 신호를 재구성하는 데 사용되어 LoRA 행렬이 완전히 학습 가능한 상태를 유지한다. 다양한 모델과 하위 작업에 걸친 광범위한 실험 결과, CARE-LoRA는 전체 메모리 사용량을 실질적으로 줄이면서도 표준 LoRA 및 대표적인 LoRA 변형과 비교하여 경쟁력 있거나 심지어 우수한 성능을 달성함을 보여준다. 코드는 https://github.com/fishandyu/CARE-LoRA 에서 공개적으로 제공된다.

arXiv:2607.12782v1cs.CV

MBTI: Foundation Model을 활용한 초분광 이미지 분류를 위한 다분기 효율적 미세조정 프레임워크

MBTI: A Multi-Branch Efficient Fine-Tuning Framework for Hyperspectral Image Classification with Foundation Models

초분광 foundation model은 대규모 라벨 없는 데이터로부터 전이 가능한 스펙트럼-공간 표현을 학습한다. 이는 제한된 라벨 샘플을 갖는 downstream 초분광 이미지(HSI) 분류 작업에 적응하는 효과적인 패러다임을 제공한다. 그러나 스펙트럼 밴드 구성은 센서마다 상당히 달라져 직접적인 모델 전이를 어렵게 한다. 기존 적응 전략은 종종 원본 스펙트럼을 압축, 선택, 또는 재형성하여 모델별 입력 요구에 맞춘다. 이러한 연산은 유용한 스펙트럼 정보를 폐기할 수 있으며 국소적 스펙트럼 연속성을 약화시킬 수 있다. 이 문제를 해결하기 위해, 우리는 초분광 이미지 분류를 위한 다분기 효율적 미세조정 프레임워크인 MBTI를 제안한다. MBTI는 전체 밴드 스펙트럼 정보를 보존하면서 초분광 foundation model을 downstream 분류 작업에 적응시킨다. 첫째, 스펙트럼 연속성 보존 다분기 전처리 전략을 도입한다. 원본 HSI를 여러 연속적 스펙트럼 부분집합으로 분할하고, 남은 밴드가 완전한 분기를 형성할 수 없을 때 밴드 재사용 메커니즘을 사용한다. 이는 유효하지 않은 패딩과 불필요한 스펙트럼 손실을 피한다. 둘째, 각 분기에 독립적인 저랭크 적응(LoRA) 모듈을 삽입한다. 이를 통해 대부분의 사전학습 파라미터를 고정한 채 서로 다른 스펙트럼 구간이 작업별 판별 특징을 학습할 수 있다. 셋째, 다분기 채널 어텐션 융합 모듈이 모든 스펙트럼 분기의 특징을 적응적으로 재보정하고 통합한다. 세 개의 공개 초분광 데이터셋에서의 실험은 MBTI가 대표적인 분류 방법들과 비교하여 경쟁력 있고 우수한 성능을 달성함을 보여준다. 최종 rank-8 설정에서 학습 가능한 파라미터는 약 2.33%--2.36%에 불과하다. 코드는 https://github.com/Azhenmiddleblock/MBTI/tree/main에서 제공될 예정이다.

arXiv:2603.24787v2cs.AI

ReLope: 다중모달 LLM 라우팅을 위한 KL 정규화 LoRA 프로브

ReLope: KL-Regularized LoRA Probes for Multimodal LLM Routing

라우팅은 가벼운 모델과 강력하지만 비용이 많이 드는 대형 모델을 결합하는 대규모 언어 모델(LLM) 시스템에서 성능과 비용의 균형을 맞추는 유망한 전략으로 떠오르고 있다. 최근 연구들은 은닉 상태(hidden states)를 이용해 소형 모델의 정답 여부를 예측하는 프로브 라우팅(probe routing)이 텍스트 전용 LLM에서 효과적인 해결책을 제공한다는 것을 보여준다. 그러나 우리는 이러한 프로브가 다중모달 LLM(MLLM)에 적용될 때 상당히 성능이 저하됨을 관찰한다. 경험적 분석을 통해, 시각 입력의 존재가 은닉 상태의 정답 신호 분리성을 약화시켜 표준 프로브 설계로는 추출하기 어렵게 만든다는 것을 발견한다. 이 문제에 대응하기 위해, 우리는 MLLM에서 프로브 라우팅을 개선하기 위한 두 가지 상보적인 접근법을 제안한다. 먼저, 어텐션 점수를 기반으로 이전 층의 은닉 상태를 집계하여 분산된 정답 신호를 복구하는 Attention Probe를 제안한다. 둘째, 경량 LoRA 어댑터를 삽입하고 KL 정규화(KL regularizer)를 적용하여 라우팅 인식(routing-aware) 표현을 학습하는 KL 정규화 LoRA 프로브(ReLope)를 제시한다. 종합적인 실험은 우리 방법이 일관되게 베이스라인을 능가함을 보여주며, 이는 은닉 상태의 품질 향상이 MLLM에서 효과적인 라우팅의 핵심임을 시사한다. 코드는 https://github.com/Spinozaaa/ReLope 에서 이용할 수 있다.

arXiv:2607.11839v1cs.CV

의료 학습 환경에서의 행동 인식을 위한 LoRA 기반 계단식 멀티모달 융합

LoRA-Based Cascaded Multimodal Fusion for Action Recognition in Medical Training Environments

이 논문은 의료 중심 학습 환경에서의 행동 및 활동 인식을 위한 계단식 저랭크 적응(Low-Rank Adaptation, LoRA) 기반 멀티모달 융합 프레임워크를 제안한다. 제안된 아키텍처는 매개변수 효율적인 모달리티별 적응과 순차적 융합을 결합하여, 이전에 학습된 구성 요소를 재학습하지 않고도 모달리티를 단계적으로 통합할 수 있게 한다. 고정된 융합 구조를 가정하는 대신, 이 프레임워크는 먼저 더 밀접하게 관련된 모달리티를 통합하고 이후 추가적인 이종(heterogeneous) 모달리티를 결합함으로써, 서로 다른 모달리티 집합을 가진 데이터셋 간의 확장 가능한 적응을 지원한다. 우리는 NurViD와 Nurse Training 데이터셋의 두 가지 의료 중심 학습 환경 데이터셋에서 이 프레임워크를 평가한다. 이 데이터셋들에 걸쳐 예비 결과는 제안된 계단식 융합 전략이 개별 모달리티 모델보다 향상된 성능을 보이며, 이전에 보고된 데이터셋별 기준선(baseline) 대비 경쟁력 있는 성능을 제공함을 시사한다. 전반적으로, 이러한 결과는 계단식 LoRA 기반 융합이 의료 학습 행동 및 활동 인식 과제에서 이종 모달리티를 통합하기 위한 유망한 매개변수 효율적 접근법임을 나타낸다. github: https://github.com/anonymous0-ai/LoRA-Based-Cascaded-Multimodal-Fusion-.git.

arXiv:2607.11591v1cs.CV

신경망 아키텍처 합성을 위한 유사도 기반 커리큘럼 LLM 미세조정

Similarity-Guided Curriculum Fine-Tuning of LLMs for Neural Architecture Synthesis

LLM 기반 신경망 아키텍처 탐색(NAS)을 위한 신경망 아키텍처 코드에 걸친 점진적 커리큘럼을 구성하는 MinHash 기반 유사도 스케줄링 프레임워크를 소개한다. 정규화된 7-그램 소스 코드 싱글(shingle) 위의 128-순열 MinHash 시그니처를 사용하여 참조 풀을 유사도 밴드로 분할하고, 아키텍처 이질성이 증가하는 순서로 제시하며, 각 단계의 최적 LoRA 어댑터는 백본에 누적 병합된다. CIFAR-10 이미지 분류에 대한 LEMUR 벤치마크 내에서 OlympicCoder-7B를 대상으로 프레임워크를 평가하며, 여섯 단계의 점진적 미세조정 단계에 걸쳐 에포크당 N=15개의 후보 아키텍처를 생성한다. 커리큘럼은 후처리 보수(repair) 없이 고유사도 수준에서 60%의 최고 성공률(SR)을 달성한다. 가장 다양한 수준에서의 커리큘럼 대 기본 모델, 부분 인터페이스 보수 포함 여부에 대한 2×2 절제 실험(ablation) 결과, 보수 없이는 기본 모델(47% 최고 SR)이 커리큘럼 모델(7% SR)을 크게 능가하는 반면, 부분 보수를 추가하면 두 모델 모두 53% SR에 도달함을 보인다. 이 패턴은 병합 수준의 가중치 드리프트(weight drift)가 평가자-인터페이스 사전 정보를 점진적으로 소거하는 것과 일치하며, 인터페이스 보수와 커리큘럼 스케줄링이 서로 다른 실패 모드를 대상으로 함을 시사한다. 아울러 SVHN에 대한 교차 데이터셋 전이 관찰을 보고하며, 커리큘럼 워밍업 없이 직접 기본 모델로 생성할 경우 CIFAR-10 동등 수준 대비 상당히 낮은 정확도(60.5%)에서 27%의 최고 SR을 산출함을 확인하였으며, 이는 unq-family 앵커 아키텍처의 증가된 합성 난이도와 일치한다.

arXiv:2607.10165v1cs.CV

EmoStyle: 감성 이미지 생성을 위한 스타일 전문가 혼합의 감성 조건화

EmoStyle: Affective Conditioning of Style-Specialist Experts for Emotional Image Generation

감정 인식 예술적 이미지 생성은 입력 프롬프트에 부합하고, 지정된 예술적 스타일을 따르며, 목표 감정을 전달하는 이미지를 필요로 한다. 이 과제에서 주된 어려움은 학습 데이터에서 사용 가능한 시각적·감성적 속성이 테스트 시점에 명시적으로 제공되지 않는다는 점이다. 이러한 속성 없이는 생성기가 무엇을 묘사할지뿐만 아니라, 색상·조명·붓질·구도·선·레이아웃을 통해 목표 감정을 어떻게 표현할지도 결정해야 한다. 이는 사용 가능한 테스트 프롬프트와 감정 인식 예술적 생성에 필요한 세밀한 조건 사이에 제어 간극(control gap)을 만들어낸다. 이 간극을 해소하기 위해, 우리는 입력 프롬프트를 구조화된 생성 상태로 변환하는 Z-Image 기반 프레임워크인 EmoStyle을 제안한다. 대규모 언어 모델(LLM) 추론기가 먼저 감성적 단서(valence-arousal, 지배적 감정, 치료적 효과 레이블)와 화면비 결정을 예측한다. 이 예측들을 단순히 추가 프롬프트 텍스트로만 사용하는 대신, 감성적 필드를 감성 조건 벡터로 인코딩하고 AdaLN 방식의 변조(modulation)를 통해 디노이징 블록에 주입한다. 이를 통해 추론된 제어 변수가 중간 피처 생성을 직접적으로 안내할 수 있다. 감정 표현이 스타일에도 의존하기 때문에, 각 예술적 스타일 버킷별로 전용 LoRA 어댑터를 추가로 학습하고 추론 시 해당 전문가를 선택함으로써, 동일한 감성적 단서가 색상·텍스처·붓질·구도에 대한 버킷별 사전(prior)으로 렌더링될 수 있도록 한다. 마지막으로, 경량 비전-언어 모델(VLM) 기반 후보 선택 단계에서 프롬프트 정합성, 스타일 일관성, 감정 표현, 시각적 품질을 기준으로 생성된 이미지의 순위를 매긴다. AffectiveArt Challenge 2026의 Track 1에서 우리의 USTC_PI_LAB_TEAM 제출물은 1위를 달성하였다.

arXiv:2607.09757v1cs.CV

RSLoRA: 표현 민감도 탐색을 통한 LoRA의 학습 없는 랭크 할당

RSLoRA: Training-free Rank Allocation for LoRA via Representational Sensitivity Probing

저랭크 적응(LoRA)은 매개변수 효율적 미세조정(PEFT)의 핵심 기법으로 자리 잡았으나, 균일한 랭크 할당이라는 기존 관행은 신경망 레이어의 기능적 이질성을 무시한다. 기존의 랭크 할당 방법들은 대체로 계산 비용과 휴리스틱 단순성 사이의 트레이드오프를 겪는다: 학습 기반 방법은 지나친 오버헤드에 시달리는 반면, 사전 할당 방법은 동적인 태스크 특화 표현 매니폴드를 포착하지 못한다. 본 논문에서는 활성화 공간 기하학에 기반한 학습 없는(training-free) 그래디언트 없는(gradient-free) 랭크 할당기인 RSLoRA(Representational Sensitivity LoRA)를 제안한다. 우리는 레이어 전반에 걸친 "민감도 체제 전환(sensitivity regime shift)"을 규명하며, 정적 가중치 분석과 국소 그래디언트만으로는 업데이트가 모델의 내부 표현을 어떻게 재구성하는지를 반영하기에 불충분함을 관찰한다. 이를 해결하기 위해 RSLoRA는 가상 표현 탐색(virtual representational probing) 메커니즘을 도입한다. 구조화된 저랭크 노이즈를 통해 적응을 시뮬레이션하고 Effective Rank와 Fréchet Distance를 사용하여 결과적인 매니폴드 변위를 측정함으로써, 더 높은 랭크 용량이 필요한 고민감도 모듈을 식별한다. 우리의 프레임워크는 전문가가 설계한 휴리스틱과 실제 표현적 영향 사이의 간극을 효과적으로 메운다. 광범위한 평가를 통해 RSLoRA가 주요 벤치마크에서 최신 할당기(예: AdaLoRA, GoRA)를 지속적으로 능가함을 입증한다. 반복적인 학습 시점 조정과 역방향 그래디언트의 필요성을 제거함으로써, RSLoRA는 대규모 모델 적응을 위한 고효율적이고 견고하며 표현 인식적인 솔루션을 제공한다.

arXiv:2607.10784v1cs.LG

LSTrans: Efficient Knowledge Transfer for Lightweight and Automated ECG Classification

Deploying deep learning models for automated electrocardiogram classification on resource-constrained wearable devices remains challenging due to high computational costs. To address this, we propose LSTrans, a lightweight hybrid model designed for efficient and sensitive ECG analysis. LSTrans introduces a specialized 1D convolutional backbone with an interleaved layer architecture to capture both macroscopic rhythmic trends and microscopic morphological variations. This backbone is cascaded with a Transformer encoder to model long-range temporal dependencies, incorporating Low-Rank Adaptation across critical layers to compress the model and reduce the trainable parameter space. We further employ homogeneous and heterogeneous knowledge distillation to transfer diagnostic expertise from high-capacity teacher models to the student. Experimental results on multiple benchmark datasets demonstrate that LSTrans achieves a competitive balance between diagnostic sensitivity and resource efficiency, substantially reducing peak memory footprints and training latency during downstream adaptation. The source code is available for review at https://github.com/zyee00128/LSTrans4BIBM.

arXiv:2607.09316v1cs.CL

대규모 문학 코퍼스의 자동 주제 색인화: 볼테르 전집에 대한 머신러닝 접근법

Automatic Thematic Indexing of Large Literary Corpora: A Machine Learning Approach to Voltaire's Complete Works

주제 색인화(thematic indexing) -- 텍스트 구간에 구조화된 개념적 레이블을 부여하는 관행 -- 은 대규모 문학 및 역사적 편집본에 대한 학술적 접근에 필수적이지만, 여전히 대부분 수작업으로 이루어지는 노동 집약적인 과정이다. 본 논문은 볼테르 전집의 두 가지 주요 하위 코퍼스인 『민족들의 풍속과 정신에 관한 시론(Essai sur les mœurs et l'esprit des nations)』과 『백과전서에 관한 질문들(Questions sur l'Encyclopédie)』을 테스트 케이스로 삼아 자동 주제 색인화에 대한 머신러닝 적용을 탐구한다. 이 과제는 다중 레이블 분류(multi-label classification) 문제로 설정되며, 모델은 전문 색인 작성자가 주어진 텍스트 페이지에 적용할 색인 항목 집합을 할당해야 한다. 우리는 분류 헤드를 갖춘 인코더 기반 모델부터 저랭크 적응(LoRA)을 통해 파인튜닝된 생성형 대규모 언어 모델(LLM)에 이르기까지 다양한 접근법을 비교하며, 모델 크기는 약 30억에서 1,200억 파라미터에 걸쳐 있다. 4비트 양자화 구성의 Mistral 계열에서 나온 최고 성능 모델은 F1 점수 최대 0.67을 달성한다. 우리는 전문 색인화의 본질적 주관성과 모델 예측이 인쇄 색인과 다름에도 의미론적으로 유효한 경우가 빈번하다는 점을 고려할 때, 이 수치가 하한값에 해당한다고 주장한다. 우리는 코퍼스 간 일반화도 추가로 평가하고, 자동화 처리에 특히 저항적임이 밝혀진 원본 텍스트의 문학적·수사적 특성에 대한 모델 행동의 상세한 정성적 분석을 수행한다. 우리의 연구 결과는 대규모 문학 및 역사적 코퍼스에 대한 구조화된 주제 접근을 제공하는 보다 광범위한 과제에 시사점을 갖는다.

arXiv:2607.09287v1cs.LG

Super-Tuning: 활성화 인식 가지치기에서 희소 미세조정으로

Super-Tuning: From Activation-Aware Pruning to Sparse Fine-Tuning

대규모 언어 모델(LLM)은 전체 매개변수 업데이트에 상당한 메모리, 연산, 그리고 태스크별 저장 공간이 필요하기 때문에 미세조정 비용이 여전히 높다. 우리는 원래 가지치기를 위해 개발된 현저성 신호를 모델이 적응해야 할 위치를 선택하는 데 재활용할 수 있는지 연구한다. 우리는 캘리브레이션 패스에서 계산된 Wanda 방식의 활성화 가중 크기 점수[Sun et al., 2023]를 사용하여 소규모의 학습 가능한 서포트를 고정하는 희소 파라미터 효율적 미세조정(PEFT) 방법인 Super를 제안한다. 이후 간단한 예산 분할 규칙을 통해 일치하는 학습 가능한 매개변수 예산을 유지하면서 이 희소 업데이트와 LoRA를 결합하는 하이브리드 어댑터인 Supra를 소개한다. Llama-3.2-1B 및 Meta-Llama-3-8B에 대한 단일 시드 Math17K 산술 실험에서, 최적의 Super/Supra 변형은 테스트된 스케줄 선택 어댑터 구성 중 가장 높은 평균 정확도를 달성한다. 또한 학습 불필요 희소 기준선으로서 가장 근접한 PaFi 방식의 크기 전용 서포트를 포함하며, 크기 순서와 Wanda 방식 순서 모두에서 낮은 점수의 서포트가 효과적일 수 있음을 발견한다. 이러한 결과는 단순한 가지치기에서 영감을 받은 순서가, 특히 저랭크 어댑터와 결합될 때 PEFT를 위한 유용한 고정 희소 서포트를 제공할 수 있음을 시사한다.

arXiv:2607.09067v1cs.CV

판별적 표현 학습을 위한 확산 디노이징 다이나믹스 탐색

Probing Diffusion Denoising Dynamics for Contrastive Representation Learning

텍스트-이미지 확산 모델은 전례 없는 생성 능력을 보이며, 판별적 비전 태스크에 유용하게 활용될 수 있는 풍부한 중간 표현을 내포하고 있다. 이러한 관찰에 착안하여, 본 연구는 다음의 집중적인 질문을 탐구한다: 사전학습된 확산 모델의 디노이징 다이나믹스를 매개변수 효율적인 업데이트 하에서 생성 동작을 유지하면서도 판별적 표현 학습을 지원하도록 어떻게 적응시킬 수 있는가? 우리는 이 질문에 대한 탐구로서 D$^3$CL을 제시한다. 핵심 관찰은, 서로 다른 확산 타임스텝의 노이즈 잠재 변수를 동일한 원본 이미지의 확률적 뷰로 해석할 수 있다는 것이며, 이를 통해 표준 디노이징 재구성 손실에 대조 목적 함수를 결합할 수 있다. 이 공식화는 처음부터 학습하지 않고도 생성적 디노이징과 판별적 표현 학습 간의 상호작용을 탐색하는 간단한 방법을 제공한다. 적응을 경량화하기 위해, 사전학습된 Stable Diffusion 백본에 LoRA 업데이트를 적용하면서 원래 모델 매개변수는 동결한다. D$^3$CL은 재구성 목적 함수와 노이즈 레벨 대조 목적 함수가 상보적일 수 있다는 강력한 실증적 증거를 제공한다: ImageNet-1K에서 80.1%의 선형 프로빙 정확도와 $256 \times 256$ 비조건부 생성에 대해 5.56의 FID를 달성한다. 설계 공간에 대한 추가적인 어블레이션 실험은 확산 피처의 유용성이 어디서, 어떻게 디노이징 상태를 샘플링하는지에 따라 달라짐을 시사한다. 이러한 결과들은 D$^3$CL을 사전학습된 확산 모델을 위한 매개변수 효율적 적응 프레임워크로 자리매김하며, 노이즈 레벨 대조 학습이 생성 성능을 유지하면서 판별적 태스크를 위한 디노이징 표현을 구조화할 수 있음을 보여준다.

arXiv:2607.08733v1cs.LG

대규모 언어 모델에서의 슈퍼 가중치와 선택적 학습의 실패

Super Weights in LLMs and the Failure of Selective Training

슈퍼 가중치(Super Weight)를 단독으로 파인튜닝하면 OLMo-1B/7B에서 정확도가 무작위 추측 수준으로 붕괴하는 반면, 전체 레이어에 걸쳐 저랭크 구조로 업데이트하는 LoRA는 전체 파라미터의 0.16%만으로도 성공함을 보여, 파라미터의 중요도가 단독 학습 가능성을 보장하지 않음을 실험적으로 확립한다.

arXiv:2607.07719v1cs.LG

ReCoLoRA: 지속적 LLM 미세조정을 위한 스펙트럼 인식 재귀적 통합

ReCoLoRA: Spectrum-Aware Recursive Consolidation for Continual LLM Fine-Tuning

LoRA 기반의 지속적 파인튜닝에서 발생하는 파국적 망각(catastrophic forgetting) 문제를 해결하기 위해, ReCoLoRA는 사전학습 가중치의 무작위 SVD로 어댑터를 초기화하고 엘보 기준으로 유효 랭크를 선택한 뒤, 각 태스크 완료 후 현재 유효 가중치를 재분해하는 재귀적 통합(recursive consolidation) 방식으로 이전 지식을 보존한다. 4개의 7-8B 백본에서 6개 태스크로 구성된 지속적 GLUE 시퀀스 실험 결과, LoRA, PiSSA, AdaLoRA, DoRA 대비 더 적은 파라미터로 3개 백본에서 최고 최종 평균 점수를 달성했다.

arXiv:2607.06553v2cs.CV

RGB 생성에서 밀집 필드 판독으로: 텍스트-이미지 모델을 활용한 픽셀 공간 밀집 예측

From RGB Generation to Dense Field Readout: Pixel-Space Dense Prediction with Text-to-Image Models

ReChannel은 텍스트-이미지 생성 모델(FLUX-Klein 기반)의 DiT 백본을 밀집 예측(dense prediction)에 재활용할 때, 기존처럼 타깃을 VAE 잠재 공간에 인코딩-디코딩하는 생성적 출력 인터페이스를 제거하고, 각 공간 토큰을 태스크 고유의 픽셀 패치로 직접 매핑하는 토큰-로컬 선형 헤드(약 33K 파라미터)로 대체한다. 트리맵 없는 매팅, KITTI 깊이, 지칭 분할에서 최첨단 성능을 달성하면서 동일한 4B 설정에서 기존 편집-잠재 디코드 방식 대비 2.48배 빠른 추론 속도를 보인다.

arXiv:2607.05711v1cs.LG

FourTune: 확산 모델을 위한 완전한 4비트 효율적 사후 학습을 향하여

FourTune: Towards Fully 4-Bit Efficient Post-Training for Diffusion Models

FourTune은 확산 모델의 사후학습에서 메모리 부족과 낮은 학습 속도 문제를 해결하기 위해 가중치·활성화·그라디언트를 모두 4비트로 양자화하는 W4A4G4 엔드-투-엔드 프레임워크를 제안한다. 고정된 수치 안정자(numerical stabilizer)를 포함한 삼중 분기 파이프라인과 블록 단위 양자화 및 커스텀 퓨전 커널을 결합하여, FLUX.1-dev(12B) 기준 BF16 LoRA 대비 메모리를 2.25배 절감하고 학습 처리량을 2.27배 향상시키면서 전체 정밀도 파인튜닝과 동등한 생성 품질을 달성했다.

arXiv:2607.05625v1cs.CV

임상 상처 모니터링에서 개인화된 중증 이상 반응 탐지를 위한 LoRA 기반 교차-문맥 비전-언어 적응

Cross-Contextual Vision-Language Adaptation with LoRA for Personalized Severe Adverse Event Detection in Clinical Wound Monitoring

임상 노트와 상처 시각 설명을 BiomedCLIP 위의 이중 스트림 LoRA로 인코딩한 뒤 교차-문맥 융합을 통해 멀티모달 표현을 생성하고, 의미론적 매칭·시각 전형성·캡션 정렬을 결합한 분포 외(OOD) 점수로 중증 이상 반응(SAE)을 탐지하는 상처 모니터링 프레임워크를 제안한다. 종단적 당뇨발 궤양(DFU) 데이터셋 실험에서 단일 스트림 기준선 및 단일모달 OOD 탐지기를 능가하며, 전체 파인튜닝 없이도 시간적 드리프트 페널티를 통해 방문 간 치유 역학을 효과적으로 모델링함을 입증한다.

arXiv:2605.10439v2cs.CV

확산 모델의 매개변수 공간에서 암기 필터링

Filtering Memorization from Parameter-Space in Diffusion Models

LoRA 파인튜닝된 확산 모델(diffusion model)이 학습 이미지를 암기(memorization)해 저작권 콘텐츠를 재현하는 문제를 해결하기 위해, Base-Anchored Filtering(BAF)은 학습 데이터나 추론 과정 접근 없이 LoRA 업데이트를 SVD로 스펙트럼 채널로 분해한 뒤 사전학습 백본의 주요 부분공간(principal subspace)과의 정렬 정도를 기준으로 암기 관련 채널을 선별적으로 억제한다. 여러 데이터셋과 확산 백본 실험에서 BAF는 생성 품질을 유지하거나 향상시키면서 암기를 일관되게 감소시킴을 입증했다.

arXiv:2607.02576v1stat.ML

CORA: SVD 기반 저랭크 적응을 위한 슬라이스별 일관적 직교 회전

CORA: Per-Slice Coherent Orthogonal Rotation for SVD-based Low-Rank Adaptation

CORA(Coherent Orthogonal Rotation Adaptation)는 최소 섭동 이론에 기반하여 가중치 행렬의 각 행 슬라이스에 공유 직교 회전 $Q_i$를 적용함으로써 사전학습된 좌·우 특이 기저의 결합 기하 구조를 명시적으로 보존하는 SVD 기반 파인튜닝 방법으로, LoRA 대비 약 4배 적은 파라미터로 상식 추론 및 코드 생성 태스크에서 LoRA, DoRA, PiSSA, MiLoRA를 능가한다.

arXiv:2507.18366v2cs.LG

증거적 지식 증류를 통한 대규모 언어 모델의 효율적 불확실성 추정을 향하여

Toward Efficient Uncertainty in LLMs through Evidential Knowledge Distillation

여러 번의 순전파가 필요한 베이지안·앙상블 기반 불확실성 인식 교사 모델을 LoRA로 파인튜닝된 단일 순전파 학생 모델로 증류하는 방법을 제안하며, 소프트맥스 출력과 Dirichlet 분포 출력(증거적 학습)을 활용한 두 가지 증류 전략을 비교한다. 분류 과제 실험에서 증류된 학생 모델이 교사 모델 대비 유사한 예측 성능과 불확실성 정량화 성능을 단일 순전파만으로 달성함을 보여준다.

arXiv:2607.04306v1cs.LG

SAD-LoRA: 저랭크 지식 증류를 위한 스펙트럼 정렬

SAD-LoRA: Spectral Alignment for Low-Rank Knowledge Distillation

SAD-LoRA는 파인튜닝된 교사 모델을 LoRA 학생 모델로 지식 증류할 때 어댑터의 열 공간이 데이터 가중 교사 업데이트의 주요 부분공간과 정렬되도록 미분 가능한 주각도 손실을 학습 목표에 추가하는 방법이다. RoBERTa-large → RoBERTa-base 증류 실험에서 r=4 설정 기준 6개 GLUE 태스크 중 5개에서 기존 스펙트럼 기준선과 동등하거나 우수한 성능을 보이며, 부분공간 정렬 불일치 항을 51%에서 거의 0으로 감소시켜 낮은 랭크에서의 매개변수 효율적 압축 효과를 크게 개선한다.