With the rapid adoption of large language models (LLMs) and parameter-efficient fine-tuning (PEFT) methods, the risk of backdoor attacks has become more severe. Existing backdoor purification methods typically rely on at least one of the strong assumptions, such as prior knowledge of triggers, access to clean references, or aggressive retraining, and they often lack comprehensive evaluations. These constraints substantially limit their practical applicability. To overcome these challenges, our work proposes purifying LoRA-tuned LLMs without these assumptions and even without post-hoc retraining of the suspect parameters. Our objective is to significantly reduce the attack success rates (ASR) while preserving both (i) the base model's general capabilities and (ii) the new downstream skills learned through the adapter. Through a series of examinations, we progressively scale our approach from a single layer in a text classification setting to a full-parameter LLM in the generative task. Through careful data curation and feature approximation, we extract high-fidelity backdoor directions and, for each layer or head, construct orthogonal null spaces in both the input and output channels, onto which the LoRA updates are projected. Empirically, our null-space projection method reduces the ASR from nearly 100% to less than 10%, while preserving the base model's benign performance and the adapter's learned abilities during downstream task adaptation.
Backdoored large language models (LLMs) can behave normally on benign inputs while producing attacker-specified outputs under hidden triggers. Existing defenses span four stages---prior-training, in-training, post-training, and inference-time---and share one of two underlying strategies: either suppress backdoor learning (by filtering poisoned data or interrupting its acquisition during optimization) or learn, then purify (by repairing model weights or gating inputs after a fully backdoored model has formed). We propose a third strategy, learn, but channel: allow backdoor formation during training but route it into a designated, quarantined component that can be disabled at deployment. To this end, we propose Quarantined Expert Shutdown QES, a computationally efficient containment strategy built in a regularization-steered MoE-like setting. Specifically, given a poisoned dataset, QES augments a Transformer-based language model with routed expert-specific LoRA branches and lightweight routers, and uses auxiliary routing objectives to attract trigger-conditioned behavior into a designated expert while preserving benign capability elsewhere. At deployment, mitigation reduces to a single constant-time operation: zeroing the quarantined expert's routing weight, without trigger screening or further updating model weights. Empirically, our methods reduce the attack success rate (ASR) from 100% to 0-10% on most settings across two tasks, three attacks, and four model families, while downstream utility is often preserved or only modestly affected. These results establish learn, but channel as a previously unexplored regime for backdoor containment in generative LLMs.
For LLMs, skills are textual recipes encoding mature problem-solving experience. Despite widespread deployment, their utility is limited by the model's ability to comprehend and follow skill instructions. To address this limitation, we propose ParametricSkills, a framework that parameterizes textual skills at test time, enabling context-free management of the full skill lifecycle. Specifically, we first construct a large-scale and high-quality skill collection, and then synthesize single-turn and multi-turn skill-exploitation trajectories. Using this data, we then train a hypernetwork that parameterizes both the content and the exploitation methodologies of skills by converting textual skills into LoRA adapters. To facilitate the real-world application of our framework, we further align the hypernetwork on complex, long-horizon trajectories collected with OpenCode, enabling the models to operate reliably in realistic interactive workflows with ParametricSkills. Across evaluations, ParametricSkills effectively parameterizes skills, yielding substantial gains in task completion. More notably, as parametric skills accumulate as adapters rather than crowding the context, they open a preliminary but promising path toward continual learning at test time.
실제 운영 환경의 고객 지원 시스템은 의도 분류(intent classification), 질의응답, 요약, 도구 사용(tool-use) 결정 등 여러 기능을 지원하도록 LLM에 요구하는 경우가 많다. 핵심적인 배포 관련 질문은 이러한 기능을 각각 별도의 태스크 특화 모델로 처리해야 하는지, 아니면 멀티태스크 학습, 순차적 업데이트, 또는 모델 병합(model merging)을 통해 학습한 단일 모델로 처리해야 하는지이다. 우리는 이 질문을 다섯 개 모델 계열(Qwen3, Qwen3.5, Gemma-3, Llama-3.1, Mistral)에 걸친 0.6B~32B 파라미터 규모의 13개 모델을 사용하여, 공개 데이터셋 4개와 비공개 데이터셋 4개를 포함한 8개의 고객 지원 데이터셋(학습 샘플 약 74.5k개, 평가 샘플 약 8.7k개)에서 연구한다. 고정된 학습 프로토콜 하에서 200개 이상의 체크포인트를 학습한다. 실험 결과, 멀티태스크 전체 미세조정(full fine-tuning)이 우리가 테스트한 모든 모델 크기에서 가장 강력한 운영상의 기본 선택임을 확인했다. 특화 모델은 목표 태스크에서는 강력하지만 다른 태스크에서는 성능이 급격히 저하되는 경우가 많아, 신뢰할 수 있는 라우팅이 중요하다. 순차적 LoRA(Low-Rank Adaptation)는 순차적 전체 미세조정보다 이전에 학습한 기능을 더 잘 보존하며, 특화 모델을 기반 모델과 병합하면 더 큰 모델에서 동일 태스크 손실은 제한적인 수준으로 유지하면서 다른 태스크에 대한 강건성이 향상된다. 마지막으로 실제 환경에서 미세조정 전략을 선택하기 위한 실용적인 가이드라인을 제시한다.
Auxiliary signal pathways in VLMs are routinely fitted with learnable gates so the optimiser can decide how much of the signal to admit. We study what the optimiser decides, and whether the model then uses the signal, with hyperbolic visual relational graphs as the experimental vehicle. We find that under cross-entropy fine-tuning the optimiser decides on zero: the gate closes in every design we trained, across five injection designs on LLaVA-1.5-7B, 15 of 15 runs on Qwen2-VL-7B spanning four task families, 3 of 3 seeds on InternVL3-8B, and with LoRA on all linear layers. We attribute this suppression phenomenon to two regimes, a dead-gradient regime formalised through the caption-invariance of image-derived signals and measured directly, and a negative-utility regime in which the auxiliary signal actively hurts the loss. A closed gate does not by itself mean an inert pathway, so we ablate each pathway at inference under one protocol with real region proposals: the norm-aligned designs are behaviourally closed (at most 1.5pp change at the learned gate), whereas the un-normalised gated prefix is open and harmful, costing 6.7pp on relational GQA at its learned gate of +0.005 while helping SugarCrepe. Evaluating every configuration under one inference mode shows that an active injected pathway costs up to 15pp on relational GQA and 7-12pp on out-of-distribution VSR, that the geometric training losses give no measurable in-distribution gain once the pathway is dropped, and that a Euclidean containment control ties the hyperbolic one. Embedding-norm alignment remains necessary for prefix injection that preserves generation. We recommend testing signal use by ablation rather than by reading gate values or attention mass. We open-source the implementation, the checkpoints and the result files behind every table at https://github.com/mrfarazi/the-gate-always-closes.
사전학습(pre-training)된 시각 모델(visual model)은 컴퓨터 비전(computer vision)의 기본 요소가 되었지만, 데이터와 작업(task)이 시간에 따라 변화하는 연속 학습(continual learning) 시나리오에서는 어려움에 직면한다. 저랭크 적응(Low-Rank Adaptation, LoRA)은 효율적인 미세조정(fine-tuning) 능력을 제공하지만, 이러한 동적 환경에서는 여전히 한계가 있다. 표준 LoRA는 중요한 부분공간(subspace)을 구분하지 못해, 순차적 학습(sequential training) 과정에서 핵심 지식이 덮어씌워지는 문제가 발생한다. 기존 접근법들은 이를 해결하기 위해 LoRA 어댑터(adapter) 집합을 동적으로 확장하는 방식을 사용하는데, 작업별 모듈의 풀(pool)을 계속 늘려가거나 새로운 어댑터를 이전 어댑터에 병합(merge)하는 방식이며, 그 대가로 매개변수가 무한히 증가하거나 추론 복잡도가 증가한다. 우리는 단일한 공유 LoRA 어댑터가 추론 시 모듈 선택이나 융합(fusion) 없이도 치명적 망각(catastrophic forgetting) 없이 순차적 작업들을 처리할 수 있게 하는 방법인 연속 저랭크 적응(Continual Low-Rank Adaptation, C-LoRA)을 제안한다. C-LoRA의 핵심은 각 랭크-1(rank-one) 부분공간이 가중치 업데이트에 기여하는 방식을 명시적으로 제어하는 학습 가능한 라우팅 행렬(routing matrix) R이다. 이 행렬은 이전 작업들의 지식을 보존하는 안정성(stability) 구성 요소(R_base)와 현재 작업에 대한 적응을 이끄는 가소성(plasticity) 구성 요소(R_delta)로 분해되어, 안정성-가소성 트레이드오프(trade-off)를 직접 제어할 수 있게 한다. 우리는 순차적 학습 과정에서 R이 그래디언트 흐름을 어떻게 조절하는지 분석하고, 다수의 벤치마크(benchmark)에서 경쟁력 있는 성능을 입증한다.
실제 환경의 시계열 애플리케이션에서는 시계열 예측, 문맥 조건부 예측, 그리고 언어 기반의 시간적 추론을 모두 처리할 수 있는 모델이 점점 더 많이 요구되고 있습니다. 그러나 현재의 시계열 파운데이션 모델들은 이러한 역량 전반에 걸쳐 여전히 파편화되어 있습니다. 수치 특화 모델은 흔히 가장 강력한 예측 성능을 제공하는 반면, 언어 기반 모델은 더 넓은 문맥 이해와 분석 기능을 제공합니다. 핵심 과제는 이러한 이종의 역량들을 각각의 성능 저하 없이 하나로 통합하는 것입니다. 본 논문에서는 관측된 시계열로부터 직접 예측을 수행하고, 텍스트 문맥과 시간적 패턴에 걸쳐 추론하며, 외부 수치 예측 전문 모델들의 예측값을 종합 및 정제할 수 있는 범용 시계열 언어 모델인 OpenTSLM TeeMoE를 소개합니다. 우리는 공유 백본 상에서 예측 종합, 자체 예측, 시간적 분석을 위한 세 개의 저순위(low-rank) 전문가를 독립적으로 학습합니다. 그런 다음 학습된 LoRA 전문가 혼합(MoE) 컨트롤러가 각 요청에 대해 고정된 이들의 매개변수 업데이트에 가중치를 부여합니다. 제안된 모델은 시계열 예측, 문맥 조건부 예측, 언어 기반 시간적 추론 분야의 널리 사용되는 벤치마크에서 우수한 성능을 달성하여, 평균 MASE 순위 기준 GIFT-Eval, RCRPS 기준 Context is Key, 정확도 기준 TimeSeriesExam에서 상위 3위 이내에 올랐습니다.
사전학습된 언어 모델을 전체 미세조정(fine-tuning)을 통해 새로운 도메인에 적용하는 것은 연산 비용이 많이 들고 치명적 망각(catastrophic forgetting)이 발생하기 쉽습니다. 이러한 한계를 해결하기 위해, 본 논문에서는 맞춤형 PEFT 아키텍처와 혼합 목적함수 학습(training)을 결합한 비지도 도메인 적응(unsupervised domain adaptation)을 위한 새로운 매개변수 효율적 전략을 소개합니다. 제안된 방법은 가역 어댑터(invertible adapter)와 LoRA(Low-Rank Adaptation)를 통합하며, 레이블이 지정된 소스 도메인 데이터에 대한 분류(classification)와 레이블이 지정되지 않은 타깃 도메인 데이터에 대한 마스크 언어 모델링을 공동으로 최적화합니다. 이러한 공동 학습 방식은 타깃 도메인의 지식을 보존하면서 태스크 적응을 지원합니다. 본 연구는 20개의 도메인 이동에 걸쳐 Multi-Genre Natural Language Inference(MNLI) 데이터셋(dataset)에서 해당 방법을 평가합니다. 제안하는 접근법은 모델(model) 매개변수(parameter)의 7%만 업데이트하면서도 매개변수 효율적 SOTA인 UDapter 대비 평균 1.41%p, 전체 미세조정된 DANN 기준선(baseline) 대비 1.26%p, DSN 대비 0.86%p의 성능 향상을 달성합니다. 이러한 결과는 매개변수 효율적 비지도 도메인 적응에 대한 새로운 SOTA 결과를 확립하며, 동시 최적화를 갖춘 정교하게 설계된 PEFT 조합이 매개변수 효율적 접근법과 기존의 전체 미세조정 접근법 모두를 능가할 수 있음을 입증합니다.
본 논문에서는 오디오, 비전, 그래프 및 크로스모달(cross-modal) 환경 전반의 최신 자기지도학습(SSL) 방법들을 단일 모듈형 코드베이스로 통합한 파이썬 라이브러리인 PrismSSL을 소개합니다. 본 데모의 목표는 연구자와 실무자가 (i) 몇 줄의 코드만으로 사전 작업 학습(pretext training)을 설치, 설정 및 실행하고, (ii) 간결한 벤치마크를 재현하며, (iii) 깔끔한 트레이너 및 데이터셋 추상화를 통해 프레임워크를 새로운 모달리티나 방법으로 확장할 수 있는 방법을 보여주는 것입니다. PrismSSL은 PyPI에 패키징되어 MIT 라이선스로 배포되며, HuggingFace Transformers와 긴밀하게 연동되고, PyTorch 기반 분산 학습, Optuna 기반 하이퍼파라미터 탐색, 트랜스포머 백본을 위한 LoRA 미세조정, 온전성 검사(sanity check)를 위한 애니메이션 임베딩 시각화, Weights & Biases 로깅, 사용 편의성과 가독성 향상을 위한 다채로운 구조화된 터미널 로그와 같은 다양한 편의 기능을 제공합니다. 또한 PrismSSL은 Flask 및 표준 웹 기술로 구축된 그래픽 대시보드를 제공하여 사용자가 최소한의 코딩으로 학습 파이프라인을 구성하고 실행할 수 있도록 지원합니다. 본 연구의 결과물(코드 및 데이터 레시피)은 공개되어 재현 가능하도록 제공될 예정입니다.
다중 LoRA(Multi-LoRA) 에이전트 시스템은 공통 백본 모델(backbone model)을 공유함으로써 효율적인 역할 특화(role specialization)를 가능하게 합니다. 그러나 장기 궤적(long-horizon) 태스크에서는 각 에이전트가 증가하는 공유 궤적을 반복적으로 처리하고 자체 KV 캐시를 구축하므로 상당한 메모리 및 연산 중복이 발생합니다. 기존의 KV 캐시 공유 방법들은 이러한 반복적인 프리필(prefill)을 줄이지만, 추가적인 학습(training)이나 아키텍처 제약을 요구하거나 상당한 양의 모델 연산을 그대로 남겨둡니다. 또한 캐시를 직접 재사용하면 현재 에이전트가 이전 에이전트의 어댑터에 의해 생성된 캐시 상태에 의존하게 되어 자체 LoRA에 인코딩된 역할별 고유 동작이 약화됩니다. 본 논문에서는 사전학습된 가중치로 계산된 베이스 캐시를 공유하고 에이전트별 소형 저랭크(LR, low-rank) 캐시를 사전 계산하는 두 가지 설계(PreLRShared 및 ReBaseShared)를 갖춘 학습이 필요 없는(training-free) KV 캐시 공유 프레임워크인 PReCache를 제시합니다. 반복적인 프리필을 제거하기 위해 PreLRShared는 공유 컨텍스트가 처음 처리될 때 각 에이전트의 LR 캐시를 사전 계산하여, 현재 에이전트가 이전 에이전트가 처리한 컨텍스트를 재처리하지 않고도 자체 LR 캐시를 사용할 수 있도록 합니다. 공유 정확도를 향상하기 위해 ReBaseShared는 어댑터가 없는 은닉 상태(hidden states)로부터 공유 베이스 캐시를 재구성하여 이전 에이전트의 어댑터 표현으로 인해 발생하는 잔여 오차를 줄입니다. 재구성 비용을 최소화하기 위해 단일 스트림 추론과 동시 서빙에 맞춘 두 가지 추론(inference) 방식을 제안하며, 이는 각각 각 에이전트의 턴 이후 또는 실행과 병행하여 동일한 재구성을 수행합니다. 다양한 모델과 에이전트 벤치마크에 걸쳐 PreLRShared는 KV 캐시 공유가 없는 추론 대비 최대 3.1배의 TTFT(Time to First Token) 속도 향상과 2.3배의 요청당 처리량 개선을 달성합니다. ReBaseShared는 평가된 캐시 공유 방법 중 전반적으로 정확도를 가장 잘 보존하며, 캐시 공유가 없는 추론 대비 평균 하락폭이 1.1점에 불과합니다.
로우랭크 적응(LoRA)은 고정된 사전학습 모델에 학습 가능한 로우랭크 어댑터를 배치하는 널리 쓰이는 매개변수 효율적 미세조정(PEFT) 방법입니다. 최근 연구들에 따르면 더 적은 수의 LoRA 어댑터를 사용하더라도 성능을 유지하거나 오히려 향상시킬 수 있음이 나타났으나, 기존 방법들은 여전히 어댑터를 광범위하게 분산시키고 있어 '성능을 극대화하기 위해 제한된 수의 어댑터를 어디에 배치해야 하는가'라는 문제를 여전히 미해결 상태로 남겨두고 있습니다. 이를 탐구하기 위해, 본 논문에서는 각 후보 LoRA 어댑터에 주어지는 초기 학습 가능 그래디언트 에너지를 추정하는 그래디언트 기반 민감도 프로브인 PAGE(Projected Adapter Gradient Energy)를 도입합니다. 놀랍게도 두 모델 패밀리와 네 가지 다운스트림 태스크 전반에서 PAGE가 단 하나의 얕은 FFN 다운 프로젝션에 고도로 집중되어 있음을 발견했습니다. 본 연구는 이 모듈을 지배적 적응 모듈(dominant adaptation module)이라 명명하고, 해당 층의 인덱스가 아키텍처에 따라 달라지지만 태스크에는 안정적임을 보입니다. 이러한 발견에 착안하여, 지배적 적응 모듈에 단 하나의 어댑터만 배치하는 배치 방법인 DomLoRA를 제안합니다. 바닐라 LoRA의 학습 가능한 매개변수의 0.7%만을 사용함에도 불구하고, DomLoRA는 지시 따르기(instruction following), 수학적 추론, 코딩, 다중 턴 대화를 포함한 다운스트림 태스크 전반에서 평균적으로 바닐라 LoRA를 능가합니다. 또한 이 방법은 다른 LoRA 변형들과 동등하거나 더 나은 성능을 달성하며 광범위한 배치 대비 학습 시간을 최대 2.74배 단축함으로써, 지배적 적응 모듈 관점이 실용적인 어댑터 배치 지침이 될 수 있음을 뒷받침합니다.
엄격한 연산, 통신, 프라이버시 제약으로 인해 연합 환경에서 대규모 언어 모델(LLM)의 추론 능력을 향상하는 것은 쉽지 않은 과제입니다. 특히 임상적으로 중대한 결정이 필요한 의료 분야에서는 안전성, 책임성, 규제 요건을 충족하기 위해 정확도뿐만 아니라 해석 가능하고 감사 가능한 논리적 근거가 필수적입니다. 기존의 연합 미세조정 방식은 단계별 추론 능력을 기르기보다는 최종 답변을 모방하는 데 그치는 경우가 많으며, 프라이버시에 민감한 중앙 집중식 지식 증류에 의존하는 일이 잦고 여전히 상당한 통신 오버헤드를 발생시킵니다. 본 논문에서는 이러한 문제를 해결하기 위해 연합 추론 프레임워크인 FedCoT를 제안합니다. FedCoT는 선택을 위한 경량 식별기(discriminator)와 결합된 가벼운 사고의 연쇄(Chain-of-Thought) 재샘플링, 그리고 이질성을 수용하면서 집합(aggregation) 노이즈와 통신량을 줄이기 위한 클라이언트 인식 LoRA 스태킹 및 가중 분류기 집합 기법을 결합합니다. 클라이언트는 후보 연쇄와 지도 신호를 로컬에서 생성하며, 서버에서는 경량 모듈만 집합됩니다. 의료 추론 벤치마크에 대한 실험 결과, FedCoT는 데이터를 로컬에 유지하고 프라이버시를 보호하면서도 빠듯한 자원 예산 하에서 일관된 성능 향상을 보여주어, 해석 가능하고 자원 효율적인 솔루션을 제공함을 입증했습니다. 연구 코드는 https://github.com/DIaacKr/FedCoT 에서 공개되어 있습니다.
개인화된 대규모 언어 모델(LLM)은 종종 각 사용자에 대해 완전한 적응(adaptation) 상태를 필요로 합니다. 그러나 이러한 패러다임은 사용자 수가 증가함에 따라 확장성이 떨어집니다. 본 연구에서는 개인화 용량 할당(personalization capacity allocation)이라는 관점에서 이러한 설계를 재검토합니다. 즉, 사용자 간에 얼마나 많은 적응 용량을 공유할 수 있는지, 공유된 용량을 어떻게 구성해야 하는지, 그리고 얼마나 많은 부분이 사용자 전용으로 남아 있어야 하는지를 탐구합니다. 우리는 세 가지 상호보완적인 실증 분석을 통해 이에 답합니다. 독립적인 사용자 어댑터에는 상당한 수준의 사용자 간 재사용 가능한 구조가 포함되어 있고, 재사용 가능한 방향의 유용성은 사용자 관련성과 쿼리 전반의 변동성을 모두 반영하며, 사용자 이력은 컴팩트한 개별 보정을 위한 전이 가능한 신호를 제공한다는 점을 발견했습니다. 이러한 발견에 착안하여, 우리는 LINEUP을 제안합니다. 이 방법은 재사용 가능한 저랭크(low-rank) 개인화 팩터 뱅크를 학습하고, 사용자 조건부 재현율(recall) 및 쿼리 의존적 캘리브레이션을 통해 이를 구성하며, 대상 사용자 적응을 공유 보정 공간 상의 극소형 사용자 코드로 제한합니다. 이러한 설계는 표현력 있는 개인화 용량을 사용자별 학습 가능 상태와 분리합니다. 모든 공유 컴포넌트가 고정된 상태에서 각 대상 사용자는 단 8개의 스칼라만을 최적화합니다. 이에 비해 평가된 프라이빗 LoRA 구성은 사용자당 419만 개의 파라미터를 사용합니다. 우리의 이론적 분석은 유한 스텝, 유한 이력 위험 한계(risk bound)와 사용자 코드 개선이 이력 초기화(initialization)보다 향상되기 위한 충분조건을 제시합니다. 개인화 분류(classification), 예측, 생성을 아우르는 6개 태스크에서 LINEUP은 3회의 독립적인 실행을 거쳐 평균화된 12개 지표 모두에서 우위를 점했습니다(예: 가장 강력한 기준선(baseline) 대비 LaMP-3 RMSE 11.4% 감소). 또한 제한된 이력 환경에서도 우위를 유지합니다. 이러한 결과는 풍부한 개인화가 주로 재사용 가능하고 조건부로 구성된 공유 용량에 의해 지원될 수 있으며, 독립적인 사용자 적응은 아주 작은 보정 상태로만 국한되어도 충분함을 보여줍니다.
로우랭크 적응(LoRA)은 대규모 심층 학습(deep learning) 모델의 매개변수 효율적 미세조정(PEFT)을 위한 지배적인 패러다임이 되었습니다. 그러나 LoRA의 쌍선형 매개변수화는 매개변수 의존적 기하구조를 유발합니다. 즉, 학습 가능한 매개변수에서 가중치 업데이트로의 매핑이 일반적으로 거리를 보존하지 않습니다. Uni-LoRA와 같이 저차원 벡터를 LoRA의 매개변수 공간에 투영하는 관련 방법들은 매개변수 효율성을 향상시키지만, 이어지는 쌍선형 맵이 종단간 등거리성(isometry)을 깨뜨립니다. 본 논문에서는 희소 등거리 분할 행렬을 통해 $d$차원 학습 가능 벡터를 전체 가중치 공간으로 직접 매핑하는 고도의 매개변수 효율적 미세조정 방법인 GPart(전역 분할 미세조정)를 제안합니다. GPart는 고정된 전역 매개변수 공유 사전확률(prior)을 유지하면서 LoRA 기반 방법에서 사용되는 추가적인 로우랭크 재구성을 제거합니다. 이를 통해 단일 주요 하이퍼파라미터($d$), 정확한 종단간 등거리성, 학습 가능 벡터와 랜덤 시드로만 구성된 최소한의 체크포인트 표현을 갖춘 단순한 매개변수화를 달성합니다. GPart는 로우랭크 행렬 분해 없이도 전체 가중치 공간의 무작위 저차원 부분공간 내에서 효과적인 미세조정이 가능하다는 전제를 기반으로 구축되었습니다. 자연어 이해, 컴퓨터 비전(CV), 수학적 추론 벤치마크 전반에 걸쳐 GPart는 극도로 낮은 매개변수 예산에서도 기존 PEFT 방법과 대등하거나 더 뛰어난 성능을 보입니다. 수학적 취급 용이성과 메모리 효율성을 제공하는 것 외에도, GPart의 직접적인 선형 매개변수화는 모델 선택을 간소화하고 컴팩트한 어댑터 결합을 위한 길을 열어줍니다. 전반적으로 GPart는 학습 가능한 좌표와 가중치 공간 업데이트 사이의 고정되고 예측 가능한 기하구조를 바탕으로, 적은 매개변수 예산 조건의 미세조정에서 우아하고 경쟁력 있는 대안을 제공합니다.
우리는 합성곱 신경망(CNN)을 위한 매개변수 효율적 미세조정 방법인 CoLoRA(Convolutional Low-Rank Adaptation)를 소개한다. CoLoRA는 커널 업데이트를 경량의 depthwise 및 pointwise 성분으로 분해하여 LoRA를 합성곱 층으로 확장한다. 이 설계는 전체 합성곱 미세조정과 비교해 학습 가능한 합성곱 업데이트 매개변수의 수를 80% 이상 줄이면서도, 학습된 업데이트를 사전학습된 합성곱 커널에 병합할 수 있게 하여 원래 모델 크기와 추론 복잡도를 유지한다. MedMNIST 데이터셋, 특히 OCTMNISTv2에 대한 실험은 VGG16과 ResNet50에 적용한 CoLoRA가 학습 가능한 매개변수 수를 크게 줄이면서도 경쟁력 있는 분류 성능을 달성함을 보여준다. 전이학습, 어댑터, BitFit, 합성곱 LoRA 변형과의 비교는 예측 성능, 학습 가능한 매개변수, 학습 비용 간의 트레이드오프를 추가로 규명한다. CIFAR-100과 Cats vs. Dogs에 대한 추가 실험은 제안한 적응 전략이 비의료 이미지 분류 과제에도 전이됨을 보여주는 예비 증거를 제공한다. 최대 GPU 메모리 측정은 또한 매개변수 효율성이 비례적인 학습 메모리 절감으로 직결되지 않으며, 메모리 소비가 적응된 합성곱 층의 배치에 크게 좌우됨을 보여준다. 전반적으로 CoLoRA는 합성곱 모델에 대한 전체 미세조정의 매개변수 효율적이고 배포 효율적인 대안을 제공한다.
본 연구는 데이터가 부족한 환경에서 임상 인터뷰 녹취록으로부터 연속적인 우울증 중증도 점수를 예측하는 문제를 다룹니다. 우리는 교차 척도 전이(cross-scale transfer)를 위한 순차적 저순위 적응(LoRA) 프로토콜을 제안합니다. 경계 회귀 헤드(bounded regression head)가 결합된 Qwen3 백본을 먼저 영어 DAIC-WOZ 데이터셋(아바타 중개 세션 189건, PHQ-8)에서 미세조정(fine-tuning)한 후, 해당 어댑터로 초기화하여 중국어 PDCH 데이터셋(실제 임상 상담 100건, HAMD-17)에서 미세조정을 진행하며, 이때 재초기화된 척도 전용 헤드가 임상의가 부여한 점수를 예측합니다. 모든 구성에는 환자 수준의 계층화된 5-겹 2-반복 교차 검증(5-fold, 2-repeat cross-validation)을 적용했습니다. 데이터가 희소한 HAMD-17 타깃에서 순차적 프로토콜은 0.6B 및 1.7B 백본 모두에서 가장 우수한 점추정치 MAE, RMSE 및 매크로-$F_1$을 달성하여 타깃 전용 학습(training) 및 비 LLM 베이스라인을 능가했습니다(Qwen3-0.6B에서 4.96/6.59/0.36, Qwen3-1.7B에서 4.38/5.62/0.46). 소거 연구(ablation) 결과, 올바르게 정렬된 소스 감독이 최상의 점추정치를 산출하고(비지도 노출 및 셔플된 레이블 대조군 또한 부분적인 이득을 보임), 원어 중국어 타깃 입력이 기계 번역된 영어 입력보다 우수한 성능을 보이며, 역순 전이는 실행 간 분산 범위 내에서 뚜렷한 이득을 보이지 않음을 시사합니다. 본 연구는 탐색적인 단일 기관 내부 평가로, 선별 또는 진단 유용성을 입증하지 않으며 척도, 언어 또는 패러다임 변화 각각의 기여도를 분리하여 규명하지는 않습니다. 우리가 아는 한, 이 특정한 DAIC-WOZ에서 PDCH로의 순차적 전이 설정을 평가한 선행 연구는 없습니다.
대규모 언어 모델(LLM)의 머신 언러닝(machine unlearning)은 전체 재학습에 비용이 많이 들고, 근사 기법은 특히 배포 이후 감독 신호가 제한된 상황에서 유지되어야 할 유용성을 저하시키지 않으면서 대상 행동을 제거하는 데 어려움을 겪는 경우가 많아 여전히 어려운 과제로 남아 있다. 본 연구는 작은 망각 집합(forget set), 제한된 유지 버퍼(retain buffer), LoRA만을 이용한 업데이트를 전제로 한, 대상 행동 오염 제거를 위한 실용적인 PEFT 설정을 다루며, 샘플 간 영향도(influence) 추정치를 고정된 샘플별 가중치로 변환하여 가중 LoRA 언러닝에 활용하는 영향도 기반 프레임워크인 RapidUn을 제안한다. Dolly-15k와 Alpaca-57k에서의 Llama-3-8B 실험과 Mistral-7B + Dolly-15k에서의 교차 모델 검증 전반에서, RapidUn은 깨끗한 유용성(clean utility)에서 경쟁력을 유지하면서도 Fisher, GA, LoReUn보다 더 낮은 학습된 트리거(seen-trigger) 및 OOD 트리거 계열(OOD-trigger-family)의 ASR을 달성한다. Llama-3-8B + Alpaca-57k에서는 깨끗한 코퍼스 LoRA 재학습 기준 대비 실제 소요 시간(wall-clock) 기준 77배의 속도 향상을 달성한다. 보완적인 TOFU, 의미 기반 LLM 심판(semantic LLM-judge), IFEval 평가 역시 통제된 트리거 벤치마크를 넘어 영향도 기반 샘플 재가중의 효과를 추가로 뒷받침한다.
장면 안전성 이해(scene safety understanding)는 다양한 핵심 분야의 상황 인식에서 생사를 가르는 역할을 한다. 장면과 안전 수준 사이의 직접적인 매핑을 학습하는 기존 방법은 해석 가능성이 부족한 경우가 많아, 핵심 응용 분야에서의 신뢰성이 제한된다. 이러한 문제를 극복하는 효과적인 접근법은 인간의 인지 과정을 해석하고 기계 모델에 이와 유사한 인지 능력을 갖추게 하는 데 있다. 본 연구는 장면 안전성 인지 과정 모델링과 과정 감독(process supervision)을 통합하는 효과적인 방법을 탐구한다. 구체적으로, 먼저 계층적 인지 안전 구조를 구축하고, 이를 바탕으로 과정 레이블이 포함된 다단계 추론에 기반한 새로운 고품질 장면 안전성 이해 데이터셋을 개발한다. 이 데이터셋은 벤치마크이자 대규모 언어 모델(LLM)의 안전성 추론 능력을 향상시키는 자원으로 활용되며, 동시에 정보 흐름(information flow)과 살리언시(saliency) 기반 기법을 통해 중간 추론 단계에 대한 세분화된 분석도 가능하게 한다. 이러한 토대 위에서, 인간 인지의 계층적 특성을 반영하는 모듈식이고 유연한 과정 감독 프레임워크를 제안한다. 이 프레임워크는 LLM을 핵심 아키텍처로 활용하고 저랭크 적응(Low-Rank Adaptation, LoRA)과 전문가 혼합(Mixture-of-Experts, MoE) 전략을 도입하여, 전체 추론 사슬의 특정 하위 과정을 각각 담당하는 전문가 모듈 간의 특화와 협업을 가능하게 한다. 체계적인 실험 평가와 분석을 통해, 본 프레임워크가 기존 접근법에 비해 우수한 해석 가능성과 성능 특성을 보임을 확인하였다.
원격 탐사(RS) 멀티모달 대규모 언어 모델(MLLM)은 영어로만 학습(training) 및 평가(evaluation)되는 반면, 텍스트 전용 인스트럭션 데이터는 100개 이상의 언어를 포괄합니다. 본 논문에서는 다국어 RS 예시가 단 하나도 없이도 영어 RS MLLM에 새로운 언어를 추가하는 방법론인 MODL(Mutually Orthogonal Domain-Language composition)을 제안합니다. 이는 영어 RS 영상으로 학습된 도메인 LoRA와 텍스트만으로 학습된 언어 LoRA를 함께 학습하되, 학습 전반에 걸쳐 모든 층(layer)에서 두 업데이트가 상호 직교하도록 유지하는 단일 손실(loss) 항 하에서 공동 학습됩니다. 이 제약 조건이 해당 방법론의 핵심 요소입니다. 이 제약이 없으면 동일한 학습을 진행하더라도 RS 질문에 정답을 맞히지만 영어로 답하게 되며, 베이스 모델(model)의 다국어 텍스트 능력을 크게 훼손하고 세 번의 시드 중 한 번은 발산합니다. 학습이 필요 없는 병합부터 기존의 직교성 변형 기법에 이르는 16가지 대안들 역시 동일한 방식으로 실패합니다. MODL은 모든 시드에서 이러한 실패를 모두 해결합니다. 최상의 대안이 27%에 도달하고 대부분 8% 미만에 머무는 반면, MODL은 56-71%의 확률로 대상 언어로 올바른 답변을 생성하며, 텍스트 능력은 학습되지 않은 베이스 모델 수준을 유지하고, 스페인어의 경우 다국어-멀티모달 데이터 없이도 Qwen2.5-VL-7B를 능가합니다. 단일 5개 언어 어댑터는 세 가지 시드 전반에서 영어, 스페인어, 베트남어의 성능을 온전히 유지하지만, 비라틴 문자는 여전히 미해결 과제로 남아 있습니다.
산업 배포를 위한 범용 에이전트를 구축하려면 여러 역량을 통합해야 하며, 각 역량은 일반적으로 서로 다른 학습 단계에서 습득된다. 그러나 현재 에이전트 지속 학습(Agent Continual Learning, ACL)에 대해 잘 정립된 방법론은 없으며, 기존 통합 패러다임 간 트레이드오프에 대한 이해도 부족하다. 이 공백을 메우기 위해 ACL을 포괄적으로 연구·분석·평가하기 위한 프레임워크인 ACLArena를 제안한다. 우리는 먼저 순차적 학습 파이프라인을 구축하고, 모델 수준과 토큰 수준이라는 두 상보적 관점에서 망각과 일반화의 메커니즘을 설명하는 심층 분석을 수행한다. 이 분석을 바탕으로, 다중 교사 온-정책 지식 증류, 자기 증류 기반 미세조정, 모델 병합을 체계적으로 비교하여 이전에 학습한 역량을 회복하면서 새로 습득한 역량을 보존하는 능력을 평가한다. 광범위한 실험을 통해 단계 간 역량이 어떻게 전이되는지에 대한 상세한 이해를 얻는다. 마지막으로, 고품질 궤적에 대한 오프라인 리플레이와 강화학습(RL)을 통해 각각 특화된 다중 LoRA 전문가의 라우팅 네트워크를 결합한 새로운 ACL 방법론을 제안하여, 여러 도메인에 걸친 학습 능력을 크게 향상시킨다. 추론 및 에이전트적 과업 4가지에 대한 포괄적 실험을 도메인 내 및 도메인 외 설정 모두에서 평가한 결과, 우리 분석의 가치와 접근법의 효과가 입증된다.