arXiv:2501.00365

Low-Rank Adaptation for Foundation Models: A Comprehensive Review

Menglin Yang, Jialin Chen, Yifei Zhang, Jiahong Liu, Jiasheng Zhang, Qiyao Ma, Harshit Verma, Qianru Zhang, Min Zhou, Irwin King, Rex Ying

제출 2024-12-31

원문 초록

The rapid advancement of foundation modelslarge-scale neural networks trained on diverse, extensive datasetshas revolutionized artificial intelligence, enabling unprecedented advancements across domains such as natural language processing, computer vision, and scientific discovery. However, the substantial parameter count of these models, often reaching billions or trillions, poses significant challenges in adapting them to specific downstream tasks. Low-Rank Adaptation (LoRA) has emerged as a highly promising approach for mitigating these challenges, offering a parameter-efficient mechanism to fine-tune foundation models with minimal computational overhead. This survey provides the first comprehensive review of LoRA techniques beyond large Language Models to general foundation models, including recent techniques foundations, emerging frontiers and applications of low-rank adaptation across multiple domains. Finally, this survey discusses key challenges and future research directions in theoretical understanding, scalability, and robustness. This survey serves as a valuable resource for researchers and practitioners working with efficient foundation model adaptation.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.09025v1cs.NE공통 태그 Survey, scientific discovery

과학적 발견을 위한 진화적 지능: 진화 계산에서 누적적 발견 시스템으로

Evolutionary Intelligence for Scientific Discovery: From Evolutionary Computation to Cumulative Discovery Systems

인공지능(AI)은 과학적 발견의 방식을 과제 특화 워크플로에서 개방형 후보 공간에서 실험 및 인간 피드백을 통해 탐험(exploration)을 체계적으로 조직하는 자율 시스템으로 전환시키고 있다. 진화 계산(EC)은 피드백 기반 발견을 위한 계산적 기반을 제공하는데, 집단 기반 탐색이 누적된 증거를 통해 탐험을 유도하면서 다양한 과학적 후보군을 유지할 수 있기 때문이다. 그러나 EC는 주로 사전에 정의된 문제에 대한 후보 정제에 집중하는 반면, 누적적 발견에는 경험의 보존이 요구된다. 이 간극을 해소하기 위해, 본 리뷰는 과학적 발견을 위한 진화적 지능(EI)을 소개한다. EI는 진화 주기에 걸쳐 후보 정제와 경험 보존을 연결함으로써 지속적인 탐험을 유지하는 과학적 AI 시스템을 특징짓는다. 우리는 무엇이 진화하는지, 후보가 어떻게 변화하는지, 후보가 왜 선택되는지, 피드백이 어디에서 발생하는지, 그리고 진화가 언제 일어나는지를 묻는 5차원 분석 프레임워크를 제안한다. 이 프레임워크는 EI가 고립된 탐색 궤적을 누적적 과학적 통찰로 어떻게 변환하는지를 명확히 한다. 또한 구체적인 과학적 개체의 진화에서부터 자동화된 연구 워크플로 조율에 이르기까지 다양한 발견 방식에 걸쳐 이 패러다임을 실증한다. 마지막으로, 평가, 프로세스 추적 가능성, 공유 인프라에 관한 핵심 병목 지점을 식별하고, 과학적 발견에서 EC에서 EI로의 전환을 촉진하기 위한 구체적인 로드맵을 제시한다.

arXiv:2606.26460v1cs.AI공통 태그 Survey, scientific discovery

auto-psych: 에이전트 주도 이론 발견과 실험을 통한 마음의 과학 자동화

auto-psych: Automating the science of mind using agent-driven theory discovery and experimentation

AI 기반 과학 자동화는 에이전트가 가설을 생성하고, 실험을 설계하며, 데이터를 분석함으로써 점점 더 가능해지고 있다. 그러나 이 파이프라인에서 데이터 수집은 주요 병목이다. 심리학, 특히 계산 인지과학(computational cognitive science)은 이론이 종종 코드로 표현되고 크라우드소싱 플랫폼이 대규모 프로그래매틱 인간 데이터 수집을 가능하게 하므로 AI 실험의 혜택을 받기에 적합한 위치에 있다. 본 연구에서는 계산 인지과학에서 이론을 생성하는 프로젝트에 자동화된 발견 기법을 적용하며, 에이전트 기반 시스템이 크라우드소싱 설문 실험을 통해 독립적으로 인간 데이터를 수집한다. 테스트베드로, 인지 심리학의 고전적 사례 연구인 동전 던지기 순서 중 어느 것이 주관적으로 더 무작위적으로 느껴지는지 판단하는 문제를 사용한다. 우리 시스템 auto-psych는 중첩된 에이전트 기반 발견 루프를 사용하여 인간 행동에 대한 설명적 이론을 생성한다. 내부 루프는 확률적 인지 모델을 추측하고, 적합시키고, 비판한다; 외부 루프는 이러한 모델을 검증하기 위한 실험을 설계하고, 온라인으로 실행하며, 데이터를 분석한다. 이 시스템은 체계적 실험을 통해 합성 데이터로부터 정답 이론(ground-truth)을 빠르고 신뢰성 있게 복원할 수 있지만, 중첩 구조는 모델 성능에 핵심적이다. 또한, 세 번의 독립적인 인간 실험 시퀀스에서 이 시스템은 과학 문헌에서 생성된 이론보다 데이터에 더 잘 맞는 이론을 찾는다. 따라서 본 연구는 계산 인지과학에서 자동화된 데이터 수집과 이론 발견의 실현 가능성을 보여준다.

arXiv:2607.14821v2cs.CV공통 태그 Survey

모달 경계의 흐림: 단일 모달에서 다중 모달 인물 재식별(ReID)에 대한 통합 서벡

Blurring Modal Boundaries: A Unified Survey from Single- to Multi-Modal Person Re-ldentification

인물 재식별(ReID)은 지능형 감시 시스템의 핵심 구성 요소로, 분리된 카메라 네트워크 간 신원을 매칭하는 것을 목표로 한다. 전통적인 방법은 주로 단일 모달 RGB 영상에 의존하지만, 낮은 조도와 가림(occlusion)과 같은 환경적 도전 과제에 종종 제약을 받는다. 이러한 한계를 극복하기 위해 해당 분야는 교차 모달(cross-modal) 및 다중 모달(multi-modal) 패러다임으로 빠르게 발전하고 있다. 본 서벡은 이러한 전환에 대한 포괄적인 개요를 제시하며, 직접 가시성을 넘어 지각을 확장하는 신흥 비시선(NLOS, Non-Line-of-Sight) ReID를 포함하여 가시-적외선(VI-ReID), 텍스트-이미지(TI-ReID), 스케치 기반(Sketch-ReID) 등 주요 교차 모달 과제를 체계적으로 검토한다. 또한 3분광(tri-spectral) 및 다중 모달 융합 ReID를 살펴보고, 다양한 센서의 상보적 정보가 어떻게 견고성(robustness)을 향상시키는지 논의한다. 데이터셋, 과제, 방법론을 요약하는 것을 넘어, 모달리티 불변(modality-invariant) 특징을 효과적으로 포착하도록 설계된 가시-적외선 ReID용 트랜스포머 기반 기준선 프레임워크를 제안한다. 마지막으로, 현재 연구 환경을 바탕으로 향후 연구를 위한 여러 유망한 방향을 제시한다.

arXiv:2606.18532v2cs.CR공통 태그 Survey

AI 샌드박스: 위협 모델, 분류 체계 및 측정 프레임워크

AI Sandboxes: A Threat Model, Taxonomy, and Measurement Framework

AI 샌드박스는 소프트웨어 도구, 네트워크로 연결된 장치, 또는 물리적 액추에이터를 통해 작동할 수 있는 시스템에 대한 증거를 생산한다. 이 증거의 해석은 실험의 경계에 달려 있다. 우리는 샌드박스 장치를 정의하고, 서로 겹치는 다섯 가지 원형을 구분하며, 주장 상대적인 측정 차원 열다섯 가지를 명시한다. 최약 고리 허가 규칙(weakest-link licensing rule)은 배치 주장을 가장 약한 필수 증거 차원 수준으로 제한한다. 우리는 이 규칙을 외부로의 피해와 평가 장치의 훼손을 모두 다루는 위협 모델과 연결하고, 주행, 산업 제어, 도구를 사용하는 에이전트, 비전-언어-행동 조작을 아우르는 네 가지 실제 사례에 적용한다. 또한 필요한 산출물을 표준 및 규제 수단에 대응시킨다. 이 프레임워크는 제한된 실험이 어떤 주장을 뒷받침하는지, 그 통제가 어떤 실패를 억제하는지, 그리고 배치 이전에 어떤 가정이 추가 검증을 필요로 하는지를 식별한다.

arXiv:2607.22305v2cs.AI공통 태그 Survey

영향력 있는 다원주의적 정렬 연구를 위한 로드맵

A Roadmap to Impactful Pluralistic Alignment Research

책임 있는 AI에 관한 많은 연구는 수십억 명이 사용하는 AI 시스템의 행동을 바꾸는 것을 목표로 한다. 다양한 인간의 가치와 관점을 대표하고 이에 기여하는 AI 시스템을 구축하는 것을 목표로 하는 다원적 가치 정렬은 이러한 활발한 연구 의제 중 하나로 부상했다. 그러나 주요 프론티어 연구소와 오픈 웨이트 개발자를 감사한 결과, 다원적 정렬이 이들 모델의 학습이나 평가 방식에 영향을 미쳤다는 공개적 증거를 찾을 수 없었다. 다원적 정렬은 주요 목표를 달성하려면 실제 도입이 필요하므로, 우리는 세 가지 장벽을 규명하고 각각을 해결하기 위한 연구 로드맵을 제시한다. 1. 지금까지 다원적 정렬의 정당화는 대부분 규범적이거나 이론적이다. 다원적 AI가 사용자와 사회에 주는 이점과 단점을 측정하는 연구가 필요하다. 2. 다원적 정렬 연구 커뮤니티는 다원적 행동이 언제 정당화되는지, 그리고 실제로 어떤 모습이어야 하는지에 대해 합의하지 못했다. 개발자가 이를 구현할 수 있을 만큼 구체적으로 이 행동을 명세하는 연구가 필요하다. 3. 기존의 다원주의 평가와 방법은 배포할 준비가 되어 있지 않다. 다른 모델 특성에 미치는 영향을 보고하고 프로덕션 시스템의 요구 사항을 충족하는 평가와 방법이 필요하다. 이러한 장벽은 다원적 정렬에만 해당하지 않으므로, 우리의 로드맵은 유사한 변화 이론을 가진 책임 있는 AI 연구의 다른 분야에도 적용된다. 사람들이 더 많은 의사결정을 AI 시스템에 맡기고 AI 에이전트가 사람을 대신해 행동하는 만큼, 우리는 이 로드맵이 해당 연구가 그러한 결정을 내리는 배포된 모델에 도달하도록 돕기를 바란다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.