arXiv:2610.10761v1 stat.ML

선형 어텐션은 비선형 교사로부터 문맥 내에서 무엇을 학습할 수 있는가?

What can linear attention learn from nonlinear teachers in-context?

Mary Letey, Arman Rysmakhanov, Yue M. Lu, Cengiz Pehlevan, Jacob Zavatone-Veth

제출 2026-10-07

한국어 초록

선형 어텐션(linear attention)은 트랜스포머의 문맥 내 학습(ICL)을 지배하는 메커니즘을 이해하기 위한 다루기 쉬운 모델이다. 선형 회귀 태스크의 경우, 최근의 점근적 분석을 통해 그 학습 및 일반화 동작이 규명된 바 있다. 본 연구에서는 이 이론을 비선형 단일 인덱스 타깃 $y=f(x^\top w)+\varepsilon$으로 확장한다. 본 연구의 주요 결과는 비선형성-노이즈 등가성(nonlinearity-noise equivalence)을 확립한다. 즉, 선형 어텐션은 $f$의 선형 에르미트(Hermite) 성분만을 추출하며, 나머지 비선형 구조는 유효 노이즈로서 일반화 오차에 기여한다. 이러한 축소를 통해 해당 선형 이론의 결과들을 비선형 태스크로 이전할 수 있다. 본 연구에서는 유한한 사전학습(pre-training) 데이터 환경과 태스크 다양성 증가에 따른 태스크 암기에서 태스크 일반화로의 전이에 대해 이것이 갖는 함의를 보여준다. 이러한 결과는 축소된 선형 어텐션 모델의 한계를 규명하고, 비선형 문맥 내 학습을 연구하기 위한 다루기 쉬운 출발점을 제공한다.

원문 초록

Linear attention is a tractable model for understanding the mechanisms governing in-context learning in transformers. For linear regression tasks, recent asymptotic analyses have characterised its learning and generalisation behaviour. We extend this theory to nonlinear single-index targets, $y=f(x^\top w)+\varepsilon $. Our main result establishes a nonlinearity-noise equivalence: linear attention extracts only the linear Hermite component of $f$, while the remaining nonlinear structure contributes to the generalisation error as effective noise. This reduction allows results from the corresponding linear theory to be transferred to nonlinear tasks. We illustrate its implications for finite pretraining data and for the transition from task memorisation to task generalisation as task diversity increases. These results identify a limitation of the reduced linear-attention model and provide a tractable starting point for studying nonlinear in-context learning.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2610.10761v1

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.23139v1cs.CV공통 태그 regression, In-Context Learning

QwenVLConnector: 세밀한 임상 지각과 텍스트 생성을 위한 빠르고 통합된 의료 VLM 챗봇

QwenVLConnector: A Fast, Unified Medical VLM Chatbot for Fine-Grained Clinical Perception and Text Generation

대부분의 의료 비전-언어 모델(VLM)은 개방형 보고서 생성과 VQA에는 뛰어나지만, 통합된 인터페이스 안에서 구조화된 세밀한 임상 지각을 지원하는 데는 한계가 있다. 본 논문은 QwenVLConnector를 제안한다. 이는 Qwen2.5-VL 기반 의료 챗봇으로, 분류, 다중 레이블 분류, 텍스트화된 검출, 계수, 회귀, 자유 형식 보고서 생성을 단일 next-token 목표 아래 하나로 통합한다. 핵심 구성요소는 경량의 밀집 다층 Connector로, 저수준·고수준 시각 특징을 집계하고 사전학습된 vision Merger를 통해 정렬한 뒤, 시퀀스 길이를 늘리지 않고 최종 시각 표현과 융합한다. 이 설계는 효율성을 유지하면서 시각 토큰을 상보적인 공간·의미 단서로 풍부하게 한다. FLARE-2D에서 QwenVLConnector는 검출 F1을 0.55에서 0.85로 개선하고, 단일 레이블 분류를 0.37에서 0.51로 높이며, Qwen2.5-VL 기준선 대비 보고서 생성 GREEN을 최대 18.3점 향상시킨다. 또한 보고서 생성을 위한 멀티모달 문맥 내 학습(ICL)을 탐구하여, 모델 매개변수를 갱신하지 않고도 추가 개선을 보였다. 전반적으로 QwenVLConnector는 구조화된 의료 지각과 개방형 임상 텍스트 생성을 결합하는 통합적이고 효율적인 프레임워크를 제공한다. 코드는 https://github.com/plnguyen2908/QwenConnector 에서 확인할 수 있다.

arXiv:2607.14371v1cs.LG공통 태그 regression, In-Context Learning

지도 미세조정 vs. 문맥 내 학습: 혼잡 하에서 LLM 개인화의 균형 분석

Supervised Fine-Tuning vs. In-Context Learning: An Equilibrium Analysis of LLM Personalization under Congestion

대규모 언어 모델(LLM)은 AI 서비스를 혁신했지만, 중요한 긴장이 발생한다. 개인화는 모델 성능을 향상시키지만, 사용자들이 공유해야 하는 희소한 계산 자원을 소비한다. 사용자는 언제 값비싼 지도 미세조정(SFT)에 투자해야 하고, 언제 경량적인 문맥 내 학습(ICL)을 선택해야 하는가? 다른 사용자들의 개인화 선택으로 인한 혼잡이 이러한 인센티브를 어떻게 재편하는가? 그리고 플랫폼이 여러 개인화 알고리즘을 제공할 때 어떤 전략을 채택해야 하는가? 우리는 사용자가 직면하는 통계-경제적 트레이드오프를 포착하는 LLM 서빙을 위한 다루기 쉬운 프레임워크를 개발한다. 우리의 분석은 여러 놀라운 통찰을 제공한다. 첫째, ICL과 SFT는 사전학습(pre-training) 커버리지와 데이터 신호 대 잡음비(signal-to-noise ratio) 간의 상호작용에 의해 결정되는 서로 다른 영역에서 각각 우세함을 보임을 보인다. 그러나 혼잡은 이러한 순위를 뒤바꿀 수 있다. 둘째, 균형 상태에서의 자원 소비는 뚜렷한 비단조성(non-monotonicity)을 보인다. 사전학습 정밀도를 높이면 혼잡이 감소하지만, 더 넓은 사전학습 커버리지와 더 어려운 태스크는 때때로 혼잡을 증가시킨다. 셋째, 계산 부하를 잠재적으로 증가시킬 수 있음에도 불구하고, 두 개인화 방법을 모두 제공하는 것이 플랫폼의 최대 수익을 절대로 해치지 않음을 증명한다. 선형 회귀 태스크에서 GPT-2를 사용한 실험은 알고리즘 성능에 대한 우리의 이론적 예측을 검증한다. 이 결과를 보완하여, 21개 주요 AI 플랫폼의 문서를 검토한 결과, SFT와 ICL을 모두 제공하는 비율이 2021년 9.5%에서 2025년 71.4%로 증가했으며, 이는 우리의 플랫폼 설계 시사점과 일치한다.

arXiv:2607.12241v1eess.SY공통 태그 regression, In-Context Learning

인-컨텍스트 화이트닝을 통한 그래디언트-무관 전력 흐름 대리 모델의 토폴로지 적응

Gradient-Free Topology Adaptation for Power Flow Surrogates via In-Context Whitening

교류 전력 흐름(ACPF) 문제에 대한 머신러닝 기반 대리 모델은 고정된 네트워크에서 반복적인 해법 비용을 상각화하지만, 선로 고장으로 토폴로지가 바뀌면 정확도가 한두 자릿수만큼 떨어진다. 이러한 성능 저하는 연산자 이동(operator shift)에 기인한다. 변경된 어드미턴스 행렬이 입력-출력 사상을 바꾸므로, 동일한 입력이라도 다른 출력 분포를 낳는다. 기존 방법은 목표 토폴로지 데이터와 토폴로지별 그래디언트 단계로 이를 보정한다. 우리는 이 보정을 대신 통계적이고 그래디언트-무관하게 할 수 있는지 묻는다. 우리는 기본 토폴로지의 첫 두 모멘트로 출력 공간을 화이트닝하여 ACPF 대리 모델을 학습하고, 새 토폴로지에서 수백 개의 해법 사례로 그 화이트닝을 재추정함으로써 보이지 않은 N-1 또는 N-2 토폴로지에 적응하는 인-컨텍스트 화이트닝(ICW)을 제안한다. 이 적응은 그래디언트-무관하고, 가중치 갱신이 없으며, 아키텍처에 구애받지 않는다. 우리는 아핀 화이트너 중 물리적 출력 벡터의 좌표별 의미를 보존하는 유일한 선택이 ZCA 화이트닝임을 증명하므로, 효율적인 가역 보정 범위 내에서 두 모멘트면 충분하다. N-1 및 N-2 사고 조건에서 IEEE 30-, 118-, 300-버스 시스템 전반에 걸쳐 ICW는 고정된 대리 모델 대비 전체 오차를 6배에서 28배 줄이고(N-2에서는 물리량별로 최대 54배), 최악 버스의 전력 균형 불일치를 최대 30배 감소시키며, 세 가지 백본에서 일관된 이득을 보인다. 배포 규모에서는 그래디언트 기반 적응과 동등하거나 더 나은 정확도를 달성하면서 적응 속도는 21배에서 34배 빠르며, 비용은 사고마다 GPU 하나를 요구하기보다 상용 CPU 코어에서 병렬화된다.

arXiv:2610.00224v2cs.AI공통 태그 In-Context Learning

Build2SPARQL: 빌딩 지식 그래프 쿼리를 위한 대규모 Text-to-SPARQL 벤치마크 데이터셋

Build2SPARQL: A Large-Scale Text-to-SPARQL Benchmark Dataset for Building Knowledge Graph Querying

빌딩 자동화 시스템은 Brick 및 ASHRAE 223P와 같은 온톨로지를 사용하는 시맨틱 지식 그래프(KG)로 점점 더 많이 표현되고 있으며, 이는 인공지능 응용을 위한 기계 판독 가능한 기반을 형성합니다. 유망한 응용 분야 중 하나는 자연어 질문을 SPARQL로 변환하는 Text-to-SPARQL로, 빌딩 관리자가 언어 에이전트를 통해 이러한 그래프를 쿼리할 수 있게 해주지만 대규모 자연어/SPARQL 벤치마크의 부족으로 발전이 제한되고 있습니다. 본 논문에서는 지식 그래프 기반(KG-grounded) 파이프라인으로 생성된 빌딩 지식 그래프용 대규모 벤치마크인 Build2SPARQL을 제시합니다. 이 파이프라인은 SPARQL 쿼리를 전적으로 그래프 순회 코드로 생성 및 검증하는 반면, 대규모 언어 모델(LLM)은 자연어 질문만을 생성하도록 하여 쿼리의 정확성을 모델의 동작과 독립적으로 유지합니다. 해당 파이프라인은 선형 체인, 분기, UNION, 집계, OPTIONAL, 속성 필터링의 6가지 쿼리 패턴 패밀리를 추출하며, 각 쿼리를 5가지 어휘 레지스터에 걸쳐 표현합니다. 201개의 빌딩 지식 그래프(Brick 180개, ASHRAE 223P 21개)에 적용하여 6,136개의 실행 가능한 SPARQL 쿼리와 30,680개의 질문을 도출했습니다. 300개 질문에 대한 2인 평가자 인적 검증 결과 98.8%의 시맨틱 충실도, 98.8%의 자연스러움, 84.0%의 운영 타당성을 확인했습니다. 3개의 공개 가중치(open-weight) 언어 모델에 걸친 검색-증강 평가에서는 완전 일치(exact-match) 정확도가 0.2~20%(제로샷)에서 56~65%(3샷 검색)로 향상되었습니다.

arXiv:2608.13545v3cs.CL공통 태그 In-Context Learning

LittleLearner: 교육학적으로 제어된 지식 노출 환경에서의 언어 모델

LittleLearner: Language Models Under Pedagogically Controlled Knowledge Exposure

현대 언어 모델은 이종의 웹 규모 텍스트 말뭉치로 학습됩니다. 결과적으로 관련 콘텐츠에 대한 사전 노출을 명확히 규정하기 어렵기 때문에, 지식 및 기술 습득을 연구하는 데 한계가 있습니다. 이러한 문제를 해결하기 위해, 본 연구에서는 미국 초등학교 교육 자료에 맞추어 5학년을 초과하는 학년에서 가르치는 개념, 사실 및 어휘를 명시적으로 제외하고 구축한 880억(88B) 토큰 규모의 사전학습 말뭉치인 LittleCurriculum을 소개합니다. LittleCurriculum을 기반으로 50억(5B) 매개변수 대규모 언어 모델(LLM)을 처음부터 학습(scratch)시켜, 개방형 평가를 수행하기에 충분한 언어 능력을 갖추면서도 해석 가능한 교육과정 지침에 부합하는 명확한 지식 및 능력 경계를 지닌 모델인 LittleLearner를 도출했습니다. 잘 정의된 학습 범위 내에서 모델이 데이터를 어떻게 습득하고, 표현하며, 활용하는지 연구할 수 있도록 발달적으로 제한된 샌드박스로 LittleCurriculum과 LittleLearner를 공개합니다. 또한 사후 학습(post-training)과 문맥 내 학습(ICL)을 통해 새로운 지식을 주입하는 첫 번째 일련의 실험을 통해 이 샌드박스의 유용성을 입증합니다. 이러한 방식은 LittleLearner가 기존 지식을 더 잘 활용할 수 있도록 돕지만, 범위를 벗어난 능력을 향상시키지는 못합니다. 본 연구 결과는 향후 연구를 위한 이러한 통제된 환경의 가치를 강조합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.