PyTorchKR Papers

최신 논문

총 24,492편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 카테고리 구독

arXiv:2602.10138v2cs.CV

차트 이해를 위한 멀티모달 정보 융합: MLLM의 발전, 한계, 인지적 향상에 관한 서베이

Multimodal Information Fusion for Chart Understanding: A Survey of MLLMs -- Evolution, Limitations, and Cognitive Enhancement

차트 이해는 그래픽 데이터와 텍스트 데이터를 매끄럽게 통합하여 의미를 추출해야 하는 대표적인 정보 융합 과제이다. 멀티모달 대규모 언어 모델(MLLM)의 등장은 이 분야에 혁신을 가져왔으나, MLLM 기반 차트 분석의 양상은 여전히 파편화되어 있고 체계적인 정리가 부족하다. 본 서베이는 이 분야의 핵심 구성 요소를 구조화하여 이 초기 단계의 최전선에 대한 포괄적인 로드맵을 제시한다. 먼저 차트에서 시각 정보와 언어 정보를 융합할 때의 근본적인 어려움을 분석한다. 이어서 하위 과제와 데이터셋을 분류하고, 정규(canonical) 벤치마크와 비정규(non-canonical) 벤치마크라는 새로운 분류 체계를 도입하여 이 분야의 확장되는 범위를 부각한다. 그다음 고전적인 딥러닝 기법에서 정교한 융합 전략을 활용하는 최신 MLLM 패러다임에 이르기까지 방법론의 발전 과정을 포괄적으로 제시한다. 현재 모델의 한계, 특히 지각 및 추론 측면의 결함을 비판적으로 검토함으로써, 고급 정렬 기법과 인지적 향상을 위한 강화학습을 포함한 유망한 향후 연구 방향을 제시한다. 본 서베이는 연구자와 실무자가 MLLM이 차트 정보 융합을 어떻게 변화시키고 있는지 체계적으로 이해하도록 돕고, 더욱 견고하고 신뢰할 수 있는 시스템을 향한 진전을 촉진하는 것을 목표로 한다.

arXiv:2602.08230v2cs.CV

Generating Adversarial Events: A Motion-Aware Point Cloud Framework

Event cameras have been widely adopted in safety-critical domains such as autonomous driving, robotics, and human-computer interaction. A pressing challenge arises from the vulnerability of deep neural networks to adversarial examples, which poses a significant threat to the reliability of event-based systems. Nevertheless, research into adversarial attacks on events is scarce. This is primarily due to the non-differentiable nature of mainstream event representations, which hinders the extension of gradient-based attack methods. In this paper, we propose MA-ADV, a novel \textbf{M}otion-\textbf{A}ware \textbf{Adv}ersarial framework. To the best of our knowledge, this is the first work to generate adversarial events by leveraging point cloud representations. MA-ADV accounts for high-frequency noise in events and employs a diffusion-based approach to smooth perturbations, while fully leveraging the spatial and temporal relationships among events. Finally, MA-ADV identifies the minimal-cost perturbation through a combination of sample-wise Adam optimization, iterative refinement, and binary search. Extensive experimental results validate that MA-ADV ensures a 100\% attack success rate with minimal perturbation cost, and also demonstrate enhanced robustness against defenses, underscoring the critical security challenges facing future event-based perception systems.

arXiv:2602.06912v3cs.CV

PANC: 학습이 필요 없는 인컨텍스트 분할을 위한 사전 정보 인식 정규화 컷

PANC: Prior-Aware Normalized Cut for Training-Free In-Context Segmentation

본 연구는 외부에서 주석이 달린 컨텍스트 사전 정보를 활용한 학습이 필요 없는 인컨텍스트 분할을 다룬다. 대상 이미지와 주석이 달린 컨텍스트 이미지에서 추출한 소수의 전경/배경 토큰이 주어졌을 때, 학습, 미세조정, 대상 이미지에 대한 클릭 없이 해당 대상 개념을 분할하는 것이 목표이다. TokenCut과 같은 기존 ViT 토큰 기반 스펙트럼 방법은 클래스에 무관하여 다중 객체 장면에서 잘못된 객체를 선택할 수 있으며, 의미 정보가 적고 질감이 지배적인 도메인에서는 불안정해진다. 본 논문은 두 개의 전경/배경 앵커 노드를 통해 외부의 레이블이 있는 토큰을 고정된 ViT 친화도 그래프에 주입하는 사전 정보 인식 스펙트럼 분할 파이프라인인 PANC를 제안한다. 앵커는 대상 이미지 토큰을 고정하지 않으며, 대상 이미지의 친화도 구조를 보존하면서 정규화 컷 고유공간을 부드럽게 편향시킨다. PANC는 또한 사전 정보 인식 부호 안정화와 사전 정보 기반 임계값 설정을 사용하여 결정론적 마스크를 얻는다. 이질적인 saliency 데이터셋과 동질적인 저의미 도메인 전반에서 PANC는 아키텍처가 동일한 사전 정보 없는 토큰 그래프 기준선보다 향상된 성능을 보이며, 클래스에 무관한 saliency가 모호하거나 약한 환경에서 가장 큰 향상을 보인다.

arXiv:2602.05902v3cs.LG

CoreQ: LLM 양자화를 위한 불일치 보정 순차 반올림

CoreQ: Mismatch-Corrected Successive Rounding for LLM Quantization

사후 학습 양자화(PTQ)는 재학습 없이 사전 학습된 가중치를 저비트 형식으로 변환하여 대규모 언어 모델의 효율적인 배포를 가능하게 하며, 일반적으로 소규모 보정 데이터셋을 사용하여 계층별 보정 목적함수를 최소화한다. 그러나 이러한 순차적 절차는 불일치를 유발한다. 앞선 양자화된 계층의 오차가 이후 계층이 받는 입력을 변화시켜 활성화가 전정밀도 모델의 활성화에서 벗어나게 한다. 최근 접근법은 이 효과를 보상하기 위해 불일치 인식 보정 목적함수를 도입하지만, 관측된 불일치 중 얼마만큼을 각 계층의 보정 목표에 반영해야 하는지는 해결하지 못했다. 본 논문은 경험적 불일치 보정을 완전히 적용하면 유한한 보정 데이터에 과적합될 수 있고, 고정된 보정 계수를 사용하면 계층 간 불일치 추정치의 변동을 무시하게 됨을 보인다. 이러한 한계를 해결하기 위해 불일치의 기하학적 분해를 이용하여 닫힌 형태의 계층 적응형 보정 계수를 계산하는, 학습이 필요 없는 PTQ 프레임워크인 CoreQ를 제안한다. 이 계수는 관측된 불일치 중 얼마만큼이 각 계층의 보정 목표에 반영될지를 조절하여, 계수 튜닝 없이도 제한된 보정 데이터에 대한 과적합을 줄인다. 이후 CoreQ는 그 결과로 얻은 삼각 최소제곱 목적함수에 효율적인 탐욕적 순차 반올림을 적용한다. 제한된 빔 탐색으로 확장한 K-CoreQ는 소폭의 추가 연산을 대가로 성능을 향상시킨다. 여러 LLM 계열, 규모, 비트 폭, 양자화 설정 전반에서 CoreQ와 K-CoreQ는 강력한 PTQ 기준선보다 낮은 퍼플렉서티와 높은 하위 과제 정확도를 달성한다. 코드는 GitHub에서 확인할 수 있다.

arXiv:2601.16823v4cs.CL

체스를 이용한 대규모 언어 모델의 일반화와 암기의 분리

Disentangling generalization and memorization in large language models using chess

대규모 언어 모델(LLM)은 놀라운 능력을 보이지만, 이것이 정교한 기억 회상을 반영하는지 진정한 추론 능력을 반영하는지는 여전히 불분명하다. 본 논문은 이러한 능력을 분리하기 위한 통제된 실험 환경으로 체스를 도입한다. 게임의 구조와 확장 가능한 엔진 평가를 활용하여, 관련 사전 지식의 밀도에 따라 달라지는 국면의 분류 체계를 구성한다. 이는 암기로 해결할 수 있는 흔한 상태부터 일반화가 필요한 완전히 새로운 상태까지 아우른다. 중요한 점은 이 접근법이 모델의 학습 데이터에 대한 명시적 지식 없이도 이러한 구분을 달성한다는 것이다. 이 분류 체계를 적용하여 GPT 계열에 대한 종단적 분석과 Claude Opus 및 Gemini를 포함한 최신 모델들에 대한 엄밀한 평가를 결합한다. 분석 결과 가파른 기울기가 드러난다. 관련 사전 지식의 밀도가 낮아질수록 성능이 일관되게 저하된다. 특히 관련 사전 지식이 적은 과제에서는 기본 모델의 성능이 무작위 플레이 기준선 수준으로 후퇴하고, 모든 모델이 불법 수를 제시하는 비율이 급격히 증가하여, 낯선 국면에서 게임의 고정된 규칙을 안정적으로 적용하지 못함을 시사한다. 더 새로운 모델은 개선되지만, 사전 지식이 희소한 과제에서는 진전이 크게 둔화된다. 또한 추론 증강 추론(reasoning-augmented inference)은 성능을 향상시키지만, 관련 사전 지식이 없을 때는 토큰당 상대적 한계 이득이 감소한다. 이러한 결과는 체계적 일반화의 한계를 시사하며, 관련 사전 지식이 없는 상황에서 견고한 성능을 달성하기 위해서는 규모를 넘어서는 메커니즘이 필요함을 강조한다.

arXiv:2601.15500v5stat.ML

Rectified Flow의 저차원 적응: 확산 및 확률적 국소화 관점

Low-Dimensional Adaptation of Rectified Flow: A Diffusion and Stochastic Localization Perspective

최근 몇 년간 Rectified flow(RF)는 생성 효율성과 최고 수준의 성능 덕분에 큰 인기를 얻었다. 본 논문에서는 RF가 샘플링을 가속하기 위해 목표 분포 지지집합의 내재적 저차원성에 얼마나 잘 자동으로 적응하는지를 연구한다. 신중하게 설계된 종점 적응형 시간 이산화 방식을 사용하고 충분히 정확한 드리프트 추정이 주어지면, RF 샘플러가 (로그 인자를 제외하고) $O(k/\varepsilon)$ 차수의 반복 복잡도를 가짐을 보인다. 여기서 $\varepsilon$은 전변동 거리에서의 정밀도이고 $k$는 목표 분포의 내재 차원이다. 또한 이러한 과정과 확률적 국소화 사이의 새로운 연결을 확립함으로써, 잡음 제거 확산 확률 모델(DDPM) 절차가 RF의 확률적 버전과 동등함을 보인다. 이 연결을 바탕으로, 드리프트 추정의 정확도에 대한 완화된 요건 하에서 특정 시간 스케줄과 함께 목표 분포의 저차원성에 마찬가지로 적응하는 확률적 RF 샘플러를 추가로 설계한다. 합성 데이터에 대한 시뮬레이션과 텍스트-이미지(T2I) 데이터 실험을 통해 새로 설계한 시간 이산화 스케줄의 효용을 보인다.

arXiv:2512.20974v5cs.LG

베이지안 선형 태스크 모델을 이용한 메타-RL

Meta-RL with Bayesian Linear Task Models

심층 베이지안 강화학습은 잠재 전이 및 보상 모델을 추론함으로써 보지 못한 태스크에 적응하지만, 기존 방법은 대개 변분 사후분포와 증거 하한(evidence lower bound)에 의존하여 근사 오차와 불안정한 태스크 표현을 유발한다. 본 논문은 일반화 선형 태스크 모델과 학습 가능한 비선형 기저 함수를 결합한 심층 베이지안 RL 프레임워크 GLiBRL을 제안한다. GLiBRL은 켤레 베이지안 추론을 통해 태스크 매개변수와 모델 노이즈에 대한 정확한 순차적 사후 업데이트를 수행하며, 변분 추론을 배제하는 폐형 주변 가능도를 함께 제공한다. 이 업데이트는 본질적으로 순열 불변(permutation-invariant)이므로 GLiBRL은 오프-정책과 온-정책 알고리즘 모두와 통합할 수 있다. GLiBRL은 또한 정확한 커널 동일성(identity)을 만족하는 태스크 표현을 학습하며, 태스크 표현 간 거리를 태스크 맥락에 대한 커널 불일치와 연관 짓는다. 8개의 대표적이거나 최근 메타 강화학습 방법과 비교했을 때 GLiBRL은 MuJoCo locomotion 및 MetaWorld manipulation 벤치마크 모두에서 제로샷(zero-shot) 테스트 성능의 최고 집계 결과를 달성한다.

arXiv:2512.15729v3eess.SP

TinyMyo: 엣지에서의 유연한 EMG 신호 처리를 위한 초소형 파운데이션 모델

TinyMyo: a Tiny Foundation Model for Flexible EMG Signal Processing at the Edge

목적: 표면 근전도(EMG)는 생체역학, 재활, 의수·의족 제어, 인간-기계 인터페이스 분야에서 널리 사용된다. 피험자, 측정 시스템, 획득 프로토콜 간의 일반화는 여전히 어려운 과제이다. 기존 EMG 파운데이션 모델(FM)은 다양한 하위 작업과 저전력 기기에서의 배포에 대한 지원이 제한적이다. 방법: 본 연구에서는 공개 EMG 데이터셋을 이용해 자기지도 마스크 복원 방식으로 사전학습한 360만 파라미터 규모의 Transformer 인코더 TinyMyo를 소개한다. TinyMyo는 작업별 예측 헤드를 최소한만 변경하여 여러 작업을 지원한다. 결과: TinyMyo를 손동작 분류, 손 운동학 회귀, 발화 생성, 음성 인식에 대해 평가하였다. 손동작 분류에서 TinyMyo는 기존에 보고된 EMG FM보다 우수한 성능을 보여, NinaPro DB5에서 87.98%, UCI-EMG에서 97.1%, EPN-612에서 96.6%의 정확도를 달성하였다. 초저전력 마이크로컨트롤러인 GAP9에서 TinyMyo는 추론 시간 0.785초를 기록했으며, 평균 전력 57.18 mW에서 추론당 44.91 mJ을 소비하였다. 190만 파라미터 변형 모델은 5초 및 1초 입력 윈도우를 각각 0.496초와 0.089초에 처리하였다. 결론: TinyMyo는 소형 자기지도 EMG 인코더가 여러 하위 작업을 지원하면서 저전력 마이크로컨트롤러에서 동작할 수 있음을 보여준다. 의의: 우리가 아는 한, 이는 EMG FM을 초저전력 마이크로컨트롤러에 배포한 최초의 사례이며, 온디바이스 운동 의도 해독, 신경근 평가, 인간-기계 상호작용으로 나아가는 길을 연다.

arXiv:2510.03666v3cs.CV

MonitorVLM: 광산 작업의 안전 위반 탐지를 위한 비전-언어 프레임워크

MonitorVLM:A Vision Language Framework for Safety Violation Detection in Mining Operations

노천 및 지하 광산과 같은 고위험 분야의 산업 재해는 작업자의 불안전한 행동으로 인해 빈번히 발생한다. 전통적인 수동 점검은 여전히 노동 집약적이고 오류가 발생하기 쉬우며, 대규모의 동적인 환경에는 불충분하여 지능형 자동 안전 모니터링의 필요성이 시급함을 보여준다. 본 논문에서는 감시 비디오 스트림에서 직접 안전 위반을 탐지하도록 설계된 새로운 비전-언어 프레임워크 MonitorVLM을 제시한다. MonitorVLM은 세 가지 핵심 혁신을 도입한다. (1) 증강과 보조 탐지 단서로 보강된, 빈도가 높은 40개 광산 규정에 걸친 9,000개의 비전-질문-답변(VQA) 샘플로 구성된 도메인 특화 위반 데이터셋, (2) 가장 관련성 높은 상위 $K$개 조항을 동적으로 선택하여 정확도를 유지하면서 추론 지연 시간을 13.56% 줄이는 조항 필터(CF) 모듈, (3) 작업자 영역을 강조하여 세밀한 행동 인식을 향상시킴으로써 정밀도 3.45%, 재현율 8.62%의 추가 향상을 가져오는 행동 확대기(BM) 모듈이다. 실험 결과 MonitorVLM은 기준 비전-언어 모델을 크게 능가하며, 파인튜닝되지 않은 72B 기준 모델 대비 정밀도 22.01%, 재현율 34.22%, F1 점수 28.37%의 향상을 달성하였다. 경량 웹 기반 인터페이스는 MonitorVLM을 실제 업무 흐름에 추가로 통합하여, 비디오 타임스탬프가 포함된 자동 위반 보고를 가능하게 한다. 본 연구는 광산 및 그 밖의 분야에서 직업 안전 모니터링을 강화하는 멀티모달 대형 모델의 잠재력을 강조한다.

arXiv:2509.19405v3cs.NI

모바일 데이터 증강을 통한 야외 다중 셀 핑거프린팅 기반 측위 성능 향상

Improving Outdoor Multi-cell Fingerprinting-based Positioning via Mobile Data Augmentation

셀룰러 네트워크에서의 정확한 야외 측위는 희소하고 이질적인 측정 데이터 수집과 전수 현장 조사에 드는 높은 비용으로 인해 어려움을 겪고 있다. 본 논문은 사업자가 수집한 MDT(minimization of drive test) 기록을 사용하여 다중 셀 핑거프린팅 기반 측위를 향상시키도록 설계된 경량의 모듈형 모바일 데이터 증강 프레임워크를 제안한다. 제안하는 접근법은 공간 특징과 무선 특징의 합성을 분리한다. 커널 밀도 추정(KDE)은 경험적 공간 분포를 모델링하여 지리적으로 일관된 합성 위치를 생성하고, 1-최근접 이웃(1NN) 기반 블록은 셀별로 증강된 무선 핑거프린트를 생성한다. 이 구조는 의도적으로 학습이 필요 없고 해석 가능하며, 분산형 또는 온프레미스 사업자 환경에 적합하여 프라이버시를 고려한 워크플로를 지원한다. 본 연구는 각 증강 모듈을 독립적으로 검증하고, 이탈리아 이동통신 사업자가 제공한 실제 MDT 데이터셋을 사용하여 다양한 도심 및 도시 근교 시나리오에서 핑거프린팅 기반 측위에 대한 종단 간 영향을 평가한다. 결과는 제안한 KDE-1NN 증강이 최신 접근법 대비 측위 성능을 일관되게 향상시키며, 중앙값 측위 오차를 최대 30% 감소시킴을 보여준다(특히 매우 희소한 고속도로 시나리오에서 증강 비율 x30일 때 달성되었다). 또한 지역에 따라 포화 효과가 나타나는 것을 관찰하였으며, 이는 사용자 밀도가 높은 시나리오에서 가장 빠르게 나타나고 추가 합성 샘플로 인한 정보 이득이 빠르게 감소한다. 전반적으로 이 프레임워크는 기존 모바일 데이터 트레이스를 활용하여 사업자의 측위 서비스를 향상시키는 실용적이고 낮은 복잡도의 방안을 제시한다.

arXiv:2509.10780v3cs.HC

K-12 교사가 생성형 AI를 지역 교실 요구에 맞게 조정하는 방식: 생성형 AI 기본값과 일상적 교수 실천 사이의 문화적 거리

How K-12 Teachers Adapt Generative AI to Local Classroom Demands: Cultural Distance Between GenAI Defaults and Everyday Teaching Practices

생성형 AI(GenAI)가 K-12 교실에 도입되고 있지만, 그 기본 문화는 지역의 교수 현장에 항상 부합하지는 않는다. 기존 설명은 이러한 불일치를 거시적 수준의 구조적 편향으로 간주하거나 단일 사례 연구를 통해 살펴보는데, 어느 쪽도 교사가 다양한 과업에서 결과물을 사용할 수 있게 만들기 위해 얼마나 많은 노력을 들여야 하는지를 포착하지 못한다. 이 탐색적·이론 구축적 질적 연구는 GenAI의 기본 문화적 레퍼토리와 교사 실천의 상황적 요구 사이의 간극인 문화적 거리를 제시한다. GenAI를 자주 사용하는 K-12 교사 30명(남아프리카공화국, 대만, 미국 각 10명)을 면담하여, 교사가 들인 노력과 그 노력이 사용 가능한 결과물로 이어졌는지에 따라 정의되는 세 수준을 도출하였다. 낮음(사소한 수정), 중간(지속적인 프롬프트 작성과 수정), 높음(지원되지 않는 언어, 디지털화되지 않은 지식, 정책 필터에 뿌리를 둔 구조적 간극으로, 어떤 교사의 노력으로도 해소할 수 없는 경우)이다. 우리는 문화적 거리를 추가 검토가 필요한 유망한 틀로 제시하고, 설계자, 정책 입안자, 교육자에 대한 시사점을 논의한다.

arXiv:2507.19881v4cs.CV

FedS2R: 자율주행에서 합성-실제 시맨틱 분할을 위한 원샷 연합 도메인 일반화

FedS2R: One-Shot Federated Domain Generalization for Synthetic-to-Real Semantic Segmentation in Autonomous Driving

연합 도메인 일반화는 원시 데이터를 공유하지 않고 여러 클라이언트 간 협력적 학습을 가능하게 함으로써 이미지 분류에서 유망한 진전을 보여왔다. 그러나 자율주행의 시맨틱 분할에서의 잠재력은 아직 충분히 탐구되지 않았다. 본 논문에서는 자율주행에서 합성-실제 시맨틱 분할을 위한 최초의 원샷 연합 도메인 일반화 프레임워크인 FedS2R을 제안한다. FedS2R은 두 가지 구성 요소로 이루어진다: 불안정한 클래스에 대한 이미지를 생성하는 불일치 기반 데이터 증강 전략, 그리고 특징 융합을 포함한 다중 클라이언트 지식 증류 방식으로 여러 클라이언트 모델로부터 글로벌 모델을 증류한다. Cityscapes, BDD100K, Mapillary, IDD, ACDC 등 다섯 개의 실세계 데이터셋에서의 실험 결과, 글로벌 모델은 개별 클라이언트 모델을 크게 능가하며 모든 클라이언트 데이터에 동시에 접근하여 학습한 모델보다 mIoU 2점만 낮다. 이러한 결과는 연합 학습 하에서 자율주행을 위한 합성-실제 시맨틱 분할에서 FedS2R의 효과를 입증한다.

arXiv:2506.22992v2cs.AI

MARBLE: 공간 추론과 시각적 추상화를 위한 에이전트 벤치마크

MARBLE: An Agentic Benchmark for Spatial Reasoning and Visual Abstraction

실제 과업에서 멀티모달 언어 모델(MLLM)의 핵심 과제는 시각적 관찰을 구조화된 공간 상태로 추상화하고, 장기 지평에 걸쳐 행동에 따라 그 상태가 어떻게 변하는지를 추론하는 것이다. 기존 멀티모달 벤치마크는 답을 이미지에서 직접 추출할 수 있는 정적 질의응답에 초점을 맞추거나, 기호적 상태가 주어진다고 가정하여 시각-공간 추상화 과정을 우회하는 경우가 많다. 본 논문은 세 가지 에이전트 환경인 CUBE, MAZE, BLOX에 걸쳐 공간에 기반한 멀티모달 추론과 계획을 진단하는 벤치마크 MARBLE을 제시한다. MARBLE은 기하학적 제약, 동적 배치, 공간 변환 하의 2D 및 3D 공간 퍼즐을 포괄하며, 난이도는 관찰 형식과 계획 지평이라는 두 축을 따라 체계적으로 조절된다. 광범위한 평가 결과, 최첨단 MLLM은 MARBLE에서 어려움을 겪으며, 가장 강력한 모델인 GPT-5.4도 가장 어려운 설정에서 세 환경 평균 성공률이 7.3%에 그쳤다. 오픈 웨이트 모델에 대한 쌍별 절제 실험은 시각-공간 추상화가 주요 병목임을 보여준다. 모델이 사람이 주석한 상태를 받는 대신 이미지에서 공간 상태를 추론해야 할 때, 성공률은 Gemma-4-31B에서 50.7%에서 3.7%로, Kimi-K2.6에서 87.9%에서 6.5%로 떨어졌다. 이 결과는 모델이 계획에 앞서 시각적 관찰로부터 정밀한 공간 상태를 구성하지 못하는 경우가 많음을 나타내며, 이는 인간에게는 간단한 과업이다. 종합하면 MARBLE은 최첨단 MLLM의 신뢰할 수 있는 시각-공간 추상화에서의 격차를 드러내며, 공간에 기반한 멀티모달 추론과 계획의 진전을 측정하기 위한 통제된 테스트베드를 제공한다.

arXiv:2505.07460v2cs.AI

대규모 언어 모델과 소규모 언어 모델 간 협업 메커니즘에 관한 서베이

A Survey on Collaborative Mechanisms Between Large and Small Language Models

대규모 언어 모델(LLM)은 강력한 AI 능력을 제공하지만 높은 자원 비용과 지연 시간으로 인해 배포에 어려움이 있으며, 소규모 언어 모델(SLM)은 성능이 낮아지는 대신 효율성과 배포 용이성을 제공한다. LLM과 SLM의 협업은 이러한 상충 관계를 상승적으로 균형 있게 조절하는 핵심 패러다임으로 부상하고 있으며, 특히 자원이 제한된 엣지 장치에서 고급 AI 응용을 가능하게 한다. 본 서베이는 LLM-SLM 협업에 대한 포괄적인 개요를 제공하며, 다양한 상호작용 메커니즘(파이프라인, 라우팅, 보조, 증류, 융합), 핵심 활성화 기술, 그리고 낮은 지연 시간, 프라이버시, 개인화, 오프라인 동작과 같은 온디바이스 요구에 의해 촉진되는 다양한 응용 시나리오를 상세히 다룬다. 더 효율적이고 적응적이며 접근 가능한 AI를 만들 수 있는 상당한 잠재력을 강조하는 한편, 시스템 오버헤드, 모델 간 일관성, 견고한 작업 할당, 평가의 복잡성, 보안·프라이버시 우려를 포함한 지속적인 과제도 논의한다. 향후 방향으로는 더 지능적인 적응형 프레임워크, 더 깊은 모델 융합, 멀티모달 및 임바디드 AI로의 확장이 제시되며, 이는 LLM-SLM 협업을 차세대 실용적이고 보편적인 인공지능의 핵심 동인으로 자리매김한다.

arXiv:2504.09895v4cs.CL

언어 모델의 추론과 정렬을 위한 참조 기반 보상을 활용한 강화학습

Reinforcement Learning with Reference-Based Rewards for Language Model Reasoning and Alignment

강화학습(RL)은 대규모 언어 모델(LLM) 사후 학습의 두 가지 주요 흐름을 뒷받침한다. 하나는 신중하고 검증 가능한 문제 해결을 이끌어내는 추론이고, 다른 하나는 모델이 유용하고 무해하며 정직한 행동을 하도록 유도하는 정렬이다. 두 가지 모두 보상 설계에 좌우된다. 추론은 최종 답에 대한 규칙 기반 검증에 의존하는데, 이진 피드백은 중간 유도 과정을 반영하지 못하며, 프로세스 보상 모델(PRM)은 확장하기에는 비용이 너무 큰 단계 수준 주석을 필요로 한다. 정렬은 이진 선호 쌍으로 학습된 보상 모델(RM)에 의존하여 데이터 수집과 모델 학습 모두 자원 집약적이다. 우리는 통합적이고 저렴한 대안으로 참조 기반 보상을 활용한 강화학습인 RL2R을 제안한다. RL2R은 기존의 또는 증류된 참조를 사용하여, 샘플링된 생성물과 참조 답안 또는 풀이 사이의 의미적 유사도를 BERTScore와 같은 경량 지표로 측정한다. 유사도는 이진 피드백이 버리는 순서형 품질 신호를 보존한다. 참조에 더 가까운 응답이 더 높은 보상을 받고, 최종 결론이 틀리더라도 타당한 유도 과정은 인정을 받는다. 수학적 추론에서는 규칙 기반 검증에 답 수준과 단계 수준의 유사도를 더하면 저비용 프로세스 감독을 제공하며 답만 검증하는 방식보다 우수하다. 정렬에서는 비평자(critic)가 없는 REINFORCE 방식의 구현이 일반 선호, 안전성, 확신도 과업을 RM 기반 방법과 대등한 수준으로 다룬다. 따라서 참조 기반 보상은 추론과 정렬을 아우르는 비용 효율적이고 다재다능한 보상 원천을 제공한다.

arXiv:2503.01935v2cs.MA공식 코드 · Papers with Code

MultiAgentBench: LLM 에이전트의 협업과 경쟁 평가

MultiAgentBench: Evaluating the Collaboration and Competition of LLM agents

대규모 언어 모델(LLM)은 자율 에이전트로서 뛰어난 능력을 보였지만, 기존 벤치마크는 단일 에이전트 과업에 초점을 맞추거나 좁은 영역에 국한되어 다중 에이전트 조율과 경쟁의 역학을 포착하지 못한다. 본 논문에서는 다양한 상호작용 시나리오에 걸쳐 LLM 기반 다중 에이전트 시스템을 평가하도록 설계된 포괄적 벤치마크인 MultiAgentBench를 소개한다. 우리의 프레임워크는 과업 완수뿐 아니라 협업과 경쟁의 질도 새로운 마일스톤 기반 핵심 성과 지표로 측정한다. 또한 스타, 체인, 트리, 그래프 토폴로지를 포함한 다양한 조율 프로토콜과 그룹 토론, 인지적 계획과 같은 혁신적인 전략을 평가한다. 특히 gpt-4o-mini가 평균 최고 과업 점수에 도달하고, 연구 시나리오에서 조율 프로토콜 중 그래프 구조가 가장 우수한 성능을 보였으며, 인지적 계획은 마일스톤 달성률을 3% 향상시킨다. 코드와 데이터셋은 https://github.com/MultiagentBench/MARBLE 에서 공개되어 있다.

arXiv:2411.02830v2cs.CL

인-컨텍스트 학습기의 혼합

Mixtures of In-Context Learners

인-컨텍스트 학습(ICL)은 모델 매개변수를 미세 조정하지 않고 시연 예시를 제공하여 LLM을 적응시키지만, 시연 예시를 구분하지 못하고 Transformer LLM의 복잡도를 제곱으로 증가시켜 메모리를 소진한다. 이에 대한 해결책으로 우리는 시연 예시의 부분집합을 전문가로 취급하고, 학습 집합에 기반하여 이들의 출력 분포를 병합하는 가중 함수를 학습하는 새로운 접근법인 인-컨텍스트 학습기의 혼합(MoICL)을 제안한다. 실험에서 우리는 강력한 기준선 모음과 비교하여 7개 분류 데이터셋 중 5개에서 성능 향상을 보였다(ICL 및 LENS 대비 최대 +13\%). 또한 더 적은 시연 예시로 동일한 성능을 달성하는 데 필요한 추론 시간을 줄여 ICL의 파레토 프런티어를 향상시킨다. 마지막으로 MoICL은 도메인 외(최대 +11\%), 불균형(최대 +49\%), 또는 잡음이 있는 시연 예시(최대 +38\%)에 더 강건하거나 데이터셋에서 이러한 예시를 걸러낼 수 있다. 전반적으로 MoICL은 컨텍스트 윈도우나 메모리를 소진하지 않고 시연 예시로부터 학습하는 더 표현력 있는 접근법이다.

arXiv:2409.08231v2physics.plasm-ph공식 코드 · Papers with Code

심층 강화학습을 통한 핵융합로 설계 최적화

Design Optimization of Nuclear Fusion Reactor through Deep Reinforcement Learning

본 연구에서는 토카막 핵융합로 설계의 제약 조건이 있는 다목적 최적화를 위한 실용적 도구로서 심층 강화학습(DRL)을 조사한다. 과제는 안정적인 운전에 필요한 네 가지 운전 한계를 만족하면서, 높은 에너지 이득과 긴 에너지 가둠 시간을 달성하는 동시에 건설 비용을 최소화하는 설계 구성을 최적화하는 것이다. 물리와 공학이 결합된 평가로 인해 목적 함수와 제약 조건이 블랙박스이므로, 기존 탐색 전략으로는 최적해를 찾기 어렵다. 이를 해결하기 위해 토카막 핵융합로 설계에 보상 제약 정책 최적화(RCPO)를 구현한다. 이 방법은 여러 제약 조건을 보상 함수에 통합하여 정책을 실현 가능한 해로 유도하고 설계 최적화 과정을 단순화한다. 수치 결과에 따르면 제안한 DRL 기반 접근법은 다른 데이터 기반 최적화 방법보다 운전 제약을 만족하는 실현 가능한 설계를 더 많이, 더 효율적으로 찾아내며, 이는 향후 효율적인 원자로 설계에 대한 DRL의 잠재력을 보여준다.

arXiv:2407.10445v2cs.CV

I2I Backdoor: Backdoor Attacks against Image-to-Image Tasks

With the rapid development of deep learning technology, deep learning-based Image-to-Image (I2I) networks have become the predominant choice for I2I tasks like image super-resolution and denoising. Despite their remarkable performance, the security of I2I networks has not been thoroughly investigated. While some studies have probed their susceptibility to adversarial attacks, none have explored the backdoor attack against I2I networks, which is a more stealthy and severe threat. In this work, for the first time, we comprehensively investigate the vulnerability of I2I networks to backdoor attacks. We propose a backdoor attack against I2I tasks, where the backdoored I2I network behaves normally on clean input images, yet outputs a specific inappropriate image when the backdoor trigger appears on the input image. To achieve such an I2I backdoor attack, we design a universal adversarial perturbation (UAP) generation algorithm for I2I networks, where the generated UAP is used as the trigger for the I2I backdoor. Besides, multi-task learning (MTL) with dynamic weighting methods is employed in the backdoor training process to gain better results. Expanding our focus beyond I2I tasks, we extend our I2I backdoor to attack downstream tasks, including image classification and object detection. Specifically, the backdoor-triggered image processed by the backdoored image denoising network can fool the downstream image classifiers and object detectors. Extensive experiments demonstrate the effectiveness of the I2I backdoor on state-of-the-art I2I network architectures as well as the robustness against different backdoor defenses.

arXiv:2407.06676v2cs.AI

지수 가중치 알고리즘이 수행하는 게임

Games played by Exponential Weights Algorithms

본 논문은 일정한 학습률을 갖는 지수 가중치 알고리즘의 마지막 반복 수렴 특성을 연구한다. 각 플레이어가 초기 혼합 행동과 고정된 학습률로 특징지어지는 지수 가중치 알고리즘을 사용하는 이산 시간 반복 상호작용을 고려하며, 이에 따라 단계 $t$에서 플레이되는 혼합 행동 프로파일 $p^t$는 시간 동질적 마르코프 연쇄를 따른다. 첫째, 엄격한 내시 균형이 존재하는 경우 다음 단계에서 엄격한 내시 균형을 플레이할 확률이 거의 확실하게 0 또는 1로 수렴함을 보인다. 둘째, $p^t$의 극한이 존재할 경우 그 극한은 ``보수 균등화 내시 균형'' 집합에 속함을 보인다. 셋째, 플레이어의 보수가 대각선에서는 양수이고 그 외에는 0인 강한 조정 게임에서 $p^t$가 엄격한 내시 균형 중 하나로 거의 확실하게 수렴함을 보인다. 마지막으로 미해결 문제들을 제시하며 결론을 맺는다.