PyTorchKR Papers

최신 논문

총 24,820편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 카테고리 구독

arXiv:2505.07460v2cs.AI

대규모 언어 모델과 소규모 언어 모델 간 협업 메커니즘에 관한 서베이

A Survey on Collaborative Mechanisms Between Large and Small Language Models

대규모 언어 모델(LLM)은 강력한 AI 능력을 제공하지만 높은 자원 비용과 지연 시간으로 인해 배포에 어려움이 있으며, 소규모 언어 모델(SLM)은 성능이 낮아지는 대신 효율성과 배포 용이성을 제공한다. LLM과 SLM의 협업은 이러한 상충 관계를 상승적으로 균형 있게 조절하는 핵심 패러다임으로 부상하고 있으며, 특히 자원이 제한된 엣지 장치에서 고급 AI 응용을 가능하게 한다. 본 서베이는 LLM-SLM 협업에 대한 포괄적인 개요를 제공하며, 다양한 상호작용 메커니즘(파이프라인, 라우팅, 보조, 증류, 융합), 핵심 활성화 기술, 그리고 낮은 지연 시간, 프라이버시, 개인화, 오프라인 동작과 같은 온디바이스 요구에 의해 촉진되는 다양한 응용 시나리오를 상세히 다룬다. 더 효율적이고 적응적이며 접근 가능한 AI를 만들 수 있는 상당한 잠재력을 강조하는 한편, 시스템 오버헤드, 모델 간 일관성, 견고한 작업 할당, 평가의 복잡성, 보안·프라이버시 우려를 포함한 지속적인 과제도 논의한다. 향후 방향으로는 더 지능적인 적응형 프레임워크, 더 깊은 모델 융합, 멀티모달 및 임바디드 AI로의 확장이 제시되며, 이는 LLM-SLM 협업을 차세대 실용적이고 보편적인 인공지능의 핵심 동인으로 자리매김한다.

arXiv:2504.09895v4cs.CL

언어 모델의 추론과 정렬을 위한 참조 기반 보상을 활용한 강화학습

Reinforcement Learning with Reference-Based Rewards for Language Model Reasoning and Alignment

강화학습(RL)은 대규모 언어 모델(LLM) 사후 학습의 두 가지 주요 흐름을 뒷받침한다. 하나는 신중하고 검증 가능한 문제 해결을 이끌어내는 추론이고, 다른 하나는 모델이 유용하고 무해하며 정직한 행동을 하도록 유도하는 정렬이다. 두 가지 모두 보상 설계에 좌우된다. 추론은 최종 답에 대한 규칙 기반 검증에 의존하는데, 이진 피드백은 중간 유도 과정을 반영하지 못하며, 프로세스 보상 모델(PRM)은 확장하기에는 비용이 너무 큰 단계 수준 주석을 필요로 한다. 정렬은 이진 선호 쌍으로 학습된 보상 모델(RM)에 의존하여 데이터 수집과 모델 학습 모두 자원 집약적이다. 우리는 통합적이고 저렴한 대안으로 참조 기반 보상을 활용한 강화학습인 RL2R을 제안한다. RL2R은 기존의 또는 증류된 참조를 사용하여, 샘플링된 생성물과 참조 답안 또는 풀이 사이의 의미적 유사도를 BERTScore와 같은 경량 지표로 측정한다. 유사도는 이진 피드백이 버리는 순서형 품질 신호를 보존한다. 참조에 더 가까운 응답이 더 높은 보상을 받고, 최종 결론이 틀리더라도 타당한 유도 과정은 인정을 받는다. 수학적 추론에서는 규칙 기반 검증에 답 수준과 단계 수준의 유사도를 더하면 저비용 프로세스 감독을 제공하며 답만 검증하는 방식보다 우수하다. 정렬에서는 비평자(critic)가 없는 REINFORCE 방식의 구현이 일반 선호, 안전성, 확신도 과업을 RM 기반 방법과 대등한 수준으로 다룬다. 따라서 참조 기반 보상은 추론과 정렬을 아우르는 비용 효율적이고 다재다능한 보상 원천을 제공한다.

arXiv:2503.01935v2cs.MA공식 코드 · Papers with Code

MultiAgentBench: LLM 에이전트의 협업과 경쟁 평가

MultiAgentBench: Evaluating the Collaboration and Competition of LLM agents

대규모 언어 모델(LLM)은 자율 에이전트로서 뛰어난 능력을 보였지만, 기존 벤치마크는 단일 에이전트 과업에 초점을 맞추거나 좁은 영역에 국한되어 다중 에이전트 조율과 경쟁의 역학을 포착하지 못한다. 본 논문에서는 다양한 상호작용 시나리오에 걸쳐 LLM 기반 다중 에이전트 시스템을 평가하도록 설계된 포괄적 벤치마크인 MultiAgentBench를 소개한다. 우리의 프레임워크는 과업 완수뿐 아니라 협업과 경쟁의 질도 새로운 마일스톤 기반 핵심 성과 지표로 측정한다. 또한 스타, 체인, 트리, 그래프 토폴로지를 포함한 다양한 조율 프로토콜과 그룹 토론, 인지적 계획과 같은 혁신적인 전략을 평가한다. 특히 gpt-4o-mini가 평균 최고 과업 점수에 도달하고, 연구 시나리오에서 조율 프로토콜 중 그래프 구조가 가장 우수한 성능을 보였으며, 인지적 계획은 마일스톤 달성률을 3% 향상시킨다. 코드와 데이터셋은 https://github.com/MultiagentBench/MARBLE 에서 공개되어 있다.

arXiv:2411.02830v2cs.CL

인-컨텍스트 학습기의 혼합

Mixtures of In-Context Learners

인-컨텍스트 학습(ICL)은 모델 매개변수를 미세 조정하지 않고 시연 예시를 제공하여 LLM을 적응시키지만, 시연 예시를 구분하지 못하고 Transformer LLM의 복잡도를 제곱으로 증가시켜 메모리를 소진한다. 이에 대한 해결책으로 우리는 시연 예시의 부분집합을 전문가로 취급하고, 학습 집합에 기반하여 이들의 출력 분포를 병합하는 가중 함수를 학습하는 새로운 접근법인 인-컨텍스트 학습기의 혼합(MoICL)을 제안한다. 실험에서 우리는 강력한 기준선 모음과 비교하여 7개 분류 데이터셋 중 5개에서 성능 향상을 보였다(ICL 및 LENS 대비 최대 +13\%). 또한 더 적은 시연 예시로 동일한 성능을 달성하는 데 필요한 추론 시간을 줄여 ICL의 파레토 프런티어를 향상시킨다. 마지막으로 MoICL은 도메인 외(최대 +11\%), 불균형(최대 +49\%), 또는 잡음이 있는 시연 예시(최대 +38\%)에 더 강건하거나 데이터셋에서 이러한 예시를 걸러낼 수 있다. 전반적으로 MoICL은 컨텍스트 윈도우나 메모리를 소진하지 않고 시연 예시로부터 학습하는 더 표현력 있는 접근법이다.

arXiv:2409.08231v2physics.plasm-ph공식 코드 · Papers with Code

심층 강화학습을 통한 핵융합로 설계 최적화

Design Optimization of Nuclear Fusion Reactor through Deep Reinforcement Learning

본 연구에서는 토카막 핵융합로 설계의 제약 조건이 있는 다목적 최적화를 위한 실용적 도구로서 심층 강화학습(DRL)을 조사한다. 과제는 안정적인 운전에 필요한 네 가지 운전 한계를 만족하면서, 높은 에너지 이득과 긴 에너지 가둠 시간을 달성하는 동시에 건설 비용을 최소화하는 설계 구성을 최적화하는 것이다. 물리와 공학이 결합된 평가로 인해 목적 함수와 제약 조건이 블랙박스이므로, 기존 탐색 전략으로는 최적해를 찾기 어렵다. 이를 해결하기 위해 토카막 핵융합로 설계에 보상 제약 정책 최적화(RCPO)를 구현한다. 이 방법은 여러 제약 조건을 보상 함수에 통합하여 정책을 실현 가능한 해로 유도하고 설계 최적화 과정을 단순화한다. 수치 결과에 따르면 제안한 DRL 기반 접근법은 다른 데이터 기반 최적화 방법보다 운전 제약을 만족하는 실현 가능한 설계를 더 많이, 더 효율적으로 찾아내며, 이는 향후 효율적인 원자로 설계에 대한 DRL의 잠재력을 보여준다.

arXiv:2407.10445v2cs.CV

I2I Backdoor: Backdoor Attacks against Image-to-Image Tasks

With the rapid development of deep learning technology, deep learning-based Image-to-Image (I2I) networks have become the predominant choice for I2I tasks like image super-resolution and denoising. Despite their remarkable performance, the security of I2I networks has not been thoroughly investigated. While some studies have probed their susceptibility to adversarial attacks, none have explored the backdoor attack against I2I networks, which is a more stealthy and severe threat. In this work, for the first time, we comprehensively investigate the vulnerability of I2I networks to backdoor attacks. We propose a backdoor attack against I2I tasks, where the backdoored I2I network behaves normally on clean input images, yet outputs a specific inappropriate image when the backdoor trigger appears on the input image. To achieve such an I2I backdoor attack, we design a universal adversarial perturbation (UAP) generation algorithm for I2I networks, where the generated UAP is used as the trigger for the I2I backdoor. Besides, multi-task learning (MTL) with dynamic weighting methods is employed in the backdoor training process to gain better results. Expanding our focus beyond I2I tasks, we extend our I2I backdoor to attack downstream tasks, including image classification and object detection. Specifically, the backdoor-triggered image processed by the backdoored image denoising network can fool the downstream image classifiers and object detectors. Extensive experiments demonstrate the effectiveness of the I2I backdoor on state-of-the-art I2I network architectures as well as the robustness against different backdoor defenses.

arXiv:2407.06676v2cs.AI

지수 가중치 알고리즘이 수행하는 게임

Games played by Exponential Weights Algorithms

본 논문은 일정한 학습률을 갖는 지수 가중치 알고리즘의 마지막 반복 수렴 특성을 연구한다. 각 플레이어가 초기 혼합 행동과 고정된 학습률로 특징지어지는 지수 가중치 알고리즘을 사용하는 이산 시간 반복 상호작용을 고려하며, 이에 따라 단계 $t$에서 플레이되는 혼합 행동 프로파일 $p^t$는 시간 동질적 마르코프 연쇄를 따른다. 첫째, 엄격한 내시 균형이 존재하는 경우 다음 단계에서 엄격한 내시 균형을 플레이할 확률이 거의 확실하게 0 또는 1로 수렴함을 보인다. 둘째, $p^t$의 극한이 존재할 경우 그 극한은 ``보수 균등화 내시 균형'' 집합에 속함을 보인다. 셋째, 플레이어의 보수가 대각선에서는 양수이고 그 외에는 0인 강한 조정 게임에서 $p^t$가 엄격한 내시 균형 중 하나로 거의 확실하게 수렴함을 보인다. 마지막으로 미해결 문제들을 제시하며 결론을 맺는다.

arXiv:2401.10816v3cs.HC

건강을 위한 코파일럿: 건강 결과 개선을 위한 개인화된 알고리즘 기반 AI 넛징

Co-Pilot for Health: Personalized Algorithmic AI Nudging to Improve Health Outcomes

웨어러블 기기 유형과 질병 상태를 가리지 않고 대규모 인구의 건강 행동을 자동으로 형성하는 능력은 세계 보건 결과를 개선할 큰 잠재력을 지닌다. 우리는 그래프 신경망(GNN) 기반 추천 시스템과 웨어러블 피트니스 기기에서 얻은 세분화된 건강 행동 데이터로 구동되는, 디지털 알고리즘 넛징을 위한 AI 기반 플랫폼을 설계하고 구현하였다. 본 논문에서는 싱가포르의 $n=84,764$명을 대상으로 12주 동안 개인화되고 맥락에 맞는 넛징을 제공한 이 플랫폼의 효능 결과를 기술한다. 이러한 AI 최적화 일일 넛지를 받은 대상 그룹 참가자는 넛지를 받지 않은 대조군의 짝지어진 참가자에 비해 걸음 수와 같은 일일 신체 활동이 6.17% ($p = 3.09\times10^{-4}$), 주간 중강도-고강도 신체 활동(MVPA) 시간이 7.61% ($p = 1.16\times10^{-2}$) 증가했음을 통계적으로 검증하였다. 또한 이러한 넛지는 매우 호의적으로 받아들여져, 발송된 넛지의 13.1%가 열람되었고(열람률), 열람된 넛지 중 11.7%가 유용하다고 평가된 반면 유용하지 않다고 평가된 비율은 1.9%였으며, 이는 인구 수준의 참여 지표가 유의미하게 개선되었음을 보여준다.

arXiv:2309.10448v5cs.AI

인간-AI 상호작용과 사회적 함정

Human-AI Interactions and Societal Pitfalls

생성형 인공지능(AI)을 사용할 때 사용자는 생산성 향상을 얻을 수 있지만, AI가 생성한 콘텐츠는 사용자의 선호와 정확히 일치하지 않을 수 있다. 이러한 효과를 연구하기 위해, 우리는 이질적인 사용자가 출력 충실도와 소통 비용 사이의 상충 관계에 직면하여 AI와 얼마나 많은 정보를 공유할지 선택하는 베이지안 프레임워크를 도입한다. 우리는 이러한 개인 수준의 결정과 AI 학습 사이의 상호작용이 사회적 문제로 이어질 수 있음을 보인다. 특히 AI가 AI 생성 콘텐츠로 학습될 때 출력이 더 동질화될 수 있으며, 이는 동질화 죽음의 소용돌이를 촉발할 가능성이 있다. 또한 AI의 편향은 전파되어 사회적 편향이 될 수 있다. 동질화와 편향 문제의 해결책은 인간-AI 상호작용의 마찰을 줄이고 사용자가 유연하게 정보를 공유할 수 있도록 하여, 생산성을 희생하지 않고 개인화된 출력을 얻는 것이다.

arXiv:2611.23229v1cs.LG

Ambient LLM: 온도 일치를 통한 데이터 효율적인 지도 미세조정

Ambient LLMs: Data-Efficient Supervised Fine-tuning via Temperature Matching

자기회귀 언어 모델의 사후 학습에 사용할 대규모 고품질 데이터셋을 다양하게 수집하기는 어렵다. 따라서 지도 미세조정(SFT)에는 대개 사전학습 데이터보다 규모가 훨씬 작은 데이터셋을 사용한다. 이로 인해 과적합이 일어나고 데이터 분포의 꼬리에 해당하는 내용을 파국적으로 망각한다. 이를 방지하기 위해 불완전한 예측으로 미세조정 데이터셋을 보강하는 원리에 기반한 프레임워크 Ambient SFT를 소개한다. 이 방법에서는 가중치를 고정한 사전학습 모델을 잡음이 있는 교사로 사용하며, 미세조정 모델이 교사의 예측을 큰 틀에서 따르도록 한다. 구체적으로 사후 학습 모델이 산출하는 조건부 분포에 높은 온도를 적용한 결과가, 사전학습 모델의 조건부 분포에 같은 온도를 적용한 결과와 일치하도록 한다. 온도 하이퍼파라미터로 사전학습 모델을 신뢰하는 정도를 조절한다. $T\to \infty$인 극한에서는 일반 SFT가 되고, $T=1$에서는 지식 증류가 된다. 이 방법은 도메인 적응, 지시 미세조정, 추론에서 표준 SFT보다 높은 성능을 보였으며, 표준 SFT 대비 평균 상대 개선 폭은 최대 $21\%$였다.

arXiv:2611.23225v1hep-th

StringQFT: AI를 활용한 이론물리학을 위한 다목적 교재 자료

StringQFT: A Multiuse Textbook Resource for AI-Assisted Theoretical Physics

StringQFT를 양자장론의 끈 이론적 구성을 다루는 교재 모음이자 AI를 활용한 이론물리학 연구 기반으로 제시한다. 18권, 190개 장, 3,795쪽으로 구성되며, 브레인 탐침, 브레인 웹, 기하학적 공학, F이론 구성, 감긴 M5-브레인, 정확한 세계면 구성을 다룬다. 교재를 참고할 수 있는 벤치마크에는 문항 1,073개가 있으며, 이 중 499개는 정해진 답을 자동으로 채점할 수 있다. 검색 증강 생성을 위해 교재 출처와 PDF 위치에 연결한 절 단위 레코드 1,371개와 로컬 어휘 기반 검색기를 제공한다. 출처가 연결된 비공개 예제 21개로 학습 데이터 준비 방법을 보여 준다. 에이전트가 사용할 수 있도록 입력과 유한한 정의역을 명시한 계산 도구 19개를 제공한다. 이 도구의 사용을 교재의 유도 과정과 연결한다. 구체적인 질문, 검색한 구절, 유한한 계산 사례를 통해 각각의 활용법을 보여 준다. 교재 모음과 관련 자료는 https://github.com/xingyang-yu/StringQFT 에서 이용할 수 있다.

arXiv:2611.23219v1cs.LG

대규모 언어 모델 에이전트에 자기 개선 방법을 여전히 알려 줘야 하는가?

Do LLM Agents Still Need to Be Told How to Self-Improve?

대규모 언어 모델(LLM) 에이전트는 점점 더 스스로 학습을 주도하고 있다. 자기 개선 방법은 모델 최적화의 여러 구성 요소를 모델 자체에 맡긴다. 모델의 능력이 높아지면서 근본적인 질문이 생긴다. 더 유능해진 모델에도 자기 개선 방법을 사람이 명시해야 하는가? 이 논문에서는 기본 연산, 자원, 포괄적인 자기 개선 목표를 주었을 때 에이전트가 문맥 기반 최적화에 사용할 자기 학습 알고리즘을 직접 구성하는 자율적 접근법을 연구한다. 게임 플레이를 시험 환경으로 삼아 가중치를 동결한 LLM 에이전트에 연산 예산과 경험을 수집하고 텍스트 문서를 갱신할 도구를 주었다. 외부에서 정한 반복 절차나 현실 세계 데이터에 접근할 수 없는 조건에서 자유롭게 실험하게 했다. 충분한 능력을 갖춘 모델은 이 조건에서도 스스로 개선됐다. 모델이 택한 전략은 자기조절학습에 관한 고전적 인지 모형 및 머신러닝 문헌에서 다루는 자체 생성 커리큘럼 개념과 일치하는 특징을 보였다. 또한 학습 과정에서 만든 텍스트 산출물이 외부 벤치마크에 얼마나 전이되는지 조사했으며, 게임 진행 길이와 규칙이 다른 환경과 3D 길 찾기 과제에서 성능 향상을 관찰했다.

arXiv:2611.23216v1cs.SE

벤치마크 점수가 높은 코딩 모델도 더 많은 일을 끝내지는 못했다

Higher-Scoring Coding Models Did Not Get More Work Done

새 코딩 모델은 코딩 벤치마크 점수의 향상을 내세운다. 그러나 벤치마크에서 더 높은 점수를 받은 모델이 실제로 작업을 더 많이 끝내는지 검증한 연구는 없었다. 2026년 6월 12일 미국의 수출 통제 지침에 따라 Claude Fable 5에 대한 접근이 19일간 금지되어 사용자는 다른 모델로 전환해야 했다. 이 기간에 기존 Fable 5 사용자 대부분은 Opus 4.8로 전환했다. Opus 4.8의 SWE-Bench Pro 점수는 Fable 5보다 11점 낮았다. 사용자와 프로젝트는 같고 모델만 바뀐 이 중단 기간을 자연실험으로 삼아, Fable 5가 사용자 생산성에 미친 영향을 분리해 추정했다. 중단 전후 및 중단 기간에 Fable 5 사용자 297명의 GitHub 풀 리퀘스트를 추적했다. 계속 Opus 4.8을 사용한 개발자 8,908명을 대조군으로 삼았다. 2026년 중단 전후에 있었던 모델 업그레이드 5건에 대해서도 비교를 반복했다. 이 분석에는 개발자 1,208명과 풀 리퀘스트 15,442건이 포함됐다. 개발자와 날짜 고정효과를 넣은 이중차분 모형을 적합한 결과, Fable 5를 사용할 때 풀 리퀘스트의 7일 이내 병합률은 1.4%포인트 높았으나 통계적으로 유의하지 않았다(구간 −1.4~+4.3%포인트). 업그레이드 후에도 병합률이 유의하게 늘지 않았다(가중평균 −0.9%포인트, 구간 −1.9~+0.2%포인트). 업그레이드 5건의 추정치는 모두 음수였으며, 95% 구간은 모두 0을 포함했고 추정치 간 차이도 없었다. 주간 병합 풀 리퀘스트 수 역시 유의하게 늘지 않았다(+2.4%, 구간 −4.9~+10.2%).

arXiv:2611.23206v1cs.CV

Reading Scene States: Uncovering Safety Failures in Vision-Language Models

Vision-language models (VLMs) can provide harmful assistance by interpreting visual events, even without an explicit request for the underlying harmful objective. We identify this \textbf{scene-state safety vulnerability} and introduce \textbf{SceneSafetyBench}, comprising 375 image--question pairs spanning Initial, Medium, and Ultimate scene states and five visual presentations. Across eight VLMs, scene-state inputs elicit harmful assistance with attack success rates (ASRs) of 45.6--72.3\%. Comparative analysis across three VLMs shows that scene-state inputs most closely resemble QR-related images in their layer-wise safety-related signal profiles, while exhibiting lower average late-layer readouts and distinct signal dynamics during generation. To turn this vulnerability into a systematic attack, we propose \textbf{S3TA}, which translates harmful objectives into scene states, queries image--question pairs independently, and assembles the responses. On seven MM-SafetyBench categories across eight open-weight and commercial VLMs, S3TA achieves a model-average ASR of \textbf{71.2\%, exceeding the strongest baseline by 6.1 percentage points}. Text-side filters and visual moderation provide limited protection. These findings highlight the need to safeguard the assistance models infer through scene-grounded reasoning, beyond screening input content.

arXiv:2611.23205v1cs.LG

노트북 내장 GPU에서 SFT와 QLoRA로 Gemma 4 엣지 모델의 MATLAB 신호 처리 코드 생성 능력 미세조정

Fine-Tuning Gemma 4 Edge Models for MATLAB Signal-Processing Code with SFT and QLoRA on a Laptop iGPU

노트북에서 실행되는 소형 언어 모델은 오프라인에서 신호 처리 코드를 작성하는 데 유용할 수 있지만, 디지털 신호 처리(DSP) 규약에서 반복적으로 오류를 낸다. MATLAB 신호 처리 하위 과제 11개를 포괄하는 검증된 예시 66개로 Gemma 4 엣지 모델 E2B와 E4B를 지도 미세조정(SFT)했다. 노트북 내장 GPU(iGPU)에서 저랭크 적응(LoRA)과 양자화 LoRA(QLoRA)를 사용했으며, 8비트 정수(int8) 모델을 어댑터와 함께 OpenVINO로 배포했다. 따로 보관한 변형 문제를 결정론적 검사기로 평가한 결과, E2B의 통과 건수는 66건 중 18건에서 LoRA와 QLoRA 모두 37건으로 늘었다. E4B의 경우 QLoRA로 66건 중 32건에서 47건으로 늘었다. 실패한 프로그램 159개를 모두 검토한 결과, 어댑터는 지연의 부호, 단위, 배열 형상 같은 규약 오류는 대부분 없앴지만, 신호와 잡음을 구성하는 오류는 거의 줄이지 못했다. 추론 시 어댑터를 적용하면 생성 속도가 17~19% 감소했다.

arXiv:2611.23202v1cs.AI

에이전트 신뢰 인프라(ATI): 조직 간 자율 AI 에이전트를 위한 연합 신원·신뢰·증명·책임 추적 아키텍처

Agent Trust Infrastructure (ATI): A Federated Identity, Trust, Attestation, and Accountability Architecture for Cross-Organization Autonomous AI Agents

AI 에이전트가 조직 경계를 넘어 협력하고, 도구를 호출하며, 독립된 주체가 운영하는 에이전트와 상호작용하는 일이 늘고 있다. 기존 에이전트 프레임워크는 계획 수립과 조율을 지원하지만, 다른 조직의 에이전트 신원, 실행 무결성, 권한을 검증할 공통 수단이 없다. 공개키 기반 구조(PKI), 제로 트러스트 아키텍처(ZTA), 원격 증명에 기반한 프레임워크 독립적 보안 아키텍처인 에이전트 신뢰 인프라(ATI)를 제안한다. ATI는 조직별 에이전트 인증 기관(AgentCA)이 서로 신뢰하는 방식으로 공통 루트 인증 기관 없이 연합 신뢰를 구축한다. 요청을 실행하기 전에 에이전트 인증서가 유효한지 확인하고 모델, 도구, 시스템 프롬프트의 구성이 승인된 것인지 검증한 뒤 세 가지 정책 검사로 권한을 적용한다. 기반 모델을 수정하지 않고도 기존 에이전트 프레임워크에 통합할 수 있도록 ATI를 외부 보안 집행 계층으로 구현했다. 조직 8개가 참여하는 모의 연합 환경에서 에이전트 프레임워크 6종을 평가했으며, 프레임워크별로 에이전트 5개로 구성된 팀을 배치했다. 두 조직이 참여하는 보안 실험에서는 에이전트 모델 5종으로 공격 시나리오 14개와 정상 과제 6개를 평가했다. 공격 변형 5개를 사용하고 변형마다 3회 반복했다. 여러 판정 모델이 실험 결과를 평가했다. 모든 집행 장치를 활성화하면 공격 차단율은 43%에서 84%로 높아졌다. 모든 설정에서 공통으로 평가한 공격 시나리오 11개에서는 40%에서 80%로 높아졌다. 보안 집행에 따른 추가 지연은 요청당 약 174마이크로초였다. ATI는 프레임워크에 종속되지 않는 공개 소스 패키지로 공개됐다. 신원과 요청 검증에는 IETF WIMSE의 워크로드 토큰 형식을, 모델·도구·시스템 프롬프트의 무결성 검증에는 Entity Attestation Token을 사용한다.

arXiv:2611.23197v1cs.CL

언어 모델 사전학습을 위한 구조·잔차 귀납적 바이어스

Structure--Residual Inductive Biases for Language Model Pretraining

언어 모델은 다음 토큰을 예측하는 과제로 예측 능력과 내부 표현을 함께 학습한다. 우리는 표현 구조 자체를 명시적인 귀납적 바이어스로 삼아야 하는지 묻는다. 콜모고로프 복잡도의 두 부분 부호화 관점에서 출발해 표현을 구조와 구현 세부 정보로 분리하는 구조·잔차 원리를 살펴본다. 이 원리를 상호 보완적인 두 방식으로 구현한다. 경계 병목 개념(BBC)은 국소 자기회귀 연산을 유지하면서 토큰 구간의 정보를 경계 전달자를 거쳐 보낸다. 연속 개념(CC)은 표현의 기하 구조를 정규화해 저주파 구조와 고주파 잔차로 스펙트럼을 분해하도록 유도한다. 두 관점에서 부호화의 한계를 유도하고, 구간 내부 경로 에너지가 0으로 사라지면 중복도를 보정한 경계 어텐션이 정확해짐을 보인다. 실험에서 BBC와 CC가 효과적인 층의 깊이는 뚜렷이 달랐다. BBC는 앞쪽 층에서, CC는 뒤쪽 층에서 가장 효과적이었다. 학습 토큰 3억 개로 GPT-2 Medium을 학습했을 때 BBC와 CC를 결합하면 음의 로그 가능도(NLL)가 1.44% 개선됐다. 학습 토큰을 최대 200억 개로 늘려도 개선이 유지됐다. 표현을 분석한 결과, BBC는 경계 상태가 예측에 기여하는 상대적 중요도를 높였고 CC는 스펙트럼 잔차 에너지를 줄였다. 이 결과는 구조·잔차 바이어스가 다음 토큰 예측에 더해 언어 모델의 사전학습을 개선할 수 있음을 시사한다. 코드는 https://github.com/haihuang-ml/structure-residual 에 공개되어 있다.

arXiv:2611.23192v1cs.AI

WoRD: 온라인 목표 인식을 위한 확산 기반 사후 추론

WoRD: Diffusion-Based Posterior Inference for Online Goal Recognition

목표 인식은 에이전트의 행동을 관찰해 의도한 목표를 추론하는 과제다. 대부분의 선행 연구는 고수준 기호를 다루며, 에이전트가 목표에 도달하기까지 보이는 연속적인 움직임은 추상화한다. 연속 궤적을 다루는 방법은 명시적인 동역학 모델에 의존한다. 이런 모델은 얻기 어렵고 다른 환경에 적용하기도 어렵다. 두 접근법 모두 에이전트가 후보 목표 각각에 어떻게 접근하는지 명시적으로 학습하지 않는다. 따라서 그런 정보가 가장 필요한, 여러 목표로 해석할 수 있는 초기 궤적에서 정확도가 제한된다. 학습한 궤적 사전분포를 사용해 부분 관측으로부터 에이전트의 목표를 추론하는 WoRD(Waypoint Recognition with Diffusion)를 제안한다. WoRD는 매 단계에서 후보 목표마다 이전 상태를 활용해 초기화한 잡음 제거 연쇄를 실행하고, 닫힌 형태의 로그 가능도 그래디언트로 각 연쇄가 관측된 궤적을 따르도록 유도한다. 이어서 베이즈 규칙에 따라 결과 샘플의 가중치를 다시 계산해 목표에 대한 보정된 사후분포를 구한다. 로봇 시뮬레이션, 보행자 궤적, 차량 궤적에서 서로 다른 실패 유형을 평가하는 평가지표 네 가지로 WoRD를 시험했다. 세 환경 모두에서 같은 추론 절차를 적용했다. 필터나 분류기 기반 관측기가 단일 최빈값으로 수렴하거나 과도하게 확신하는 모호한 초기 궤적에서도 WoRD는 보정된 다봉 분포를 유지했다.

arXiv:2611.23189v1cs.CV

범용 의료 이미지 분할을 위한 검색 증강 교정

Retrieval-Augmented Correction for Generalist Medical Image Segmentation

자동 분할은 의료 영상을 이용한 정량적 임상 작업의 첫 단계로 널리 쓰이며, 작업자가 예측한 마스크를 이후에 검토하고 교정한다. 현재 남아 있는 구조 오류의 자동 교정은 해부 구조별로 수행하므로, 분할 대상 수만큼 교정 모델을 학습해야 한다. 검증된 과거 사례를 모은 공유 지식 베이스에서 가져온 정보를 바탕으로 입력 마스크를 수정하는 검색 증강 교정 모델 GRACE를 제안한다. 조밀한 장기, 체강, 가지가 있는 혈관, 종양 병변을 포함하는 다기관 말뭉치에서 교정 모델을 한 번 학습한다. 데이터셋 간 전이 평가에서는 학습에서 제외한 데이터셋 3개를 사용해, 학습 데이터만으로 구축한 고정 지식 베이스를 조회했다. 별도의 해부 구조 하나 제외 실험에서는 매개변수를 변경하지 않고 인덱스를 확장할 수 있는지 시험했다. 학습에 없던 실질 장기의 검증된 사례를 지식 베이스에 추가하고 교정 모델은 동결했다. 동결된 멀티모달 인코더에 연결된 경량 형상 인식 투영 헤드는 임베딩 유사도가 마스크 형상의 일치도를 반영하게 한다. 따라서 지식 베이스는 교정 모델이 형상 사전 정보로 활용할 수 있는 사례를 반환한다. CT, MRI, 초음파를 포함하는 공개 데이터셋 18개에서 교정 설정 9개와, 약한 성능부터 중간과 강한 성능까지 포괄하는 선행 분할 모델 7개로 GRACE를 평가했다. 성능 변화는 입력 마스크의 다이스 유사도 계수(DSC)와 함께 보고했다. 약한 분할 모델의 입력 DSC는 0.386이었고, GRACE를 적용하면 최대 0.35 높아졌다. 강한 분할 모델의 입력 DSC는 0.932였으며 평균 변화는 작았다. 학습과 인덱스에 모두 없는 영상 모달리티로의 전이는 제한적이고 해부 구조에 따라 달라져, 후속 연구 과제로 남아 있다. 이 결과는 검색 결과를 조건으로 사용하는 교정이 해부 구조별 교정 모델의 실용적인 대안이 될 수 있음을 시사한다. 코드는 https://github.com/robustml-eurecom/grace 에 공개되어 있다.

arXiv:2611.23179v1cs.CV

말을 줄이면 환각도 줄어드는가? 선호 최적화한 비전-언어 모델의 객체 포괄 범위 진단과 복원

Say Less, Hallucinate Less? Diagnosing and Restoring Object Coverage in Preference-Optimized Vision-Language Models

대규모 비전-언어 모델에서 실제로 없는 객체를 언급하는 환각을 줄이기 위해 선호 최적화(PO)를 표준적으로 사용한다. 공개된 LLaVA-1.5-7B의 PO 체크포인트 네 개를 살펴본 결과, 객체 포괄 범위도 줄었다. 이 모델들은 더 적은 객체 범주를 언급하며, 환각률은 낮아졌지만 CHAIR에서 객체 집합 단위의 F1은 유의하게 높아지지 않았다. 이에 기본 모델의 출력을 일찍 끝내는 것만으로 PO의 개선 효과를 얼마나 재현할 수 있는지 조사했다. 시퀀스 종료(EOS) 로짓에 양의 바이어스를 주면 기본 모델의 재현율을 각 PO 모델 수준으로 맞출 수 있다. 이렇게 조기 종료만 적용해도 서로 겹치지 않는 COCO 세트 두 개에서 체크포인트 세 개가 달성한 CHAIRi 개선 폭의 58~86%를 재현했다. 출력을 늘려도 누락된 범주는 돌아오지 않았다. 탐욕적 디코딩에서 음의 EOS 바이어스는 이 체크포인트들이 잃은 CHAIR 재현율의 2~9%만 회복했다. 새로 추가된 객체 언급 중 94~96%는 이미 나온 범주를 반복했다. CHAIR에서 같은 이미지에 대한 기본 모델의 캡션에는 PO 모델이 놓친 객체 범주의 약 절반이 여전히 포함돼 있었다. 이에 추가 학습 없이 기본 모델만 높은 신뢰도로 언급한 객체 범주를 PO 캡션에 덧붙이는 기본 모델 기반 복원 방식을 제안한다. 개발 세트에서 임계값을 고정하고 별도로 보관한 COCO 세트에서 평가한 결과, 체크포인트 세 개의 재현율이 기본 모델과 1%포인트 이내로 가까워졌으며 고유 객체 기준 환각률은 기본 모델보다 낮았다. 재현율을 맞춘 기본 모델의 조기 종료 곡선과 비교하면, 기본 모델에 가까운 재현율에서는 RLAIF-V에서, 중간 수준의 재현율에서는 RLAIF-V와 CHAIR-DPO에서 개선이 유지됐다. 재현율을 통제하는 평가의 코드를 공개할 예정이다.