대규모 언어 모델(LLM) 에이전트를 구축하는 방법은 프롬프트 엔지니어링과 지도 미세조정(SFT)에서 에이전트 강화학습(agentic RL)으로 발전해 왔습니다. 그러나 에이전트 강화학습은 주변 시스템으로 인한 병목 현상을 여전히 겪고 있습니다. 에이전트는 샌드박스, 모델 서비스, 외부 API와 같은 이종 환경과 상호작용해야 하며, 이러한 환경의 할당, 재사용 및 수명 주기는 롤아웃(rollout) 비용의 대부분을 차지하고 실질적으로 학습(training) 가능한 규모를 제한합니다. 본 연구에서는 단일 엔진을 통해 스케줄링되는 개별적이고 유형화된 리소스로서 이러한 각 환경을 처리하는 통합 리소스 층(layer) 기반의 에이전트 강화학습 프레임워크인 AgentFly를 제시합니다. 이 프레임워크는 멀티턴 재사용을 위한 도구별 획득, 비동기 배압(backpressure), 롤아웃 범위 대 전역 범위의 수명 주기를 지원합니다. AgentFly는 4개 층 구조 설계를 채택합니다: (I) 에이전트, 도구, 보상 개념을 추상화하여 에이전트 강화학습을 에이전트, 도구 및 보상 함수 정의로 분해하는 에이전트 층; (II) 이들을 에이전트 루프로 구성하고 보상을 계산하는 롤아웃 층; (III) 롤아웃을 구성하고 문맥 정보를 주입하며 리소스를 배치하는 컨텍스트 층; (IV) 리소스 관리를 수행하는 저수준 리소스 층. 우리는 사전 구축된 도구 및 환경 모음을 제공하고, 여러 태스크와 모델에 걸쳐 성공적인 에이전트 학습을 입증하며, 에이전트 강화학습 프레임워크 간 최초의 통제된 처리량 비교 결과를 보고합니다.
비디오에서의 언어 기반 행동 위치 추정(action localization)은 언어 쿼리와 비디오 구간 간의 의미론적 정렬뿐만 아니라 행동 경계의 예측도 요구합니다. 그러나 언어 쿼리는 주로 행동의 주요 내용만을 설명하며 행동의 시작 및 종료 경계에 대한 구체적인 세부 정보가 부족한 경우가 많아, 수작업 경계 주석의 주관성을 높이고 학습(training) 데이터의 경계 불확실성을 초래합니다. 본 논문에서는 한편으로 대규모 언어 모델(LLM)을 통해 행동 시작 및 종료 경계의 텍스트 설명을 생성함으로써 기존 쿼리를 확장하는 방안을 제안하며, 이는 위치 추정을 위한 더 상세한 경계 단서를 제공하여 경계 불확실성의 영향을 줄일 수 있습니다. 다른 한편으로, 학습 중 경계 불확실성에 대한 허용 한도를 향상시키기 위해, 프레임과 확장된 쿼리 간의 의미론적 유사도 및 프레임과 주석 처리된 경계 프레임 간의 시간적 거리를 계산하여 행동 경계의 확률 점수를 모델링하는 방안을 제안합니다. 이는 보다 일관된 경계 감독(supervision)을 제공하여 학습의 안정성을 향상시킬 수 있습니다. 제안하는 방법은 모델(model)에 구애받지 않으며(model-agnostic), 기존의 모든 언어 기반 행동 위치 추정 모델에 별도 수정 없이(off-the-shelf) 매끄럽고 쉽게 통합될 수 있습니다. 여러 데이터셋을 대상으로 한 실험 결과는 본 방법의 효과성을 입증합니다.
모델 융합은 경량 학습(training) 방법을 통해 서로 다른 강점을 지닌 여러 대규모 언어 모델(LLM)을 더욱 강력한 하나의 통합 모델로 결합합니다. 모델 융합에 관한 기존 연구들은 주로 지도 미세조정(SFT)에 집중되어 있으며, LLM 성능 향상의 중요한 단계인 선호 정렬(PA)은 대체로 탐구되지 않은 상태로 남아 있습니다. WRPO와 같은 PA 단계의 소수 기존 융합 방법들은 소스 모델의 확률 정보를 버리고 응답 출력만을 활용하여 과정을 단순화합니다. 이러한 한계를 해결하기 위해, 본 논문에서는 암시적 모델 융합을 위한 선호 최적화 방법인 InfiFPO를 제안합니다. InfiFPO는 직접 선호 최적화(DPO)의 참조 모델을 시퀀스 수준에서 다중 소스 확률을 종합하는 융합 소스 모델로 대체하여, 기존 연구의 복잡한 어휘 정렬 문제를 우회하는 동시에 확률 정보를 유지합니다. 또한 확률 클리핑과 최대 마진(max-margin) 융합 전략을 도입함으로써, 피벗 모델이 소스 모델로부터 지식을 효과적으로 증류하는 동시에 인간 선호에 정렬할 수 있도록 합니다. 널리 사용되는 11개 벤치마크(benchmark)에 대한 종합적인 실험 결과, InfiFPO가 기존의 모델 융합 및 선호 최적화 방법들을 지속적으로 능가함을 입증했습니다. Phi-4를 피벗 모델로 사용했을 때, InfiFPO는 11개 벤치마크에서의 평균 성능을 79.95에서 83.33으로 향상시켜 수학, 코딩 및 추론 작업에서의 역량을 크게 개선했습니다.
본서는 대규모 언어 모델(LLM)에 관한 책입니다. 제목에서 알 수 있듯이, 모든 최첨단 기술을 포괄적으로 다루기보다는 기초적인 개념에 주로 초점을 맞춥니다. 이 책은 사전학습, 생성 모델, 프롬프팅, 정렬, 추론, 추론(reasoning)이라는 핵심 영역을 각각 탐구하는 6개의 주요 장으로 구성되어 있습니다. 자연어 처리(NLP) 및 관련 분야의 대학생, 전문가, 실무자를 대상으로 하며, 대규모 언어 모델에 관심이 있는 모든 이를 위한 참고서로 활용될 수 있습니다.
Mooncake은 Moonshot AI가 제공하는 주요 대규모 언어 모델(LLM) 서비스인 Kimi의 서빙 플랫폼입니다. Mooncake은 prefill 클러스터와 디코딩(decoding) 클러스터를 분리하는 KVCache 중심의 분리형(disaggregated) 아키텍처를 특징으로 합니다. 또한 GPU 클러스터에서 충분히 활용되지 않는 CPU, DRAM, SSD 자원을 활용하여 KVCache의 분리형 캐시를 구현합니다. Mooncake의 핵심은 KVCache 중심 스케줄러로, 지연 시간(latency) 관련 서비스 수준 목표(Service Level Objective, SLO)를 충족하면서 전체 유효 처리량(throughput)을 최대화하는 균형을 맞춥니다. 모든 요청이 처리될 것이라고 가정하는 기존 연구들과 달리, Mooncake은 과부하가 매우 심한 상황으로 인한 문제에 직면합니다. 이를 완화하기 위해 우리는 예측 기반 조기 거부(early rejection) 정책을 개발했습니다. 실험 결과 Mooncake은 긴 컨텍스트(long-context) 상황에서 뛰어난 성능을 보입니다. 기준선(baseline) 방법과 비교하여, Mooncake은 특정 시뮬레이션 상황에서 SLO를 준수하면서도 처리량을 최대 525%까지 증가시킬 수 있습니다. 실제 워크로드에서 Mooncake의 혁신적인 아키텍처는 Kimi가 75% 더 많은 요청을 처리할 수 있게 합니다.
머신 언러닝(machine unlearning)은 전체 재학습 없이도 이미 학습된 모델에서 특정 학습(training) 데이터나 지식의 영향을 제거하는 것을 목표로 한다. 이러한 기능은 재학습 비용이 매우 높은 최신 이미지 분류(image classification) 모델과 대규모 언어 모델(LLM)에서 특히 중요하다. 그러나 복합 데이터 대상의 머신 언러닝은 대상 정보가 여러 의미론적 요소에 분산되어 있는 경우가 많아 여전히 어렵다. 기존 방법들은 주로 샘플을 제거하거나 라벨을 수정하고, 혹은 모델(model) 파라미터를 편집하여 망각 대상의 영향을 줄인다. 하지만 이러한 접근 방식들은 대개 망각 대상과 모델의 예측 또는 생성된 응답을 연결하는 의미론적 개념이 무엇인지 명시적으로 식별하지 않는다. 그 결과 어떤 정보를 수정해야 할지 결정하기 어렵다. 이러한 불확실성으로 인해 대상 정보가 잔여물로 남거나 유지되어야 할 지식에 불필요하게 영향을 줄 수 있다. 이러한 한계를 해결하기 위해, 본 논문에서는 대상 클래스나 지식에 가장 크게 기여하는 개념을 명시적으로 식별하고 이를 활용해 모델 업데이트를 유도하는 개념 기반 오염 언러닝 프레임워크를 제안한다. 이미지 분류의 경우, 제안된 방법은 사후 개념 병목 모델(Post-hoc Concept Bottleneck Model)을 통해 클래스 관련 개념을 먼저 식별하고, 해당 개념을 표현하는 이미지 영역을 국소화한 뒤 대체 기반 오염 샘플을 구성한다. LLM의 경우 여러 질문을 통해 대상 지식을 도출하고, 생성된 응답 전반에 걸쳐 통합 그래디언트(Integrated Gradients)를 집계하여 일관되게 중요한 내용을 식별한 뒤, 이 내용을 마스킹하여 오염된 학습 대상을 구성한다. 여러 데이터셋(dataset)에 대한 실험 결과, 제안된 프레임워크는 유지되어야 할 모델의 유용성을 대체로 보존하면서도 다양한 태스크 전반에서 효과적인 언러닝을 달성함을 보여준다.
언어 모델 에이전트는 제한된 컨텍스트(bounded context), 영속 메모리(persistent memory), 도구, 검증, 반복 실행을 관리하는 하네스(harness)에 점점 더 의존하고 있지만, 기존의 모델 능력 개념은 이러한 메커니즘이 소비하는 계산 자원을 정량화하지 못한다. 우리는 기저 의미론적 모델(semantic model)은 고정한 채 하네스 수준의 자원을 명시적으로 과금하는 자원 제약 추상화인 언어 모델 에이전트 머신(Language Model Agent Machine, LAM)을 도입한다. 우리는 네 가지 범주의 결과를 확립한다. 통신(Communication): LAM 실행은 동시적인 호출-전송 예산(call-transfer budget) 하에서 적-청 페블링(red-blue pebbling)과 인스턴스 단위로 동등하며, 이는 고전적인 입출력 하한(I/O lower bound)을 컨텍스트-메모리 트래픽으로 전이시킨다. 접근(Access): 메모리 인터페이스는 포인터 체이싱(pointer chasing)에서 무작위 접근과 비추측적(non-speculative) 순차 접근 사이의 $Θ(n)$ 격차를 포함하여 점근적 분리(asymptotic separation)를 유발한다. 재계산(Recomputation): 비트 반전(bit-reversal) DAG는 컨텍스트 용량 $C$와 영속 메모리 용량 $S$ 하에서 $Θ(n^2/(C+S)+n)$회의 모델 호출을 필요로 하며, 이는 저장된 중간 상태가 반복적인 의미론적 계산을 언제 피할 수 있는지를 정량화한다. 신뢰성(Reliability): 우리는 엄밀한 단계별(stage-local) 샘플링 한계, 불완전 검증(imperfect-verification)의 정확한 비용, 그리고 닫힌 형태의 최적 검증 간격을 갖는 영-데일리(Young-Daly) 유형의 체크포인트 법칙을 유도한다. GPT-6 Astra에 대한 통제 실험과 홀드아웃(held-out) 실험은 체크포인트 최적값, 프로그래밍적 검사(programmatic checking) 하에서의 정책 선택, 그리고 연쇄 MATH 과제에서 호출 단위(call granularity), 논리적 입력 트래픽, 신뢰성 간의 트레이드오프를 포함하여 통신 및 신뢰성 예측을 검증한다. 종합적으로, 이 결과들은 언어 모델 에이전트 하네스의 계산 비용에 대한 자원 이론(resource theory)을 제공한다.
AI 에이전트(agent)는 이전 태스크에서 학습한 내용을 절차, 체크리스트, 코드 또는 기타 실행 가능한 아티팩트와 같은 재사용 가능한 기술(skills)로 외재화하여 새로운 태스크를 해결할 때 검색 및 재사용할 수 있습니다. 자기 진화형 기술(self-evolving skill) 방법은 학습(training) 태스크에 대한 연습을 거칠 때마다 이러한 기술을 지속해서 다시 작성하며, 이후 동일한 종류의 새로운 태스크에 해당 기술을 활용합니다. 본 논문에서는 기술이 학습 태스크에서 보인 개선 효과가 새로운 테스트 태스크로도 이어지는가라는 질문을 던집니다. 저자들은 모든 방법에 동일한 모델(model), 동일한 에이전트, 동일한 학습/테스트 분할을 적용하여 6개 벤치마크에서 5가지 자기 진화 방법과 원샷(one-shot) 기술을 테스트했습니다. 학습 태스크에서 성능 향상을 보인 21개 기술 중 5개는 테스트 태스크에서도 그 개선 효과를 온전히 유지했고, 13개는 일부만 유지했으며, 3개는 전혀 유지하지 못했습니다. 모든 영역에서 가장 뛰어난 기존 방법은 없었습니다. 기술 내용을 분석한 결과, 일반화 성능이 낮은 기술들은 열 이름이나 출력 파일과 같이 태스크에 종속되어야 하는 세부 사항을 고정해 버리거나, 단일 실패에 대한 해결책을 모든 태스크를 위한 규칙으로 일반화하는 경우가 많았습니다. 기술 내용을 읽는 LLM 판정자(judge)는 이러한 점을 포착할 수 있어, 86%의 쌍에서 테스트 결과와 동일한 방식으로 완성된 기술들의 순위를 매겼습니다. 그러나 단일 수정의 영향은 제대로 예측하지 못하므로, 수정 사항은 여전히 직접 실행하여 테스트해야 합니다. 이러한 발견을 바탕으로 본 논문에서는 기술 작성 가이드만 유지하고 태스크마다 새로운 기술을 작성하는 일반화 가능한 기술 최적화(GSO, Generalizable Skill Optimization)를 제안하며, 이 방법은 6개 벤치마크 모두에서 가장 높은 점수를 기록했습니다.
언어 모델 풀은 서로의 응답으로부터 학습함으로써 협력하고 집단적으로 향상될 수 있습니다. 이러한 상호작용은 학습(training) 중에 사용되는 인스트럭션에 따라 달라집니다. 기존 방법들은 대개 인스트럭션을 균일하게 샘플링하지만, 모델(model)이 발전함에 따라 그 유용성은 변화할 수 있습니다. 즉, 한때 모델들의 응답 품질이 달랐던 인스트럭션이 나중에는 모두 동일하게 잘 답변될 수 있는 반면, 이전에는 어려웠던 인스트럭션이 유용한 학습 신호를 제공하기 시작할 수도 있습니다. 본 논문에서는 인스트럭션 선택을 적응형 커리큘럼으로 전환하는 게임 이론 기반의 리더-팔로워 프레임워크인 스택켈버그 정렬(Stackelberg Alignment)을 제안합니다. EXP3 밴딧이 리더 역할을 수행하여 인스트럭션 전반에 고정된 샘플링 예산을 할당하고, 인스트럭션 난이도와 응답 변별력을 결합한 보상(reward)을 사용하여 샘플링 분포를 업데이트합니다. 언어 모델들은 팔로워 역할을 하여 선택된 인스트럭션에 응답하고, 서로의 응답을 평가하며, 그 결과로 도출된 선호도 신호로부터 DPO 또는 GRPO를 통해 학습합니다. 이 프레임워크는 신뢰할 수 있고 경쟁적인 모델 상호작용을 지원하기 위해 Elo 스타일의 평판 가중치 피어 평가와 평판 기반 상대 매칭을 사용합니다. 과학적 발견, 추론(inference), 코드, 인스트럭션 준수, 지식을 아우르는 12개 벤치마크와 3개의 이종 모델 풀에 걸친 실험 결과, Stackelberg Alignment는 세 가지 다양한 모델 풀 전반에서 가장 높은 매크로 평균을 달성하여 가장 강력한 학습 시간 기준선(baseline)을 최대 7.4%, 최고의 정적 추론 기준선을 12~25% 능가함을 보여줍니다. 분석을 통해 적응형 리더가 가장 유익한 인스트럭션에 대결을 집중시킴을 확인하였으며, 소거 연구를 통해 평판 가중 평가와 평판 기반 매칭 모두 다중 LLM 진화의 효과를 향상시킨다는 점을 보여줍니다.
최근 의료 멀티모달 모델(multimodal model)은 더 큰 말뭉치, 더 넓은 모달리티 적용 범위, 강화된 추론 지향 학습(training)을 통해 발전해 왔으나, 지속 사전학습(continued pretraining, CPT) 및 사후 학습(post-training) 전반에 걸친 효과적인 데이터 설계는 여전히 어려운 과제로 남아 있습니다. 의료 데이터 소스는 구조, 세분성, 정보 밀도가 크게 다르며, 광범위한 지식 습득에서 후기 단계의 통합으로 학습이 진행됨에 따라 그 유용성도 변화합니다. 한편 사후 학습은 단답형 시각적 질문 답변(VQA)이 지배적인 경우가 많아 정보성이 높고 답변과 일치하는 설명을 위한 감독을 충분히 제공하지 못합니다. 본 논문에서는 단계 인식형 데이터 설계를 중심으로 구축된 4B 및 27B 규모의 범용 의료 멀티모달 기반 모델(foundation model) 패밀리인 InfiMed2를 소개합니다. 소스 맞춤형 처리를 통해 광범위한 임상 지식과 문맥이 풍부한 생물의학 시각적 근거를 결합한 556.8억(55.68B) 토큰(token) 규모의 말뭉치를 구축했습니다. 본 CPT 파이프라인은 먼저 비전 인코더를 적응시킨 다음 광범위한 의료 지식을 구축하고, 최종적으로 학습률 감쇠 단계에서 근거 중심의 데이터 혼합으로 전환합니다. 지도 미세조정(SFT)을 위해 답변 안정성, 답변 마스킹 재구성, 정확도 제약 선별을 활용하여 시각적 질문 답변 반응을 재생성함으로써 더 유익하고 답변 일관성을 갖춘 감독 신호를 생성합니다. 4B 모델은 검증 가능한 보상을 통한 강화학습(RLVR)으로 추가 최적화되었습니다. 5개 의료 멀티모달 벤치마크(benchmark) 전반에서 InfiMed2-4B는 RLVR 적용 후 66.73%의 평균 정확도를 달성하여 더 큰 규모의 Qwen3.5-9B를 능가했으며, InfiMed2-27B는 73.72%를 기록하여 평가된 오픈 가중치(open-weight) 모델 중 가장 높은 성능을 달성했습니다.
온라인 정책 자가 증류(OPSD)의 최근 발전은 대규모 언어 모델(LLM)이 수작업 주석이나 외부 환경 피드백과 같은 외부 특권 정보(PI)를 활용하여 역량을 향상할 수 있음을 보여주었다. 그러나 정확한 주석을 확보하고 정교한 환경을 구축하는 데는 상당한 인적 노력과 연산이 요구되는 경우가 많아 OPSD의 확장성을 제한한다. 최근 몇몇 연구에서 외부 PI 없는 자가 개선을 탐색했으나 그에 따른 이득은 여전히 제한적이다. 본 연구에서는 LLM이 외부 PI 없이도 이에 필적하는 자가 개선을 달성할 수 있는지 탐구한다. 우리의 핵심 관찰은 단일 LLM이 심층 사고(deep-thinking) 모드 및 비사고(non-thinking) 모드와 같은 여러 추론(reasoning) 모드를 지원할 수 있으며, 심층 사고는 추론 과정에서 추가 정보를 생성한다는 점이다. 이러한 관찰을 바탕으로 우리는 LLM이 자체적인 사고의 연쇄(Chain-of-Thought, CoT)에서 생성된 정보를 증류하고 내재화할 수 있도록 하는 자가 진화형 온라인 정책 증류(SeOPD)를 제안한다. 구체적으로 SeOPD는 (1) 심층 사고 모드로 CoT를 생성하고, (2) 비사고 모드로 응답을 생성하며, (3) 생성된 CoT를 PI로 활용하여 비사고 응답에 토큰 수준의 감독을 제공함으로써, 추론 중 도출된 새로운 정보가 비사고 모드를 안내하고 공유된 모델 파라미터로 내재화되도록 하여 비사고 및 심층 사고 역량을 모두 향상시킨다. 다양한 LLM과 과제에 걸친 광범위한 실험은 SeOPD의 효과를 입증한다.
보안에 민감한 애플리케이션에서 언어 모델 에이전트(agent)는 기밀 정보를 공개하지 않고 협력해야 하는 경우가 많습니다. 그러나 반복된 상호작용은 평범한 메시지가 공유된 은밀한 의미를 획득하도록 만들 수도 있습니다. 본 연구에서는 발신자 모델이 네 가지 비밀 상태 중 하나를 관찰하고 동일한 공개 보고서의 네 가지 요약 중 하나를 선택하는 동안 수신자 모델이 비밀 상태를 추론(inference)하려고 시도하는 모델 쌍 간의 반복 게임을 조사합니다. 연구 결과, 수신자가 비밀을 올바르게 추론했는지 여부를 나타내는 단 1비트의 피드백만으로도 모델 쌍이 비밀을 전달하는 방법을 학습할 수 있음을 확인했습니다. 이러한 학습은 제공된 코드북이나 인코딩 예시 없이 고정된 파라미터를 사용한 추론 중에 발생합니다. 또한 모의 사고 대응 작업에서 에이전트가 자체적으로 자유 형식 업데이트를 생성할 때도 이러한 효과가 지속됩니다. 10회의 독립적인 게임 전반에서, 정보 공개를 금지하는 명시적인 지침과 에이전트의 상호작용 이력에 접근할 수 없이 각 메시지를 선별하는 모니터가 존재함에도 불구하고 GPT-5.6 Sol 에이전트 쌍은 무작위 확률 25%에 비해 최종 정확도 98.8%에 도달했습니다. 따라서 에이전트의 협력을 돕는 바로 그 상호작용이 정당한 협력을 목적으로 하는 메시지를 통해 기밀 정보가 유출되도록 만들 수 있습니다.
절차적 캐릭터 생성(procedural character generation)은 게임, 시뮬레이션 및 기타 가상 세계를 다양한 캐릭터로 채우는 것을 목표로 합니다. 대규모 언어 모델(LLM)은 이 작업을 확장(scaling)하기 위한 유망한 기반을 제공합니다. 그러나 LLM 기반 절차적 캐릭터 생성은 아직 초기 단계에 머물러 있습니다. 기존 방식은 캐릭터를 직접 생성하거나 페르소나 뱅크에서 검색한 프로필을 조정하는 방식입니다. 본 연구에서 보여주듯이 두 접근법 모두 행동적으로 동질화된 집단을 형성합니다. 캐릭터들은 긍정적인 도덕적 규범에 압도적으로 동의하며, 질문에 대해 도움이 되는 어시스턴트 같은 반응을 보입니다. 이러한 동질화를 완화하기 위해, 본 논문에서는 세계관 구축과 행동 명세를 분리하고 수작업으로 큐레이션된 다양하고 보편적인 도덕적 입장 및 대화 반응 뱅크를 통해 행동을 모델링하는 PersonaWeaver를 소개합니다. 이러한 설계를 통해 여러 배경 설정 전반에서 LLM이 기본 행동 패턴을 넘어 얼마나 확장될 수 있는지 테스트할 수 있습니다. 10개의 현실적 및 판타지적 배경 설정과 3개의 LLM을 대상으로 한 실험에서, PersonaWeaver는 이전 연구보다 더 넓은 도덕적 및 상호작용적 반응 분포를 생성합니다. 또한 PersonaWeaver의 유도는 대인 언어, 응답 길이, 감정을 다양화하며, 덜 전형적인 세계관 속성 조합을 생성합니다. 코드는 https://github.com/mqraitem/PersonaWeaver 에서 확인할 수 있습니다.
본 논문에서는 단편적인 고대 그리스어 텍스트의 결손(lacunae, 물리적 공백)을 복원하기 위한 240억 개 매개변수(parameter) 대규모 언어 모델(LLM)인 Apollo Restore를 소개합니다. Fill-in-the-middle 목표로 Mistral Small을 파인튜닝(fine-tuning)한 Apollo Restore는 결손 길이에 대한 오라클(oracle) 지식 없이도 누락된 구간을 재구성합니다. 우리가 아는 한, 이는 역사적 그리스어를 위한 최초의 대규모 디코더 모델이자 고대 지중해 언어를 통틀어 최초의 모델입니다. 선행 연구와 동일하게 최대 10자의 짧은 결손에 대해 평가했을 때, Apollo Restore는 문서 파피루스, 문학 파피루스, 석문 비문 결손의 80.6%/54.6%/61.0%에서 올바른 복원 결과를 상위 20개 후보 안에 올렸으며, 발표된 가장 강력한 모델들을 $1.6\times$/$2.6\times$/$1.4\times$ 능가했습니다. 그러나 기존 평가 프로토콜은 사소하게 짧은 결손 쪽으로 쏠린 바이어스(bias)로 인해 점수를 부풀립니다. 길이 균형 메트릭에서 발표된 가장 강력한 모델 대비 Apollo Restore의 우위는 $2.3\times$/$3.5\times$/$1.6\times$로 증가하며, 부정확한 길이 힌트가 주어지더라도 성능이 완만하게 저하됩니다. 블라인드 연구에서 파피루스학, 비문학, 문헌학 전문가 20명은 가장 강력한 기준선(baseline)보다 Apollo Restore를 강하게 선호했으며, 77%의 사례에서 그 성능이 인간의 복원만큼 우수하다고 판단했습니다. 또한 Apollo Restore는 서기 79년 베수비오 화산 폭발로 탄화되어 Apollo Restore의 학습(training) 데이터가 구축된 이후 디지털 방식으로 펼쳐지고 편집된 파피루스 두루마리인 PHerc. 1667의 발표된 판독 결과를 개선합니다. Apollo Restore는 오스트리아 과학 아카데미가 주도하는 역사적 언어 및 필사본 특화 LLM 구축을 위한 Decoding Antiquity 이니셔티브의 결과물입니다.
비즈니스 애널리틱스 교육에는 다양한 학습 목표, 학생들의 배경 지식, 분석 과제를 지원하기 위한 다채로운 데이터셋이 필요합니다. 실제 데이터는 확보하기 어려울 수 있으며, 특정 강좌에 맞게 사례를 조정하는 데 유연성이 제한적입니다. 적합한 데이터를 확보하더라도 교수자는 패턴을 조사하고 결과를 검증하며 과제와 모범 답안을 준비해야 하므로 상당한 시간과 노력이 소모됩니다. 대규모 언어 모델(LLM)의 사용은 학습(training) 데이터 오염이라는 추가적인 문제를 야기합니다. 널리 사용되는 공개 데이터셋에는 모델이 학습 중에 접했을 수 있는 광범위한 튜토리얼과 풀이 분석이 이미 존재하는 경우가 많습니다. 이에 따라 학생들은 AI와 협업하여 낯선 데이터를 탐구하는 연습을 거치지 않고 기존 분석에서 도출된 설명을 그대로 받아들이게 될 수 있습니다. 본 논문에서는 비즈니스 애널리틱스 교육에서 교수자 주도 하에 합성 데이터를 생성할 수 있는 에이전트(agent) 프레임워크인 DataCanvas-EDU를 제시합니다. 교수자가 대화를 통해 교수 목표와 의도한 패턴을 명시하면, AI 에이전트가 생성 코드를 작성하고 생성된 데이터를 확인하며 과제, 모범 분석, 평가 루브릭을 준비합니다. 계획(Plan), 생성(Create), 검증/테스트 분석(Verify / Test Analysis), 평가(Evaluate)의 4단계로 프로세스를 구성하여 교수자의 검토와 수정을 지원합니다. 이 프레임워크는 사례 준비를 단순화하는 동시에 학생들이 AI와 함께 새롭게 설계된 패턴을 탐구할 기회를 제공하도록 고안되었습니다. 저자들은 15,000건의 주문과 9개의 설계된 패턴을 포함하는 음식 배달 사례인 WindowDash를 통해 본 접근법을 실증합니다. DataCanvas-EDU는 호환 가능한 에이전트 환경에서 재사용 가능한 AI Agent Skill로 패키징되어 있으며, 패키지와 설치 방법은 https://github.com/BANG23333/datacanvas-edu 에서 확인할 수 있습니다.
AI 팀에서 권한(authority)의 존재는 결과물을 개선하는가? 조직 이론에서는 권한이 의사결정을 촉진하여 품질을 향상시킨다고 주장한다. 반면, 일부 초기 AI 연구는 권한 하에서의 수정(revision)이 대규모 언어 모델(LLM)의 결과물을 더 악화시킨다고 시사한다. 다중 에이전트(multi-agent) LLM 프레임워크는 기본적으로 관리자(Manager) 에이전트에게 실무 에이전트(worker)의 결과물을 수정하도록 되돌려 보내는 권한을 부여한다. 기존의 비교 연구들은 검증 가능한 과제를 사용하여 권한의 효과를 검증했다. 본 연구에서는 43쌍의 노트북 제품 표본과 86회의 실행을 통해 개방형 과제인 비즈니스 인텔리전스 보고서 작성에 대한 실험을 진행한다. 각 보고서는 위계적 팀과 수평적 팀에 의해 각각 한 번씩 작성된다. 연구 결과, 수평적 팀이 더 높은 품질의 보고서를 생성하여 유용성(Utility, d = 0.42, p = 0.009)과 글의 명확성(Writing Clarity, d = 0.34, p = 0.030)에서 더 높은 점수를 기록했다. 보고서의 길이는 동일했으나, 위계적 팀의 보고서는 "may", "could"와 같은 완곡어구(hedging words)를 53% 더 많이 사용했으며, 수정이 한 번 이루어질 때마다 1~5점 척도에서 글의 명확성이 0.14점씩 하락하는 것으로 나타났다. 어떠한 수정도 거치기 전에는 위계적 팀의 초안과 수평적 팀의 보고서 사이에 차이가 없었다. 즉, 품질 격차의 원인은 수정 과정에 있음을 확인할 수 있다. 권한은 관리자가 작업물을 검증할 수 있을 때 품질을 개선하지만, 피드백만 제공할 수 있는 경우에는 품질에 부정적인 영향을 미친다.
희소 긴 문맥(long-context) 추론에서는 프리필(prefill)과 디코드(decode) 단계 모두에서 효율적인 토큰 검색이 필요합니다. 기존 방식들은 종종 두 단계에 서로 다른 검색 전략을 사용하여, 추론 전반에 걸쳐 하나의 검색 표현을 재사용하지 못합니다. 본 논문에서는 공유된 변환 도메인 부호-크기(sign-magnitude) 표현을 기반으로 구축된 별도의 학습이 필요 없는(training-free) 프레임워크인 자체 색인 어텐션(Self-Indexing Attention)을 제안합니다. 키(key) 부호는 그룹화된 프리필 선택 및 디코드 검색을 위한 재사용 가능한 토큰 수준의 색인을 제공하며, 동일한 표현이 별도의 색인기 메타데이터 없이도 외부 KV 캐시 압축과 호환성을 유지합니다. 이 1비트 색인은 최신 가속기에서 널리 지원되는 비트 단위 연산을 통해 효율적인 검색을 가능하게 합니다. 5%의 어텐션 밀도에서 Self-Indexing Attention은 LongBench 및 RULER에서 밀집(dense) 어텐션에 근접한 성능을 유지하며, 프리필에서 최대 6.1배, 디코드에서 최대 10.3배의 어텐션 연산자 속도 향상을 달성합니다. TurboQuant 및 DeepSeekV4-Flash를 사용한 실험은 저비트 KV 캐시 압축 및 사전학습된 희소 어텐션 색인기와의 호환성을 추가로 입증합니다.
그래디언트(gradient) 기반 탈옥 접미사(jailbreak suffix) 최적화 방법은 일반적으로 현재 손실(loss)이 가장 낮은 후보를 유지하는 방식으로 접미사를 업데이트합니다. 본 논문에서는 이러한 자연스러워 보이는 설계가 근본적으로 근시안적임을 보여줍니다. 현재 단계의 프록시 하에서 더 우수해 보이는 후보들이 탐색 후반부에서 더 나은 탈옥 결과를 내지 못하는 경우가 빈번하며, 이는 선택 단계에서의 보상 해킹(reward hacking)의 일종임을 밝혀냅니다. 이는 후보 생성뿐만 아니라 후보 선택 자체가 접미사 최적화의 숨겨진 병목점임을 시사합니다. 이러한 문제를 해결하기 위해, 본 논문에서는 탈옥 접미사 최적화를 위한 궤적 인식 후보 선택 프레임워크인 TACS를 제안합니다. TACS는 즉각적인 손실만으로 후보를 선택하는 대신 단계별 평가를 궤적 인식 프록시로 보강하고, 참조 정책 정규화(regularization) 및 판별자(discriminator)로 추정된 카이제곱 보정을 통해 선택을 안정화함으로써 현재 단계를 넘어서도 효과적으로 유지되는 선택을 유도합니다. HarmBench에 대한 실험 결과, TACS는 동일한 탐색 예산 하에서 강력한 베이스라인들을 지속적으로 능가하여 공격 성공률을 대폭 향상시키는 동시에 탐색 전반에 걸쳐 더욱 안정적인 최적화 동작을 보였습니다. 본 연구 결과는 근시안적 후보 선택으로 인해 발생하는 선택 단계의 보상 해킹을 완화하는 것이 탈옥 접미사 최적화를 개선하는 데 결정적임을 강조합니다.
대규모 언어 모델(LLM)은 도덕적 지식을 어떻게 조직할까요? 모델은 도덕적 내용을 폭넓게 탐지하지만, 단순 탐지는 낮은 기준에 불과합니다. 본 연구는 모델이 여기서 더 나아가 서로 다른 도덕적 기반을 구별하고 그들 간의 관계를 기하학적으로 조직하는지 묻습니다. 도덕 기반 이론(Moral Foundations Theory, MFT)의 각 범주(돌봄/피해, 공정/기만, 자유/억압, 충성/배신, 권위/전복, 고결/퇴폐)에 대해 하나씩, 오픈 가중치(open-weight) 언어 모델에서 6개의 독립적인 선형 프로브(linear probe)를 학습시키고, 그 결과 도출된 방향들이 표현 공간에서 서로 어떻게 연관되는지 조사합니다. 그 결과, 이 방향들은 단일한 도덕 탐지기로 붕괴되지도 않고 서로 완전히 고립되지도 않음을 발견했습니다. 대신 양(positive)의 공통 성분을 공유하면서 거의 최대에 가까운 수의 독립적인 차원에 걸쳐 분포합니다. 이 공유된 성분은 통합(integration)의 특징적인 징후이며, 동일하게 구축된 대응 비도덕적 개념군과 비교할 때 도덕에 특화되어 있습니다(평균 쌍별 코사인 유사도 0.26 대 0.013). 이러한 기하학적 구조는 아키텍처와 규모 전반에 걸쳐 일관되며, 프로브 정확도가 포화되기 훨씬 전인 사전학습(pre-training) 초기에 통합 상태에 도달합니다. 모델이 발견한 구조는 도덕 기반 이론이 예측한 개별화/결속(individualizing/binding) 구분의 증거를 보이지 않으며(검정력이 낮은 테스트: 단 10개의 고유한 분할만 존재하여 0.05 수준에서 기각할 수 없음), 오히려 말뭉치 통계를 반영합니다. 도덕적 딜레마로 확장했을 때, 각 딜레마 방향은 불일치 쌍 기준선(baseline) 대비 2.7배 수준으로 구성 기반들로부터 부분적으로 합성되는 동시에 분산의 대부분은 갈등 특화 구조를 인코딩합니다. 즉, 모델은 사전에 해결된 판단이 아니라 도덕적 긴장 자체를 표현합니다.
최근 대규모 언어 모델(LLM)은 노드(node) 표현에 의미론적 정보를 풍부하게 더함으로써 그래프 신경망(GNN)을 발전시켰고, 이를 통해 상당한 성능 향상을 달성하는 LLM 강화 GNN(LLM-enhanced GNN)이 등장했습니다. 그러나 이러한 의미론적 강화가 프라이버시 위험에 어떤 영향을 미치는지는 여전히 거의 탐구되지 않았습니다. 이러한 격차를 해소하기 위해, 본 연구는 (1) 데이터셋 준비, (2) 피해자 모델 학습(training), (3) 프라이버시 공격, (4) 위험 평가, (5) 방어 분석의 5단계로 구성된 통합 프레임워크를 통해 LLM 강화 GNN의 프라이버시 위험을 체계적으로 감사합니다. 구체적으로, 본 평가는 다양한 도메인에 걸친 10개의 텍스트 속성 그래프 데이터셋, 6가지 프라이버시 공격, 42가지 LLM 강화 GNN 구성, 그리고 3개의 최신 언어 모델 백본을 포괄합니다. 광범위한 실험 결과에 따르면, 유용성 향상에도 불구하고 LLM 강화 GNN은 평가된 공격 하에서 다양한 모델과 데이터셋 전반에 걸쳐 얕은 텍스트 표현 베이스라인보다 경험적으로 일관되게 더 큰 프라이버시 취약성을 나타냅니다. 추가 분석을 통해 LLM 강화 표현이 임베딩(embedding) 공간에서 링크, 레이블 및 멤버십 관련 신호를 더 뚜렷하게 구별할 수 있게 하여 추론(inference) 공격에 더 쉽게 악용될 수 있음을 보여줍니다. 마지막으로, 대표적인 방어 기법들을 평가하고 이러한 프라이버시 위험을 완화하는 효과를 검토합니다. 전반적으로 본 연구는 LLM 강화 GNN의 프라이버시 위험에 대한 체계적인 감사를 제공하며, 보다 안전하고 신뢰할 수 있는 그래프 학습 시스템을 개발하기 위한 통찰을 제시합니다.