PyTorchKR Papers

최신 논문

총 11,108편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.10608v1cs.CR

조사 실패로부터 신뢰할 수 있는 SOC 에이전트로: LLM 기반 경보 분류의 이해와 개선

From Investigation Failures to Reliable SOC Agents: Understanding and Improving LLM-Based Alert Triage

보안관제센터(SOC)는 대량의 경보를 분류(triage)해야 하지만 이들 대부분은 무해하며, 그 과정에서 놓친 공격은 조사되지 않은 채 방치될 수 있습니다. 도구를 사용하는 대규모 언어 모델(LLM) 에이전트(agent)는 분류 중에 증거를 수집할 수 있지만, 추론 전략이 무엇을 수집할지 결정하는 방식과 경보를 종결하기에 조사가 충분한 시점을 결정하는 방식은 여전히 명확하지 않습니다. 본 연구에서는 단일 패스 도구 사용, 반복적 검색, 샘플링된 조사, 자체 검토, 명시적 검증에 걸친 다섯 가지 대표적인 접근 방식을 조사합니다. 이 연구를 지원하기 위해 실시간 SIEM을 통해 엔터프라이즈 텔레메트리를 재생하고 각 시스템이 증거를 검색하도록 요구하는 인터랙티브 벤치마크인 ALERT-BENCH를 구축했습니다. 다단계 공격 시나리오에서 발생한 1,247개의 경보 전반에서 모든 접근 방식은 공격 관련 경보의 최소 40.4%를 놓쳤습니다. 추적 분석 결과, 검색에서 레코드가 반환되지 않을 때 공격 경보가 기각될 가능성이 더 높고, 동일 컨텍스트 검토는 순 보정 효과가 음수(-)이며, 기각이 에스컬레이션보다 일관되게 더 강력한 조사를 거치지 않는 것으로 나타났습니다. 이러한 발견을 바탕으로, 독립적인 이의 제기 전에 명시적으로 제안된 결정을 요구하고 기각 전 더 엄격한 증거 요건을 요구하는 멀티 에이전트 프레임워크인 AIDA(Adversarial Investigation and Dialectical Analysis)를 설계했습니다. AIDA는 추가 전용 조사 원장(Investigation Ledger)에 조사 기록을 보존하고 이의 제기 과정을 별도의 추론 컨텍스트로 유지합니다. 별도의 판정관(Judge)은 제안된 결정과 이의 제기를 증거와 대조하여 판정하며, 경보를 해결하거나 증거가 누락된 경우 추가 라운드를 요청합니다. 동일한 경보에서 AIDA는 연구된 접근 방식들의 0.371~0.744와 비교하여 0.958의 F1 점수를 달성했으며, 경보의 18.4%를 분석가에게 에스컬레이션하면서도 위음성률(false-negative rate)을 40.4%에서 3.1%로 낮췄습니다. 이러한 결과는 증거 검색과 결정 검토를 구조화함으로써 에이전트 기반 SOC 분류를 실질적으로 개선할 수 있음을 보여줍니다.

arXiv:2610.10563v1cs.CV

SLVR: 인간과 유사한 추론 흐름을 통한 구조화된 잠재 시각적 추론

SLVR: Structured Latent Visual Reasoning via Human-like Reasoning Flows

멀티모달 대규모 언어 모델(MLLM)은 과제와 관련된 시각적 증거보다 언어적 사전 확률에 의존하여 시각적 추론 질문에 답하는 경우가 많습니다. 텍스트 기반 사고의 연쇄(Chain-of-Thought, CoT) 추론은 모델이 시각적 질문을 중간 증거 탐색 단계로 분해하도록 유도하여 이 문제를 부분적으로 완화할 수 있지만, 이러한 단계를 자기회귀적(autoregressively)으로 생성하면 추론(inference) 비용이 증가합니다. 잠재 추론(latent reasoning)은 명시적인 근거 생성을 피하지만, 기존 접근법은 중간 상태가 인코딩하는 정보에 대한 제어가 제한적이어서 계획(planning), 그라운딩(grounding), 증거 선택에 대한 개별적인 지도(supervision)를 적용하기 어렵습니다. 본 논문에서는 멀티모달 추론을 계획, 그라운딩, 증거 선택, 추론 통합을 위한 유형화된 잠재 단계로 구성함으로써 명시적 사고의 연쇄와 잠재 추론을 연결하는 학습(training) 프레임워크인 SLVR(Structured Latent Visual Reasoning)을 제안합니다. SLVR은 먼저 정답을 드러내는 텍스트를 마스킹하고 정답을 시각적으로 그럴듯한 오답과 대조함으로써 모델이 이미지에 의존하도록 학습시킵니다. 그런 다음 추론을 계획, 그라운딩, 증거 선택, 통합을 위한 잠재 단계로 구성하고, 각 단계를 그에 대응하는 신호인 계획, 바운딩 박스, 시각적 증거, 최종 근거로 지도합니다. 이를 통해 추론 시점에 생성되는 텍스트 체인을 피하면서도 잠재 추론에 명시적인 기능적 구조를 부여합니다. Qwen2.5-VL-7B를 기반으로 구축된 SLVR은 멀티모달 추론 벤치마크 전반에서 일관된 성능 향상을 보였으며, MMVP에서 +9.4, BLINK Relation에서 +14.2의 절대적 향상을 기록했을 뿐만 아니라 V*, MathVista, ChartQA에서도 성능이 향상되었습니다. 이러한 결과는 구조화된 잠재 지도가 텍스트 CoT의 디코딩 오버헤드 없이 미세한 시각적 추론을 개선할 수 있음을 시사합니다. 프로젝트 페이지는 \href{https://bogao-code.github.io/SLVR/}{여기}에서 확인할 수 있습니다.

arXiv:2610.05671v2cs.AI

프롬프트 옵티마이저는 제한된 예산을 어떻게 사용해야 하는가? 노이즈 적응형 평가를 적용한 BudgetAPO

How Should a Prompt Optimizer Spend a Tight Budget? BudgetAPO with Noise-Adaptive Evaluation

자동 프롬프트 최적화(Automatic Prompt Optimization, APO)는 대규모 언어 모델(LLM)의 가중치를 업데이트하지 않고 적응시키기 위해 널리 사용되어 왔으며 유망한 결과를 보여주었습니다. 그러나 GEPA 및 OPRO와 같은 기존 방식은 대상 모델에 대해 수백에서 수천 번의 호출을 가정하므로, 유료 및 속도 제한이 있는 API 환경에서는 현실적인 수준을 훨씬 뛰어넘습니다. 제한된 예산 하에서 기존 방식은 두 가지 방식으로 실패합니다. 다단계 파이프라인은 예산을 모두 소진하여 시드 프롬프트를 변경 없이 그대로 반환할 수 있으며, 단일 단계 방식은 각 태스크의 노이즈와 무관하게 고정된 크기의 미니배치에서 후보를 비교합니다. 이에 대한 해결책으로, 본 연구에서는 제한된 예산 환경을 위한 단일 단계 옵티마이저인 BudgetAPO를 제안합니다. BudgetAPO는 (1) 짧은 탐색(probe)으로 측정된 각 태스크의 노이즈에 맞춰 평가 슬라이스 크기를 조정하는 노이즈 적응형 규칙, (2) 모든 수락/거절 결정을 대응 비교(paired comparison)로 변환하는 고정 슬라이스, (3) 추론 전략과 출력 형식을 함께 다시 작성하는 성찰적(reflective) 연산자를 포함합니다. 7개 벤치마크와 5개 대상 모델에 걸친 광범위한 실험 결과는 BudgetAPO가 모든 대상 모델에서 1위를 차지하고 홈 보정(Holm-corrected) 대응 검정 하에서 모든 기준선(baseline)을 능가함을 보여줍니다. 또한 250회 호출 시 시드를 그대로 반환하는 비율이 GEPA의 86%에 비해 13%에 불과했습니다. GPT-OSS-20B에서는 GEPA가 본 방법의 100회 호출 점수와 일치하기 위해 5배 더 많은 호출을 필요로 합니다.

arXiv:2610.04906v2cs.CL

장기적 작업 수행 에이전트를 위한 검증 가능한 환경의 스케일링

Scaling Verifiable Environments for Long-horizon Work Agents

작업 수행 에이전트(work agent)는 디지털 아티팩트를 다루며 전문적인 지식 집약적 업무를 수행하므로, 장기적(long-horizon) 상호작용과 신뢰할 수 있는 검증을 지원하는 학습(training) 환경이 필요합니다. 그러나 수작업으로 제작된 환경은 막대한 엔지니어링 오버헤드를 유발하여 환경 스케일링을 저해하는 반면, 합성 방식은 작업 공간의 복잡성, 현실성 또는 근거 기반의 검증 가능성을 희생합니다. 이러한 격차를 해소하기 위해, 실제 리소스로부터 검증 가능한 작업 에이전트 환경을 구축하는 확장 가능한 합성 프레임워크인 WorkForge를 소개합니다. WorkForge는 전문가의 워크플로에서 출발하여 각 워크플로에 필요한 리소스, 의사결정 및 결과물을 먼저 식별합니다. 그런 다음 관련된 실제 파일들을 검색하여 작업 공간(workspace)으로 구성합니다. WorkForge는 작업 공간을 검사하여 해당 내용에 대한 구체적이고 확인 가능한 사실들을 추출합니다. 이러한 사실적 앵커(factual anchor)는 작업 공간이 지원할 수 있는 태스크 유형과 그 결과를 검증할 수 있는 방식을 확정합니다. 따라서 WorkForge는 이러한 사실적 앵커로부터 각 태스크의 지침, 해결 계획, 그리고 상호보완적인 프로그래밍 방식 및 의미론적 검증기(verifier)를 직접 도출함으로써, 검증 과정이 관찰 가능한 작업 공간의 증거를 추적할 수 있도록 유지합니다. 나아가, 60개 파일 형식을 포괄하는 작업 공간을 바탕으로 40개 전문 도메인에 걸쳐 16.7K개의 검증 가능한 환경을 구축했습니다. Qwen3.5-35B-A3B-Base를 사후 학습(post-training)한 결과, GDPVal은 45.5에서 73.6으로, APEX Score는 5.0에서 21.3으로 향상되었으며, Qwen3.5-27B 또한 매우 경쟁력 있는 성능을 달성하여 강력한 경쟁 모델들을 능가했습니다. 분석 결과는 제안된 방법의 효과를 입증하며, 데이터양과 상호작용 지평(interaction horizon) 모두에서 일관된 스케일링 동작을 보여줍니다.

arXiv:2610.03482v3cs.CL

페르시아어 의료 언어 모델의 주장 단위 환각 탐지를 위한 단일 패스 불확실성 헤드

Single-Pass Uncertainty Heads for Claim-Level Hallucination Detection in Persian Medical Language Models

환각(hallucination) 탐지는 의료 언어 모델에서 특히 중요하지만, 반복 샘플링 접근법은 계산 비용이 많이 듭니다. 더 빠른 대안은 동결된 생성기의 내부 신호로부터 환각 위험을 예측하는 단일 패스(single-pass) 불확실성 헤드입니다. 기존 불확실성 헤드는 백본(backbone) 특화 특징과 토큰화를 사용하므로 백본이나 언어가 변경될 때 적응이 필요합니다. 본 연구에서는 168개 문항의 이란 의대 입학시험을 대상으로 두 페르시아어 의료 모델인 Gaokerena-V와 Gaokerena-R을 조사합니다. 문항당 5회 생성 전반에서 Med-Gemma가 168개 문항 모두에서 동일한 선택지를 생성한 것과 비교해 Gaokerena-V는 14개 문항, Gaokerena-R은 37개 문항에서만 동일한 선택지를 생성하여 Gaokerena 모델들에서 상당한 응답 가변성이 있음을 나타냈습니다. 이에 따라 본 연구는 LLM Uncertainty Head(LUH) 프레임워크를 이러한 모델에 맞게 적응시키고 백본당 1,600개의 응답으로 구성된 두 쌍의 주장 단위(claim-level) 환각 데이터셋을 페르시아어로 직접 구축합니다. 동결된 백본의 어텐션 맵과 토큰 확률을 기반으로 경량 헤드를 학습합니다. 보류된 테스트 분할(held-out test split)에서 헤드는 각각 무작위 베이스라인의 2.30배 및 2.66배에 해당하는 0.4820과 0.4652의 PR-AUC를 달성하며, ROC-AUC는 0.7852와 0.7810을 달성합니다. 결과로 도출된 탐지기는 추론 시 검색이나 반복 샘플링을 모두 필요로 하지 않습니다.

arXiv:2610.03316v2cs.AI

LLM을 활용한 제로샷 교차 문제 일반화를 위한 다중 작업 진화

Multi-Task Evolution for Zero-Shot Cross-Problem Generalization using LLMs

다양한 조합 최적화(combinatorial optimization) 문제를 위한 효과적인 휴리스틱(heuristic)을 설계하는 것은 상당한 전문성과 반복적인 탐색을 필요로 합니다. 대규모 언어 모델(LLM)은 휴리스틱 생성과 개선을 자동화하지만, 휴리스틱 탐색은 일반적으로 최적화 대상 문제의 평가 피드백에 의존합니다. 따라서 소스 작업 피드백만을 사용하여 새로운 문제 정의로 일반화하는 것은 여전히 핵심적인 과제로 남아 있습니다. 본 논문에서는 제로샷(zero-shot) 교차 문제 일반화를 위한 LLM 기반 다중 작업 진화 프레임워크인 MECo를 소개합니다. MECo는 작업 조건부 휴리스틱 개체군을 유지하며, 교차 작업 개체군 성능에 기반한 전이 격차(transfer gap)를 활용해 이들의 상호작용을 유도합니다. 이러한 상호작용은 휴리스틱의 전이와 재조합을 가능하게 합니다. 그런 다음 상호보완적 선택 기준을 통해 각 개체가 소스 조합에 대해 제공하는 추가적인 커버리지를 보상함으로써 간결한 휴리스틱 세트를 구성합니다. 선택된 세트는 추가적인 탐색이나 적응 과정 없이 타깃 문제에 바로 적용됩니다. 차량 경로 문제(VRP) 및 유연한 잡숍 스케줄링(FJSP) 전반에 걸친 32가지 변형 문제를 대상으로 한 실험에서, MECo는 동일한 예산 하에 8개의 자동화된 휴리스틱 설계(AHD) 기준선과 비교해 가장 낮은 평균 비용을 달성함을 보여줍니다. 도메인 외(OOD) 문제에서도 각 제품군에서 가장 강력한 기준선을 능가합니다. 나아가 MECo 프레임워크를 서로 다른 AHD 방법들과 통합했을 때 두 제품군 모두에서 ID 및 OOD 성능이 향상되어, 여러 방법 전반에 걸친 유효성을 뒷받침합니다.

arXiv:2610.02432v2cs.CR

입력 시퀀스 변화에 대한 대규모 언어 모델(LLM)의 강건성 평가 및 개선

Evaluating and Improving the Robustness of Large Language Models to Input Sequence Variations

프로덕션 시스템에서 운영되는 대규모 언어 모델(LLM)은 프롬프트 인젝션(prompt injection), 트로이목마(trojan, 백도어), 그리고 자동 품질 지표 조작 공격에 직면한다. 본 논문은 적대적 입력 시퀀스 변화에 대한 LLM의 강건성을 평가하고 개선하기 위한 모델, 방법, 알고리즘을 개발한다. 우리는 작은 입력 교란(perturbation) 하에서 단계별 출력 분포 간의 Jensen-Shannon 발산(divergence)에 기반한 생성적 강건성 지표인 R_stab(f)를 제안한다. 국소적(localized) 공격에 대해서는 V(h) <= 1 - R_class(h)를 증명하며, 여기서 R_class(h)는 의사결정 연산자 h가 작은 교란 하에서도 자신의 결정을 유지할 확률이다. 비국소적(non-localized) 공격에 대해서는 보정된(calibrated) 경험적 모델을 제안한다. LLM-as-a-judge 시스템에 대해서는 적응형 진화 블랙박스 공격인 ASA를 개발했으며, 이는 최대 73.8%의 공격 성공률(ASR)을 달성하고 오픈 모델 간 전이(transfer) 시에도 최대 62.6%를 기록한다. Trojan Detection Challenge 2023 데이터(Pythia-1.4B)에서는 대리(surrogate) 트리거가 REASR ~0.99에 도달하는 반면, 실제 트리거에 대한 재현율은 기준선 ~0.14에 비해 ~0.17에 불과하다. SaTML CTF 2024에서는 다층(multi-layer) 방어를 우회하는 네 가지 유형을 체계화했으며, 이를 통해 ASR을 90%에서 15~25%로 감소시켰다. 5~7개의 이질적(heterogeneous) 모델로 구성된 위원회(committee)는 Gemma-3-4B의 ASR을 47~55퍼센트포인트 감소시켜, 7개 모델 사용 시 19.3%까지 낮춘다. Model Context Protocol(MCP) 기반 에이전트형(agentic) 시스템에 대해서는, 호출당 0.1ms 미만으로 HMAC으로 보호된 패킷을 사용해 도구 호출(tool call)을 증명(attest)하는 AttestMCP와 Commit Boundary 격리 패턴을 제안한다. 847개 시나리오로 구성된 MCPBench 벤치마크(benchmark)에서 이들 방법은 평균 ASR을 53.7%에서 12.4%로 감소시킨다. 이 방법들은 JudgeGuard 및 TrojanArmor 소프트웨어 스위트와 MCPSec 모듈로 구현되었다.

arXiv:2610.02233v2cs.AR

크로스 컨텍스트 KV-캐시 재사용을 위한 예산 기반 캐시 복구

Budgeted Cache Repair for Cross-Context KV-Cache Reuse

크로스 컨텍스트 KV-캐시 재사용은 공유 세그먼트의 키와 값을 재계산하는 대신 새로운 접두 문맥(prefix) 하에서 이를 예측하며, 품질 손실 없이 이를 수행한다고 보고되어 왔다. 그러나 우리는 그렇지 않다는 것을 발견했으며, 두 가지 문제를 확인했다. (1) 숨겨진 비용: MMLU와 GSM8K에서 재사용은 상당한 정확도 손실을 초래한다. (2) 잘못된 단위에서의 결정: 캐시를 재사용할지 여부를 결정하는 규칙만으로는 이 비용을 제거하지 못한다. 실제로 도움이 되는 것은 캐시의 어느 부분을 재계산할지 선택하는 것이며, 잘 선택하는 것의 가치는 선택 단위가 커질수록 감소한다. 정보에 기반한 선택은 단일 행(한 토큰의 키와 값) 단위에서는 우연 수준을 넘어 캐시 오차의 49.5%를 제거하지만, 64토큰 청크 단위에서는 10.6%, 전체 호출 단위에서는 전혀 제거하지 못한다. 예산 기반 캐시 복구(Budgeted Cache Repair, BCR)는 선택이 여전히 유효한 단위에서 작동한다. BCR은 조립된 캐시로부터 두 개의 토큰을 초안(draft)으로 생성하고, 이 토큰들이 각 캐시 행에 기울이는 어텐션(attention)에 따라 캐시 행의 순위를 매긴 뒤, 세 가지 배치(layout) 중 하나로 고정된 예산만큼의 행을 정확히 재계산한다. 비용은 예측을 통해 회피되는 것이 아니라 실제로 지불되며, 게이트로서는 실패하는 초안이 선택기(selector)로서는 성공한다. BCR은 대부분의 호출을 여전히 캐시로부터 처리하면서도 GSM8K를 밀집 프리필(dense-prefill) 정확도로 복원하며, 최적의 배치는 참조 그리드(reference grid) 내 모든 재사용 기준선(baseline)의 평균을 상회한다. 또한 이 초안은 동일한 예산에서 동전 던지기(coin-flip) 선택기보다 우수한 성능을 보이는데, 이는 기존 평가들에 없던 대조 실험(control)이다.

arXiv:2610.02070v3cs.AI

인과적 메모리 정책: 검색 개입을 통해 메모리 효용을 식별 가능하게 만들기

Causal Memory Policy: Making Memory Utility Identifiable by Intervening on Retrieval

메모리 증강 대규모 언어 모델(LLM)은 어떤 메모리를 유지할지 결정해야 하며, 최근 시스템들은 작업 성능에 미치는 각 메모리의 영향을 추정함으로써 이를 수행합니다. 그러나 이러한 추정치는 전적으로 검색된 메모리에 의존합니다. 메모리가 전혀 검색되지 않는 경우, 저장소 수준의 개입은 동일한 결과를 낳아 해당 메모리의 효용(utility)을 식별할 수 없는 상태로 남겨둡니다. 이는 메모리 연산만을 검사하는 진단 방식으로는 보이지 않는, 검색 수준의 양의성(positivity) 위반 문제입니다. 본 논문에서는 검색 자체에 개입하여 알려진 성향(propensity)으로 샘플링된 메모리를 위해 고정된 수의 컨텍스트 슬롯을 확보함으로써 식별 가능성을 복원하는 인과적 프레임워크인 인과적 메모리 정책(Causal Memory Policy, CMP)을 제안합니다. CMP는 균형 할당 설계(balanced assignment design) 하에서 자기 정규화 역성향 가중치(self-normalized inverse propensity weighting)를 통해 메모리 효용을 추정합니다. 저자들은 검색을 통한 메모리 효용의 인과적 인수분해, 추정량의 비편향성과 정확한 분산, 그리고 비가역적 연산 하에서의 최적 결정 규칙을 증명합니다. 실증적으로 식별 실패는 LongMemEval에서 필요한 메모리의 54%, LoCoMo에서 67%에 달하며, 이러한 실패는 실제 배포된 메모리 시스템에서도 지속됩니다. CMP는 필요한 메모리와 필요하지 않은 메모리 간의 구별 성능을 0.54 AUC에서 0.66 AUC로 향상시킵니다. 마지막으로, 식별된 메모리 효용만으로는 유지 결정에 충분하지 않음을 보입니다. 쿼리별 효용은 추정 대상이 된 쿼리에서 0.78 AUC에 도달하지만, 유지 정책이 활용할 수 있는 어떤 집계 방식도 보지 못한 쿼리(unseen queries)에 대한 메모리의 가치를 예측하지 못합니다. 코드는 https://anonymous.4open.science/r/cmp-release-D0C3/ 에서 확인할 수 있습니다.

arXiv:2610.01045v2cs.AI

공허한 약속: 에이전트가 이행할 수 없는 약속을 할 때

Empty Commitments: When Agents Promise What They Cannot Deliver

"내일 알려드리겠습니다"라고 말하는 챗봇은 사용자가 다시 메시지를 작성하기 전까지는 실행되지 않습니다. 우리는 이러한 약속을 공허한 약속(empty commitment)이라 부릅니다. 이는 현재 턴 이후의 행동에 대한 약속이지만, 에이전트의 도구나 런타임 환경에 이를 실행할 수 있는 수단이 전혀 없는 경우를 의미합니다. 깨진 약속과 달리 공허함은 발화 순간 에이전트의 구성(configuration)에 따라 결정되므로, 배포 전이나 런타임 시 단일 턴만으로도 감지할 수 있습니다. 본 연구에서는 약속 의미론(commitment semantics)을 기반으로 공허한 약속을 정의하고, 세 가지 실패 유형, 도구를 통해 실현될 수 있는 약속에 대한 앵커링 조건, 그리고 이러한 실패를 정직한 보류(honest deferral) 및 과도한 거부(over-refusal)와 구분하는 결과 분류 체계를 제시합니다. 우리는 400개의 인간 레이블로 검증된 체커(환경 미인지 감지기, 결정론적 실행 가능성 규칙, 응답 판정기)를 구축했습니다. 지속성 어포던스(persistence affordance)를 하나씩 추가하는 5가지 설정에 걸쳐 293개의 후속 요청으로 구성된 통제된 벤치마크에서, 8-14B 파라미터의 4개 오픈 가중치(open-weight) 모델은 도구가 존재하지 않고 아무것도 명시되지 않았을 때 응답의 45.9%에서 실패했습니다. 프론티어 모델은 4.4%의 실패율을 기록했으나, 이는 보유한 도구를 사용해서가 아니라 보류하고 되물음으로써 달성한 수치였습니다. 즉, 실행을 위한 도구 호출 없이 행해지는 약속은 모든 모델에 여전히 남아 있었습니다. 가장 저렴한 해결책인 모델에게 런타임 정보를 알려주는 방식은 아무것도 수행할 수 없는 환경에서 오픈 가중치 모델의 실패를 거의 절반으로 줄였으나, 스케줄러가 존재하는 환경에서는 아무런 변화를 주지 못했습니다. 지시적 역량 카드(directive capability card)는 과도한 거부라는 가장 큰 대가를 치르면서 대부분의 실패를 제거했으며, 루프 내에서 체커를 실행하고 플래그가 지정된 응답을 다시 작성하는 방식은 더 적은 비용으로 더 많은 실패를 제거했습니다. 코드, 프롬프트, 모델 출력 및 인간 레이블이 공개됩니다.

arXiv:2609.39882v2cs.CL

대규모 언어 모델의 페르소나 언러닝

LLM Persona Unlearning

사전학습(pre-training)은 대규모 언어 모델(LLM)에 역할, 스타일, 가치관 및 목표와 연관된 폭넓은 행동 패턴 레퍼토리를 부여합니다. 사후 학습(post-training)은 조건부 발현을 학습시키고 도움이 되는 어시스턴트(Assistant)를 기본값으로 설정하지만, 가중치(weight)에서 대안적인 모드를 완전히 삭제하지는 못합니다. 따라서 명시적인 프롬프트(prompt)를 통해 판단, 언어, 행동을 지속적으로 형성하는 페르소나를 이끌어낼 수 있습니다. 오픈 가중치 환경에서는 런타임 제어가 제거될 수 있으므로, 새로운 컨텍스트에서도 지정된 페르소나를 이끌어내거나 발현하기 어렵게 만드는 가중치 수준의 수정인 '페르소나 언러닝(persona unlearning)'의 필요성이 제기됩니다. 본 논문에서는 3개 계열의 6개 LLM과 5개 페르소나를 아우르며 정렬된 망각/유지 세트, 미학습 지시어 패러프레이징, 4개 축의 평가를 제공하는 모델 맞춤형 쌍 구성 벤치마크인 PersonaUnlearnBench를 소개합니다. 이 벤치마크를 통해 표준 언러닝 기법들은 유의미한 생성 능력이나 일반적인 유용성을 희생하지 않고는 목표 페르소나를 안정적으로 삭제할 수 없음을 확인했습니다. 이에 따라 동일한 질문에 대한 목표 응답과 바람직한 응답을 비교하여 내부 행동 방향을 특정한 후, 목표 프롬프트 상태가 목표 모드에서 벗어나 매칭된 바람직한 응답으로 향하도록 학습시키는 PaCE를 제안합니다. 실험 결과, PaCE는 적당한 수준의 유용성 손실만으로 높은 응답 품질과 유용한 대응 행동을 유지하면서 목표 페르소나를 일관되게 억제하는 것으로 나타났습니다. 이러한 결과는 페르소나 언러닝이 차별화된 행동 수준 편집 문제이자 잠재적 LLM 응답 정책의 지속적 제어를 위한 실용적인 접근법임을 입증합니다.

arXiv:2609.39578v2cs.CL

틀에서 벗어난 사고: 언어 모델은 외부 지침에 선택적으로 의존할 수 있는가?

Thinking Outside the Box: Can Language Models Rely on External Guidance Selectively?

에이전트 하네스(agent harness)는 사람이 설계한 워크플로우를 통해 언어 모델을 개선하는 경우가 많지만, 모델의 능력이 향상됨에 따라 신뢰할 수 없는 지침은 오히려 모델의 실행을 제약할 수 있습니다. 본 연구에서는 유용한 지침을 활용하는 동시에 신뢰할 수 없는 지침은 기각하는 능력을 '틀에서 벗어난 사고(thinking outside the box)'라고 부릅니다. 저자들은 모델이 지침에 대한 의존도를 어떻게 조절하는지 분리해 파악하기 위해, 모델과 작업을 고정한 채 워크플로우의 신뢰도를 다양하게 변화시키는 Box$^2$-Bench를 도입합니다. Box$^2$-Bench에서 프론티어 모델들은 신뢰할 수 있는 지침으로부터 이점을 얻는 경우가 많지만, 지침이 오도하거나 신뢰할 수 없게 될 때는 여전히 취약한 상태로 남아 있습니다. 이러한 능력을 학습할 수 있는지 검증하기 위해, 평가를 위해 우수한 워크플로우는 남겨두고 불량한 워크플로우를 사용하여 두 개의 오픈 가중치(open-weight) 모델을 학습시킵니다. 또한 두 가지 상호 보완적인 학습 전략을 탐색합니다. 반사실적 지도 미세조정(counterfactual supervised fine-tuning)은 강건성을 향상시키는 반면, 결과 기반 강화학습(outcome-based reinforcement learning)은 도움이 되는 워크플로우를 더 적극적으로 활용하도록 균형을 이동시킬 수 있습니다. 나아가 이러한 동작이 워크플로우를 넘어 다른 형태의 외부 정보로도 확장되어 동료 수정(peer correction) 능력을 향상시키고 오염된 메모리에 대한 강건성을 높임을 확인했습니다. 종합적으로, 본 연구 결과는 오류 가능성이 있는 외부 정보에 대한 선택적 의존이 작업 수행 성능만으로는 포착되지 않는 에이전트 신뢰성의 중요한 한 차원임을 밝혀냅니다.

arXiv:2609.37807v2cs.CL

CompOrca: 인스트럭션 튜닝 데이터의 말뭉치 규모 순응도 라벨링

CompOrca: Corpus-Scale Compliance Labelling of Instruction-Tuning Data

미세조정(fine-tuning)이 거부 및 불순응(noncompliance) 행동을 어떻게 형성하는지 연구하려면 어떤 학습(training) 예제가 요청을 거부하거나 제대로 이행하지 못하는지 파악해야 합니다. 기존의 어노테이션은 학습 말뭉치보다 훨씬 규모가 작은 평가 세트만을 다룹니다. 본 연구에서는 OpenOrca 말뭉치의 전체 4,233,923개 예제에 대한 순응도(compliance) 라벨인 CompOrca를 제시합니다. 모든 예제는 오픈 가중치(open-weight) 대규모 언어 모델(LLM) 심판(LongCat-2.0, 1.6T 파라미터)의 5회 패스를 통해 순응 또는 불순응으로 분류되었습니다. 이 말뭉치는 원시 투표 수와 함께 만장일치 순응(94.75%), 만장일치 불순응(1.28%), 만장일치가 아닌 행(3.97%)으로 공개됩니다. 단일 패스는 말뭉치의 2.7~3.2%를 불순응으로 표시하는 반면 5회 패스 모두에서 표시된 것은 1.28%에 불과하므로, 가장 모호한 행들을 필터링해 제외할 수 있습니다. 450개의 인간 어노테이션 예제(150개는 중복 어노테이션됨, 인간 간 $κ=0.93$)를 대상으로 평가했을 때, 만장일치 순응 및 불순응 라벨은 각각 97.3%와 86.7%의 정밀도(precision)를 보입니다. 불순응 라벨은 말뭉치 전체 불순응 중 높은 정밀도를 갖는 부분집합입니다. 기존에 발표된 거부 탐지 방법들은 인간이 라벨링한 불순응의 0.4%에서 94.1% 사이의 재현율(recall)을 보입니다. 본 연구에서는 행별 라벨 및 투표 수가 포함된 전체 말뭉치를 https://huggingface.co/datasets/cemiu/CompOrca 에 공개합니다.

arXiv:2609.34181v2cs.AI

잠재 공간에서의 제약 최적화를 통한 효율적인 추론

Efficient Reasoning via Constrained Optimization in Latent Space

대규모 추론 모델(LRM)은 뛰어난 추론 능력을 보여주었으나, 여전히 불필요한 추론 단계를 생성하여 상당한 토큰(token) 소모를 유발하는 오버씽킹(overthinking) 문제를 겪고 있습니다. 반추적 키워드를 억제하거나 강제로 추론 길이를 단축하는 기존 방법들은 이 문제를 완화하려 하지만, 필연적으로 필요한 단계를 잘라내고 언더씽킹(underthinking)을 유발하여 성능을 저하시킵니다. 이러한 딜레마를 해결하기 위해 본 논문에서는 잠재 표현(latent representation)을 조사하였으며, 효율적인 추론 단계들이 잠재 공간(latent space) 내의 집중된 영역에 자연스럽게 군집하는 반면, 이 영역을 벗어나는 단계들은 장황한 시퀀스를 생성하는 경향이 있음을 관찰했습니다. 이를 활용하기 위해, 벗어난 은닉 상태(hidden state)를 해당 영역으로 다시 투영하는 이차 계획법(quadratic program)을 통해 추론이 이 영역 내에 집중되도록 유지합니다. 이어 성능 저하 없이 토큰 생성 비용을 줄여 효율적인 추론을 달성하는 새로운 학습(training) 불필요 프레임워크를 제안합니다. 1.5B부터 14B에 이르는 4개 모델과 수학 추론, 코딩, 과학 질의응답 분야의 6개 벤치마크에서 수행된 광범위한 실험을 통해 본 방법의 효과를 검증하였으며, 생성 토큰을 11.8%에서 52.8%까지 줄이면서도 정확도를 최대 12.1% 향상시켰습니다. 코드는 \href{https://github.com/hzn18/Opt4Reasoning}{https://github.com/hzn18/Opt4Reasoning}에서 확인할 수 있습니다.

arXiv:2609.33334v2cs.LG

무엇을 남길지가 아닌 언제 제거할 것인가: 학습 불필요 KV 캐시 압축을 위한 초안 유도 제거

When to Evict, Not What to Keep: Draft-Guided Eviction for Training-Free KV-Cache Compression

SnapKV, H2O, PyramidKV와 같은 학습 불필요(training-free) KV 캐시(KV-cache) 압축 기법들은 프리필(prefill) 단계의 끝에서 토큰을 제거하여 향후 쿼리가 사용할 것으로 예상되는 어텐션 가중치 합(attention mass)을 보존하는 것을 목표로 하며, 즉 '무엇을 남길지'를 최적화합니다. 본 논문에서는 이러한 목표가 두 가지 서로 다른 방식으로 실패함을 보입니다. (1) 보상(Compensation): 제거된 어텐션 가중치 합을 복원하면 태스크 품질을 회복하지 못한 채 어텐션 수준의 목표치만 복구될 수 있습니다. (2) 선택(Selection): 복원된 가중치 합이 일관된 구간에 집중되지 않고 분절되어 있을 경우, 실제 디코드 쿼리 가중치 합을 더 많이 포함하더라도 오히려 품질이 저하될 수 있습니다. 이러한 실패는 공통된 원인을 공유합니다. 즉, 답변의 궤적을 결정하는 쿼리가 존재하기 전에 제거가 발생한다는 점입니다. 이에 따라 본 연구에서는 전체 캐시를 사용하여 첫 k=2개의 답변 토큰을 초안(draft)으로 생성할 때까지 제거를 연기하는 초안 유도 제거(Draft-Guided Eviction, DGE)를 제안합니다. 이는 프리필을 넘어 단 1회의 디코드 단계에 불과합니다. 초안은 답변 자체의 접두 문맥(prefix)으로부터 생성되므로, 이러한 궤적 신호를 사용할 수 있게 되기 전까지는 어떠한 캐시 항목도 폐기되지 않습니다. 헤드별 캐시 예산은 그대로 유지되며, DGE는 제거 점수를 수정하지 않고도 SnapKV, PyramidKV, H2O, StreamingLLM에 직접 적용할 수 있습니다. 추가 패스(extra-pass)를 사용하는 방식과 달리, DGE는 어떤 캐시 항목을 선택할지가 아니라 언제 제거가 일어나는지를 변경합니다. 광범위한 실험을 통해 DGE는 평가된 6개 인스트럭션 튜닝(instruct-tuned) 백본 중 5개에서 모든 평가 예산에 걸쳐 기존 기법보다 뛰어난 성능을 보였으며, LongBench에서 44.2점을 기록하여 FullKV의 44.3점에 거의 근접함을 입증했습니다. 시점만 조절한 대조군인 DGE-W 역시 동일한 점수를 기록하였는데, 이는 성능 향상이 무엇을 선택하는가가 아니라 언제 제거가 일어나는가에서 비롯됨을 보여주며, 본 연구에서는 이러한 효과를 '궤적 앵커링(trajectory anchoring)'이라 부릅니다.

arXiv:2609.32382v2cs.CL

PlurVA-LLM-2026 공유 태스크 트랙 1: 다국어 미세조정 및 임계값 보정을 통한 대규모 언어 모델(LLM)의 다원적 가치 정렬

PlurVA-LLM-2026 Shared Task Track-1: Pluralistic Value Alignment in LLMs via Multilingual Fine-Tuning and Threshold Calibration

본 논문에서는 중국, 인도네시아, 스리랑카 맥락에서의 다원적 가치 정렬(pluralistic value alignment)에 초점을 맞춘 PlurVA-LLM 2026 공유 태스크(Shared Task) 트랙 1을 위한 시스템을 제시합니다. 이러한 자원 제약적 트랙을 위해 4비트 QLoRA를 사용하여 Llama 3.1 8B Instruct를 미세조정(fine-tuning)했습니다. 본 연구의 접근 방식은 중국어 데이터를 위한 선택지 순열 증강(option-permutation augmentation), 인도네시아어 데이터를 위한 주석자 투표 확장(annotator vote expansion), 스리랑카 데이터를 위한 이진 재구성 및 SinhalaMMLU 증강을 결합합니다. 또한 스리랑카 데이터의 예측에 조건부 임계값 보정(threshold calibration)을 적용했습니다. 최종 시스템은 중국어 0.785, 인도네시아어 0.715, 스리랑카 0.916의 정확도를 달성하여 전체 매크로 평균 정확도 0.805를 기록했습니다.

arXiv:2609.27257v2cs.CL

UniDataAgent: 기업 질문-보고서 자동화를 위한 온톨로지 그라운딩 에이전트

UniDataAgent: An Ontology-Grounded Agent for Enterprise Question-to-Report Automation

기업 데이터 에이전트(agent)는 단순히 질문을 쿼리로 변환하는 것을 넘어 조직 고유의 의미 체계(semantics)를 보존해야 합니다. 본 논문에서는 의미 체계 획득과 온라인 실행을 분리하여 재사용 가능한 질문-보고서 분석을 수행하는 온톨로지 그라운딩(ontology-grounded) 시스템인 ChinaUnicom DataAgent(UniDataAgent)를 소개합니다. 온톨로지 획득 및 검증(OAV) 단계에서는 전문가가 작성한 비즈니스 스킬, 제약된 생성, 질문 검증, 선별된 전문가 검토를 통해 메타데이터, 비즈니스 지식, 지원 자료로부터 버전 관리되는 기업 온톨로지를 구축합니다. 질문-보고서 실행(QRE) 단계에서는 각 질문에 대한 의미적 계약(semantic contracts)을 검색하고, 스킬과 데이터 툴을 조율하며, 결과를 검증하고 근거가 연결된 보고서를 생성합니다. 27개 기업 테이블과 대략 수천 가지 지표 유형에 걸쳐, 온톨로지 구축에는 수작업으로 약 1주일이 걸리던 작업이 불과 몇 시간밖에 걸리지 않았습니다. 보고서 생성에는 며칠의 근무일 대신 단 몇 분밖에 걸리지 않았습니다. 온톨로지 그라운딩은 실제 비즈니스 질문에 대해 95.0%의 엄격한 정확도(strict accuracy)를 달성하여 문서 기반 검색-증강 생성(RAG)의 72.5%와 대조를 보였으며, 특히 정형 및 조합형(compositional) 태스크에서 두드러졌습니다. 이 시스템은 이미 배포되어 비용 절감 효과를 창출하고 있으며 다른 기업으로 복제될 수 있는 잠재력을 지니고 있습니다.

arXiv:2609.18587v3cs.LG

라벨 없는 조향: 테스트 시간 강화학습을 바이어스 전용 부분공간으로 압축하기

Label-free steering: Compressing test-time reinforcement learning into bias-only subspaces

테스트 시간 강화학습(TTRL)은 라벨이 지정된 학습 데이터에 의존하지 않고도 모델의 추론 능력을 향상시킬 수 있게 하지만, 기존 방식들은 일반적으로 모델 매개변수의 상당 부분을 최적화합니다. 이는 자연스럽게 다음과 같은 의문을 제기합니다. 보상 신호와 최적화 공간이 모두 엄격하게 제한될 때도 효과적인 테스트 시간 적응이 일어날 수 있을까? 우리는 사전학습된 백본을 고정한 채 다수결 의사라벨(pseudolabel)을 보상으로 사용하고 약 10만 개의 바이어스 매개변수만을 최적화하는 라벨 없는 바이어스 전용 TTRL을 통해 이 질문에 답합니다. MATH-500에서 우리의 접근 방식은 Qwen2.5-7B로 76.67%의 정확도를 달성하여, 전체 매개변수 TTRL보다 76,000배 적은 매개변수를 최적화하면서도 자체적으로 재현한 라벨 기반 바이어스 조향(bias-steering) 성능을 소폭 능가했습니다. 동일한 학습 절차는 MathVista, AI2D, LogicVista, MMAU를 포함한 비전-언어 및 오디오 추론 작업 전반에서 성능을 향상시킵니다. 나아가 학습된 조향 벡터가 4,500개의 별도 보류(held-out) MATH 문제로 전이됨을 보여주며, 이는 적응이 테스트 시간 최적화 중에 사용된 문제에만 국한되지 않음을 나타냅니다. 마지막으로 우리는 롤아웃 합의(consensus)에 따라 다수결 신뢰도가 향상되고 접근 가능한 그래디언트 에너지가 더 큰 바이어스 부분공간이 더 강력한 다운스트림 학습 가능성을 보임을 밝힘으로써, 이처럼 극도로 제한된 적응이 어떻게 작동할 수 있는지 분석합니다. 이러한 결과는 완전히 라벨이 없는 보상을 사용하여 매우 작은 바이어스 전용 부분공간을 최적화하는 것만으로도 상당한 테스트 시간 적응이 일어날 수 있음을 입증합니다.

arXiv:2609.15066v2cs.CL

Salesforce Koa: 에이전트 도구 사용을 위한 엔터프라이즈 언어 모델

Salesforce Koa: An Enterprise Language Model for Agentic Tool Use

본 논문에서는 오픈 가중치(open-weight) 기반 파운데이션 모델인 Nemotron-3-Super-120B를 GRPO(Group Relative Policy Optimization) 기반의 강화학습(RL)으로 사후 학습(post-training)하고, 실제 프로덕션 적용을 위해 FP8로 배포한 엔터프라이즈 언어 모델인 Salesforce Koa를 제시합니다. Koa는 공개 데이터 및 합성 생성 데이터만을 활용하여 학습되었으며, 요청을 올바른 액션으로 라우팅하고, 유효한 인자(argument)를 갖추어 적절한 도구를 호출하며, 멀티턴(multi-turn) 비즈니스 태스크를 완료하는 등 엔터프라이즈 워크플로우에서 요구하는 에이전트 도구 사용에 특화되어 있습니다. 제안하는 파이프라인의 핵심적 차별점은 명세 기반 태스크 구성(specification-driven task construction)입니다. 선언적 Agent Script 명세는 페르소나 조건화 멀티턴 환경으로 확장되며, 이 환경의 보상은 성공적인 도구 사용에 그라운딩(grounding)됩니다. 엔터프라이즈 CRM 명세에 적용된 이 동일한 파이프라인은 Koa가 특화된 도메인 내(in-domain) 학습 분포를 생성합니다. CRMAgentBench 및 인간 라벨링 기반 프로덕션 도구 호출 데이터셋 평가에서 Koa는 튜닝되지 않은 오픈 가중치 베이스 모델과 GPT-4.1을 모두 능가하며, 가장 강력한 프론티어 모델들과 대등한 성능을 보입니다. Koa는 CRMAgentBench에서 87%의 태스크 성공률(Task Success Rate)을 달성하여 GPT-4.1(82%)과 베이스 모델(79%)을 앞섰으며, 내부 프로덕션 벤치마크의 인간 라벨링 평가 부분에서 모든 지표 최상위권 혹은 정상급 성능을 기록하는 한편, 공개 벤치마크(Tau2Bench, BFCL)에서도 베이스 모델의 일반적인 성능을 유지했습니다. 모델 아키텍처와 강화학습 레시피를 고정한 통제 비교 분석을 통해, 도메인 내 강화학습 단계 추가가 인간 라벨링 기반 엔터프라이즈 벤치마크에서 인자 정확도(argument accuracy)와 전체 도구 호출 성공률을 향상함을 입증했습니다.

arXiv:2609.14193v4cs.LG

데이터 없는 온-정책 지식 증류: 외부 데이터 없이 얼마나 멀리 갈 수 있는가?

Data-Free On-Policy Distillation: How Far Can We Go Without External Data?

온-정책 지식 증류(On-Policy Distillation, OPD)는 프론티어 파운데이션 모델의 사후 학습(post-training)에 점점 더 많이 적용되고 있습니다. 이 분야의 기존 연구는 주로 알고리즘적 발전에 초점을 맞추었으나, OPD가 학습 질문에 얼마나 의존하는지, 특히 이러한 의존성을 어디까지 줄일 수 있는지는 여전히 불분명합니다. 두 가지 대표적인 단일 교사(single-teacher) OPD 설정에 걸쳐, 저자들은 단 8개의 실제 프롬프트로 학습해도 17,000개 문제로 학습한 것과 유사한 성능을 얻을 수 있으며, 측정된 난이도와 초기 증류 격차가 크게 다른 데이터셋들 간에도 유사한 결과를 산출함을 발견했습니다. 이러한 분석은 두 가지 상호보완적인 설명을 제시합니다. 즉, 반복 샘플링을 통해 적은 프롬프트만으로도 상당한 교사 지도(teacher supervision)를 드러낼 수 있으며, OPD가 데이터셋별 지식을 넘어 일반화 가능한 추론 능력을 전이한다는 것입니다. 이러한 관찰을 바탕으로, 저자들은 외부 데이터의 필요성을 없애고 시스템이 스스로 학습 질문을 제공할 수 있는지 조사하기 위해 데이터 없는 온-정책 지식 증류(Data-Free On-Policy Distillation, DF-OPD) 설정을 제안합니다. 시드 예시 없이 생성된 64개의 자체 생성 질문을 통해, DF-OPD는 두 단일 교사 설정 모두에서 전체 데이터를 사용한 OPD와 유사한 성능을 산출합니다. 이러한 발견은 다중 교사(multi-teacher) OPD에서도 유효하여, 수학, 코드 및 인스트럭션 추종(instruction following) 전반에 걸쳐 1,000개의 생성된 질문이 약 7,000개의 실제 사후 학습 예시로 학습한 것과 유사한 성능을 달성합니다. 나아가 저자들은 OPD가 명시적인 학습 질문 없이도 작동할 수 있는지 탐구합니다. 실험 결과 이는 학생 모델이 예상치 못하게 자체 질문을 생성하고 답변하여 프로세스가 암묵적인 형태의 DF-OPD로 귀결되는 제한적인 경우에만 효과적임을 보여줍니다. 종합적으로 이러한 발견들은 온-정책 지식 증류에서 학습 데이터의 역할에 대한 재평가를 유도합니다. 코드는 https://github.com/Ryuki661/DF-OPD 에서 이용 가능합니다.