PyTorchKR Papers

최신 논문

총 11,108편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.34457v2cs.LG

ZonoGPT: 대규모 GPT 모델 검증을 위한 추상 도메인을 향하여

ZonoGPT: Towards An Abstract Domain for Verifying Large GPT Models

트랜스포머(Transformer) 기반 모델은 추론, 코딩 및 멀티모달 에이전트 작업에 널리 사용됩니다. 강건성(robustness), 안전성(safety), 공정성(fairness)과 같이 요구되는 동작에 대한 정형적 보장(formal assurance)을 제공하기 위해, 신경망(neural network) 검증 기법은 배포 전에 필수적인 속성을 증명하고 감사 가능한 보증을 제공합니다. 그러나 이전 연구는 소규모이거나 제한된 트랜스포머에 머물러 있으며, 심층 모델 전반에 걸쳐 정밀도(precision)를 유지하는 것은 여전히 어려운 과제입니다. 본 연구에서는 네트워크 깊이와 무관한 공간 복잡도를 유지하면서 대규모 트랜스포머를 검증하기 위한 추상 도메인인 ZonoGpt를 소개합니다. ZonoGpt는 구조화된 조노토프(zonotope)와 생성자 축소(generator reduction) 메커니즘을 사용하여 상관관계를 효율적으로 보존합니다. 정밀도를 유지하기 위해, 특징(feature) 관계를 보존하는 어텐션(Attention) 및 LayerNorm 전용 융합 변환과 함께, 생성자 관계를 보존하는 GELU용 아핀 변환(affine transform)을 도입합니다. 이러한 메커니즘을 통해 ZonoGpt는 표준 아키텍처를 검증하는 최초의 접근법이 되었으며, 최대 GPT-2 Medium(24개 블록, 3억 개 이상의 파라미터)에 달하는 공식 HuggingFace 모델로 확장하여 텍스트 및 비전 작업 전반에서 1,339개의 인스턴스를 성공적으로 검증했습니다.

arXiv:2609.34060v2cs.LG

KVCMAS: 멀티 에이전트 시스템의 공유 컨텍스트를 위한 효율적인 KV 캐시 보정

KVCMAS: Efficient KV cache Correction for Shared Context in Multi-Agent Systems

프롬프트(prompt) 특화 멀티 에이전트(agent) 시스템은 여러 에이전트가 단일 모델(model)을 공유하면서 상호 보완적인 역할을 수행하여 복잡한 작업을 해결할 수 있도록 돕습니다. 그러나 에이전트별 프리픽스(prefix)로 인해 동일한 공유 컨텍스트에 대해 생성되는 KV 캐시(KV cache)가 달라지며, 이로 인해 각 에이전트가 점차 증가하는 컨텍스트를 반복적으로 프리필(prefill)하고 높은 연산 및 메모리 오버헤드를 유발하는 별도의 캐시를 구축하게 됩니다. 선택적 재계산(selective recomputation)은 이러한 중복을 줄이지만 여전히 상당한 모델 실행을 필요로 하며, 기존의 델타 보정 방식들은 반복되는 컨텍스트 관계만을 지원하거나 동적으로 변화하는 컨텍스트에 대해 메모리 집약적인 온라인 보정 상태를 유지해야 합니다. 또한 이러한 방식들은 처음 확인된 공유 컨텍스트에 대해 에이전트 워크플로 외부에서 참조 캐시를 구성하며, 첫 번째 에이전트에서의 근사 보정은 후속 에이전트로 전달되는 출력에 영향을 미칩니다. 본 논문에서는 에이전트 간 캐시 편차를 컴팩트한 로우랭크(low-rank) 상태로 표현하고, 추가적인 참조 프리필 없이 에이전트 워크플로를 따라 보정을 매끄럽게 연결하는 온라인 KV 캐시 보정 프레임워크인 KVCMAS를 제안합니다. 이 설계는 첫 번째 에이전트의 정확한 캐시를 보존하면서도 동적으로 변화하는 공유 컨텍스트를 지원합니다. 다양한 언어 및 비전-언어(vision-language) 워크로드에 걸쳐, KVCMAS는 이전의 KV 캐시 공유 방식들의 정확도와 일치하거나 이를 개선하는 동시에 높은 동시성 서빙 환경에서 가장 낮은 최초 토큰 생성 시간(TTFT)을 달성합니다. 제어된 서빙 트레이스 환경에서, KV 캐시 공유가 없는 추론(inference) 대비 2.0배의 TTFT 속도 향상을 제공하며 이전 KV 캐시 보정 방식 대비 최대 3.7배 피크 GPU 메모리를 절감합니다. 이러한 결과는 KVCMAS가 프롬프트 특화 멀티 에이전트 서빙을 위한 정확하고 확장 가능한 KV 캐시 공유 접근 방식임을 입증합니다.

arXiv:2609.23314v2cs.LG

ValueDiff: 싱크가 억제된 LLM을 위한 값-기하 기반 KV 캐시 축출

ValueDiff: Value-Geometric KV Cache Eviction for Sink-Suppressed LLMs

QK-정규화(QK-normalization), 게이트형 어텐션(gated attention), 학습된 어텐션 싱크(attention sink), 또는 로짓 소프트캡핑(logit softcapping)을 사용하는 최신 LLM들은 기존 KV 캐시 축출 기법들이 주로 의존해온 지속적인 어텐션 싱크가 더 약하게 나타난다. 우리는 이러한 모델들 전반에서, 어텐션 싱크가 약할수록 키 벡터(key vector) 분산 대비 값 벡터(value vector) 분산이 더 커지는 현상이 함께 나타남을 관찰했다. 이러한 값 측(value-side) 분산에 착안하여, 우리는 ValueDiff를 제안한다. ValueDiff는 토큰의 값 벡터가 캐시 평균으로부터 갖는 L2 편차에 따라 토큰의 순위를 매기는 값-기하 기반 축출 기법이다. 동일한 점수는 향후 어텐션에 대한 최대 엔트로피(max-entropy) 가정 하에서 최소 교란(minimal-disturbance) 축출로도 도출된다. 우리는 고정된 캐시 예산 하에서 평가를 수행했으며, 프리필(prefill) 중에는 매 블록 경계에서, 생성 중에는 매 디코딩 스텝마다 축출을 적용했다. RULER에서 2k 토큰이라는 빠듯한 예산 조건에서, ValueDiff는 싱크가 억제된 7개 모델 전반에서 dense 대비 88~99%의 성능을 유지했으며(7개 중 6개 모델에서 최고 성능), LongBench에서는 4k 예산 조건에서 싱크가 억제된 모델들 전반에 걸쳐 평균 92%의 성능 유지율을 보여 가장 강력한 기존 기준선(baseline)의 83%를 상회했다. MATH-500에서는 25% 캐시 예산 조건에서 테스트된 모든 싱크가 억제된 모델에서 ValueDiff가 dense가 아닌 방법들 중 가장 우수했으며, 게이트형 어텐션 모델에서는 기존 방법들을 최대 약 20점포인트 차이로 능가했다. 세 가지 벤치마크 전반에서, 값 기하학(value geometry)은 싱크가 억제된 LLM에 대해 더 신뢰할 수 있는 쿼리 불변(query-invariant) 축출 신호로 나타났다.

arXiv:2609.20129v2cs.LG

국소적 희소성을 활용한 비지도 대규모 언어 모델 안전성 탐지

Local Sparsity Enables Unsupervised LLM Safety Detection

대규모 언어 모델(LLM)의 배포 시점 안전성(safety) 기법은 대부분 지도학습 방식이며 안전하지 않은 학습(training) 데이터에 접근할 수 있다고 가정한다. 그럼에도 불구하고 새로운 공격과 위해 유형은 주기적으로 발생하며, 이러한 지도학습 방식으로 훈련된 모델로는 이를 포착하지 못한다. 대안적인 접근법은 이 문제를 이상치 탐지(anomaly detection)의 관점에서 바라보는 것, 즉 안전한 데이터만을 모델링하고 분포 외(out-of-distribution) 입력을 식별하는 데에만 의존하는 것이다. 그러나 LLM 활성화 값은 고차원 공간에 존재하기 때문에 이상치 탐지가 통계적으로 실현 가능한지에 대한 우려가 제기된다. 본 논문에서는 선형 표현 가설(LRH) 하에서 실제로 가능성이 있음을 보인다. 일반적으로 희소 오토인코더(SAE)를 통해 복원되는 LRH 개념 공간에서는 인접한 점들이 작고 공통된 활성 지지 집합(active support)을 공유한다. 이러한 국소적 희소성(sparsity)에 대한 통찰을 바탕으로, 이론적 근거를 갖춘 국소 마스킹 SAE 기반 이상치 탐지 프레임워크를 제안한다. 능력 평가 데이터셋과 안전성 특화 데이터셋을 모두 포함하여 다양한 아키텍처와 데이터셋에서 이를 검증한다. 마지막으로, 보정(calibration)을 위해 알고리즘이 1%의 분포 외 데이터를 사용할 수 있도록 허용했을 때, 국소적 희소성 기반 방식은 거의 최적에 가까운 성능을 달성하여 연산에 SAE 뉴런의 1-2%만을 사용하면서도 의미 있는 안전성 정보를 포착할 수 있음을 입증한다.

arXiv:2609.15039v3cs.CR

SpliTEE: GPU 보조 신뢰 실행 환경과 차분 프라이버시의 결합을 통한 빠르고 프라이빗한 LLM 추론

SpliTEE: Fast and Private LLM Inference by Coupling GPU-Assisted Trusted Execution Environments with Differential Privacy

대규모 언어 모델(LLM)에 제공되는 사용자 프롬프트에는 개인정보가 포함될 수 있습니다. 이를 보호하는 한 가지 방법은 신뢰 실행 환경(TEE) 내에서 LLM을 실행하는 것입니다. 그러나 현재 TEE는 LLM 추론에 있어 GPU보다 현저히 느리기 때문에 추론 시간이 오래 걸립니다. 이를 우회하기 위해 Tramèr와 Boneh (2019)는 신경망 추론을 TEE와 신뢰할 수 없는 GPU 간에 분할하는 Slalom을 제안했습니다. 이들은 GPU로 아웃소싱되는 연산의 입력을 암호화합니다. 본 논문에서는 이러한 분할 추론 아키텍처를 LLM 추론으로 확장하고, 대신 차분 프라이버시(DP)를 사용하여 중간 입력을 보호합니다. 먼저 이러한 표현으로부터의 프롬프트 복원 공격에서 80%의 정확도를 보임으로써 중간 표현 마스킹이 필수적임을 입증합니다. 본 논문의 주요 기여는 LLM 추론의 핵심 함수들에 대한 전역 민감도 분석으로, 필요한 DP 노이즈의 크기를 제한하는 것입니다. 암호화와 달리 DP는 양자화를 피할 수 있어 LLM이 부동 소수점 영역에 유지되도록 합니다. 또한 프라이버시 매개변수 입실론(epsilon)의 함수로서 마스킹 및 후속 노이즈 상쇄로 인한 부동 소수점 오차의 상한을 도출하여 동일한 LLM 응답 품질을 유지합니다. 인텔 TDX TEE와 두 가지 LLM(Llama-3.2-3B, Qwen3-4B)을 사용하여 아키텍처를 구현했습니다. 제안하는 분할 실행은 완전한 TDX 기반 추론보다 거의 2배 빠릅니다. 나아가 더 높은 정확도를 달성하면서도 Slalom보다 최대 43% 빠릅니다. 마지막으로 DP 메커니즘을 알고 있는 상태에서도 프롬프트 복원이 무관한 프롬프트에 포함된 것 이상의 정보를 복구할 수 없음을 입증합니다.

arXiv:2608.27128v4cs.CL

작은 빈도 보정이 KV 캐시 압축에서 보존 대상을 바꿀 수 있다

Small Frequency Corrections Can Change What Survives KV Cache Compression

다음 질문을 알기 전에 키-값(KV) 캐시를 압축하려면 어떤 근거가 중요해질지 모르는 상태에서 무엇을 유지할지 결정해야 합니다. 값 에너지(value energy)는 항목의 강도를 측정하지만 고립된 키와 유사한 이웃이 많은 키를 구분하지 못합니다. 본 연구에서는 비국소 post-RoPE 키 빈도로 값 에너지를 할인하는 무학습(training-free) 방식인 TwinKV를 소개합니다. 접두 문맥(prefix) 어텐션으로 헤드 용량을 할당하는 동시에, 유지된 항목은 정확한 저장 예산 내에서 원래 키와 값을 보존합니다. 네 가지 언어 모델(model)에 걸쳐 TwinKV는 50% KV 제거 시 LongBench, LooGLE, RULER에서 평가된 다섯 가지 압축 베이스라인의 평균 점수를 상회합니다. 구성 요소 통제 실험을 통해 빈도의 기여도를 분리 분석했습니다. 75% 제거 조건의 Llama-3.2-1B RULER에서 정규화된 빈도 가중치는 평균 0.95에 불과하지만, 비보호 유지 위치의 7%를 변경하고 균일 용량 및 적응형 용량 모두에서 값 전용 유지 대비 성능을 약 5.5점 향상시킵니다. 헤드 내에서 가중치를 무작위 치환(permuting)하면 이러한 이득이 약화됩니다. 이 결과는 완만한 빈도 보정만으로도 유지 및 답변 결과가 달라질 수 있으며, 그 효과는 모델과 작업에 따라 달라짐을 보여줍니다.

arXiv:2608.13966v2cs.LG

QUASAR: 손실 인지 재구성을 통한 양자화 인지 학습의 손실 하한 낮추기

QUASAR: Lowering the Loss Floor of Quantization-Aware Training with Loss-Aware Reconstruction

대규모 언어 모델의 추론이 더 낮은 정밀도로 전환됨에 따라 사후 학습 양자화(PTQ)는 점점 더 취약해지고 있으며, 모델 품질을 보존하기 위해 양자화 인지 학습(QAT)이 필수적이 되었습니다. 그러나 QAT에는 구조적 불일치가 존재합니다. 그래디언트 업데이트는 잠재된 전정밀도 가중치에 적용되는 반면, 손실과 그래디언트는 해당 가중치의 손실성 재구성 값에서 계산됩니다. 이러한 불일치는 차선의 학습 경로와 더 높은 손실 하한(loss floor)으로 이어질 수 있습니다. 2차 PTQ 방식들은 손실 인지 재구성 오차를 최소화하여 유사한 문제를 해결하지만, 가중치가 계속 변화하는 QAT 도중에 이처럼 비용이 큰 재구성을 반복적으로 적용하는 것은 비실용적입니다. 본 논문에서는 경량의 손실 인지 재구성을 학습 루프에 도입한 QAT 방식인 QUASAR를 제안합니다. 매 학습 단계마다 QUASAR는 작은 클리핑 범위 집합을 탐색하고 중요도 가중 최소제곱법을 통해 역양자화 매개변수를 적합함으로써 잠재 가중치를 재구성합니다. 이때 파라미터별 중요도 신호로는 그래디언트 제곱의 지수 이동 평균을 사용합니다. 이론적 분석 결과, QUASAR의 재구성 목적식을 최적화하면 QAT의 수렴 한계와 최종 손실 한계가 모두 엄밀해짐을 보여줍니다. 4가지 모델 계열과 INT4, INT3, INT2 및 NVFP4 양자화 포맷 전반에 걸쳐 QUASAR를 평가했습니다. QUASAR는 경쟁 QAT 방식들보다 지속적으로 더 낮은 학습 및 평가 손실을 달성하며, 다운스트림 벤치마크에서 기존 QAT 및 PTQ 기준선을 능가합니다. INT2에서 QUASAR는 양자화 인지 지식 증류를 적용했을 때 최고 QAT 기준선 대비 평균 정확도를 13.3점 향상시켰고, 수학적 추론 데이터에 대한 QAT에서는 10.9점 향상시켰습니다. 특히 약 6억 개의 토큰만을 대상으로 증류한 후에도 QUASAR의 INT4 Gemma-4 E4B 체크포인트는 Google이 공개한 해당 QAT 체크포인트를 능가하여, KL 발산은 66% 더 낮추고 평균 정확도는 1.8점 더 높은 성과를 거두었습니다.

arXiv:2608.05446v2cs.LG

EvoHarness-RL: 자기 진화형 에이전트를 위한 런타임 하네스 조율 학습

EvoHarness-RL: Learning Runtime Harness Coordination for Self-Evolving Agents

장기 작업(long-horizon) 대규모 언어 모델(LLM) 에이전트는 상태 유지, 진행 상황 추적, 실패 복구, 확장된 상호작용 전반에 걸친 경험 재사용을 위해 외부 실행 지원에 점점 더 많이 의존하고 있습니다. 그러나 기존 하네스 및 그 사용 방식은 특정 환경에 맞춤화되어 프롬프트, 휴리스틱 또는 시스템별 규칙을 통해 제어되는 경우가 많아 에이전트와 하네스 조율을 공동으로 최적화하기 어렵습니다. 본 논문에서는 환경별 하네스 구현을 공유 정책 인터페이스와 분리하는 통합 프레임워크인 EvoHarness-RL을 제안합니다. EvoHarness-RL은 외부 지원을 신념, 진행, 경험(Belief, Progress, and Experience, BPE) 작업 공간으로 구성하고, 이 상태에 접근 및 업데이트하기 위한 네 가지 간결한 하네스 행동을 노출합니다. 먼저 BPE를 추론 시점의 스캐폴드로 인스턴스화한 다음, 지도형 초기화에 이어 비용 인식 GRPO를 통해 하네스 조율을 학습 가능하도록 만듭니다. 이종의 장기 작업 전반에 걸쳐 EvoHarness-Base는 프론티어 모델의 평균 성공률을 10.0%p 향상시키며, EvoHarness-RL은 가장 강력한 오픈소스 기준선보다 8.5%p 뛰어난 성능을 보임과 동시에 더 높은 강화학습(RL) 롤아웃 효율성과 보지 못한 작업에 대한 더 강력한 일반화 성능을 보여줍니다. 분석 결과, 정책의 역량이 향상됨에 따라 학습을 통해 에이전트가 잦은 스캐폴드 사용에서 선별적이고 환경 의존적인 하네스 접근으로 점진적으로 전환되는 반면, 외부 작업 공간은 작업 실행과 일반화를 더 잘 지원하기 위해 지속적으로 진화하고 개선되는 것으로 나타났습니다. 종합적으로 이러한 결과는 장기 작업 에이전트가 외부 스캐폴딩 자체뿐만 아니라 비용 인식 정책의 일부로서 외부 지원과 조율하는 방법과 시점을 학습함으로써 이점을 얻는다는 점을 보여줍니다.

arXiv:2608.04265v2cs.MA

사이버-물리 시스템에서 대규모 언어 모델(LLM) 에이전트를 위한 계획 수립 전략의 전략적 평가

Strategic Evaluation of Planning Strategies for LLM Agents in Cyber-Physical Systems

대규모 언어 모델(LLM) 에이전트(agent) 평가는 일반적으로 작업 성공 여부나 명시된 계획과의 일치도를 측정합니다. 그러나 전략적 사이버-물리 시스템(cyber-physical systems)에서는 자율적 참여자가 반응하고 물리적 제약이 결과를 제한한 후에도 아키텍처가 적절성을 유지해야 합니다. 본 연구에서는 계획 유도 제어 궤적(planning-induced control trajectories), 즉 실행 아키텍처를 전략적 반응 및 물리적 결과와 연결하는 정렬된 계획 연산 및 지시문으로 구성된 통제된 벤치마크(benchmark)를 제시합니다. 코드화된 네 가지 실행기(사전 정의형, 순차형, 계층형, 탐색형)는 방사형 피더(radial feeder)에서 40개 프로슈머(prosumer)의 수요 반응을 제어합니다. LLM은 타입화된 정책을 선언하거나 조언하며 통신을 중재하고, 일정, 기본 프로슈머 동역학, 확률적 행동, 조류 계산(power flow)은 명시적 코드로 유지됩니다. 쌍체 강제 모드 반사실적 분석(paired forced-mode counterfactuals), 정확한 프롬프트(prompt) 캐싱, 별도의 무작위 스트림을 사용한 공통 응답 표본 추출, 비평자 격리, 이벤트 수준 실행 가능성을 통해 비교를 정밀하게 격리합니다. 이 피더에서 진행한 Llama-3.3-70B 모델(model) 실험은 세 가지 특성을 구별합니다. 첫째, 지정된 목표 하에서 5개의 모든 기준선(baseline) 시드에 걸쳐 강제 탐색이 오라클(oracle)로 나타났습니다. 둘째, 주입된 목표 대체(objective substitution)는 모드 일치도를 1.0으로 유지하면서도 누적 전압 부족을 2.68배 증가시켰습니다. 셋째, 3회의 반복 시드를 사용한 144개 시나리오, 576개 에피소드 요인 뱅크는 사전 정의형, 순차형, 탐색형에서 나온 실행 가능한 오라클을 포함합니다. 사전에 지정된 스트레스 홀드아웃 릿지(stress-held-out ridge)는 평균 리그렛(regret) 90.7을 기록했으며, 고정된 순차 방식 대비 관찰된 이점을 보이지 않았습니다. 사후 제약 인식 분석(post-hoc constraint-aware analysis)을 통해 리그렛을 29.0으로 줄였으나, 단순 마감 규칙도 28.7을 달성하므로 이러한 개선이 학습 상의 우위를 입증하지는 못합니다. 전원 실행 가능 절제 연구(all-feasible ablation) 역시 고정 탐색 방식보다 개선되지 않았습니다. 이는 시뮬레이션 내부의 기술적 비교입니다. 5개 모델, 300개 선언으로 확장한 실험에서는 백본 간 물리적 순위가 아닌 인터페이스 동작을 테스트하며, 공유 엔드포인트의 지연 시간 꼬리 분포(latency tails)는 확률적 실시간 실행 가능성의 필요성을 시사합니다.

arXiv:2607.26368v3cs.CL

기업 공시 텍스트의 세분화된 불일치 분류 진단

Diagnosing Fine-Grained Inconsistency Classification in Financial Disclosure Text

기업 공시에는 수치, 시간, 참조, 사실 및 정책 측면의 불일치가 포함될 수 있으며, 이를 진단하기 위해서는 각기 다른 증거와 추론이 필요합니다. 본 연구에서는 충돌이 포함된 것으로 알려진 구절이 주어졌을 때 11개 범주 중에서 그 유형을 식별하는 것을 목표로 하는 세분화된 불일치 분류(classification)를 다룹니다. 합성 SBID-FD 벤치마크(benchmark)의 고정 스냅샷을 사용하여, 동일한 평가(evaluation) 프로토콜 하에서 동결(frozen) 및 파인튜닝(fine-tuning)된 인코더, 증거 기반 증강 분류기, 프롬프트 기반 대규모 언어 모델(LLM), LoRA 적용 생성 모델을 비교합니다. 그 결과, 태스크별 적응(task-specific adaptation)은 동결된 표현에 비해 큰 성능 향상을 가져왔으며, 파인튜닝된 300M 크기의 인코더는 훨씬 더 큰 프롬프트 기반 및 적응 모델들과 견줄 만한 경쟁력 있는 성능을 보였습니다. 나아가 충돌하는 주장을 국소화(localizing)하는 것이 분류 성능을 향상시키는지 확인하기 위해 예측 구간(predicted-span), 참조 구간(reference-span), 방해 구간(distractor-span) 조건을 매칭하여 분석했습니다. 실험 결과, 자동 추출된 증거가 추가적인 신호를 제공하지만 참조 구간을 통해 얻는 이점의 일부만을 회복하는 것으로 나타났습니다. 클래스별 분석 및 혼동 행렬 분석 결과, 일부 불일치 유형은 국소화 품질에 특히 민감한 반면, 다른 유형은 관련 증거가 제공되더라도 여전히 분류하기 어렵다는 점이 밝혀졌습니다. 이러한 발견은 증거 국소화와 세분화된 유형 구분이 서로 구분되는 과제임을 보여주며, 소형 지도학습 인코더가 이 작업에서 강력한 베이스라인임을 시사합니다.

arXiv:2607.20791v2cs.AI

거절 게이트 디코딩: 고온 샘플링 환경에서 거절 동작 보존

Refusal-Gated Decoding: Preserving Refusal Behavior Under High-Temperature Sampling

절단 기반(truncation-based) 샘플링의 최근 발전은 신경망 텍스트 퇴화와 같은 고온(high-temperature) 샘플링의 단점을 완화하는 데 기여하여, 일관성을 해치지 않으면서도 더 높은 다양성을 확보할 수 있게 했습니다. 그러나 높은 온도를 통해 토큰 확률 분포의 엔트로피를 높이는 것은 모델의 거절(refusal) 반응을 약화시키는 것으로도 나타났습니다. 대규모 언어 모델(LLM)의 거절 동작을 유지하기 위한 기존 해결책들은 모델 자체의 거절 결정을 별도의 안전성 분류기로 대체하거나, 모든 프롬프트에 대해 출력 분포를 변경합니다. 이러한 한계를 해결하기 위해, 본 연구에서는 최소한의 추가 지연 시간(latency)만을 유발하면서 고온에서도 모델의 그리디 디코딩(greedy decoding) 거절 반응을 보존하고 다른 모든 프롬프트는 원래의 정확한 직접 고온 분포로부터 샘플링하는 효율적인 순차적 디코딩 접근 방식인 거절 게이트 디코딩(Refusal-Gated Decoding, RGD)을 제안합니다. RGD는 프롬프트의 KV 캐시를 재사용하는 짧은 그리디 프로브(probe)를 실행하고, 학습된 거절 접두사 집합과 일치하지 않게 되는 즉시 조기 종료합니다. 프로브가 호환성을 유지하면 그리디 응답을 반환하고, 그렇지 않으면 프로브를 폐기하고 원래 프롬프트로부터 샘플링을 진행합니다. T=2.0에서 7개 모델과 3개 벤치마크 데이터셋에 걸쳐 평가한 결과, RGD는 다양한 온도 조건에서 비거절(non-refusal) 요청의 중앙값 기준 요청당 지연 시간을 2.2~4.3%만 증가시키면서 직접 샘플링 시 91.9%였던 그리디 거절 보존율을 평균 98.3%로 향상시켰습니다. 다수의 그리디 비거절 응답을 그리디 디코딩으로 라우팅하는 프롬프트 필터링(prompt-screening) 베이스라인과 달리, RGD는 그리디 비거절 응답의 98.1% 이상을 변경되지 않은 고온 샘플링으로 유지하여 모델 본래의 고온 샘플링 동작을 보존합니다. 또한 본 연구에서는 유사한 프롬프트 라우팅 정확도를 유지하면서 이러한 지연 시간 오버헤드를 최대 0.5%까지 낮추는 잔차 스트림(residual-stream) 변형 방식도 제안합니다. 본 연구는 고온 샘플링을 통해 더 높은 다양성을 확보하더라도 모델의 거절 동작이 훼손될 필요가 없음을 보여줍니다.

arXiv:2607.20471v2cs.AI

대규모 언어 모델의 개인화 역량 벤치마킹

Benchmarking the Personalization Capabilities of Large Language Models

개인화(personalization)는 전통적으로 발신자와 수신자가 나뉘는 양자 간 문제입니다. 발신자는 전달할 내용을 선택하고, 독립적인 목표를 가진 수신자는 행동 여부를 결정합니다. 동일한 분석 제품을 제안하는 영업 사원은 병원에는 HIPAA 준수를 강조하고 소매업체에는 실시간 보고 기능을 내세우며, 상대에 따라 서로 다른 논리가 통할 것으로 기대합니다. 기존의 대규모 언어 모델(LLM) 개인화 벤치마크는 더 좁은 범위의 단자 간(one-party) 속성을 측정합니다. 즉, RLHF가 어시스턴트를 해당 사용자에 정렬(alignment)시키는 것처럼 발신자와 수신자가 동일하여 출력이 서비스를 제공하는 사용자의 선호도와 일치하는지만을 평가합니다. 양자 간 사례는 특정 콘텐츠와 관찰된 수신자의 행동을 연결하는 정답(ground truth)이 필요하기 때문에 자동으로 연구하기가 더 어렵습니다. 세일즈 아웃리치는 이를 제공합니다. 한 잠재 고객을 위해 작성된 메시지와 그것이 답장, 통화 또는 거래 성사로 이어졌는지의 기록이 남아있기 때문입니다. 본 논문에서는 대규모 양자 간 생성형 개인화를 벤치마킹하기 위한 프레임워크인 SDR-Arena와 22개 산업군, 3,500개 기업에 걸친 50,000건의 고객 성공 사례로 구성된 공개 말뭉치인 SDR-Bench를 소개합니다. 결과 이전의 정보만 주어진 상태에서, 에이전트(agent)는 거래를 성사시킨 논리를 재구성해야 하며 가중 너깃 재현율(recall) 지표(WCS)로 평가됩니다. 최고 성능의 모델(model)인 Claude Sonnet 4.6은 55.8%의 WCS를 기록하여 성공적인 콘텐츠의 절반만 복원함을 보여주었으며, 이는 비용이 많이 드는 딥 리서치 파이프라인으로도 좁혀지지 않고 여러 모델 제품군 전반에서 관찰되는 정체 구간입니다. 제거 연구(ablation) 결과 그 원인은 추론이 아닌 검색(retrieval)에 있음을 확인했습니다. 인간 연구원이 수집할 법한 사실 정보가 주어지면 모델 성능은 크게 향상되지만, 웹 검색만으로는 이를 거의 찾아내지 못했습니다. 전문 SDR을 대상으로 한 두 가지 연구는 본 지표를 뒷받침합니다. 생성된 피치 중 수정 없이 사용 가능한 수준으로 평가된 것은 48%에 불과했으며, WCS는 모델 출력과 무관하게 독립적으로 작성된 전문가 전략에 대한 평가와 일관된 모델 순위를 산출했습니다.

arXiv:2607.04332v2cs.LG

대규모 언어 모델의 신뢰도 보정을 위한 강화학습 보상 함수의 효과에 관하여

On the effectiveness of reward functions in reinforcement learning for confidence calibration of large language models

본 논문에서는 대규모 언어 모델(LLM)이 추론 정확도를 향상하는 동시에 자신의 신뢰도(confidence)를 언어로 표현하도록 강화학습(RL)을 통해 학습하는 설정을 고려합니다. 본 연구의 보상 체계는 LLM이 언어화한 신뢰도를 보상하기 위해 두 가지 함수를 사용하며, 하나는 정답을 위한 함수이고 다른 하나는 오답을 위한 함수입니다. 이러한 체계가 부실하게 설계될 경우, LLM이 신뢰도를 보정받기 위해 오답을 내도록 유도할 수 있으며, 저자들은 이 현상을 '신뢰도 보상 해킹(confidence reward hacking)'이라고 명명합니다. 저자들은 해킹 불가능한(non-hackable) 신뢰도 보상 체계라는 개념을 도입하고 이를 구축하는 방법을 제시합니다. 또한 해킹 가능한 보상 체계에서는 실제 데이터셋에서 선택적 신뢰도 보상 해킹이 발생할 수 있는 반면, 해킹 불가능한 보상 체계는 해킹에 견고함을 보입니다. 마지막으로 저자들은 이러한 체계 중 일부를 RL 기반 신뢰도 보정을 위한 과잉 신뢰-과소 신뢰 스펙트럼상에 배치하고, 스펙트럼 내 다른 체계에 비해 해당 보정 편향을 나타내는 경향이 있음을 실험적으로 입증합니다. 실험 코드는 https://anonymous.4open.science/r/rl-confidence-calibration-9ED4/README.md 에서 확인할 수 있습니다.

arXiv:2606.21399v2cs.AI

보정이 곧 제어는 아니다: LLM 에이전트 감독을 위한 개입 가치

Calibration Is Not Control: Intervention Value for LLM-Agent Oversight

런타임 감독은 종종 대규모 언어 모델(LLM) 에이전트의 보정된 실패 점수가 임계값을 초과할 때 개입합니다. 그러나 동일한 실패 위험을 가진 상태라도 개입이 도움이 되는지 여부는 다를 수 있습니다. 엄격하게 증가하는 재보정은 임계값 정책 클래스를 유지하므로 이러한 차이를 복원할 수 없습니다. 본 연구는 개입 결정을 내리는 데 요약 정보가 충분한 조건과 그렇지 않을 때 손실되는 효용을 공식화합니다. 동일한 상태에서 에이전트의 접두 문맥(prefix)을 재실행하고 대안적 행동을 실행하여 그 결과를 평가합니다. ALFWorld에서 특징(feature), 추정기, 라우터를 고정한 채 지도 대상을 실패에서 개입 효용으로 변경하면 후회(regret)가 0.51에서 0.09로 감소하며, 에피소드 중간 접두 문맥으로 구성된 두 번째 테스트 세트에서도 이러한 개선이 재현됩니다. 실제로 배포 가능한 개입 학습 스칼라 역시 테스트 결과에 따라 선택된 실패 점수 임계값 규칙보다 우수한 성능을 보입니다. 고정된 더 강력한 모델로의 이관을 적용한 300개의 미확인 태스크 온라인 환경에서, 동결된 접두 문맥 특징 제어기는 실패 기반 라우팅에 비해 이관 빈도는 줄이고(35% 대 48%) 성공률은 높여(45% 대 37%) 효용을 개선합니다. 개선 폭은 개입 가치에 따라 달라지며 두 가지 추론 벤치마크에서는 작게 나타납니다. 감독 신호는 예측 품질뿐만 아니라 그것이 뒷받침하는 결정을 기준으로 평가되어야 합니다. 코드는 https://github.com/bennidict23/calibration-is-not-control 에서 확인할 수 있습니다.

arXiv:2606.19317v3cs.LG

프로그램 합성을 통한 어텐션 설명

Explaining Attention with Program Synthesis

해석 가능한 심층 학습(deep learning) 연구의 오랜 목표는 불투명한 신경망 연산을 인간이 이해할 수 있는 기호적 설명으로 대체하는 것입니다. 본 논문에서는 심층 신경망 구성 요소의 동작을 실행 가능한 프로그램으로 근사하는 접근법을 제안합니다. 우리는 트랜스포머(transformer) 언어 모델(language model)의 어텐션(attention) 헤드에 초점을 맞춥니다. 주어진 헤드에 대해, 먼저 무작위로 선택된 학습(training) 예제 집합에서 관련 어텐션 행렬을 계산합니다. 다음으로, 이 행렬들의 요약을 사전학습(pre-training)된 언어 모델에 프롬프트(prompt)로 제공하고, 입력 문장의 텍스트만 주어졌을 때 관련 어텐션 패턴을 재현할 수 있는 일련의 Python 프로그램을 생성하도록 지시합니다. 마지막으로, 최종 프로그램 집합이 홀드아웃(held-out) 입력에 대한 동작을 얼마나 잘 예측하는지에 따라 프로그램들의 순위를 재조정합니다. 우리는 이렇게 생성된 1,000개 미만의 프로그램 집합으로 GPT-2, TinyLlama-1.1B, Llama-3B 내 헤드의 어텐션 패턴을 재현할 수 있음을 입증하며, TinyStories에서 평균 75% 이상의 IoU(Intersection-over-Union) 유사도를 달성함을 보입니다. 나아가, 가장 적합한 프로그램은 모델 동작에 실질적인 영향을 주지 않고 신경망 어텐션 헤드를 대체할 수 있습니다. 세 모델 전체에서 어텐션 헤드의 25%를 프로그램 기반 대리물로 대체하더라도 평균 퍼플렉서티(perplexity) 증가는 16%에 불과하며, 다양한 하위 질의응답 벤치마크(benchmark)에서 성능을 유지합니다. 본 연구는 사람이 읽을 수 있는 실행 가능한 코드를 활용하여 트랜스포머 모델의 어텐션 헤드를 역공학하는 확장 가능한 파이프라인을 제시하며, 신경망 모델의 기호적 투명성을 향한 길을 발전시킵니다.

arXiv:2605.18850v2cs.IR

KadiAssistant: Kadi4Mat 내 정보 검색을 위한 대화형 AI 에이전트

KadiAssistant: A conversational AI Agent for information retrieval in Kadi4Mat

본 논문에서는 Kadi 연구 데이터 에코시스템에 통합된 프라이버시 중심 설계(privacy-by-design) AI 어시스턴트인 KadiAssistant를 소개합니다. 이를 통해 연구자들은 이종의 개인정보 보호에 민감한 연구 데이터로부터 정보를 효율적으로 접근, 집계 및 종합할 수 있습니다. 재료 과학과 같은 학제 간 분야는 고유한 용어와 표준을 가진 학문들을 융합합니다. 이러한 융합(convergence)은 혁신을 촉진하지만, 데이터가 학문, 조직 및 개인에 걸쳐 분산되어 있어 지식을 연결하고 접근하기를 점점 더 어렵게 만듭니다. 예를 들어, 배터리 연구는 전기화학적 측정값, 재료 특성 평가 데이터, 물리 기반 시뮬레이션, 제조 파라미터를 결합하며, 각각 서로 다른 형식, 어휘 및 표준을 사용합니다. Kadi4Mat과 같은 연구 데이터 플랫폼을 통해 이와 같은 이종 데이터를 효율적으로 저장하고 공유하려면 도메인 지식, 기술적 전문성, 메타데이터 스키마 및 인터페이스에 대한 친숙도가 요구됩니다. 연구 데이터는 민감도 측면에서도 다양합니다. 새로 생성된 '웜(warm)' 데이터는 종종 비공개인 반면, 출판된 '콜드(cold)' 데이터는 대개 공개적으로 접근 가능합니다. Kadi 에코시스템은 민감한 데이터에 필요한 세밀한(fine-grained) 접근 제어를 제공합니다. 따라서 Kadi에서 효율적인 정보 검색을 위한 솔루션은 이러한 세밀한 접근 권한을 준수해야 합니다. 정보 검색, 강력한 데이터 프라이버시, 복잡한 접근 제어라는 서로 얽힌 과제를 해결하기 위해, KadiAssistant는 자체 호스팅(self-hosted) 대규모 언어 모델(LLM)과 검색-증강 생성(RAG)에서 영감을 얻은 프라이버시 보존 시맨틱 검색을 결합하여 Kadi의 파일과 레코드 메타데이터에 접근할 수 있도록 합니다. 이를 통해 어시스턴트는 정보를 선별, 집계 및 구조화하여 매우 유익한 답변으로 생성할 수 있습니다. 따라서 KadiAssistant는 용어와 표준 간의 간극을 좁히고, 연구자의 접근 장벽을 낮추며, FAIR 데이터 원칙의 '검색 가능성(Findable)' 요건을 강화합니다.

arXiv:2605.15229v4cs.SE

PBT-Bench: 속성 기반 테스팅 환경에서 AI 에이전트 벤치마킹

PBT-Bench: Benchmarking AI Agents on Property-Based Testing

기존 코드 벤치마크는 에이전트(agent)가 알려진 버그를 재현하는 임의의 테스트를 생성할 수 있는지, 또는 기술된 문제를 해결하는 패치를 생성할 수 있는지를 측정합니다. 그러나 두 방식 모두 속성 기반 테스팅(PBT, property-based testing)의 고유한 역량인 문서로부터 의미론적 불변식(semantic invariant)을 도출하고 무작위 탐색을 통해 위반 사항을 드러낼 수 있을 만큼 정밀한 입력 생성 전략을 구축하는 능력을 분리하여 평가하지는 못합니다. 본 논문에서는 40개의 실제 Python 라이브러리에 걸친 100개의 선별된 속성 기반 테스팅 문제로 구성된 벤치마크인 PBT-Bench를 소개합니다. 각 문제는 기본 전략의 무작위 입력으로는 거의 발생하지 않도록 설계된 하나 이상의 의미론적 버그(총 365개, 문제당 평균 3.65개)를 주입하며, 에이전트는 라이브러리 문서를 읽고 관련 불변식을 식별한 뒤 트리거 영역에 확률 질량을 집중시키는 Hypothesis @given 전략을 명시해야 합니다. 버그는 단일 제약 조건 경계 버그부터 상태를 지닌(stateful) 함수 간 프로토콜 위반에 이르기까지 세 가지 난이도 수준(L1-L3)으로 계층화됩니다. 저자들은 설정당 3회의 독립적인 실행을 통해 두 가지 프롬프트(prompt) 방식(자유형 기준선(baseline) 대비 명시적 Hypothesis 스캐폴딩) 하에서 8개의 최신 대규모 언어 모델(LLM)을 평가합니다. PBT 유도 프롬프트 환경에서 모델 전반의 버그 재현율(recall)은 42.1%에서 83.4% 사이이며, 자유형 기준선 환경에서는 31.4%에서 76.7% 사이를 기록했습니다. Hypothesis 스캐폴딩은 중간 성능 모델을 20%포인트 이상 향상시키지만 최상위 모델에서는 향상 폭이 더 작았으며, 두 가지 예외적인 경우에서는 성능 저하가 나타나 구조화된 프롬프트가 특정 모델의 행동을 보완하기보다 방해할 수 있음을 시사합니다. 가장 까다로운 버그는 모델별로 상이한 것으로 나타났는데, 서로 다른 아키텍처가 서로 다른 문제에서 실패하여 단일 모델로 해결되지 않는 지속적인 격차가 남았습니다. 저자들은 문서 기반 의미론적 추론에 관한 후속 연구를 지원하기 위해 벤치마크, 하네스, 전체 평가 코퍼스를 공개합니다.

arXiv:2604.20658v2cs.CL

협력 프로파일을 통한 과학을 위한 AI 워크플로 내 다중 에이전트 LLM 팀 성능 예측

Cooperative Profiles Predict Multi-Agent LLM Team Performance in AI for Science Workflows

대규모 언어 모델(LLM) 팀으로 구축된 다중 에이전트 시스템은 협력적인 과학적 추론 및 문제 해결을 위해 점점 더 많이 활용되고 있습니다. 이러한 시스템은 협력적 행동이 중요한 GPU나 크레딧 잔여량과 같은 공유 제약 조건 하에서 에이전트 간의 조율을 요구합니다. 행동경제학은 뚜렷한 협력 메커니즘을 분리해내는 다양한 게임 툴킷을 제공하지만, 이러한 정형화된 환경에서의 모델 행동이 실제 협력 과제에서의 성능을 예측할 수 있는지는 아직 밝혀지지 않았습니다. 본 연구에서는 6가지 행동경제학 게임 전반에서 41개의 오픈 가중치 LLM을 벤치마크하고, 게임을 통해 도출된 협력 프로파일이 AI-for-Science 과제에서의 다운스트림 성능을 견고하게 예측함을 보입니다. 이 과제에서는 LLM 에이전트 팀이 공유된 예산 제약 하에 데이터를 협력적으로 분석하고, 모델을 구축하며, 과학 보고서를 작성합니다. 게임에서 효과적으로 조율하고 탐욕적인 전략 대신 승수적 팀 생산에 투자하는 모델은 정확도, 품질, 완전성의 세 가지 결과 전반에서 더 우수한 과학 보고서를 산출합니다. 이러한 연관성은 여러 요인을 통제한 후에도 유지되며, 이는 협력적 성향이 일반적인 능력으로 환원될 수 없는 LLM의 고유하고 측정 가능한 특성임을 나타냅니다. 따라서 우리의 행동 게임 프레임워크는 비용이 많이 드는 다중 에이전트 배포에 앞서 협력 적합성을 선별하기 위한 신속한 진단 도구를 제공합니다.

arXiv:2603.23184v2cs.CL

LLM 정렬을 위한 암시적 피드백 기반 비편향 보상 모델링

Unbiased Reward Modeling from Implicit Feedback for LLM Alignment

인간 피드백 강화학습(RLHF)의 성공에도 불구하고, 기존의 보상 모델링 방법은 주로 명시적 피드백에 크게 의존하므로 수집 비용이 많이 들고 확장이 어렵습니다. 본 연구에서는 클릭, 복사, 건너뛰기와 같은 암시적 사용자 피드백으로부터 보상 모델을 학습하는 암시적 보상 모델링을 연구합니다. 암시적 피드백은 확장 가능하고 비용 효율적이지만 두 가지 주요 과제를 안고 있습니다. 첫째, 명확한 부정 샘플이 부족하여 표준적인 긍정-부정 분류 방법을 적용할 수 없습니다. 둘째, 응답마다 피드백을 유도하는 성향이 서로 달라 명확한 부정 샘플을 더욱 모호하게 만드는 선택 바이어스 문제를 겪습니다. 이러한 문제를 해결하기 위해, 암시적 피드백으로부터 비편향 보상 모델을 학습하는 ImplicitRM을 제안합니다. ImplicitRM은 계층화 모델을 사용하여 학습 샘플을 4개의 잠재 그룹으로 계층화하고, 이론적으로 비편향된 가능도 극대화 목적 함수를 유도함으로써 두 가지 과제를 모두 해결합니다. 다양한 대규모 언어 모델(LLM) 백본 및 벤치마크 데이터셋에 걸친 실험을 통해 ImplicitRM이 암시적 피드백으로부터 정확한 보상 모델을 학습하고 다운스트림 RLHF 태스크의 성능을 향상함을 검증합니다.

arXiv:2603.21276v2cs.LG

데이터 이질성 환경의 모바일 엣지 네트워크에서 연합 전문가 혼합 정렬

Federated Mixture-of-Experts Alignment on Mobile Edge Networks under Data Heterogeneity

모바일 엣지 기기에서 온디바이스 대규모 언어 모델(LLM) 서비스에 대한 수요가 증가함에 따라, 제한된 연산량으로 모델 용량을 확장할 수 있는 전문가 혼합(MoE) 아키텍처의 도입이 촉진되었습니다. MoE 기반 LLM의 미세조정(fine-tuning)은 개인정보에 민감한 로컬 데이터에 의존하므로, 연합 학습(FL)은 원시 데이터를 노출하지 않고 협업 학습을 수행할 수 있는 자연스러운 패러다임을 제공합니다. 그러나 MoE 기반 LLM 미세조정을 FL에 통합하는 것은 클라이언트 간 데이터 이질성으로 인해 발생하는 두 가지 중대한 과제에 직면합니다. (i) 서로 다른 로컬 데이터 분포로 인해 클라이언트마다 상이한 게이팅 선호도를 갖게 되어 직접적인 매개변수 집계 시 누구에게도 맞지 않는 글로벌 게이팅 네트워크가 형성되며, (ii) 동일한 인덱스를 가진 전문가가 기기마다 서로 다른 의미론적 역할을 학습하여 전문가의 의미론적 모호화 및 전문성 저하를 초래합니다. 이러한 문제를 해결하기 위해, 본 논문에서는 라우팅 일관성과 전문가 의미론적 정렬을 공동으로 강제하는 엣지 컴퓨팅 시스템용 연합 집계 정렬 프레임워크인 FedAlign-MoE를 제안합니다. 구체적으로 FedAlign-MoE는 일관성 가중치를 통해 라우팅 분포를 정렬하여 게이팅 동작을 집계하고, 분포 정규화를 통해 로컬 게이팅 네트워크를 최적화함으로써 변별력 있는 로컬 게이팅 선호도를 보존하면서도 클라이언트 간 안정성을 유지합니다. 한편, FedAlign-MoE는 기기 간 동일 인덱스 전문가의 의미론적 일관성을 정량화하고 의미론적으로 정렬된 전문가를 선별적으로 집계하여 안정적이고 전문화된 글로벌 전문가를 보장합니다. 광범위한 실험을 통해 FedAlign-MoE는 최신 벤치마크보다 우수한 성능을 보이며, 경량 연산과 효율적인 통신을 바탕으로 non-IID 연합 환경에서 더 빠른 수렴과 더 높은 정확도를 달성함을 입증합니다.