PyTorchKR Papers

최신 논문

총 11,108편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.22695v1cs.AI

PANOPTICON: LLM 컨텍스트 윈도우 내 프라이버시 유출 조사를 위한 PII 기반 자연주의적 출력 토큰 집합

PANOPTICON: A PII-Based Assemblage of Naturalistic Output Tokens for Investigating Privacy Leakage Within LLM Context Window

대규모 언어 모델(LLM)은 이전에 본 적 없는 작업을 완수하기 위해 인간 언어를 일반화할 수 있어 광범위한 배포로 이어진다. 이러한 자동화는 분명한 유용성을 제공하지만, 이러한 작업을 완료하려면 종종 개인 식별 정보(PII), 즉 어떤 개인을 고유하게 식별하는 정보 문자열의 삽입이 필요하며, 이는 프라이버시 우려를 야기한다. 그러나 윤리적 이유로 공개적이고 실제적인 PII 데이터셋의 큐레이션이 방해되어 왔다. 적절한 데이터셋이 없으면 프라이버시 위험을 정량화하기 어렵다. 따라서 우리는 PANOPTICON 파이프라인과 데이터셋을 제안한다. 이 데이터셋은 Meta의 Llama-3.1-8B-Instruct 모델로 생성되었으며, 모델의 컨텍스트 윈도우를 위해 의도된 67,718개의 프롬프트를 포함하고, 이는 9,674개의 공개적으로 이용 가능한 합성 사용자 프로필에서 파생된 PII 구간을 담고 있다. 생성된 데이터셋의 어휘 다양성과 S-BERT 다양성을 측정하여 현실성을 평가한다. 마지막으로, 프롬프트 역전 공격(PIA)을 이해하는 데 PANOPTICON 데이터의 유용성을 보여주는 사례 연구를 제시한다. PANOPTICON은 따라서 사적 코퍼스에 대한 PIA 연구를 위한 최초의 벤치마크 데이터셋으로 부상하며, 향후 LLM 프라이버시 연구를 위한 기반을 제공한다.

arXiv:2607.22694v1cs.AI

베이지안 반복 패널티: 자기회귀 언어 모델에서 어텐션 붕괴를 역전하기 위한 원칙적 인접-조건부 프레임워크

Bayesian Repetition Penalty: A Principled Adjacent-Conditional Framework for Reversing Attention Collapse in Autoregressive Language Models

자기회귀 언어 모델에서의 어텐션 붕괴(attention collapse) — 모델이 자기 강화적 attractor에 갇히는 반복적 토큰 루프로 나타나는 — 는 기존 디코딩 시점 휴리스틱이 근본 원인을 해결하지 못하는 지속적인 병리 현상이다. 우리는 인접 조건부 확률 구성을 통해 토큰의 관측 빈도와 코퍼스 사전 분포를 비교함으로써, 붕괴된 생성 패턴에서 발생하는 비정상적 신뢰도를 패널티하거나 보상하는 원칙적 프레임워크를 제시한다. 결과적으로 얻어지는 자기 정규화(self-normalising) 패널티 비율 $R=f(m,n,p)/f(np,n,p)$는 임의의 표준화가 필요 없으며, 근사 오차가 없는 폐형식(closed-form) 로짓 오프셋을 허용한다. 이 보정은 손실 그래디언트와 분리되며, 지수 이동 평균(exponential moving average)을 통해 고정된 출력층 바이어스에 누적되어, 표준 학습 파이프라인에 침습적인 수정 없이 이미 붕괴된 모델에 대한 수리 메커니즘으로 배포할 수 있게 한다. 1.5B 매개변수 모델에 대한 실험적 검증은 고정 바이어스 메커니즘이 이미 붕괴된 attractor에 갇힌 모델을 구출할 수 있음을 보여주며, 생성 품질을 유지하면서 2-gram 반복을 0.073에서 거의 0으로 줄인다.

arXiv:2607.22692v1cs.AI

생성형 AI 정신 건강 지원을 위한 위험 거버넌스: 다중 턴 안전 아키텍처

Risk Governance for Generative AI Mental Health Support: A Multi-Turn Safety Architecture

대규모 언어 모델(LLM)은 진화하는 정신 건강 위험을 안전하게 거버넌스할 메커니즘이 부족함에도 불구하고 정서적 지원에 점점 더 많이 사용되고 있다. 기존 안전 접근법은 주로 위험을 탐지하지만, 대화적 위험이 전개됨에 따라 모델이 어떻게 응답할지 형성하는 데는 거의 관여하지 않는다. 우리는 다중 턴 정신 건강 상호작용을 위해 맥락적 위험 탐지, 추론 기반 검증, 프로토콜 기반 응답 생성을 결합한 모델 불가지론적 안전 거버넌스 아키텍처를 개발했다. 실제 세계 정신 건강 서사에 기반한 합성 대화를 사용하여 아키텍처의 성능을 평가했으며, GPT-5-chat과 Qwen3.5-27B로 테스트한 결과 높은 위험 탐지 성능(특이도: 0.85 (95%CI: 0.78;0.91), 민감도: 0.92 (95%CI: 0.88;0.95))을 달성하고, 친밀감과 유대감을 유지하면서 임상의가 선호하는 에스컬레이션 응답을 25.6--59.2pp 증가시켰다. 성능은 대화 길이에 걸쳐 안정적으로 유지되었으며, 독점 모델과 오픈소스 모델 모두에서 일반화되었다. 이러한 결과는 임상적으로 근거한 안전 거버넌스가 위험 탐지를 넘어 LLM이 진화하는 정신 건강 위험을 관리하는 방식을 개선할 수 있음을 보여주며, 모델 전반에 걸친 더 안전한 배포를 위한 확장 가능한 프레임워크를 제공한다.

arXiv:2607.22691v1cs.AI

HiLLTS: 지속 가능한 교통을 위한 제로샷 계층적 LLM 기반 교통 신호 제어

HiLLTS: Zero-Shot Hierarchical LLM-Guided Traffic Signal Control for Sustainable Transportation

도시 교통 혼잡은 연료 소비, 온실가스 배출, 통근자 지연을 크게 증가시켜 현대 도시에서 상당한 경제적 손실과 환경 피해를 초래한다. 고정 시간 스케줄링, 감응형 제어, 강화학습(RL) 기반 방법과 같은 전통적인 교통 신호 제어 전략은 서로 다른 수준의 적응성을 제공하지만, RL 기반 방법은 네트워크나 수요 체제 간 전이 시 광범위한 재학습, 신중한 보상 설계, 상당한 시뮬레이션 데이터를 필요로 할 수 있다. 이러한 과제를 해결하기 위해, 중앙 조정 에이전트, 구역 층, 다수의 클러스터 수준 교차로 에이전트로 구성된 계층적 3층 아키텍처를 사용하는 LLM 기반 교통 신호 제어 프레임워크인 HiLLTS를 제안한다. 실험 결과는 혼잡 및 환경 성능 모두에서 일관된 개선을 보여준다. 각 시나리오에서 가장 강력한 비-LLM 기준선과 비교했을 때, HiLLTS는 저혼잡 시나리오에서 평균 대기 시간을 36.73% 감소시키고 고혼잡 시나리오에서 14.71% 감소시키며, 평균 CO2 배출량을 각각 7.87% 및 8.57% 감소시킨다. 더 약한 기준선 대비 더 큰 이득이 관찰된다: 저혼잡 조건에서 HiLLTS는 Fixed-Time 제어 대비 배출량 최대 18.00%, 대기 시간 62.07% 감소를 달성하고, 고혼잡 조건에서는 Max Pressure 대비 배출량 최대 28.89%, 대기 시간 40.36% 감소가 관찰된다. 절제 연구는 규칙 기반 제어보다 LLM 기반 조정의 기여를 추가로 검증한다

arXiv:2607.22690v1cs.AI

LazyMem: 효율적인 장기 에이전트 메모리를 위한 광범위 검색과 선택적 구성

LazyMem: Retrieve Broadly, Construct Selectively for Efficient Long-Term Agent Memory

장기 메모리는 LLM 에이전트가 과거 상호작용을 재사용하게 하지만, 원시 대화 기록은 장황하고 정보 밀도가 낮다. 광범위한 검색은 근거 커버리지를 높이지만 하류 추론을 노이즈로 압도한다. 쓰기 시점 압축은 노이즈를 줄이지만 미래 쿼리에 필요할 수 있는 세부 정보를 되돌릴 수 없이 버린다. 우리는 LazyMem을 제안한다. 이는 모든 메모리 구성을 쿼리 시점으로 미룸으로써 이 딜레마를 우회한다. 경량 4B 모델이 겹치는 병렬 윈도우에서 검색된 후보 풀을 처리하며, 쿼리와 관련된 내용만 선택적으로 유지하고 압축한다. 이 모델은 지도 미세조정 후, 선택 정확도를 측정하는 규칙 기반 행동 신호와 출처 충실성 및 쿼리 유용성을 측정하는 LLM 판정 품질 신호를 결합한 형식 게이트 복합 보상을 사용한 그룹 기반 강화학습으로 학습된다. LongMemEval 벤치마크에서 LazyMem-4B는 213개의 메모리 토큰만으로 LLM 판정 정확도 0.85를 달성하며, 검색 전용 방식 대비 68.7배 적은 토큰을 사용하고, 대상 도메인 학습 없이 LoCoMo(0.68)로 일반화되며, 이전 쿼리 시점 기준선 대비 평균 지연 시간을 줄인다. 32B 변형은 0.93에 도달하여 집계 중심 질문 유형에서 oracle-context 참조를 능가한다. 본 연구와 관련된 코드는 https://github.com/allacnobug/LazyMem 에서 공개되어 있다.

arXiv:2607.22688v1cs.AI

Co-Harness: LLM 에이전트를 위한 하네스와 모델 가중치의 공동 진화

Co-Harness: Co-Evolving Harnesses and Model Weights for LLM Agents

자동화된 AI 연구를 위한 사후 학습 에이전트는 모델 파라미터뿐 아니라, 연구 궤적이 생성·평가·학습되는 방식을 형성하는 런타임 하네스(runtime harness)도 최적화해야 한다. 기존 파이프라인은 프롬프트, 도구, 스킬, 미들웨어, 메모리를 포함한 고정 하네스 아래에서 모델을 학습하는 경우가 일반적이며, 데이터 생성 과정은 최적화 목표 밖에 둔다. 이는 모델 업데이트와 궤적 품질을 결정하는 정적 스캐폴딩(static scaffolding) 사이의 불일치를 야기한다. 우리는 사후 학습 동안 에이전트 하네스와 모델 파라미터를 공동으로 최적화하는 프레임워크인 Co-Harness를 제안한다. Co-Harness는 하네스 최적화와 모델 최적화를 교대로 수행한다. LLM 기반 HarnessCritic은 실패한 궤적을 분석하고, 하네스 수준의 실패 모드를 식별하며, 검증된 국소 업데이트(local updates)를 제안한다. 그다음 모델은 개선된 하네스가 생성한 고품질 궤적에 대해 파인튜닝(fine-tuning)되며, 효과적인 스캐폴딩을 모델 파라미터로 지식 증류(distillation)한다. 200시간 이상의 자율 사례 연구는 Co-Harness가 시스템 충돌에서 복구하고, 추론 효율을 개선하며, 인간 개입 없이 앙상블 전략을 발견할 수 있음을 추가로 보여준다. 이 결과는 고정 하네스 사후 학습을 넘어 에이전트를 개선하는 효과적인 방법으로 하네스와 모델의 공동 최적화가 있음을 시사한다.

arXiv:2607.22676v1cs.AI

LLM 과제 적응이 정렬을 어떻게 재형성하는가: 행동 및 표현 드리프트의 다차원 연구

How LLM Task-Adaptation Reshapes Alignment: A Multi-dimensional Study of Behavioral and Representational Drift

사후 학습은 대규모 언어 모델(LLM)을 하위 과제에 적응시키는 핵심 메커니즘이다. 선행 연구는 과제 적응이 모델의 기존 정렬, 특히 안전성 행동을 변경할 수 있음을 시사하지만, 정렬 도메인 전반에 걸친 그 광범위한 영향은 여전히 잘 이해되지 않는다. 우리는 지도 미세조정(SFT), KL 정규화 지도 미세조정, 검증 가능한 보상을 이용한 강화학습(RLVR)을 포함한 대표적인 과제 적응 방법을 체계적으로 평가하여 이 공백을 해소한다. 평가는 안전성, 사실성, 입장 안정성, 사회적 해로, 제어 가능성, 지시 따르기 능력(instructability)의 6개 핵심 도메인에 걸친 15가지 정렬 측면을 아우른다. 결과는 사후 학습이 정렬을 균일하게 재형성하지 않음을 보여준다. RLVR은 과제 성능을 향상시키면서 비교적 작지만 0이 아닌, 지표별 변화를 유발하는 반면, SFT는 도메인 전반에 걸쳐 훨씬 더 큰 정렬 드리프트를 초래한다. KL 정규화는 이 효과를 완화한다. 더 강한 참조 모델 앵커링은 기준선으로부터의 정렬 드리프트를 줄이지만, KL-SFT는 정렬 보존 면에서 여전히 RLVR에 미치지 못한다. 표현 수준 분석은 정렬 관련 표현의 변화가 행동적 드리프트를 따라간다는 점에서 이 패턴을 더욱 뒷받침한다. 종합하면, 이러한 결과는 과제 적응이 단순한 역량 향상 단계가 아니라 그 자체로 정렬 개입임을 보여주며, 다차원 정렬 평가를 사후 학습 파이프라인의 표준 구성 요소로 삼을 필요성을 제기한다.

arXiv:2607.22662v1cs.AI

CuraWeb: 웹 규모 사전학습 데이터의 품질, 중복, 다양성 공동 최적화

CuraWeb: Joint Optimization of Quality, Redundancy, and Diversity for Web-Scale Pretraining Data

FineWeb-Edu, DCLM과 같이 고도로 선별적인 필터를 통해 큐레이션된 오픈 웹 코퍼스는 대규모 언어 모델(LLM) 사전학습 데이터의 핵심을 구성하며 LLM 성능을 크게 향상시켜 왔다. 그러나 이러한 파이프라인은 일반적으로 단일 최적화 목표에 의존하며, 이는 필연적으로 분포적 다양성을 좁히고 롱테일 지식을 소외시켜 데이터 커버리지를 제한하고 오픈 웹의 광범위한 잠재력을 충분히 활용하지 못하게 한다. 이 한계를 해결하기 위해, 우리는 선형 가지치기에서 품질, 중복, 다양성의 공동 최적화로 전환하는 새로운 큐레이션 패러다임을 제안한다. 이 프레임워크는 이중 트랙 정제(규칙 기반 및 모델 기반)와 하이브리드 중복 제거(n-gram 및 의미적)를 결합하고, 다목적 샘플러를 사용하여 정보적 품질과 분포적 폭을 균형 있게 조절한다. Common Crawl에 이 프레임워크를 적용하여 2T 토큰 규모의 영어 코퍼스인 CuraWeb을 구축한다. 기존 자원과 달리 CuraWeb은 향상된 다양성과 최소한의 중복으로 보다 전체적인 데이터 분포를 복원함으로써 산업 수준의 데이터 큐레이션 표준을 확립하고, 다양한 도메인에 걸쳐 롱테일 지식의 더 넓은 커버리지를 달성한다. 3B 규모에서의 실험적 평가는 CuraWeb이 최신 베이스라인을 크게 능가하며, 특히 지식 집약적 및 추론 과제에서 광범위한 벤치마크 전반에 걸쳐 평균 1.8%의 성능 향상을 달성함을 보여준다.

arXiv:2607.22661v1cs.AI

TRE: 확산 언어 모델을 위한 학습 없는 환각 탐지

TRE: Training-Free Hallucination Detection for Diffusion Language Models

확산 대규모 언어 모델(D-LLM)은 최근 주목을 받고 있으나, 환각(hallucination) 문제로 인해 신뢰성이 크게 저해된다. 기존 D-LLM 환각 탐지 접근법은 주로 학습 기반 패러다임을 따르며, 데이터 기반 학습을 통해 탐지기를 최적화한다. 이러한 의존은 도메인 및 모델 간 일반화 가능성을 제한할 뿐만 아니라 추가적인 학습 비용과 배포 부담도 초래한다. 이러한 한계를 해결하기 위해, 우리는 D-LLM을 위한 학습 없는 환각 탐지 지표인 TRE를 제안한다. TRE는 매개변수가 없고 단일 실행(single-run) 지표로, 탐지기 학습이나 반복 샘플링 없이 단일 생성의 엔트로피 신호로부터 환각 위험을 직접 추정한다. TRE는 D-LLM 디코딩 과정에서 공간적·시간적 차원 모두를 따라 엔트로피 신호를 추출한다. 토큰 수준의 공간적 관점에서, 우리는 불확실성을 가장 잘 드러내는 정보 담체인 토큰에 초점을 맞추며, 불확실성이 적극적으로 확정되는 지점을 포착한다. 확산 단계 수준의 시간적 관점에서, 우리는 후반 단계 엔트로피의 지배성을 실증적으로 확인하고, 이를 간단한 선형 가중치 방식으로 집계하여 TRE를 얻는다. 다양한 D-LLM과 QA 데이터셋에 대한 광범위한 실험은 TRE가 경쟁력 있는 성능을 달성하면서 강한 일반화 가능성, 효율성, 견고성을 갖춤을 보여준다.

arXiv:2607.22658v1cs.AI

StanceBench: 음성 기반 오디오 LLM의 대인적 태도 평가 벤치마크

StanceBench: A Benchmark for Audio LLM-Based Interpersonal Stance Evaluation from Speech

음성-대-음성 대화 모델은 사회적 의도를 전달하기 위해 운율(prosody)과 상호작용적 뉘앙스에 점점 더 의존하고 있지만, 이러한 단서에 대한 벤치마크는 여전히 제한적이다. 본 연구는 대화 음성에서 대인적 태도를 측정하고 오디오를 처리할 수 있는 LLM을 자동 심사자로 평가하는 벤치마크인 StanceBench를 제안한다. Seamless Interaction 코퍼스를 사용하여, StanceBench는 (1) 역할 프롬프트(role-prompt) 극(poles)을 통해 9개의 태도 차원을 정의하고, (2) 단일 화자 및 상호작용 기반 평가를 표준화하며, (3) LLM-as-a-judge의 견고성, 바이어스, 및 태도 추론을 보고한다. 평가된 태도들 중 공감(empathy)과 공손함(politeness)이 가장 쉽다. 따뜻함(warmth)과 단호함(assertiveness)은 긍정성 편향/비대칭(positivity skew/asymmetry)과 함께 중간 정도로 구분 가능하다. 정직함(honesty)은 가장 어렵고 프롬프트 순서 바이어스가 높게 나타나며, 이는 턴 간 증거가 필요하다는 점과 일치한다. 주의(attentiveness)는 구분 가능하지만 인간 판단과의 일치도는 낮다. 상호작용 태도는 더 맥락에 민감하며, 임계값 간격과 높은 분산이 있고, 특히 갈등 조절(conflict regulation)에서 그렇다.

arXiv:2607.22655v1cs.AI

EventOD: LLM 기반 의미론적 변조를 통한 이벤트 인식 OD 흐름 생성

EventOD: Event-Aware OD Flow Generation via LLM-Guided Semantic Modulation

파괴적 이벤트(disruptive events) 상황에서 출발지-목적지(OD) 흐름을 추정하는 것은 재난 대응과 도시 회복력(urban resilience)에 중요하다. 일상적인 이동성(routine mobility)으로 학습된 기존 딥 OD 모델은 극단적 이벤트가 지역 기능과 인구 활동을 급격히 바꿀 때 성능이 저하되는 경우가 많으며, 이벤트마다 새로운 생성기를 재학습하는 것은 이벤트 시점 감독(event-time supervision)이 제한된 상황에서는 비현실적이다. 우리는 구조화된 이벤트 의미론(structured event semantics)을 사용하여 사전학습된 OD 생성기를 조향하는 이벤트 적응형 OD 생성 프레임워크인 EventOD를 제안한다. EventOD는 먼저 대규모 언어 모델(LLM)을 사용하여 거친 이벤트 관측(coarse event observations)으로부터 지역 수준의 기능적·인구통계적 제어 벡터(functional and demographic control vectors)를 추론한다. 그다음 AlphaNet과 BetaNet이라는 두 개의 경량 적응 모듈을 학습하여 이러한 의미론적 변화(semantic shifts)의 크기를 보정하고, 감독이 희박한(sparse supervision) 시나리오를 위해 검색-증강(RAG) 폴백 경로를 추가로 도입한다. 그 결과 얻어진 이벤트 조건화(event-conditioned) 특징은 입력 수준 변조(input-level modulation)를 통해 사전학습된 그래프 확산(graph diffusion) OD 모델에 주입되어, 생성기 파라미터를 갱신하지 않고도 이벤트 인식 적응을 가능하게 한다. 미국 카운티 전역의 허리케인 및 팬데믹으로 인한 이동성에 대한 실험에서 EventOD는 강력한 베이스라인 대비 재구성 정확도(reconstruction accuracy)와 분포적 충실도(distributional fidelity) 모두를 지속적으로 개선함을 보여준다. 소스 코드는 https://anonymous.4open.science/r/EventOD-5C11/ 에서 제공된다.

arXiv:2607.22653v1cs.AI

언어 모델은 자기 자신으로 수렴하는가? 텍스트 이완으로서의 재귀적 자기 정제

Do Language Models Converge to Themselves? Recursive Self-Refinement as Textual Relaxation

대규모 언어 모델(LLM)은 초안을 동일 모델이 반복적으로 수정하는 재귀적 정제 워크플로에서 점점 더 많이 사용되고 있다. 사용이 늘어나고 있음에도 이러한 워크플로의 장기 역학은 여전히 잘 이해되지 않는다. 반복적 정제는 출력을 무한히 개선해 나가는가, 아니면 안정적인 텍스트 형태로 수렴하는가? 본 연구는 반복적인 LLM 수정이 텍스트를 모델이 선호하는 소프트 고정점(soft fixed-point) 영역으로 이끄는 동역학적 과정으로서 재귀적 자기 정제를 분석한다. GPT-5.5를 사용해 기본 온도(default-temperature) 디코딩과 결정론적 디코딩 모두에서 ICML 2025 초록 50편에 대한 10단계 정제 궤적을 생성하고, 추가로 ICML 2020 초록 15편을 평가한다. 정규화된 편집 거리, 정확·근사 고정점, 단어 수 안정성, 지수적 이완(exponential relaxation), 외부 LLM-as-a-judge 평가를 분석한다. 모든 설정에서 정제 궤적은 빠르게 포화된다. 대부분의 편집은 처음 몇 번의 반복 안에서 이루어지며, 이후 궤적은 표면 수준의 미세한 변화만 남기는 소프트 고정점 영역에 진입한다. 결정론적 디코딩은 정확한 고정점에 더 일찍 도달하고 기본 온도 디코딩보다 잔여 변동이 더 작지만, 둘 다 보편적인 근사 수렴을 달성한다. 평균 편집 크기는 일관된 지수적 이완 패턴을 따르며, 이는 개방형 최적화가 아니라 모델이 선호하는 텍스트 평형으로의 수렴을 시사한다. 외부 평가에 따르면 수렴된 초록은 기술적 의미를 보존하면서 명확성, 간결성, 과학적 문체가 개선된다. 이러한 결과는 LLM 자기 정제에 대한 동역학 시스템 관점을 뒷받침하며, 편집 크기 포화에 기반한 실용적 중단 기준을 제시한다.

arXiv:2607.22652v1cs.AI

KG2Code: 실행 가능한 코드를 통한 지식 그래프와 대규모 언어 모델 연계 질의응답

KG2Code: Bridging Knowledge Graphs and Large Language Models via Executable Code for Question Answering

최근 연구에서는 하위 지식 집약적(knowledge-intensive) 작업, 특히 지식 그래프 질의응답(KGQA)에서의 성능을 향상시키기 위해 지식 그래프(KG)와 대규모 언어 모델(LLM)의 통합을 탐구해 왔다. 기존 접근법은 주로 검색-증강 생성(RAG) 기반, 에이전트(agent) 기반, SPARQL 기반 방법을 통해 LLM과 KG를 결합한다. 이러한 방법들은 주목할 만한 성과를 거두었지만, 구조적 정보 손실, 부정확한 추론, 제한된 유연성 및 일반화 등 여러 한계를 여전히 겪고 있다. 이러한 과제를 해결하기 위해, 본 논문은 지식 그래프를 코드 기반 표현으로 변환하여 구조적 의미를 보존하면서 현대 LLM의 코드 인식 사전학습(code-aware pretraining)과 자연스럽게 정렬되는 새로운 접근법인 KG2Code를 제안한다. KG2Code를 기반으로, KG2Code-QA를 KGQA를 코드 생성 작업으로 공식화하는 KGQA 프레임워크로 추가로 소개한다. 이 공식화는 검증 가능한 추론 trace와 실행 가능한 코드의 생성을 가능하게 하여, 환각(hallucination)의 영향을 실질적으로 완화한다. 또한 KG2Code-QA에서 오픈소스 LLM을 효과적으로 학습(training)하기 위한 대규모 고품질 코드 코퍼스를 구축하는 자동화 파이프라인을 개발하였다. 학습 후, LLM은 제로샷(zero-shot) 시나리오에서 KGQA를 수행할 수 있다. 광범위한 실험을 통해 제안된 접근법이 KGQA에 있어 기존 KG 강화 LLM 방법들을 크게 능가하며, 보지 못한 KG에 대해서도 강한 일반화를 보임을 입증하였다. 코드와 데이터는 Github에서 제공된다.

arXiv:2607.22651v1cs.AI

ARdena: 실시간 LLM 에이전트의 시나리오 기반 제어

ARdena: Scenario-driven control of real-time LLM agents

대규모 언어 모델(LLM)은 점점 더 유능한 대화형 에이전트를 가능하게 했지만, 실시간 상호작용 환경에서 그 행동을 안정적으로 제어하는 것은 여전히 중요한 과제로 남아 있다. 기존 접근법은 종종 모델 미세조정이나 정렬(alignment) 절차에 의존하는데, 이는 변화하는 상호작용 요구사항에 적응하기 어렵다. 이 논문은 계층적 시나리오 기반 LLM 제어를 소개하며, 이는 구조화된 프롬프팅을 통해 런타임 행동 제어를 가능하게 하는 프레임워크이다. 지속적 컨텍스트와 시나리오별 제약을 결합함으로써, 이 접근법은 기본 모델을 변경하지 않고도 상호작용 중에 에이전트 행동을 수정할 수 있게 한다. 이 프레임워크는 ARDena에 구현되었으며, ARDena는 음성 상호작용, 시각적 지각, 도구 사용, 아바타 기반 응답 생성을 통합한 실시간 멀티모달 체화 에이전트(embodied agent)이다. 제안된 접근법은 제어 효과, 응답 지연 시간, 운영 안정성 측면에서 평가되었다. 결과는 시나리오 정의만으로도 안정적인 실시간 운영을 유지하면서 상당히 다른 상호작용 행동을 만들어낼 수 있음을 보여주며, LLM 에이전트 제어를 위한 시나리오 기반 프롬프팅의 효과를 부각한다.

arXiv:2607.22649v1cs.AI

STAIF: 복잡한 지시 따르기를 위한 단계별 최적화

STAIF: A Stage-wise Optimization for Complex Instruction Following

여러 명시적 제약을 포함한 복잡한 지시를 따르는 것은 대규모 언어 모델(LLM)에게 여전히 근본적인 과제이다. DPO와 같은 기존 정렬(alignment) 방법은 전체적인 보상 신호를 최적화하여, 특히 분포 외(out-of-distribution) 또는 다중 제약 설정에서 개별 제약의 엄격한 충족을 종종 과소평가한다. 본 논문에서는 주관적(soft) 제약의 정렬과 객관적으로 검증 가능한(hard) 제약의 최적화를 분리하는 단계별 최적화 프레임워크인 STAIF를 제안한다. 1단계에서는 다중 부정 샘플을 활용한 선호 최적화를 적용하여 soft 제약에 대한 민감도를 높이고, 2단계에서는 검증 가능 보상 강화학습(RLVR)을 적용하여 hard 제약의 엄격한 준수를 강제한다. 이 방법을 뒷받침하기 위해 영어와 중국어 이중언어의 고품질 데이터셋인 STAINSTRUCT를 구축하였으며, 이는 약 31,000개의 복잡한 다중 제약 지시로 구성된다. 광범위한 분석을 통해 STAIF 설계를 검증하였으며, 강력한 베이스라인 대비 대표 벤치마크에서 최첨단 성능과 진정한 일반화를 보였다.

arXiv:2607.22648v1cs.AI

PTStore (Prefix Tensor Store): 고처리량 추론 서빙을 위한 분산 접두 캐싱 및 복제

PTStore (Prefix Tensor Store): Distributed Prefix Caching and Replication for High Throughput Inference Serving

콘텐츠 전송 네트워크(CDN)의 클라이언트 캐싱 설계에서 영감을 받아, PTStore는 재사용 가능한 KV 캐시 접두 문맥을 형성하는 인기 텐서를 분산하고 복제한다. 이 접두 문맥은 최신(state-of-the-art) 접근법들이 추론 가속에 사용하는 핵심 기법이다. 이를 통해 KV 캐시 접근 지연을 줄이고, 인기 텐서를 보유한 서버에 비례하지 않게 많은 요청이 집중되어 발생하는 부하 불균형을 완화한다. 또한 탈중앙화 덕분에 PTStore는 대규모 언어 모델(LLM) 추론을 위한 KV 캐시 크기를 수배 이상 확장할 수 있다. 그 결과 PTStore는 서로 다른 노드와 GPU에 걸쳐 메모리를 집계하지 않아 KV 캐시를 재생성해야 하는 현재 베이스라인 대비, 긴 구절 Q&A 데이터셋에서 추론을 5~6배 더 효율적으로 수행할 수 있다.

arXiv:2607.22646v1cs.AI

사전학습 LLM에서 알고리즘 추출: Hidden Markov Model 사례

Extracting Algorithms in Pre-trained LLMs: A Case on Hidden Markov Models

대규모 언어 모델(LLM)은 문맥 내 학습(ICL)을 통해 Hidden Markov Model(HMM)로부터 다음 관측값을 예측하는 놀라운 능력을 보여주지만, 이러한 능력의 기반이 되는 알고리즘은 아직 확정되지 않았다. 선행 연구에서는 여러 후보를 제안했으나 합의에 이르지 못했고, 어느 것도 모델의 내부 활성화에 근거하지 않았다. 우리는 3단계 파이프라인으로 이 공백을 메운다. 먼저, LLM의 행동을 후보 알고리즘 모음과 실증적으로 비교하여 후보 공간을 세 클래스로 좁혔다. 다만 단일 클래스가 모든 HMM 설정과 시퀀스 길이에 걸친 LLM 행동을 설명하지는 못한다. 둘째, 세 클래스 간의 이론적 연관성을 도출하고 각각이 트랜스포머에 의해 문맥 내에서 어떻게 구현될 수 있는지 보여주며, 소규모 학습된 트랜스포머에서 해당 구성을 검증한다. 셋째, 사전학습 LLM으로 돌아가 Principal Activations Probe(PAP)를 제안한다. PAP는 모델 활성화에서 알고리즘적 신호를 분리하는 층별 프로빙 및 개입 방법이다. PAP는 모델 예측을 인과적으로 유도하는 저차원 선형 표현을 밝히며, 실증적 ICL 성능을 추적한다. PAP는 또한 이러한 표현이 기저 HMM 체제의 속성에 따라 어떻게 변화하는지를 밝히며, 서로 다른 계산 단계가 서로 다른 층에 국한됨을 보여준다. 종합하면, 우리 결과는 사전학습 LLM의 문맥 내 행동을 기저 내부 메커니즘과 연결하고, LLM이 HMM에서 ICL을 수행하는 방식에 대한 이해를 발전시킨다.

arXiv:2607.22642v1cs.AI

CRAFT: 스키마를 학습하고 계획을 실행

CRAFT: Learn the Schema, Execute the Plan

기업용 코딩 에이전트는 자연어 분석 요청을 독점 API, 스키마, 지표 정의 위에서 실행 가능한 코드로 변환한다. 그러나 각 프롬프트에 포괄적인 스키마 및 도구 문서를 주입하는 지배적인 배포 패턴은 추론 오버헤드를 증가시키고, 스키마 진화를 복잡하게 하며, 다중 턴 분석에서의 신뢰성을 저하시킨다. 우리는 대신 사후 학습을 통해 안정적인 스키마 지식과 도구 사용 행동을 습득할 수 있는지, 동시에 프로덕션 대면 분석에 필요한 일관성을 유지할 수 있는지 조사한다. 우리는 스키마 기반 코딩 에이전트를 위한 2단계 사후 학습 레시피인 CRAFT를 제안한다. 첫째, 스키마 제거 PLAN 지도 미세조정은 포괄적인 프롬프트 시점 스키마 주입 없이 검증된 궤적로부터 도메인 구조화 계획과 실행 가능한 행동을 학습한다. 둘째, 실행 형태 강화학습은 도구 선택, 코드 품질, 계획-코드 일관성, 실패한 실행으로부터의 복구를 위해 정책을 정렬한다. 학습 궤적은 실행 검증, 데이터 무결성 검사, LLM 판사 추론 감사를 결합한 Tri-Gate 필터를 통해 선별된다. 우리는 광고 분석에서의 계획된 롤아웃을 위해 CRAFT를 평가하며, 캠페인 성과 분석, 지표 드릴다운, 엔티티 수준 성과 분석, 다중 턴 분석 정제를 다룬다. 기업 평가 환경은 에이전트 대면 도구 표면으로 베타 API를 통합하며, 25개의 스키마 연결 핵심 엔티티와 30개의 에이전트형 워크플로를 포괄한다. 스키마 과다 주입 기준선 대비 CRAFT는 복합 Agent Score를 +9.6 pp, 일관성을 +4.1 pp, 다중 턴 일관성을 +4.2 pp 향상시키며, 입력 토큰 부담을 약 9배, 스키마 발견 루프를 최대 5배 감소시킨다. 우리는 또한 배포 트레이드오프, 보상 형성 한계, 기업 환경에서 다중 턴 도구 사용 강화학습에 필요한 학습 인프라 확장을 보고한다.

arXiv:2607.22634v1cs.AI

PRESTO: 확산 추측 디코딩을 위한 접두 문맥 정렬 트리 드래프팅

PRESTO: Prefix-Aligned Tree Drafting for Diffusion Speculative Decoding

확산 대규모 언어 모델(dLLM)은 토큰을 병렬로 생성하는 자기회귀(AR) LLM의 유망한 대안으로 부상했다. 이는 추측 디코딩(SD)의 드래프트 모델로 효과적이며, 단일 순전파로 드래프트 토큰 블록 전체를 생성할 수 있다. 그러나 기존 확산 기반 드래프팅 방법은 dLLM이 여러 위치에서 다수의 후보 토큰을 출력하여 디코딩 경로의 큰 조합 공간을 유발함에도 불구하고 선형 드래프팅에 의존한다. 결과적으로 수용 길이와 디코딩 효율이 제한된다. 이 다중 후보 구조를 활용하기 위해, 우리는 확산 드래프터에 트리 기반 드래프팅을 적용하여 다양한 후보 경로의 탐험을 가능하게 한다. 그러나 순진한 트리 드래프팅은 최적이 아님을 확인했다. 확산 marginal은 접두 문맥 맹목적(prefix-blind)이어서 접두 문맥 기반 AR 검증과 불일치하며, 신뢰할 수 없는 경로 순위를 초래한다. 우리는 PRESTO를 제안한다. 이는 확산 드래프터에 트리 기반 드래프팅을 확장하면서, 접두 문맥 정렬 점수(PREfix-aligned Scoring)와 확산 추측 디코딩을 위한 우선순위 기반 트리 탐색(priority-based Tree search for diffusion speculative decOding)을 통해 확산 드래프트 신뢰도와 접두 문맥 기반 AR 검증 간의 근본적 불일치를 해소하는 원칙적 프레임워크이다. PRESTO의 핵심 원칙은 (1) 후보 순위가 AR 검증의 접두 문맥 기반 특성과 정렬되어야 하며, (2) 트리 구성이 검증 잠재력이 높은 후보 경로를 우선하여 수용 길이를 극대화해야 한다는 것이다. 광범위한 실험에서 PRESTO는 최신 전용 확산 드래프터 SD에서 평균 최대 $1.5\times$의 엔드투엔드 처리량 가속을, 다양한 벤치마크에서 자기 추측(self-speculative) 확산 LLM에서 평균 $1.12\times$를 달성했다.

arXiv:2607.22633v1cs.AI

교훈으로부터의 진화: 연산별 표 질의응답을 위한 스킬 증강 표 그래프 추론

Evolving from Lessons: Skill-Augmented Table Graph Reasoning for Operation-wise Table Question Answering

표 질의응답(TableQA)은 표를 추론하여 사용자 질의에 답하는 것을 목표로 한다. 기존 연구는 모든 질문을 동일하게 취급하고 전체 정확도만으로 평가하여, LLM이 단순 조회에는 뛰어나지만 집계(aggregation) 및 산술(arithmetic)과 같은 복잡한 연산에는 어려움을 겪는다는 중요한 현실을 가린다. 이러한 격차를 드러내기 위해, 세분화된 질문 분류체계를 갖춘 새로운 연산별 표 질의응답(Operation-wise TableQA) 과제를 도입하고, 평가를 위해 WikiTQ-ow와 TabFact-ow라는 두 데이터셋을 공개한다. 모델링 병목 측면에서, 기존 방법은 표를 선형화된 텍스트로 평탄화하여 고유 구조를 훼손하고 ``lost-in-the-middle'' 문제를 유발하며, 이는 복잡한 행 간 추론의 주요 장벽이 된다. 또한 이들은 일반적으로 처음부터 추론하여, 유사한 연산 간에 공유되는 재사용 가능한 패턴을 간과한다. 이러한 한계를 해결하기 위해, 자기 진화(self-evolving) 구조화 추론을 위한 스킬 증강 표 그래프 추론(Skill-augmented Table Graph Reasoning, SkillTGR) 프레임워크를 제안한다. 구체적으로 SkillTGR는 명시적인 행-열-셀 구조를 갖춘 속성 그래프(attributed graph)로 표를 표현하며, LLM이 그래프 순회(graph traversal) 추론을 위해 증거 서브그래프(evidence subgraph)를 검색하기 위해 동적 체인을 계획하고 실행한다. 이를 바탕으로 SkillTGR는 인지적 휴리스틱(cognitive heuristics) 하에서 추론 궤적(reason trajectories)을 추상적 스킬로 증류하는 계층적 SkillBank를 구축한 뒤, 성공 및 실패 스킬을 모두 하이브리드 검색하여 대조적 증강 표 그래프 추론(contrastive augmented table graph reasoning)을 수행함으로써 지속적인 자기 진화를 가능하게 한다. 광범위한 실험 결과 SkillTGR는 전체적으로 평균 5.91%, 연산별로 6.03%의 성능 향상을 달성했으며, 토큰 소비를 19.76%, 추론 지연 시간을 27.64% 감소시킨다. 코드와 데이터는 논문 게재 후 공개될 예정이다.