PyTorchKR Papers

최신 논문

총 2,732편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.19476v1cs.LG

문맥 내 학습(ICL)은 내재적 호기심을 지원할 수 있는가?

Can In-Context Learning Support Intrinsic Curiosity?

효과적인 머신러닝은 데이터를 모델링하는 방법뿐만 아니라 어떤 데이터를 수집할지 선택하는지에도 달려있다. 대규모 시퀀스 모델이 데이터 모델링에 혁명을 일으켰지만, 자동화된 데이터 선택, 즉 "내재적 호기심(intrinsic curiosity)" 문제는 여전히 중요한 과제로 남아 있다. 고전적인 접근 방식은 새로 획득한 관찰이 월드 모델의 예측 능력을 얼마나 향상시키는지를 측정하는 "학습 진행도(learning progress)"를 기반으로 에이전트에게 보상을 제공하여 탐험(exploration)을 유도한다. 그러나 이러한 보상을 평가하는 것은 전통적으로 각 궤적(trajectory) 내에서 비용이 많이 드는 경사하강법(gradient descent) 업데이트의 내부 루프(inner loop)를 요구하므로, 대규모로 적용하기에는 계산적으로 비현실적이다. 본 연구에서는 시퀀스 모델의 창발적 문맥 내 학습(ICL) 능력이 즉각적이고 업데이트가 필요 없는 월드 모델로 작용하여 이 병목 현상을 제거할 수 있는지 조사한다. 구체적으로, 문맥 내 학습기의 예측 오류와 반사실적 맥락 조작만을 사용하여 학습 진행도를 최대화하도록 탐험 정책을 학습시킬 수 있는지 평가한다. 먼저 일반적인 마르코프 결정 과정(MDP)에서 이것이 비편향된 방식으로는 불가능하다는 것을 증명한다. 결과적으로 생성되는 내재적 보상은 실제 학습 진행도 추정에 편향을 주는 잡음 항(nuisance terms) 문제를 겪거나, 문맥 내 학습기의 예측 오류를 사용하여 구현할 수 없다. 반대로, 능동 학습(active learning)과 베이지안 실험 설계(Bayesian Experimental Design)를 포함하는 비시간적 설정의 광범위한 하위 클래스에 대해서는 긍정적인 결과를 증명한다. 여기서 ICL 기반 보상은 실제 학습 진행도를 성공적으로 제한하며 점근적으로 수렴한다. 연속 및 기호 환경에 걸친 통제된 실험을 통해 이론을 검증하며, 본 연구의 ICL 기반 프레임워크가 최적으로 탐험하는 호기심 많은 데이터 수집 정책을 성공적으로 학습시킴을 입증한다.

arXiv:2606.20255v1cs.CL

레지스터 격차: 나이지리아 공적 담론을 위한 의미 지능 프레임워크

The Register Gap: A Meaning Intelligence Framework for Nigerian Public Discourse

우리는 표면적 감정과 진정한 소통 의도를 분리하는 나이지리아 공적 담론을 위한 9차원 주석 및 평가 스키마인 의미 지능 프레임워크(MIF)를 소개합니다. NaijaSenti와 AfriSenti를 포함한 기존 나이지리아 언어 벤치마크는 감정 분류를 3가지 극성 작업(긍정, 부정, 중립)으로 다룹니다. 우리는 나이지리아 담론에서 AI 시스템의 주요 실패 양상이 번역 실패가 아니라 맥락 실패라고 주장합니다. 즉, 화자, 청중, 상황에 따라 동일한 발화가 상반된 화용론적 힘을 가질 수 있기 때문입니다. MIF는 레지스터, 표면적 감정, 진정한 의도, 아이러니, 암호화된 서브텍스트, 위험 등급, 주석자 신뢰도, 화자 감정, 권장 커뮤니케이션 행동이라는 9가지 채점 차원에 걸쳐 이러한 통찰을 구체화합니다. 우리는 표준 영어, 나이지리아 영어, 나이지리아 피진, 코드 혼합 레지스터에 걸친 30개 항목의 보정 데이터셋을 구축하고, 제로샷 및 스키마 정보 제공 프롬프트 조건 하에서 최첨단 언어 모델(Gemini 2.5 Flash)을 평가합니다. 주요 발견은 레지스터 격차입니다. 제로샷 레지스터 분류 정확도는 33.3%이지만, 모델이 문맥 내에서 MIF 스키마를 제공받으면 73.3%(+40 포인트)로 상승합니다. 스키마 정보 제공 프롬프팅 하에서 종합 의미 지능 점수가 5.4 포인트(73.2에서 78.6으로) 증가했으며, 레지스터 식별, 암호화된 서브텍스트 감지(+10 포인트), 전략적 조치 권장(+10.3 포인트)에서 가장 큰 실질적 이득을 보였습니다. 우리는 재현성을 지원하기 위해 프레임워크 사양, 주석 가이드라인, 30개 항목의 공개 보정 세트를 공개하며, 데이터 오염 방지 평가를 위해 비공개 홀드아웃 말뭉치는 유지합니다.

arXiv:2606.19353v1cs.CL

대규모 언어 모델(LLM) 예측 신뢰도의 강인한 측정을 위한 문맥 내 학습(ICL)의 알레아토릭 불확실성 정량화

Quantifying Aleatoric Uncertainty of In-Context Learning for Robust Measure of LLM Prediction Confidence

문맥 내 학습(ICL)은 대규모 언어 모델(LLM)이 몇 가지 예시(demonstration)만으로 새로운 작업에 적응할 수 있게 하지만, 그 신뢰성은 여전히 우려 사항입니다. 예측은 프롬프트 설계와 모델의 문맥 이해 능력에 매우 민감하여, 실패가 데이터 속성에서 비롯되는지 모델의 한계에서 비롯되는지 모호하게 만듭니다. 이 설정에서 불확실성 분해(알레아토릭 불확실성과 에피스테믹 불확실성의 분리)는 특히 중요하지만, 표준 생성 작업을 위해 설계된 기존 방법들은 ICL의 독특한 역학을 포착하지 못합니다. 이를 해결하기 위해 우리는 베이지안 관점과 ICL의 기계론적 해석가능성에 기초한 셀프-함수 벡터(self-function vectors)라는 개념을 도입합니다. 이 벡터들은 문맥 내 프롬프팅(in-context prompting) 중에 학습된 잠재 개념을 모델링하기 위해 내부 모델 표현을 활용하며, 이를 통해 베이지안 프레임워크 내에서 알레아토릭 불확실성을 직접 추정할 수 있게 하고 취약한 입력이나 디코딩 조작에 대한 의존을 피합니다. 확립된 벤치마크와 적절한 평가 프로토콜이 부재하기 때문에, 우리는 또한 데이터를 통제된 방식으로 조작하여 알레아토릭 불확실성을 에피스테믹 불확실성과 정확하게 별도로 정량화할 수 있는 최초의 엄격한 평가 프로토콜을 제안합니다. 개념적 개발을 위해 합성 작업에 기반을 두고 이후 실제 데이터셋으로 확장된 이 새로운 평가 프레임워크를 통해, 우리가 제안한 방법론이 기존의 대안 방법들보다 ICL 하에서 이루어진 LLM 예측의 불확실성을 더 신뢰할 수 있게 측정할 수 있음을 보여줍니다. 더 나아가, 우리는 이것이 환각(hallucination) 감지와 같은 신뢰성 관련 애플리케이션을 위한 실용적인 도구로 사용될 수 있음을 보여줍니다. 우리의 발견은 불확실성의 정량적 관점과 모델 행동에 대한 기계론적 이해를 연결하는 새로운 방향을 제시합니다.

arXiv:2606.19349v1cs.CL

쿼리를 어디에 배치할 것인가? 디코딩 역학을 통한 디퓨전 대규모 언어 모델의 문맥 내 학습에서 위치적 바이어스의 규명 및 완화

Where to Place the Query? Unveiling and Mitigating Positional Bias in In-Context Learning for Diffusion LLMs via Decoding Dynamics

문맥 내 학습(ICL)은 자기회귀(AR) 대규모 언어 모델(LLM)에서 광범위하게 연구되었지만, 디퓨전 대규모 언어 모델(dLLM) 내에서의 메커니즘은 거의 탐구되지 않았습니다. 단방향 인과 마스킹으로 제한된 AR 모델과 달리, dLLM은 본질적으로 양방향 어텐션을 활용하여 쿼리 배치에 대한 광범위한 공간적 유연성을 제공합니다. 불행히도, 현재의 관행은 관습적으로 AR 스타일의 후행 쿼리 템플릿을 계승하며, 종종 구조적 패러다임의 변화를 간과합니다. 본 논문은 쿼리 위치가 실제로 dLLM에서 1차 변수임을 밝히는 포괄적인 분석을 제시합니다. 경험적 분리를 통해, 우리는 위치적 변동성이 예제의 의미적 품질과 동등한 수준으로 생성 품질에 영향을 미침을 입증합니다. 내부적으로, 이러한 위치적 민감도는 어텐션 흐름의 공간적 '최신성 효과(Recency Effect)'와 디코딩 궤적의 작업 의존적 변화에서 기인합니다. 정답 레이블 없이 이러한 불안정성을 완화하기 위해, 우리는 기존의 단일 단계 신뢰도($C_{decoded}$)가 dLLM에서 실패함을 밝혀냅니다. 대신, 우리는 반복적 디코딩 과정을 추적하는 새로운 지표인 평균 신뢰도($\overline{C}$)를 제안합니다. 기초적인 공간적 ICL 베이스라인을 확립함으로써, 우리는 쿼리 배치를 동적으로 최적화하여 이질적인 추론 및 인식 작업 전반에서 오라클 성능에 견고하게 접근하는 학습 없는 적응형 라우팅 전략인 Auto-ICL을 소개합니다.

arXiv:2606.20508v1cs.AI

안전 정렬된 대규모 언어 모델(LLM)은 혼합 준수 데모로부터 무엇을 학습하는가?

What Do Safety-Aligned LLMs Learn From Mixed Compliance Demonstrations?

이전 연구에서 인컨텍스트 데모(in-context demonstrations)가 언어 모델을 탈옥(jailbreak)할 수 있음을 보였지만, 모델이 다른 유형의 준수 데모를 어떻게 해석하는지는 여전히 불분명합니다. 우리는 무해한 준수 데모(무해한 요청, 도움이 되는 응답)와 유해한 준수 데모(유해한 요청, 도움이 되는 응답)를 혼합하고, 데모 구성이 유해한 준수를 어떻게 유도하는지에 대한 세 가지 가설을 테스트하여 이를 연구합니다. 4개의 모델에 걸쳐, 우리는 무해한 데모와 유해한 데모가 상호 교환 가능하지 않다는 것을 발견했습니다: 무해한 데모는 모델에 따라 유해한 준수를 줄이거나 늘릴 수 있습니다. 우리는 또한 선호도 최적화(preference optimization)가 무해한 데모가 유해한 준수를 증가시키는 것을 방지하는 결정적인 학습(training) 단계이며, 데모 순서가 강력한 최신성 바이어스(recency bias)를 보임을 보여줍니다. 또한 모델마다 거부가 인컨텍스트 학습(in-context learning)과 상호작용하는 방식이 다릅니다: 일부는 거부할 때도 데모된 형식을 채택하는 반면, 다른 일부는 거부 시 모든 인컨텍스트 신호를 무시합니다. 종합하면, 이 연구는 데모 기반 탈옥이 작동한다는 것을 보여주는 것을 넘어 그것이 어떻게 작동하는지 특성화합니다: 모델이 준수 데모에서 추출하는 것은 데모 내용, 순서 및 학습 방법론에 따라 달라집니다.

arXiv:2606.20333v1cs.AI

SoftSkill: 문맥 적응을 위한 행동 압축

SoftSkill: Behavioral Compression for Contextual Adaptation

에이전트 스킬은 일반적으로 답변 정책, 증거 사용 습관, 작업 절차를 인코딩하는 자연어 Markdown 파일로 배포됩니다. 이 파일들은 가독성과 이식성이 뛰어나지만 간접적으로 활용됩니다. 각 작업 인스턴스에 대해 동결된 언어 모델은 긴 텍스트 아티팩트를 생성 시점 행동으로 변환해야 합니다. 본 논문은 자연어 스킬이 대신 컴팩트한 연속 문맥 객체를 초기화할 수 있는지, 기본 모델이 동결된 상태에서 학습 가능한 소프트 델타에 의해 정제될 수 있는지 탐구합니다. 우리는 SoftSkill을 제안합니다. 이는 동결된 백본 방법으로, 다음 토큰 예측을 통해 이러한 소프트 스킬을 튜닝하고 추론 시 잠재적 행동 사전(priors)으로 배포합니다. 주요 단일 라운드 설정에서 Qwen3.5-4B 모델의 길이 32 SoftSkill 접두 문맥(prefix)은 스킬 없는 프롬프팅 대비 SearchQA에서 8.3점, LiveMath에서 42.1점, DocVQA에서 1.3점 향상되었습니다. SkillOpt에 비해 SoftSkill은 SearchQA에서 5.2점, LiveMath에서 12.5점 정확도를 향상시키면서, 수백에서 수천 개의 Markdown 스킬 토큰을 소수의 가상 토큰으로 대체했습니다. 우리는 더 어려운 경계 사례로서 에이전트 실행을 추가로 연구합니다. 여기서 희소 궤적(trajectory) 모방은 유용한 신호를 제공하지만 아직 장기 절차적 행동을 견고하게 압축하지는 못합니다. 더 넓게 보면, 결과는 일부 작업 스킬이 추론 시 재해석될 추가 Markdown으로 처리되기보다는, 동결된 모델이 작업에 진입하는 방식에 대한 컴팩트한 잠재 제어로 처리되는 것이 더 낫다는 것을 시사합니다.

arXiv:2606.19509v1cs.AI

LLM은 자신의 무지를 인지하지 못한다: 임상 테이블 데이터에서의 교차 모델 귀속 분석을 통한 인식론적 사각지대 탐지

LLM Doesn't Know What It Doesn't Know: Detecting Epistemic Blind Spots via Cross-Model Attribution Divergence on Clinical Tabular Data

대규모 언어 모델(LLM)은 구조화된 임상 데이터에 점점 더 많이 적용되고 있지만, 이러한 작업에서 자신의 지식 한계를 인식할 수 있는지 여부는 아직 탐구되지 않았습니다. 우리는 구조화된 작업에 대한 인식론적 불확실성을 줄이는 것을 목표로 교차 모델 귀속 분석(attribution divergence)의 관점에서 이 질문을 연구하며, 예측 작업에서 Qwen 2.5 7B와 XGBoost를 귀속 분석을 통해 비교합니다. 네 가지 발견을 보고합니다. 첫째, LLM의 언어화된 신뢰도는 인식론적으로 공허하며, 정확도가 49%인지 75.3%인지에 관계없이 거의 일정한 값(0.856-0.937)을 출력하고, 예측 품질보다는 프롬프트 형식을 따릅니다. 둘째, LLM은 역 난이도 효과(inverse difficulty effect)를 보입니다. XGBoost가 99% 정확할 때 LLM의 정확도는 64.8%로 떨어지지만, XGBoost가 적당히 불확실할 때는 XGBoost와 유사한 성능(73.8% vs 73.1%)을 보입니다. 셋째, 퓨샷(few-shot) 예제와 SHAP에서 파생된 특징(feature) 증거는 직교적이고 초가산적인 개입입니다. 이들은 학습 없이 귀속 불일치 점수(ADS)를 1.54에서 0.38로 줄이고 정확도를 49%에서 75.3%로 향상시킵니다. 넷째, 귀속 분석(attribution divergence) 신호를 사용하여 LLM 신뢰도를 결정하는 교차 모델 보정기(calibrator)는 예상 보정 오차(ECE)를 0.254에서 0.080로 줄이며, 모델 내부에 접근하거나 반복적인 추론(inference)을 요구하지 않으면서 정보가 없는 언어화된 신뢰도를 환자별 신뢰도 추정치로 대체합니다. 우리는 이러한 발견을 구조화된 데이터에서의 LLM에 대한 콜드 스타트 문제(cold start problem)로 프레임화하고, 진정한 인식론적 자기 인식을 향한 경로를 개략적으로 설명합니다.

arXiv:2606.19338v1cs.CV

현재 관찰을 넘어서: 제어 가능한 비마르코프 게임에서의 멀티모달 대규모 언어 모델 평가

Beyond the Current Observation: Evaluating Multimodal Large Language Models in Controllable Non-Markov Games

멀티모달 파운데이션 모델을 폐루프 정책으로 배포하는 것은 점점 더 이상 보이지 않는 관찰에 기반하여 행동을 조건화하는 것을 요구합니다. 그러나 기존 벤치마크는 전체 상태를 노출하거나, 은닉 상태 재구성을 다른 에이전트 기술과 혼동하거나, 에피소드가 종료된 후에만 재현율을 테스트합니다. 우리는 RNG-Bench(재구성 비마르코프 게임)를 소개합니다. 이는 기본 모델이 과거 관찰을 재구성하고 다단계 상호작용 중에 이를 바탕으로 행동하는 능력을 분리하여 평가하도록 설계된 벤치마크 스위트입니다. RNG-Bench는 특정 위치에서 짧게 드러난 카드 식별자를 나중에 재현해야 하는 Matching Pairs와, 자기 중심적 뷰를 공간 맵으로 통합해야 하는 3D Maze라는 두 가지 상호 보완적인 게임을 포함합니다. 두 게임 모두 그리드 크기, 시각적 패턴, 관찰 모달리티의 세 가지 제어 가능한 난이도 축을 가진 통합 하니스 하에서 평가됩니다. 이 벤치마크는 인스턴스 수준의 분산을 제어하기 위한 일대일 대결 프로토콜과, 망각과 잘못된 행동 선택을 분리하는 메모리 갭(Memory Gap) 메트릭을 추가로 도입합니다. 가장 어려운 설정은 에피소드당 약 128K 토큰과 350개의 이미지 입력을 요구하며, 최첨단 MLLM에 의해서도 포화되지 않은 상태로 남아 있습니다. 메모리 갭 분석 결과, 대부분의 잔차 오류는 최적이 아닌 의사결정보다는 이전 관찰의 망각에서 기인하는 것으로 나타났습니다. 마지막으로, 최적 정책 롤아웃과 필터링된 모델 데모에 대해 Qwen3.5-9B를 미세조정하면 RNG-Bench에서의 성능이 향상되고 일반적인 멀티모달 능력을 저하시키지 않으면서 기존 벤치마크로 전이됩니다.

arXiv:2606.18591v1cs.CV

창작 의도와 시각적 품질의 연결: 에이전트 기반 피드백 루프를 활용한 제작자 주도 순환 비디오 생성

Bridging Creative Intent and Visual Quality: Creator-Driven Recurrent Video Generation with Agentic Feedback Loops

생성형 AI는 콘텐츠 제작을 점점 더 쉽게 만들었지만, 많은 AI 생성 비디오는 서사적 일관성과 창작 방향이 부족하며, 이러한 문제는 영상 길이가 길어질수록 더 심각해집니다. 코딩은 신뢰할 수 있는 피드백과 순환적 자기 개선(recurrent self-improvement) 같은 기술의 혜택을 받지만, 비디오 생성은 줄거리, 장면, 서사에 대한 주관적 피드백을 요구하므로, 인간의 창작 방향을 통합하는 접근 방식이 자연스럽게 요구됩니다. 우리는 CHIEF라는 인간-AI 공동 창작(human-AI co-creation) 비디오 생성 프레임워크를 소개합니다. CHIEF는 제작자를 인간 개입형(human-in-the-loop) 반복적 비디오 정제(iterative video refinement) 과정의 중심에 두고, 자동 주관적 피드백을 통해 이를 지원합니다. 제작자는 각 반복(iteration)을 주도하여 자신의 창작 방향을 반영하고, 수정 사항은 특화된 정제 에이전트(refiner agent)가 통합합니다. 피드백 루프는 생성된 비디오를 시청하고 관객 관점에서 주관적 비평을 생성하는 페르소나 조건부 멀티모달 대규모 언어 모델(LLM)에 의해 생성되며, 이는 자기 평가만으로는 포착할 수 없는 피드백을 제공합니다. 제안된 프레임워크의 효과를 검증하기 위해, 우리는 영화 제작 경험이 없는 고등학생 및 대학생과 협력하여 1분짜리 짧은 비디오부터 복잡한 줄거리를 가진 완성된 10분짜리 단편 영화에 이르기까지 다양한 비디오를 제작했습니다.

arXiv:2606.05409v3cs.CV

이걸 여전히 Dax라고 부르시겠습니까? 비전-언어 모델(VLM)과 인간에서의 새로운 시각적 참조

Would you still call this Dax? Novel Visual References in VLMs and Humans

비전-언어 모델(VLMs)은 인간 학습자와 마찬가지로 새로운 시각적 개념에 자주 노출되지만, 노출 후 이들이 새로운 시각적 참조를 언어에 매핑하는 방식, 특히 해당 참조가 사전학습(pre-training)된 이전 지식과 모순될 때의 방식은 거의 탐구되지 않았습니다. 이를 연구하기 위해 우리는 Novel Visual References Dataset (NVRD)을 제시합니다: 이 데이터셋은 시각적 신규성의 다양한 수준에 걸친 90개의 시각적 개념을 아우르는 19,176개의 이미지로 구성되며, 각 이미지는 일반화(generalization)를 탐색하기 위해 원본 객체의 최대 20개의 점진적으로 변형된 버전을 포함합니다. 익숙한 개념의 시각적 증강에 대한 이전 연구와 달리, NVRD는 처음부터 구성된 완전히 새롭고 개방형 자극(stimuli)으로 구성되어 인간이 진정으로 새로운 개념을 접하는 방식을 반영합니다. 우리는 직접적인 인간-모델 비교를 위해 3개의 오픈 소스 및 2개의 폐쇄형 소스 모델과 2,400개의 인간 판단을 함께 평가했으며, 다음을 발견했습니다. (i) 모델은 이전 지식과 모순될 때 문맥 내(in-context)에서 새로운 개념을 학습하는 데 어려움을 겪으며, (ii) 모델과 인간이 시각적 변형(perturbations)에 대해 상관된 민감도를 보이지만, 모델은 유의미하게 과대 일반화(overgeneralize)하여 학습된 레이블을 인간이 거부하는 자극으로까지 확장합니다. 우리는 인간과 기계 모두의 시각적 개념 학습 연구를 위한 말뭉치(corpus) 및 벤치마크(benchmark)로서 NVRD를 제공합니다.

arXiv:2605.15824v2cs.CV

FashionChameleon: 실시간 및 대화형 인간-의류 비디오 맞춤화

FashionChameleon: Towards Real-Time and Interactive Human-Garment Video Customization

인간 중심 비디오 맞춤화, 특히 의류 수준에서는 상당한 상업적 가치를 보여주었습니다. 그러나 기존 접근 방식은 전자상거래 및 콘텐츠 생성과 같은 응용 분야에 필수적인 저지연 및 대화형 의류 제어를 지원할 수 없습니다. 본 논문은 단일 의류 비디오 데이터만을 사용하여 모션 일관성을 유지하면서 대화형 다중 의류 비디오 맞춤화를 달성하는 방법을 연구합니다. 우리는 사용자가 생성 중에 의류를 대화형으로 전환할 수 있는 자기회귀 비디오 생성에서 인간-의류 맞춤화를 위한 실시간 및 대화형 프레임워크인 FashionChameleon을 제시합니다. FashionChameleon은 세 가지 핵심 기술로 구성됩니다: (i) 다중 의류 비디오 데이터에서 학습하는 대신, 단일 참조-의류 쌍에서 문맥 내 학습(In-Context Learning)을 사용하여 교사 모델(Teacher Model)을 학습시킵니다. 이미지-투-비디오 학습 패러다임을 유지하면서 참조 이미지와 의류 이미지 간의 불일치를 강제함으로써, 모델이 단일 의류 전환 중에 일관성을 암묵적으로 보존하도록 유도합니다. (ii) 생성 중 일관성과 효율성을 달성하기 위해, 문맥 내 교사 강제(in-context teacher forcing)로 모델을 파인튜닝하고 그래디언트 재가중 분포 매칭 증류(gradient-reweighted distribution matching distillation)를 통해 외삽 일관성을 개선하는 문맥 내 학습(In-Context Learning)을 통한 스트리밍 증류(Streaming Distillation)를 도입합니다. (iii) 대화형 다중 의류 비디오 맞춤화를 위해 모델을 확장하기 위해, 의류 KV 새로고침, 과거 KV 회수, 참조 KV 분리를 포함하여 의류 전환을 달성하면서 모션 일관성을 유지하는 학습 없는 KV 캐시 재예약(Training-Free KV Cache Rescheduling)을 제안합니다. 우리의 FashionChameleon은 단일 GPU에서 23.8 FPS의 실시간 생성을 달성하여 기존 베이스라인보다 30-180배 더 빠르면서도, 독특하게 대화형 맞춤화와 일관된 롱 비디오 외삽을 지원합니다.

arXiv:2606.18910v1cs.LG

REVES: 테스트 타임 스케일링을 위한 수정 및 검증 증대 학습

REVES: REvision and VErification--Augmented Training for Test-Time Scaling

순차적 수정 기반 테스트 타임 스케일링(TTS)과 단일 샷 사후학습 목표의 불일치를 해소하기 위해, REVES는 성공적 복구 궤적의 근접 오답을 분리된 수정·검증 프롬프트로 바꾸며 온라인 데이터 증강과 정책 최적화를 번갈아 수행하는 2단계 프레임워크를 제안한다. LiveCodeBench에서 RL 기준선 대비 +6.5점, 표준 멀티턴 학습 대비 +4.0점을 기록했고, 4B 모델로 circle packing SOTA와 동등한 성능을 적은 롤아웃으로 달성하며 수학·퍼즐 과제에서도 수정 능력 향상을 확인했다.

arXiv:2606.18837v1cs.MA

Skill-MAS: 자동 멀티 에이전트 시스템을 위한 진화하는 메타 스킬

Skill-MAS: Evolving Meta-Skill for Automatic Multi-Agent Systems

대규모 언어 모델(LLM) 기반 자동 멀티 에이전트 시스템(MAS) 생성은 복잡한 작업을 해결하는 중요한 분야가 되었습니다. 그러나 기존 방법들은 모델 능력과 경험 보존 사이의 딜레마에 직면해 있습니다. 추론 시간(Inference-time) MAS는 동결된 최신 LLM을 활용하지만 과거 경험으로부터 학습하지 않고 동일한 탐색을 반복합니다. 반대로, 학습 시간(Training-time) MAS는 그래디언트 업데이트를 통해 경험을 내재화하지만 더 작은 모델의 낮은 능력 한계에 제약을 받으며, 대규모 최신 LLM로 확장하기 어렵습니다. 이러한 격차를 해소하기 위해, 우리는 높은 수준의 오케스트레이션 능력을 진화 가능한 메타 스킬(Meta-Skill)로 개념화하여 경험 보존을 파라미터 업데이트로부터 분리하는 새로운 제3의 경로인 Skill-MAS를 제안합니다. Skill-MAS는 폐루프 최적화 루프를 통해 이 아키텍처 지식을 정제합니다: (1) 멀티 트래젝터리 롤아웃(Multi-Trajectory Rollout)은 현재 메타 스킬 하에서 각 작업에 대한 행동 분포를 샘플링합니다; (2) 선택적 반성(Selective Reflection)은 우선 순위 작업을 적응적으로 선택하고 계층적 대비 분석을 적용하여 체계적 경험을 일반화 가능한 전략 수준의 원칙으로 증류합니다. 4개의 복잡한 벤치마크와 4개의 서로 다른 LLM에 걸친 광범위한 실험을 통해 Skill-MAS가 상당한 성능 향상을 달성할 뿐만 아니라 우수한 비용 대비 성능 트레이드오프(cost-performance trade-off)를 유지함을 입증했습니다. 추가 분석 결과, 진화된 메타 스킬들은 매우 견고하며 보지 못한 작업과 다른 LLM 간에 강력한 전이 가능성을 보임을 밝혀냈습니다.

arXiv:2606.18812v1cs.LG

강화학습 파운데이션 모델은 이미 존재해야 마땅하다

Reinforcement Learning Foundation Models Should Already Be A Thing

강화학습(RL)은 테이블 파운데이션 모델과 달리 합성 MDP 사전 설계를 중심에 둔 문맥 내 RL(in-context RL) 연구가 비어 있다는 점을 지적하고, MDP의 고정 크기 테이블 충분 통계량을 Graph Attention Network(GAT)와 정책 헤드로 학습하는 RL 파운데이션 모델 의제를 제안한다. 합성 MDP만으로 학습한 모델은 작업별 튜닝 없이 홀드아웃 테이블 벤치마크를 문맥 내(in-context)로 온라인·오프라인 모두 해결하며, 온라인에서는 UCB-VI·테이블 Q-learning보다 적은 에피소드로, 오프라인에서는 VI-LCB와 대등한 성능을 보인다.

arXiv:2606.18677v1cs.LG

스트림 학습에서 표 형식 파운데이션 모델을 위한 제한된 컨텍스트 관리

Bounded Context Management for Tabular Foundation Models on Stream Learning

표 형식 스트림 학습에서 테이블 파운데이션 모델(TFM)은 모델 상태 갱신 대신 제한된 라벨 컨텍스트를 문맥 내(in-context)로 관리해야 하며, 핵심 과제는 어떤 과거 예시를 유지할지 결정하는 것이다. 미래 정보 관점에서 최근성·불확실성·중복성을 반영한 CURE는 엔트로피 게이트 입장과 중복 인식 퇴출로 구현되었고, 7개 스트림에서 고전적 스트림 학습기 대비 최대 27.0% 상대 성능 향상과 여러 TFM 백본에서 정책 변형 중 1위를 달성했다.

arXiv:2606.18831v1cs.CL

보상 엔지니어링을 넘어서: 긴 컨텍스트 강화학습을 위한 데이터 레시피

Beyond Reward Engineering: A Data Recipe for Long-Context Reinforcement Learning

긴 컨텍스트 강화학습(RL)에서 보상 엔지니어링(reward engineering)에 치우친 기존 연구와 달리, 검색·다중 증거 종합·추론 세 작업군을 아우르는 약 1.4만 건의 데이터 레시피와 최소한의 결과 기반 GRPO만으로 긴 컨텍스트 추론을 크게 향상시킨다. Qwen3-4B/8B/30B-A3B에서 7개 긴 컨텍스트 벤치마크 평균 +7.2/+3.2/+6.4p를 달성하고, 에이전트 튜닝 모델에 적용 시 GAIA +4.8p·BrowseComp +7.0p 개선으로 에이전트(agent) 작업 전이도 입증했다.

arXiv:2606.18620v1cs.CL

BCL: 정보 추출을 위한 베이지안 문맥 내 학습 프레임워크

BCL: Bayesian In-Context Learning Framework for Information Extraction

정보 추출(IE)에서 문맥 내 학습(ICL)은 모델 규모에 따라 성능이 들쭉날쭉하고 체계적 최적화가 부족한 한계가 있어, BCL은 레이블을 의미 단위로 분해한 뒤 파티클 필터링과 베이지안 업데이트로 표현을 반복 정제하는 최적화 프레임워크를 제안한다. 초기화, 관찰, 가중치 업데이트, 리샘플링 네 단계로 시퀀스 라벨링과 관계 분류 모두에 적용 가능하며, 실험에서 기존 접근 대비 상당하고 일관된 성능 개선을 보였다.

arXiv:2606.18448v1cs.CL

VISUALSKILL: 컴퓨터 사용 에이전트를 위한 멀티모달 스킬

VISUALSKILL: Multimodal Skills for Computer-Use Agents

컴퓨터 사용 에이전트(CUA)를 위한 VISUALSKILL은 GUI 상호작용에 맞춰 텍스트와 UI 도표를 함께 담은 계층적 멀티모달 스킬을 애플리케이션별로 구축하고, load_topic MCP 도구로 필요한 주제만 요청 시 불러오게 합니다. 작성 문서와 실제 애플리케이션 UI 탐색을 결합한 2단계 파이프라인으로 만든 VISUALSKILL은 CUA-World와 OSExpert-Eval에서 스킬 없는 기준선(0.303) 대비 평균 0.456으로 15.3포인트, 동일 소스의 텍스트 전용 스킬(0.373) 대비 8.3포인트 향상을 보였습니다.

arXiv:2606.18256v1cs.HC

인간-AI 관계(Rapport) 향상을 위한 동적 내집단 페르소나 생성

Dynamic In-Group Persona Generation for Enhancing Human-AI Rapport

사용자의 주요 관심사와 개인 맥락을 파악한 뒤, 유사한 고민을 공유하지만 배경과 서사는 다른 합성 내집단 페르소나를 동적으로 생성해 LLM 에이전트에 조건 부여하는 In-group Persona Agent(IPA)를 제안한다. 인간 대상 실험에서 페르소나 없는 에이전트와 최소 자기 노출 기준선 대비 지각된 관계, 개인적 관련성, 사용자 경험, 특히 참여도가 유의미하게 향상되었다.

arXiv:2606.18033v1cs.CL

영어가 최고의 교사가 아닐 때: 언어 간 문맥 내 학습에서의 소스 언어 효과

When English Isn't the Best Teacher: Source Language Effects in Cross-Lingual In-Context Learning

다국어 자연어 처리(NLP)에서의 언어 간 전이(cross-lingual transfer)는 지도 미세조정(supervised fine-tuning) 맥락에서 널리 탐구되어 왔으며, 여기서는 데이터 가용성 및 언어적 유사성과 같은 요소가 전이 품질을 크게 결정합니다. 이 분야가 퓨샷 문맥 내 학습(In-Context Learning, ICL)으로 전환됨에 따라, 미세조정(fine-tuning)에서 얻은 통찰이 변화 없이 그대로 적용될 것이라고 종종 추정됩니다. 그러나 이 가정은 엄밀하게 평가되지 않았으며, 언어 간 ICL을 위해 소스 언어(source language)를 선택하는 방법에 대한 문제는 여전히 열려 있습니다. 우리는 7개 작업, 6개 모델, 유형론적으로 다양한 언어 집합에 걸친 ICL 내 언어 간 전이에 대한 광범위한 실증적 연구를 수행했습니다. 또한, 우리는 언어 간 ICL의 생성 작업(generative tasks)에 대한 주요 장애물인 언어 혼동(language confusion)을 추가로 분석합니다. 우리의 결과는 기존의 미세조정 기반 기대가 ICL 환경에서 일관되게 적용되지 않음을 보여주며, 소스 언어를 효과적으로 선택하기 위한 대안적인 휴리스틱(heuristics)을 제시합니다.