PyTorchKR Papers

최신 논문

총 24,820편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 카테고리 구독

arXiv:2611.23810v1cs.AI

멀티모달 에이전트를 위한 연속적 도구 공간 확장 학습

Continual Tool-Space Extension Learning for Multimodal Agents

멀티모달 에이전트는 대체로 자르기, 검색, 코드 실행과 같은 범용 도구에 의존하며, 전문 비전 모델은 도구 공간 밖에 남겨 둔다. 그러나 이러한 모델을 이미 학습된 에이전트에 도입하는 것은 간단하지 않다. 과제는 기존 도구를 사용하는 능력을 유지하면서 각 새 도구를 효율적으로 학습하는 것이다. 본 연구는 효율적인 어댑터 수준의 비용으로 새 도구를 추가하는 연속적 도구 공간 확장 학습 COTEX를 제안한다. COTEX는 두 가지 파라미터 방향 집합을 찾아낸다. 하나는 도구 호출을 유발하여 다중 턴 추론 궤적을 열고, 다른 하나는 어떤 도구가 선택되는지를 결정한다. 새 도구의 어댑터는 직교 제약을 통해 기존 도구 선택에 영향을 주지 않는 호출 방향으로 제한된다. 우리는 또한 전문 모델의 기존 과제별 주석을 검증된 도구 사용 궤적으로 변환하는 프로토콜을 도입한다. 두 가지 대표적 에이전트와 세 가지 전문 도구에 대한 실험에서 열 개의 비전-언어 벤치마크에서 성능 향상을 보였으며, 기존 도구의 성능 하락은 최대 0.3점이었다.

arXiv:2611.23753v1cs.LG

동적 링크 예측에서 타임스탬프 순열의 해석

Interpreting Timestamp Permutations in Dynamic Link Prediction

타임스탬프 순열은 동적 링크 예측기가 시간 정보를 활용하는지 검증하는 데 쓰이지만, 성능 차이는 학습의 변화, 평가 이력의 변화, 또는 둘 모두를 반영할 수 있다. 우리는 교차 진단을 통해 이러한 효과를 분리하고, 변경된 이력이 실제로 예측기의 입력을 바꾸는지를 나타내는 입력 노출도를 측정한다. MOOC에서 이진 교차 엔트로피로 학습한 TCL은 어느 평가 이력에서든 원래 시간 순서로 학습할 때 쌍별 정확도가 약 8점 향상되는 반면, 가중치를 고정하고 이력만 바꾸면 0.03점만 변한다. 이력 대비가 작은 것은 질의의 68.37%에서 입력이 변하지 않고, 대부분의 나머지에서 순위가 안정적이며, 이득과 손실이 상쇄되기 때문이다. 원래 평가 이력 하에서 명시적 시간 인코딩을 억제하면 학습 대비가 8.03점에서 3.64점으로 줄어들며, 이는 여섯 개 시드에서 4.39점의 쌍체 감소(95% 구간 [3.68, 5.09])이다. DyGFormer는 노출도가 더 큼에도 불구하고 두 개 시드에서 학습 대비 22.34점, 이력 대비 0.38점을 보인다. 부분 이력 순열은 명목상의 개입 강도, 입력 변화, 종합 정확도를 추가로 분리한다. 이러한 비교는 단일한 순열 성능 차이를 학습 조건과 모델 반응에 대한 해석 가능한 진술로 바꾸어 주며, 시간적 학습의 내부 메커니즘은 열린 문제로 남긴다.

arXiv:2611.23751v1cs.AI

어디서든 빠르게 생각하기: 임의의 에이전트 워크플로 결정 지점을 위한 단일 System-1

Thinking Fast, Anywhere: One System-1 for the Decision Points of Any Agent Workflow

자율 LLM 에이전트는 중간 행동 다수가 알려진 소수의 후보 중에서 선택하는 것임에도 매 단계마다 대형 모델(System-2)을 호출하여 상당한 비용과 지연을 초래한다. 기존의 이중 시스템 에이전트는 이러한 결정을 경량 System-1 모델에 위임하지만, 환경별로 작성된 워크플로 특화 훅(hook)에 의존한다. 우리는 AnyS1을 제시한다. AnyS1은 선택이 발생하는 지점과 적용 가능한 옵션을 지침에서 자연스럽게 명시하는, 사람이 작성한 절차적 스킬을 공유 가능한 도메인 일반 결정 지점의 원천으로 전환하는 프레임워크이다. 오프라인 단계에서 AnyS1은 1,000개가 넘는 공개 스킬에서 근거가 확보된 열거 가능한 결정을 마이닝하고, 격리된 컨테이너 내에서 실행에 근거한 궤적 상태를 수집하여 Any-DP를 구축하며, 레이블 스무딩으로 보정된 단일 4B 포인터 System-1을 학습한다. 실행 시에는 컴파일된 워크플로가 일상적인 결정을 한 번의 순전파로 처리하고, 신뢰도가 보정된 임계값 아래로 떨어지면 System-2로 되돌린다. 보지 못한 세 가지 벤치마크와 서로 다른 System-2 모델 계열 전반에서, AnyS1은 컴파일되지 않은 System-2 에이전트 대비 작업 신뢰도를 유지하면서 에피소드 비용을 75-91%, 모델 호출 시간을 63-92% 줄이고, 제로샷 임계값 전이에서도 성능을 유지한다.

arXiv:2611.23750v1cs.CL

치환을 넘어서: 확산 언어 모델을 위한 Levenshtein 편집

Beyond Replacement: Levenshtein Editing for Diffusion Language Models

확산 언어 모델(DLM)은 임의 순서의 채우기(infilling)를 가능하게 하는, 자기회귀 모델의 유연한 대안이다. 대부분의 기존 디코딩 방법은 디코딩된 토큰을 고정된 것으로 취급하지만, 일부 최근 모델은 이전에 디코딩된 토큰을 다른 토큰으로 치환하는 방식으로만 수정할 수 있도록 허용하며, 우리는 이 패러다임을 치환 전용 편집(replacement-only editing, ROE)이라 부른다. ROE는 개별 토큰을 교정할 수 있지만, 누락되거나 추가된 토큰으로 인한 시퀀스 이동에는 비효율적이며 오류가 여러 위치에 걸쳐 발생할 때 어려움을 겪는다. 이러한 한계를 해결하기 위해 우리는 ROE를 삽입과 삭제로 확장하여 생성된 시퀀스의 Levenshtein 방식 정제를 가능하게 하는 사후 학습 프레임워크 LED(Levenshtein Editing for Diffusion Language Models)를 제안한다. LED는 두 가지 학습 설계를 사용한다. 첫째, 지도 미세조정 중에 최장 공통 부분 수열 정렬을 이용해 편집 지도 신호를 즉석에서 재구성하여, 수동 주석 레이블 없이 삽입과 삭제를 학습할 수 있게 한다. 둘째, 한 단계의 상태가 다음 단계의 입력이 되는 다단계 학습을 채택하여 모델이 자신의 이전 오류에 노출되고 이를 교정할 수 있게 한다. 160억 파라미터의 LLaDA2.1-Mini Base에 적용했을 때, LED는 신뢰도 기반 디코딩에서 12개 벤치마크 평균 점수를 54.86에서 57.10으로 높이면서 순전파당 토큰 수를 6.14에서 7.05로 늘렸고, 신뢰도 없는 디코딩에서는 평균 점수를 27.52에서 47.19로 높였다. 또한 LED가 편집 없는 임계값 디코딩보다 큰 k에서 더 높은 pass@k를 달성함을 보이며, 이는 생성 다양성의 향상과 신뢰도 유도 없는 DLM의 다양성 잠재력을 보여 준다. LED는 큰 블록 크기에 대한 강건성도 개선하여, 블록 크기 128에서 평균 점수를 36.97에서 51.34로 높였다. 종합하면 이러한 결과는 LED가 DLM에서 더 강건한 자기 교정을 지원함을 시사한다.

arXiv:2611.23749v1cs.AI

구조적 표현을 이용한 LLM 추론 동역학 모델링

Modeling LLM Reasoning Dynamics with Structural Representations

언어 모델의 추론은 지속적인 활동과 국소적 연산이 번갈아 나타난다. 우리는 이러한 시간적 구조가 이후 진행을 어떻게 예측하는지, 그리고 이를 분석하는 데 필요한 계산을 연구한다. T/E/S는 텍스트, 국소 이벤트, 활동 구간(span)을 결합한다. 추론 및 정보 탐색 과제 전반에서, 이벤트와 구간은 76개 평가 그룹 중 Transformer에서 70개, LoRA를 적용한 Qwen에서 74개에서 다음 결과 예측을 개선한다. 구간 지속 시간과 선행 이벤트는 전이와 연관되며, 구간 경계를 넘어 이벤트 이력을 유지하면 예측이 개선된다. 우리는 예산 할당 계수(counting) 질의와 행동 조건부 연속 질의를 정식화하고, 명시적 인코딩 하에서 계수 문제의 난해성을 증명하며, 감당 가능한 의사결정 인증을 위한 조건을 도출한다. 유한 과정 실험에서, 공유된 연속 질량을 상쇄하는 경계는 전체 동적 계획법과 동일한 최적 행동을 복원하면서 평균 추론 CPU 시간을 77.7% 줄인다. 71개의 보류된 HotpotQA 및 MuSiQue 질문에서, 간결한 구조적 관찰자(observer)는 고정된 추론 절차가 CPU 허용량 내에 끝나는지에 대한 예측을 개선하며, Brier 손실은 0.0836에서 0.0756으로 감소한다. 주석 감사(annotation audit)는 해당 관찰자에서 상당한 오류를 확인하였으며, 이로써 이 계산적 결과는 그 특징에 대한 의미적 검증과 구분된다.

arXiv:2611.23732v1cs.SE

신뢰성은 대규모 언어 모델의 사용자별 속성이다

Reliability is a user-specific property of large language models

공개 벤치마크는 대규모 언어 모델(LLM)의 역량 비교를 뒷받침하지만, 사용자는 동일한 상위 순위 모델을 서로 다르게 경험할 수 있다. 우리는 전통적인 소프트웨어 신뢰성에 착안하여, LLM 서비스의 신뢰성은 지정된 사용자와 사용 조건에 대해 평가되어야 한다고 주장한다. 이를 위해서는 역량 점수 이상의 것이 필요하며, 평가 증거가 향후 운영 중 실패에 관한 주장을 뒷받침해야 한다. 우리는 결함을 발견하기 위한 테스트와 신뢰성을 평가하기 위한 테스트를 구분하고, 이러한 주장의 배후에 있는 열 가지 모델링 고려 사항을 제시한다. 우리는 주장 명세, 동적 운영 프로파일, 등급화된 결과와 잡음이 있는 판단, 국소 확률적 강건성, 상호작용 의존성, 그리고 통계적 추론과 재평가를 연결하는 여섯 가지 작업 흐름의 연구 로드맵을 제안한다. 국소 확률적 강건성은 서로 다른 구체적 입력을 동일한 과제로 취급할 때 가려지는 행동 변이를 다룬다. 발표된 연구 결과와 예시적인 고객 지원 사례가 이 로드맵의 동기가 되며, 통합 검증은 여전히 미해결 연구 과제로 남아 있다. 신뢰성 주장은 별도의 안전 및 보안 논증을 보완하지만 대체하지는 않는다. 따라서 역량 점수는 누구의 요구사항이 어떤 조건에서 어떤 불확실성과 함께 충족되는지를 명시하는 버전 관리된 운영 주장으로 보완되어야 한다.

arXiv:2611.23729v1cs.LG

신경망 교류 전력 조류 계산에서의 분포 외 일반화를 향하여

Toward Out-of-Distribution Generalization in Neural AC Power Flow

재생에너지 통합, 극한 기상, 데이터센터 부하로 인해 전력 계통 운영의 불확실성이 커지면서, 전통적인 조류 계산 솔버의 대규모 신뢰성이 도전받고 있다. 기계학습 기반 대리 모델은 잠재적으로 유망한 대안이지만, 대규모 계통의 학습 데이터를 생성하는 비용이 과도하기 때문에 분포 외 일반화가 실제 배치를 위한 핵심 역량이 되며, 현재 소규모 계통에서 학습된 모델에는 이 역량이 없다. 본 연구에서는 물리 기반 손실, 다중 계통 학습, 섭동 기반 데이터 증강이 세 가지 그래프 신경망 기반 조류 계산 모델을 더 작은 계통에서 보지 못한 더 큰 500-버스 계통으로 제로샷 전이하는 성능을 어떻게 향상시키는지 체계적으로 평가한다. 우리는 (1) 물리 기반 손실이 순수 지도 학습 목적함수에 비해 전이를 향상시키고, (2) 소규모 계통에 대한 다중 계통 학습은 가장 좋은 단일 계통과 대등하지만 대상 계통 학습과의 격차를 좁히지는 못하며, (3) 엣지 속성에 대한 섭동 기반 증강은 전이를 최대 54.6% 향상시키고, (4) 무작위 선로/발전기 드롭아웃은 일관되게 성능을 향상시키지 않음을 발견했다.

arXiv:2611.23728v1cs.NE

AdaS-ViT: 초고에너지 효율을 갖춘 스파이킹 비전 트랜스포머를 위한 테스트 시점 적응형 라우팅

AdaS-ViT: Test-Time Adaptive Routing for Spiking Vision Transformers with Ultra-High Energy Efficiency

스파이킹 신경망(SNN)은 이벤트 기반의 에너지 효율적인 비전을 약속하지만, 기존 스파이킹 비전 트랜스포머(S-ViT)는 대체로 스파이킹 토큰을 시간, 공간, 채널 차원에서 고정적이고 균일한 발화 방식에 국한한다. 이로 인해 발생하는 계산 중복을 억제하려면 테스트 시점에 세 축 전반에서 공동으로 작동하는 적응형 발화 메커니즘이 필요하다. 이를 위해 우리는 각 스파이킹 토큰의 어텐션 점수를 참조하여 중요한 영역은 세밀한 발화 패턴으로 라우팅하고 나머지 영역에는 에너지를 절약하는 조잡한 패턴을 할당하는 Adaptive Efficient Integrate-and-Fire(AdaE-IF) 모델을 제안한다. AdaE-IF를 기반으로, 토큰 및 채널 단위에서 선택적 스파이크 방출을 강제하는 Spiking Gated Self-Attention(S-GSA)과 Spiking Local-Gated Unit(S-LGU)을 추가로 도입한다. 우리는 앞서 언급한 메커니즘과 모듈을 AdaS-ViT에 통합한다. AdaS-ViT는 발화 정밀도와 라우팅 마스크의 공동 적응을 안정화하는 점진적 시공간 커리큘럼으로 학습되는 테스트 시점 적응형 라우팅 아키텍처이다. 다양한 데이터 규모와 모달리티에 걸친 벤치마크에서의 폭넓은 실험은 AdaS-ViT가 일관되게 매우 경쟁력 있는 성능을 달성함을 보여 준다. 특히 ImageNet-1k에서 이미지당 1.02~2.45 밀리줄만을 소비하며 32$\times$~72$\times$의 에너지당 정확도 비를 달성하여, 경제적인 추론 영역에서 작동하면서 에너지 효율의 한계를 더욱 확장한다.

arXiv:2611.23716v1cs.LG

분별을 통한 학습: 소형 언어 모델이 현장에서 사용자 피드백으로 학습하는 경우와 퇴화하는 경우

Learning through Discernment: when a small language model learns from user feedback on the job, and when it decays

기기 내 소형 언어 모델은 매일의 자체 작업으로부터 밤사이에 학습함으로써 계속 개선될 수 있다. 그러나 실제 결과가 없으면 어떤 시도가 학습할 가치가 있는지 무언가가 결정해야 하며, 모델 자신의 판단과 사용자의 반응은 모두 틀릴 수 있다. 본 연구는 LoRA 어댑터를 장착한 소형 모델(Qwen3 0.6B 및 1.7B)을 대상으로, 판정자가 수용한 시도에 대해 매일 밤 미세조정하는 과정을 WebShop과 $\tau^2$-bench에서 최대 1년에 걸친 127개의 생애 동안 연구한다. 실제 결과, 사용자가 밝힌 판정, 모델 자신의 판단을, 사용자의 반응을 읽는 별도의 고정된 "피드백 감각"(세 가지 버전으로 구축)과 비교한다. 스스로 판단하는 경우 모델은 어떤 어댑터를 쓰든 1년에 걸쳐 향상되다가 퇴화했다. 정중한 포기를 성공으로 받아들인 감각은 5개의 생애 중 3개를 붕괴시켰다. 사용자가 명확한 판정을 내렸는지를 먼저 묻는 분별형 감각은 5개 중 4개를 2주 동안 오라클에 근접하게 유지했으나, 깨끗하지만 부족한 학습 사례 때문에 약해져 60일째에는 자기 판단 수준으로 떨어졌다. 사용자가 결과를 볼 수 없는 경우($\tau^2$-bench)에는 감각이 반응을 올바르게 읽었음에도 학습 사례의 80%가 고객이 감사를 표한 실패였다. 97개의 생애 전반에서 학습 사례 중 실패한 시도의 비율이 결과를 예측했다(Spearman $\rho$ = -0.81). 우리의 실험에서 사용자로부터의 학습은 판정자가 실패를 걸러냈고 사용자가 결과를 볼 수 있는 경우에만 유지되었으며, 편향된 학습 사례는 모델을 협소하게 만들 수도 있다.

arXiv:2611.23708v1cs.LO

실세계 전기생리 데이터에서의 코호트 발굴을 위한 유리수 앙상블 논리

Rational Ensemble Logic for Cohort Discovery with Real-World Electrophysiology Data

생의학 지식 표현은 관측에서 결론에 이르는 과정을 투명하고, 엄밀하며, 이해 가능하고, 설명 가능하며, 재현 가능하게(TRUER) 만들어야 한다. 본 논문은 구현 소프트웨어와 무관한 의미를 갖는, 실세계 전기생리 데이터(RWED)의 시간적 표현형을 명세하기 위한 유리수 앙상블 논리(QEL)를 제안한다. QEL은 유리수 시간 위에서 세 가지 매개변수화된 양상 연산자(정확한 변위, 유계 존재, 유계 보편성)를 불리언 연결자 및 1차 한정과 결합한다. QEL의 레이블 구간 앙상블(LINE) 의미론은 주석이 달린 기록을 유한한 구간 앙상블로 표현한다. 우리는 이 연산자들을 형태학적 연산과 연관 짓고, 모델 검사를 위한 끝점 배열 알고리즘과 유한한 유리수 증거 집합을 개발한다. 구간 연산의 닫힘성과 의미적 정확성을 증명하고, 한정자 소거를 통해 유한한 증거 집합을 얻으며, 고정된 식에 대해 다항 시간의 데이터 복잡도를 확립한다. 수작업으로 구성한 54개 기록에서 프로토타입은 기본 및 엄격한 발작 후 전반적 EEG 억제(PGES) 질의에 대해 지정된 결과와 일치했다. 1,976명의 환자를 대상으로 한 별도의 타당성 실험에서는 16초 만에 37명의 해당 환자와 45개의 주석 패턴을 식별했다. 공개된 프로토타입은 끝점 후보와 수치 허용오차를 사용한다. QEL은 명시적 표현형 정의, 정밀한 의미론, 증명 가능하게 올바른 평가 절차, 그리고 존재 질의에 대한 유리수 증인을 통해 TRUER 원칙을 뒷받침한다. 이는 특정 임상 해석, 데이터 주석 품질, 소프트웨어 구현과 무관한 알고리즘의 형식적 명세와 정확성을 위한 논리적 기반을 제공한다.

arXiv:2611.23702v1cs.AI

KnowMe Paper Radar: 자동 연구 시대에 유망한 논문을 경량으로 발굴하기

KnowMe Paper Radar: Lightweight Discovery of Promising Papers in the Age of Autoresearch

주제가 유사한 논문의 양이 늘어나면서 유용한 연구 통찰이나 방법론적 지침을 제공할 수 있는 새로운 연구를 찾아내기가 어려워지고 있다. 본 논문은 여러 증거 출처를 결합하여 개인화된 읽기 우선순위를 만들어 내는 경량 발굴 도구 KnowMe Paper Radar를 제시한다. 사용자가 주제, 우선순위, 제외 조건, 날짜를 지정하면 시스템은 주제 관련성, 최신성, 저자의 연구 이력, 협업 경로, 방향별 기관 맥락을 종합한다. KnowMe는 각 점수 구성 요소와 이를 뒷받침하는 출처를 드러냄으로써, 독자가 현재의 질문에 맞는 유망한 논문을 선택하고 익숙한 저자를 넘어 관련 연구를 발견하도록 돕는다. 자동 수집, 버전 병합, 그래프 캐시 재사용 덕분에 일반 사용 중에는 대규모 언어 모델(LLM) 추론 없이도 이 워크플로가 편리하게 유지된다. 수집된 174,640개 레코드에 대한 실험에서 반복적인 문맥 준비가 3배 이상 빨라졌으며, 캐시된 초록은 전문가가 판정한 검색 과제에서 순위 10의 정규화 할인 누적 이득(NDCG@10)을 0.412에서 0.598로 향상시켰다. 보완적인 분석에서는 동일하게 축적된 레코드가 의미 기반 검색, 연구 이력 모델링, 문헌에 근거한 계획 수립을 어떻게 뒷받침하는지 살펴본다. 브라우저 인터페이스와 구조화된 명령줄 인터페이스(CLI)는 이러한 기능을 연구자와 연구 에이전트 모두에게 제공하며, KnowMe를 문헌에 기반한 재귀적 자기 개선(RSI) 워크플로를 위한 실용적인 상류 도구로 자리매김한다.

arXiv:2611.23700v1cs.AI

의사결정 에이전트를 통한 감사 가능한 임상 지원

Auditable Clinical Support with Decision Agents

진단 검사 과정을 검토하는 임상의는 각 단계에서 무엇이 고려되었는지, 그리고 평가가 왜 바뀌었는지를 물을 것이다. 자유 텍스트로 구동되는 에이전트는 의사 수준의 진단 정확도에 도달할 수 있지만, 그 서술된 추론이 결정에 투입된 요인을 항상 반영하는 것은 아니다. 본 논문은 텍스트를 전혀 생성하지 않고 급성 질환 환자를 검사하는 의사결정 에이전트 Decision2Care를 제시한다. 의사결정 모델이 허용된 각 EHR 행동에 확률을 부여하고, 고정된 규칙이 가장 확률이 높은 행동을 수행한다. 12개 질환에 걸친 546건의 응급 입원 기록으로 Decision2Care를 평가했다. Decision2Care는 86.5%의 진단 정확도에 도달하여 MIRA-v2 에이전트의 86.1%와 비슷했으며, 검사 1회당 중앙값 2.2초가 소요되어 92-100초와 대비되었다. 각 검사 과정은 Decision2Care가 각 단계에서 어떤 선택지를 고려하고 있었는지를 추적했다. 12개 질환 중 10개에서 감별 진단은 지침이 진단의 근거로 삼는 검사에서 가장 크게 변했다. 단일 검사 후 Decision2Care가 가장 확신한 경우, 네 건을 제외한 모든 진단이 정확했다(98.5%). 이 네 건의 오류는 각각 하나의 영상 보고서로 거슬러 추적되었다. 그중 세 건은 해당 보고서를 제거하자 교정되었다. 동일한 종류의 결정이 치료 선택에도 사용되었으며, Decision2Care의 약물 처방은 MIRA-v2보다 지침에 부합하는 것으로 더 자주 판정되었다. 응급 환자에서 사망 예측은 동일한 사례에 대한 중환자 전문의 3인의 예측과 비슷했다. 8개의 중환자실 코호트 중 5개에서는 기록 2-6시간 이내에 세 가지 24시간 중증도 점수 중 최고치를 능가했다. 우리의 결과는 의사결정 에이전트가 각 행동의 근거가 되는 선택지, 확률, 실행 규칙을 감사용으로 기록하면서 임상 검사를 수행할 수 있음을 보여 준다.

arXiv:2611.23691v1cs.HC

MEM-STRESS: 스트레스 관리를 위한 웨어러블 기반 AI 챗봇의 종단 현장 연구

MEM-STRESS: Longitudinal Field Study of a Wearable-Informed AI Chatbot for Stress Management

스트레스는 점점 더 널리 퍼지는 문제로, 접근성이 높고 개인화된 지원에 대한 필요가 커지고 있다. 스트레스 관리 챗봇은 주로 사용자가 보고하는 내용에 의존하는데, 이는 사용자의 생리적 변화를 포착하지 못할 수 있다. 웨어러블은 이러한 변화를 포착하지만, 챗봇이 이를 대화 간 기억으로 활용하는 경우는 드물다. 이에 본 연구는 웨어러블 링의 생리 데이터를 일별 기록, 기준선 대비 편차, LLM이 생성한 요약으로 이루어진 계층적 기억으로 변환하고, 이를 변증법적 행동치료(DBT)에 기반한 다중 세션 대화에 활용하는 스트레스 지원 챗봇 MEM-STRESS를 제시한다. 성인 60명을 대상으로 한 4주간의 비무작위 연구에서 MEM-STRESS(처치군)를 과거 대화만 기억하는 챗봇(통제군)과 비교하였다. 기억은 대화를 형성하였다. 처치군 챗봇은 참가자의 생리적 특징을 언급했으며(예: 세션의 71.8%에서 활동량), 통제군보다 신체 관련 DBT 기술을 더 많이 제안했고(14.5% 대 5.7%), 처치군 참가자도 신체 관련 단어를 약간 더 많이 사용했다(1.76% 대 1.45%). 처치군 참가자는 개인화를 칭찬하는 비율이 3배 높았고(44.4% 대 14.3%), 스트레스에 대해 다르게 성찰했다고 보고하는 비율이 더 높았으며(69.0% 대 46.4%, 유의하지 않음), 자신의 스트레스 신호에 대한 통찰을 얻었다고 서술하였다. 이들의 지각된 스트레스는 기준선 대비 14.2% 감소한 반면 통제군은 3.6% 감소했으나, 집단 간 차이는 유의하지 않았다. 따라서 스트레스 지원 챗봇을 계층적 생리 기억에 기반하게 하는 것은 실현 가능하며 지각된 개인화를 향상시킬 수 있으므로, 더 큰 규모의 무작위 연구가 필요하다.

arXiv:2611.23680v1cs.CV

공유결합 유기 골격체의 회절 데이터 구조적 추출

Structured Extraction of Diffraction Data from Covalent Organic Frameworks

분말 X선 회절(PXRD)은 공유결합 유기 골격체(COF)와 많은 다른 물질의 구조에 대한 주된 증거이다. 그러나 수십 년간 측정된 패턴은 출판된 그림 속 이미지로만 존재한다. PXRD 그림은 단일 곡선부터 레이블, 삽입 그림, 인접 그래프가 빽빽하게 쌓인 형태까지 형식이 매우 다양해 기존 컴퓨터 비전으로는 다루기 어렵기 때문에 자동 복원은 어렵다. 본 연구는 비전 대규모 언어 모델(LLM)이 각 그림의 레이아웃을 해석하여 회절 그래프와 그 곡선의 위치를 찾고 각 곡선의 대략적인 궤적을 그려 내며, 고전적 컴퓨터 비전(CV)이 모든 궤적을 픽셀 수준 정확도로 정제하는 파이프라인을 제시한다. 3,954편의 COF 논문에 적용하여 보정된 회절 곡선 11,445개를 생성하였으며, 이를 공개 데이터베이스 COF-PEAK로 배포한다. 60개 패널을 수작업으로 디지털화한 결과와 비교했을 때 추출된 피크 위치의 차이는 중앙값 0.07도에 불과하다. 논문들은 보통 몇 개의 피크 각도만 보고하여 추가 분석이 제한되는 반면, 디지털화된 곡선은 결정성의 잠재적 지표인 피크 두드러짐이 합성 조건에 따라 어떻게 변하는지 추적할 수 있게 한다. 따라서 비전 LLM과 고전적 CV는 이러한 그림을 재사용 가능한 실험 데이터로 바꿀 수 있다.

arXiv:2611.23678v1cs.AI

통제된 LLM 기반 ML 실험의 평가: 수명주기, 출처 추적, 실패 지표

Evaluating Governed LLM-Driven ML Experimentation: Lifecycle, Provenance, and Failure Metrics

ML 실험을 수행하는 자율 에이전트는 보통 도달한 최고 점수로 평가된다. 그러나 그 점수는 어떻게 도달했는지, 즉 에이전트가 편집이 허용된 파일 범위 내에 머물렀는지, 실패한 시도가 보존되었는지 조용히 버려졌는지, 각 유지 또는 폐기 결정이 근거까지 추적 가능한지를 알려주지 않는다. 우리는 이러한 시스템을 결과뿐 아니라 실험 과정으로도 평가할 것을 제안하며, 이를 가능하게 하는 통제된 하네스를 구축한다. 변경을 제안하는 LLM이 아니라 제어 평면이 각 시도의 수명주기를 관리하고, 편집 범위를 검사하며, 유지 또는 폐기를 결정하고, 시도마다 하나의 기록을 추가 전용 원장에 덧붙인다. 잘못된 행동 비율, 반복된 불량 비율, 출처 완전성 같은 통제 지표는 이 원장으로부터 계산된다. 합성 로지스틱 회귀부터 언어 모델 학습에 이르는 여섯 가지 ML 과제와 1,445회의 시도에 걸쳐 동일한 규약이 변경 없이 적용되었다. 원장은 과제 점수가 가리는 실패를 드러냈다. 120회 시도가 모두 실패한 무기억 설정, 제한된 제안이 소진된 벤치마크 어댑터, 재현성 해시가 밝혀낸 초기화 실패가 그것이며, 이후 영향을 받은 캠페인을 다시 실행하였다. 짝지은 반사실 비교에서 성공한 시도만 기록하는 루프는 50회 중 43회의 시도에 대한 기록을 남기지 않았으나, 통제된 원장은 50회 모두를 기록하였다. 기억 제거 실험은 반복된 불량 제안에 대한 기억의 효과가 과제에 따라 달라짐을 보여준다. 1,445회 시도 전체의 원장을 공개하여, 이에 대해 보고된 모든 수치를 다시 계산할 수 있도록 한다.

arXiv:2611.23673v1cs.LG

소통형 온폴리시 증류: 장기 과제를 위한 소통을 통한 블랙박스 교사 능력 증류

Communicative On-Policy Distillation: Distilling Black-Box Teacher Capabilities through Communication for Long-Horizon Tasks

온폴리시 증류(OPD)는 장기 과제에서 언어 모델 에이전트를 개선하는 강력한 패러다임이지만, 기존 정식화는 텍스트 전용 블랙박스 모델이 공개하지 않는 교사 로짓에 의존한다. 이러한 한계를 해결하기 위해 우리는 자연어 소통을 매개로 더 강한 모델의 능력을 더 작은 학생 모델로 증류하는 소통형 온폴리시 증류(COPD)를 도입한다. 과제 수행 중 학생은 블랙박스 교사에게 언제 문의할지 자율적으로 결정하고, 사전 정의된 질문 템플릿이나 개입 일정 없이 개방형 자연어 요청을 구성한다. 성공한 학생-교사 상호작용은 특권적 참조로 보존되어, 과제 보상 강화학습과 함께 온폴리시 자기 증류를 통해 조언자 없는 새로운 학생 롤아웃을 지도한다. CAMG-II에서 COPD는 가장 강력한 블랙박스 OPD 기준선의 2.46배에 달하는 향상을 달성한다. 소통을 통해 학습한 능력은 Terminal-Bench 2.1과 SWE-Bench Pro V2로 일반화되어 조언자 접근 없이도 과제 성공률을 향상시킨다.

arXiv:2611.23663v1cs.AR

Lodestone: 데이터센터 하드웨어 특화의 자동화된 의미론적 발견

Lodestone: Automated Semantic Discovery of Datacenter Hardware Specialization

하드웨어 특화는 데이터센터의 효율을 향상시킬 수 있다. 그러나 전용 하드웨어를 정당화할 만한 연산을 식별하는 일은 어렵다. 기존 접근법은 핫 함수, 명령어 패턴, 또는 데이터센터 세금과 같은 오버헤드를 분석한다. 이들은 전체 비용이 애플리케이션과 라이브러리에 걸쳐 분산되어 있는 세밀한 연산을 놓칠 수 있으며, 특히 서로 다른 코드 조각이 동일한 근본 연산을 가리고 있을 때 그러하다. 우리는 서로 무관해 보이는 코드 영역이 종종 동일한 연산을 수행하며, 이것이 의미론적 추론을 요구하는 특화 기회를 만든다는 점을 관찰한다. 에이전트형 AI의 부상은 이를 자동화할 수 있게 한다. 그러나 기존의 AI 에이전트는 대규모 데이터센터 소프트웨어를 효율적이고 안정적으로 분석할 수 없다. 이 기회를 활용하기 위해 우리는 실행된 코드가 무엇을 계산하는지 추론함으로써 하드웨어 특화 기회를 자동으로 발견하는 에이전트형 프레임워크 Lodestone을 제시한다. 첫째, Lodestone은 여러 워크로드의 실행 트레이스에서 핫 제어 흐름 영역을 추출하고, 이를 에이전트가 대규모 워크로드를 다룰 수 있도록 하는 간결한 분석 패키지로 구성한다. 둘째, 에이전트는 각 영역이 무엇을 계산하는지 기술하고, 동일한 연산을 수행하는 영역을 연산 패밀리로 병합하며, 그 의미론적 정확성을 반복적으로 검사한다. 셋째, 발견된 패밀리를 검증하기 위해 Lodestone은 기록된 실행에서 얻은 참조 입력과 출력 집합에 대해 패밀리 내 모든 코드 조각을 실행한다. 마지막으로, 선택된 패밀리에 대해 Lodestone은 ISA 확장, 코어 근접 유닛, 분리형 가속기 등의 하드웨어를 제안하며, 어떤 제안을 추가로 개발할지는 인간 전문가가 결정한다. 우리는 여섯 개의 데이터센터 워크로드 범주에 걸친 20개 워크로드에서 Lodestone을 평가한다. 발견된 30개 패밀리를 사이클 정확 시뮬레이터에서 시뮬레이션하고 RTL로 구현한다. 이러한 최적화는 워크로드를 평균 12.6%, 최대 80.2% 가속한다.

arXiv:2611.23651v1cs.SE

안전한 개인용 RSI: 개인 에이전트 업데이트의 평가와 수리

Safe Personal RSI: Evaluating and Repairing Personal-Agent Updates

Kicker는 개인 건강 어시스턴트이다. 어시스턴트의 재사용 가능한 지침을 변경하면 작업 처리는 개선될 수 있지만, 무엇을 공개하는지, 어떤 요청을 따르는지, 행동을 어떻게 보고하는지도 달라질 수 있다. 우리는 Kicker를 위해 개발된 업데이트 평가 구성요소인 Safe Personal RSI를 연구한다. 우리는 재귀적 자기 개선(RSI)을 프롬프트 업데이트로 제한하고 모델 가중치와 런타임 코드는 고정한다. 이 절차는 제안된 지침과 현재 지침을 테스트하고, 실패한 사례를 반복하며, 변경을 일시적으로 되돌려 수리를 안내하고, 채택 전에 안전성과 작업 성능을 점검한다. 통과하는 버전이 없으면 현재 지침을 계속 사용한다. 우리의 실행 가능한 벤치마크는 이메일, 캘린더, 건강, 마켓플레이스 사례 29개를 포함하며, 권한 재사용, 메모리, 도구 출력 주입에 대한 별도의 프로브를 갖는다. 세 가지 모델과 의도적으로 위험한 두 가지 수정에 걸쳐, 이 절차는 21건의 업데이트 시도 중 20건을 거부한다. 수리 확인에서 채택된 GPT-5.6 Luna 수리는 공격 위반을 10.7%에서 0%로 줄이고 안전한 작업 완료율을 89.7%에서 100%로 높이며, 광범위한 수작업 권한 규칙도 같은 결과를 보인다. 더 강한 공격에서 Qwen2.5-7B-Instruct에서 Qwen3-14B로 전이된 수리는 위반을 69.0%에서 17.9%로 줄이고 안전한 작업 완료율을 19.5%에서 64.4%로 높인다. 별도의 런타임 프로브는 메모리 항목 삭제를 검토하고 평가된 스냅샷에서 로컬 OAuth 범위 검사가 누락된 부분을 식별한다.

arXiv:2611.23648v1cs.LG

Toaster: 연쇄된 선형 메모리와 타깃 전파를 통한 비선형 메모리

Toaster: Nonlinear Memory from Cascaded Linear Memories and Target Propagation

순환 메모리는 언어 모델이 고정 크기 상태로 긴 시퀀스를 처리하게 한다. DeltaNet과 KDA 같은 선형 메모리는 행렬 하나를 저장하고 토큰마다 델타 규칙 단계를 한 번 수행한다. 이러한 단계를 청크 단위로 곱한 결과는 정확한 WY 형태를 가지므로 빠르게 학습된다. TTT-MLP와 Titans 같은 심층 메모리는 작은 MLP를 저장하여 어떤 행렬도 담을 수 없는 사상을 담을 수 있지만, 그 업데이트에는 WY 형태가 없다. Toaster는 선형 계층에 대한 기울기 단계가 델타 규칙 쓰기라는 알려진 사실에 기반하여 두 방식을 연결한다. 이는 두 개의 선형 메모리 사이에 활성화 함수를 두어 2층 비선형 메모리를 구성한다. 우리는 타깃 전파를 사용하여 출력 오차를 두 번째 메모리를 통해 역투영함으로써 은닉 메모리에 값을 부여한다. 청크마다 한 번 근사한 계층 간 신호가 주어지면 각 계층은 수정되지 않은 델타 규칙 커널 위에서 실행될 수 있다. 우리의 기본 설정은 이 커널을 출력 계층에서 실행하고 은닉 계층은 청크당 한 번 업데이트한다. 두 계층 모두에서 실행하면 우리의 절제 실험에서 더 나은 모델을 얻는다. 백본과 학습 토큰 예산을 맞춘 조건에서, Toaster는 C4와 PG19 모두에서 시험한 다섯 가지 크기(임베딩 제외 파라미터 0.2B–1.6B) 전부에서 KDA보다 낮은 손실을 보인다. C4 퍼플렉시티 역시 모든 크기에서 어텐션 기준선과 같거나 약간 더 우수하다. 1.2B에서는 Titans보다도 낮다. 전역 어텐션과의 3:1 하이브리드에서 Toaster 하이브리드는 시험한 네 가지 하이브리드 중 가장 낮은 퍼플렉시티를 가지며 어텐션 기준선보다 C4에서 0.18, PG19에서 0.44 낮다. 가장 큰 크기에서 Toaster의 13개 과제 평균 3-shot 정확도는 51.84%이며, KDA는 50.52%, Titans는 50.04%이다. 길이 외삽에서 Toaster의 손실은 20K 토큰(학습 길이의 5배)까지 KDA보다 낮게 유지된다. 145M 백본에서 은닉 폭을 Titans의 메모리에 맞춘 조건에서 Toaster의 학습 단계 시간은 KDA의 최대 1.33배이며, 32K 컨텍스트에서 시험한 Titans 구성보다 2.8–5.5배 빠르다.

arXiv:2611.23639v1cs.AI

파레토 프런트 탐색: 이질적 과학 모달리티를 위한 다목적 검색

Searching the Pareto Front: Multi-Objective Retrieval for Heterogeneous Scientific Modalities

우주론에서 관측 서베이는 서로 다른 하늘 영역과 파장 범위를 포괄하므로 관측 데이터셋 간에 모달리티 커버리지가 고르지 않다. 이러한 이질성은 공유 임베딩 공간을 학습하는 멀티모달 파운데이션 모델(FM)로 다루거나, 독립적으로 학습한 모달리티 임베딩을 후기 융합으로 결합하여 다룰 수 있다. 우리는 후자가 FM 기반 과학 검색에 대한 적응적 대안이 될 수 있는지 조사한다. 우리는 별 형성 역사, 방출된 빛의 스펙트럼, 두 망원경의 다중 파장 관측이라는 다양한 모달리티에 걸친 은하 검색 과제에서 이 접근법을 평가하며, FM 기준선을 파레토 최적성에 기반한 다목적 최적화로 융합한 개별 학습 임베딩과 비교한다. FM 기준선은 강한 임베딩 공간 근접성을 달성하지만, 우리의 방법은 과학자가 어떤 물리적 신호가 유사성을 이끄는지 점검할 수 있도록 모달리티별 거리 구조를 보존한다. 우리의 방법은 원시 데이터 공간에서도 향상된 충실도를 달성한다. 측정된 여섯 가지 속성 전반에서 최근접 이웃은 FM 임베딩 공간의 kNN으로 검색된 것보다 질의에 평균 8% 더 가깝다(분산 0.128 대 0.139). 이러한 결과는 단일 목적 검색만으로는 간과될 수 있는 천체물리학적으로 일관된 후보를 다목적 검색이 찾아낼 수 있음을 시사한다.