PyTorchKR Papers

최신 논문

총 24,492편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 카테고리 구독

arXiv:2401.10816v3cs.HC

건강을 위한 코파일럿: 건강 결과 개선을 위한 개인화된 알고리즘 기반 AI 넛징

Co-Pilot for Health: Personalized Algorithmic AI Nudging to Improve Health Outcomes

웨어러블 기기 유형과 질병 상태를 가리지 않고 대규모 인구의 건강 행동을 자동으로 형성하는 능력은 세계 보건 결과를 개선할 큰 잠재력을 지닌다. 우리는 그래프 신경망(GNN) 기반 추천 시스템과 웨어러블 피트니스 기기에서 얻은 세분화된 건강 행동 데이터로 구동되는, 디지털 알고리즘 넛징을 위한 AI 기반 플랫폼을 설계하고 구현하였다. 본 논문에서는 싱가포르의 $n=84,764$명을 대상으로 12주 동안 개인화되고 맥락에 맞는 넛징을 제공한 이 플랫폼의 효능 결과를 기술한다. 이러한 AI 최적화 일일 넛지를 받은 대상 그룹 참가자는 넛지를 받지 않은 대조군의 짝지어진 참가자에 비해 걸음 수와 같은 일일 신체 활동이 6.17% ($p = 3.09\times10^{-4}$), 주간 중강도-고강도 신체 활동(MVPA) 시간이 7.61% ($p = 1.16\times10^{-2}$) 증가했음을 통계적으로 검증하였다. 또한 이러한 넛지는 매우 호의적으로 받아들여져, 발송된 넛지의 13.1%가 열람되었고(열람률), 열람된 넛지 중 11.7%가 유용하다고 평가된 반면 유용하지 않다고 평가된 비율은 1.9%였으며, 이는 인구 수준의 참여 지표가 유의미하게 개선되었음을 보여준다.

arXiv:2309.10448v5cs.AI

인간-AI 상호작용과 사회적 함정

Human-AI Interactions and Societal Pitfalls

생성형 인공지능(AI)을 사용할 때 사용자는 생산성 향상을 얻을 수 있지만, AI가 생성한 콘텐츠는 사용자의 선호와 정확히 일치하지 않을 수 있다. 이러한 효과를 연구하기 위해, 우리는 이질적인 사용자가 출력 충실도와 소통 비용 사이의 상충 관계에 직면하여 AI와 얼마나 많은 정보를 공유할지 선택하는 베이지안 프레임워크를 도입한다. 우리는 이러한 개인 수준의 결정과 AI 학습 사이의 상호작용이 사회적 문제로 이어질 수 있음을 보인다. 특히 AI가 AI 생성 콘텐츠로 학습될 때 출력이 더 동질화될 수 있으며, 이는 동질화 죽음의 소용돌이를 촉발할 가능성이 있다. 또한 AI의 편향은 전파되어 사회적 편향이 될 수 있다. 동질화와 편향 문제의 해결책은 인간-AI 상호작용의 마찰을 줄이고 사용자가 유연하게 정보를 공유할 수 있도록 하여, 생산성을 희생하지 않고 개인화된 출력을 얻는 것이다.

arXiv:2611.23229v1cs.LG

Ambient LLM: 온도 일치를 통한 데이터 효율적인 지도 미세조정

Ambient LLMs: Data-Efficient Supervised Fine-tuning via Temperature Matching

자기회귀 언어 모델의 사후 학습에 사용할 대규모 고품질 데이터셋을 다양하게 수집하기는 어렵다. 따라서 지도 미세조정(SFT)에는 대개 사전학습 데이터보다 규모가 훨씬 작은 데이터셋을 사용한다. 이로 인해 과적합이 일어나고 데이터 분포의 꼬리에 해당하는 내용을 파국적으로 망각한다. 이를 방지하기 위해 불완전한 예측으로 미세조정 데이터셋을 보강하는 원리에 기반한 프레임워크 Ambient SFT를 소개한다. 이 방법에서는 가중치를 고정한 사전학습 모델을 잡음이 있는 교사로 사용하며, 미세조정 모델이 교사의 예측을 큰 틀에서 따르도록 한다. 구체적으로 사후 학습 모델이 산출하는 조건부 분포에 높은 온도를 적용한 결과가, 사전학습 모델의 조건부 분포에 같은 온도를 적용한 결과와 일치하도록 한다. 온도 하이퍼파라미터로 사전학습 모델을 신뢰하는 정도를 조절한다. $T\to \infty$인 극한에서는 일반 SFT가 되고, $T=1$에서는 지식 증류가 된다. 이 방법은 도메인 적응, 지시 미세조정, 추론에서 표준 SFT보다 높은 성능을 보였으며, 표준 SFT 대비 평균 상대 개선 폭은 최대 $21\%$였다.

arXiv:2611.23225v1hep-th

StringQFT: AI를 활용한 이론물리학을 위한 다목적 교재 자료

StringQFT: A Multiuse Textbook Resource for AI-Assisted Theoretical Physics

StringQFT를 양자장론의 끈 이론적 구성을 다루는 교재 모음이자 AI를 활용한 이론물리학 연구 기반으로 제시한다. 18권, 190개 장, 3,795쪽으로 구성되며, 브레인 탐침, 브레인 웹, 기하학적 공학, F이론 구성, 감긴 M5-브레인, 정확한 세계면 구성을 다룬다. 교재를 참고할 수 있는 벤치마크에는 문항 1,073개가 있으며, 이 중 499개는 정해진 답을 자동으로 채점할 수 있다. 검색 증강 생성을 위해 교재 출처와 PDF 위치에 연결한 절 단위 레코드 1,371개와 로컬 어휘 기반 검색기를 제공한다. 출처가 연결된 비공개 예제 21개로 학습 데이터 준비 방법을 보여 준다. 에이전트가 사용할 수 있도록 입력과 유한한 정의역을 명시한 계산 도구 19개를 제공한다. 이 도구의 사용을 교재의 유도 과정과 연결한다. 구체적인 질문, 검색한 구절, 유한한 계산 사례를 통해 각각의 활용법을 보여 준다. 교재 모음과 관련 자료는 https://github.com/xingyang-yu/StringQFT 에서 이용할 수 있다.

arXiv:2611.23219v1cs.LG

대규모 언어 모델 에이전트에 자기 개선 방법을 여전히 알려 줘야 하는가?

Do LLM Agents Still Need to Be Told How to Self-Improve?

대규모 언어 모델(LLM) 에이전트는 점점 더 스스로 학습을 주도하고 있다. 자기 개선 방법은 모델 최적화의 여러 구성 요소를 모델 자체에 맡긴다. 모델의 능력이 높아지면서 근본적인 질문이 생긴다. 더 유능해진 모델에도 자기 개선 방법을 사람이 명시해야 하는가? 이 논문에서는 기본 연산, 자원, 포괄적인 자기 개선 목표를 주었을 때 에이전트가 문맥 기반 최적화에 사용할 자기 학습 알고리즘을 직접 구성하는 자율적 접근법을 연구한다. 게임 플레이를 시험 환경으로 삼아 가중치를 동결한 LLM 에이전트에 연산 예산과 경험을 수집하고 텍스트 문서를 갱신할 도구를 주었다. 외부에서 정한 반복 절차나 현실 세계 데이터에 접근할 수 없는 조건에서 자유롭게 실험하게 했다. 충분한 능력을 갖춘 모델은 이 조건에서도 스스로 개선됐다. 모델이 택한 전략은 자기조절학습에 관한 고전적 인지 모형 및 머신러닝 문헌에서 다루는 자체 생성 커리큘럼 개념과 일치하는 특징을 보였다. 또한 학습 과정에서 만든 텍스트 산출물이 외부 벤치마크에 얼마나 전이되는지 조사했으며, 게임 진행 길이와 규칙이 다른 환경과 3D 길 찾기 과제에서 성능 향상을 관찰했다.

arXiv:2611.23216v1cs.SE

벤치마크 점수가 높은 코딩 모델도 더 많은 일을 끝내지는 못했다

Higher-Scoring Coding Models Did Not Get More Work Done

새 코딩 모델은 코딩 벤치마크 점수의 향상을 내세운다. 그러나 벤치마크에서 더 높은 점수를 받은 모델이 실제로 작업을 더 많이 끝내는지 검증한 연구는 없었다. 2026년 6월 12일 미국의 수출 통제 지침에 따라 Claude Fable 5에 대한 접근이 19일간 금지되어 사용자는 다른 모델로 전환해야 했다. 이 기간에 기존 Fable 5 사용자 대부분은 Opus 4.8로 전환했다. Opus 4.8의 SWE-Bench Pro 점수는 Fable 5보다 11점 낮았다. 사용자와 프로젝트는 같고 모델만 바뀐 이 중단 기간을 자연실험으로 삼아, Fable 5가 사용자 생산성에 미친 영향을 분리해 추정했다. 중단 전후 및 중단 기간에 Fable 5 사용자 297명의 GitHub 풀 리퀘스트를 추적했다. 계속 Opus 4.8을 사용한 개발자 8,908명을 대조군으로 삼았다. 2026년 중단 전후에 있었던 모델 업그레이드 5건에 대해서도 비교를 반복했다. 이 분석에는 개발자 1,208명과 풀 리퀘스트 15,442건이 포함됐다. 개발자와 날짜 고정효과를 넣은 이중차분 모형을 적합한 결과, Fable 5를 사용할 때 풀 리퀘스트의 7일 이내 병합률은 1.4%포인트 높았으나 통계적으로 유의하지 않았다(구간 −1.4~+4.3%포인트). 업그레이드 후에도 병합률이 유의하게 늘지 않았다(가중평균 −0.9%포인트, 구간 −1.9~+0.2%포인트). 업그레이드 5건의 추정치는 모두 음수였으며, 95% 구간은 모두 0을 포함했고 추정치 간 차이도 없었다. 주간 병합 풀 리퀘스트 수 역시 유의하게 늘지 않았다(+2.4%, 구간 −4.9~+10.2%).

arXiv:2611.23206v1cs.CV

Reading Scene States: Uncovering Safety Failures in Vision-Language Models

Vision-language models (VLMs) can provide harmful assistance by interpreting visual events, even without an explicit request for the underlying harmful objective. We identify this \textbf{scene-state safety vulnerability} and introduce \textbf{SceneSafetyBench}, comprising 375 image--question pairs spanning Initial, Medium, and Ultimate scene states and five visual presentations. Across eight VLMs, scene-state inputs elicit harmful assistance with attack success rates (ASRs) of 45.6--72.3\%. Comparative analysis across three VLMs shows that scene-state inputs most closely resemble QR-related images in their layer-wise safety-related signal profiles, while exhibiting lower average late-layer readouts and distinct signal dynamics during generation. To turn this vulnerability into a systematic attack, we propose \textbf{S3TA}, which translates harmful objectives into scene states, queries image--question pairs independently, and assembles the responses. On seven MM-SafetyBench categories across eight open-weight and commercial VLMs, S3TA achieves a model-average ASR of \textbf{71.2\%, exceeding the strongest baseline by 6.1 percentage points}. Text-side filters and visual moderation provide limited protection. These findings highlight the need to safeguard the assistance models infer through scene-grounded reasoning, beyond screening input content.

arXiv:2611.23205v1cs.LG

노트북 내장 GPU에서 SFT와 QLoRA로 Gemma 4 엣지 모델의 MATLAB 신호 처리 코드 생성 능력 미세조정

Fine-Tuning Gemma 4 Edge Models for MATLAB Signal-Processing Code with SFT and QLoRA on a Laptop iGPU

노트북에서 실행되는 소형 언어 모델은 오프라인에서 신호 처리 코드를 작성하는 데 유용할 수 있지만, 디지털 신호 처리(DSP) 규약에서 반복적으로 오류를 낸다. MATLAB 신호 처리 하위 과제 11개를 포괄하는 검증된 예시 66개로 Gemma 4 엣지 모델 E2B와 E4B를 지도 미세조정(SFT)했다. 노트북 내장 GPU(iGPU)에서 저랭크 적응(LoRA)과 양자화 LoRA(QLoRA)를 사용했으며, 8비트 정수(int8) 모델을 어댑터와 함께 OpenVINO로 배포했다. 따로 보관한 변형 문제를 결정론적 검사기로 평가한 결과, E2B의 통과 건수는 66건 중 18건에서 LoRA와 QLoRA 모두 37건으로 늘었다. E4B의 경우 QLoRA로 66건 중 32건에서 47건으로 늘었다. 실패한 프로그램 159개를 모두 검토한 결과, 어댑터는 지연의 부호, 단위, 배열 형상 같은 규약 오류는 대부분 없앴지만, 신호와 잡음을 구성하는 오류는 거의 줄이지 못했다. 추론 시 어댑터를 적용하면 생성 속도가 17~19% 감소했다.

arXiv:2611.23202v1cs.AI

에이전트 신뢰 인프라(ATI): 조직 간 자율 AI 에이전트를 위한 연합 신원·신뢰·증명·책임 추적 아키텍처

Agent Trust Infrastructure (ATI): A Federated Identity, Trust, Attestation, and Accountability Architecture for Cross-Organization Autonomous AI Agents

AI 에이전트가 조직 경계를 넘어 협력하고, 도구를 호출하며, 독립된 주체가 운영하는 에이전트와 상호작용하는 일이 늘고 있다. 기존 에이전트 프레임워크는 계획 수립과 조율을 지원하지만, 다른 조직의 에이전트 신원, 실행 무결성, 권한을 검증할 공통 수단이 없다. 공개키 기반 구조(PKI), 제로 트러스트 아키텍처(ZTA), 원격 증명에 기반한 프레임워크 독립적 보안 아키텍처인 에이전트 신뢰 인프라(ATI)를 제안한다. ATI는 조직별 에이전트 인증 기관(AgentCA)이 서로 신뢰하는 방식으로 공통 루트 인증 기관 없이 연합 신뢰를 구축한다. 요청을 실행하기 전에 에이전트 인증서가 유효한지 확인하고 모델, 도구, 시스템 프롬프트의 구성이 승인된 것인지 검증한 뒤 세 가지 정책 검사로 권한을 적용한다. 기반 모델을 수정하지 않고도 기존 에이전트 프레임워크에 통합할 수 있도록 ATI를 외부 보안 집행 계층으로 구현했다. 조직 8개가 참여하는 모의 연합 환경에서 에이전트 프레임워크 6종을 평가했으며, 프레임워크별로 에이전트 5개로 구성된 팀을 배치했다. 두 조직이 참여하는 보안 실험에서는 에이전트 모델 5종으로 공격 시나리오 14개와 정상 과제 6개를 평가했다. 공격 변형 5개를 사용하고 변형마다 3회 반복했다. 여러 판정 모델이 실험 결과를 평가했다. 모든 집행 장치를 활성화하면 공격 차단율은 43%에서 84%로 높아졌다. 모든 설정에서 공통으로 평가한 공격 시나리오 11개에서는 40%에서 80%로 높아졌다. 보안 집행에 따른 추가 지연은 요청당 약 174마이크로초였다. ATI는 프레임워크에 종속되지 않는 공개 소스 패키지로 공개됐다. 신원과 요청 검증에는 IETF WIMSE의 워크로드 토큰 형식을, 모델·도구·시스템 프롬프트의 무결성 검증에는 Entity Attestation Token을 사용한다.

arXiv:2611.23197v1cs.CL

언어 모델 사전학습을 위한 구조·잔차 귀납적 바이어스

Structure--Residual Inductive Biases for Language Model Pretraining

언어 모델은 다음 토큰을 예측하는 과제로 예측 능력과 내부 표현을 함께 학습한다. 우리는 표현 구조 자체를 명시적인 귀납적 바이어스로 삼아야 하는지 묻는다. 콜모고로프 복잡도의 두 부분 부호화 관점에서 출발해 표현을 구조와 구현 세부 정보로 분리하는 구조·잔차 원리를 살펴본다. 이 원리를 상호 보완적인 두 방식으로 구현한다. 경계 병목 개념(BBC)은 국소 자기회귀 연산을 유지하면서 토큰 구간의 정보를 경계 전달자를 거쳐 보낸다. 연속 개념(CC)은 표현의 기하 구조를 정규화해 저주파 구조와 고주파 잔차로 스펙트럼을 분해하도록 유도한다. 두 관점에서 부호화의 한계를 유도하고, 구간 내부 경로 에너지가 0으로 사라지면 중복도를 보정한 경계 어텐션이 정확해짐을 보인다. 실험에서 BBC와 CC가 효과적인 층의 깊이는 뚜렷이 달랐다. BBC는 앞쪽 층에서, CC는 뒤쪽 층에서 가장 효과적이었다. 학습 토큰 3억 개로 GPT-2 Medium을 학습했을 때 BBC와 CC를 결합하면 음의 로그 가능도(NLL)가 1.44% 개선됐다. 학습 토큰을 최대 200억 개로 늘려도 개선이 유지됐다. 표현을 분석한 결과, BBC는 경계 상태가 예측에 기여하는 상대적 중요도를 높였고 CC는 스펙트럼 잔차 에너지를 줄였다. 이 결과는 구조·잔차 바이어스가 다음 토큰 예측에 더해 언어 모델의 사전학습을 개선할 수 있음을 시사한다. 코드는 https://github.com/haihuang-ml/structure-residual 에 공개되어 있다.

arXiv:2611.23192v1cs.AI

WoRD: 온라인 목표 인식을 위한 확산 기반 사후 추론

WoRD: Diffusion-Based Posterior Inference for Online Goal Recognition

목표 인식은 에이전트의 행동을 관찰해 의도한 목표를 추론하는 과제다. 대부분의 선행 연구는 고수준 기호를 다루며, 에이전트가 목표에 도달하기까지 보이는 연속적인 움직임은 추상화한다. 연속 궤적을 다루는 방법은 명시적인 동역학 모델에 의존한다. 이런 모델은 얻기 어렵고 다른 환경에 적용하기도 어렵다. 두 접근법 모두 에이전트가 후보 목표 각각에 어떻게 접근하는지 명시적으로 학습하지 않는다. 따라서 그런 정보가 가장 필요한, 여러 목표로 해석할 수 있는 초기 궤적에서 정확도가 제한된다. 학습한 궤적 사전분포를 사용해 부분 관측으로부터 에이전트의 목표를 추론하는 WoRD(Waypoint Recognition with Diffusion)를 제안한다. WoRD는 매 단계에서 후보 목표마다 이전 상태를 활용해 초기화한 잡음 제거 연쇄를 실행하고, 닫힌 형태의 로그 가능도 그래디언트로 각 연쇄가 관측된 궤적을 따르도록 유도한다. 이어서 베이즈 규칙에 따라 결과 샘플의 가중치를 다시 계산해 목표에 대한 보정된 사후분포를 구한다. 로봇 시뮬레이션, 보행자 궤적, 차량 궤적에서 서로 다른 실패 유형을 평가하는 평가지표 네 가지로 WoRD를 시험했다. 세 환경 모두에서 같은 추론 절차를 적용했다. 필터나 분류기 기반 관측기가 단일 최빈값으로 수렴하거나 과도하게 확신하는 모호한 초기 궤적에서도 WoRD는 보정된 다봉 분포를 유지했다.

arXiv:2611.23189v1cs.CV

범용 의료 이미지 분할을 위한 검색 증강 교정

Retrieval-Augmented Correction for Generalist Medical Image Segmentation

자동 분할은 의료 영상을 이용한 정량적 임상 작업의 첫 단계로 널리 쓰이며, 작업자가 예측한 마스크를 이후에 검토하고 교정한다. 현재 남아 있는 구조 오류의 자동 교정은 해부 구조별로 수행하므로, 분할 대상 수만큼 교정 모델을 학습해야 한다. 검증된 과거 사례를 모은 공유 지식 베이스에서 가져온 정보를 바탕으로 입력 마스크를 수정하는 검색 증강 교정 모델 GRACE를 제안한다. 조밀한 장기, 체강, 가지가 있는 혈관, 종양 병변을 포함하는 다기관 말뭉치에서 교정 모델을 한 번 학습한다. 데이터셋 간 전이 평가에서는 학습에서 제외한 데이터셋 3개를 사용해, 학습 데이터만으로 구축한 고정 지식 베이스를 조회했다. 별도의 해부 구조 하나 제외 실험에서는 매개변수를 변경하지 않고 인덱스를 확장할 수 있는지 시험했다. 학습에 없던 실질 장기의 검증된 사례를 지식 베이스에 추가하고 교정 모델은 동결했다. 동결된 멀티모달 인코더에 연결된 경량 형상 인식 투영 헤드는 임베딩 유사도가 마스크 형상의 일치도를 반영하게 한다. 따라서 지식 베이스는 교정 모델이 형상 사전 정보로 활용할 수 있는 사례를 반환한다. CT, MRI, 초음파를 포함하는 공개 데이터셋 18개에서 교정 설정 9개와, 약한 성능부터 중간과 강한 성능까지 포괄하는 선행 분할 모델 7개로 GRACE를 평가했다. 성능 변화는 입력 마스크의 다이스 유사도 계수(DSC)와 함께 보고했다. 약한 분할 모델의 입력 DSC는 0.386이었고, GRACE를 적용하면 최대 0.35 높아졌다. 강한 분할 모델의 입력 DSC는 0.932였으며 평균 변화는 작았다. 학습과 인덱스에 모두 없는 영상 모달리티로의 전이는 제한적이고 해부 구조에 따라 달라져, 후속 연구 과제로 남아 있다. 이 결과는 검색 결과를 조건으로 사용하는 교정이 해부 구조별 교정 모델의 실용적인 대안이 될 수 있음을 시사한다. 코드는 https://github.com/robustml-eurecom/grace 에 공개되어 있다.

arXiv:2611.23179v1cs.CV

말을 줄이면 환각도 줄어드는가? 선호 최적화한 비전-언어 모델의 객체 포괄 범위 진단과 복원

Say Less, Hallucinate Less? Diagnosing and Restoring Object Coverage in Preference-Optimized Vision-Language Models

대규모 비전-언어 모델에서 실제로 없는 객체를 언급하는 환각을 줄이기 위해 선호 최적화(PO)를 표준적으로 사용한다. 공개된 LLaVA-1.5-7B의 PO 체크포인트 네 개를 살펴본 결과, 객체 포괄 범위도 줄었다. 이 모델들은 더 적은 객체 범주를 언급하며, 환각률은 낮아졌지만 CHAIR에서 객체 집합 단위의 F1은 유의하게 높아지지 않았다. 이에 기본 모델의 출력을 일찍 끝내는 것만으로 PO의 개선 효과를 얼마나 재현할 수 있는지 조사했다. 시퀀스 종료(EOS) 로짓에 양의 바이어스를 주면 기본 모델의 재현율을 각 PO 모델 수준으로 맞출 수 있다. 이렇게 조기 종료만 적용해도 서로 겹치지 않는 COCO 세트 두 개에서 체크포인트 세 개가 달성한 CHAIRi 개선 폭의 58~86%를 재현했다. 출력을 늘려도 누락된 범주는 돌아오지 않았다. 탐욕적 디코딩에서 음의 EOS 바이어스는 이 체크포인트들이 잃은 CHAIR 재현율의 2~9%만 회복했다. 새로 추가된 객체 언급 중 94~96%는 이미 나온 범주를 반복했다. CHAIR에서 같은 이미지에 대한 기본 모델의 캡션에는 PO 모델이 놓친 객체 범주의 약 절반이 여전히 포함돼 있었다. 이에 추가 학습 없이 기본 모델만 높은 신뢰도로 언급한 객체 범주를 PO 캡션에 덧붙이는 기본 모델 기반 복원 방식을 제안한다. 개발 세트에서 임계값을 고정하고 별도로 보관한 COCO 세트에서 평가한 결과, 체크포인트 세 개의 재현율이 기본 모델과 1%포인트 이내로 가까워졌으며 고유 객체 기준 환각률은 기본 모델보다 낮았다. 재현율을 맞춘 기본 모델의 조기 종료 곡선과 비교하면, 기본 모델에 가까운 재현율에서는 RLAIF-V에서, 중간 수준의 재현율에서는 RLAIF-V와 CHAIR-DPO에서 개선이 유지됐다. 재현율을 통제하는 평가의 코드를 공개할 예정이다.

arXiv:2611.23174v1stat.ME

코딩 에이전트 사용 이후의 통계적 추론

Inference after coding agents

AI 코딩 에이전트가 코드 작성부터 데이터 처리까지 실증 연구의 모든 단계에서 점점 더 능숙해지면서 연구 방식이 빠르게 바뀌고 있다. 코딩 에이전트가 과학 연구에 기여할 잠재력은 크다. 다만 에이전트로 가설을 검정하면 분석을 선택한 뒤 그 결과로 추론하는 선택적 추론이 크게 확대돼 고전적 추론의 타당성을 위협한다고 주장한다. 특히 코딩 에이전트로 실증 연구를 하면 새로운 형태의 선택 후 추론이 생긴다. 에이전트는 사람이 하듯 명시적으로 정하지 않은 추정량 공간을 개방적으로 탐색하면서도, 선택과 추정 과정을 프로그램으로 재실행할 수 있다. 실제 효과가 0인 모의 데이터에서 설득력 있는 발견을 제시하라고 요청하자, 최첨단 에이전트 네 종은 전체 시도의 54~98%에서 유의한 p값을 보고했다. 이러한 왜곡을 감지하고 보정하는 간단한 절차를 제안한다. 에이전트가 분석을 마치면 상태를 초기화하고 데이터의 부분 표본에서 재실행한다. 해당 분석이 통계적으로 유리해 보일 때 에이전트가 그 분석을 선택할 상대 확률을 이를 바탕으로 추정한다. 선택 행태가 안정적인 에이전트에서는 보정한 검정이 선택에 조건부로 점근적 타당성과 일관성을 갖는다. 보정은 에이전트의 탐색 방식을 모델링하는 대신 블랙박스 에이전트가 실제로 내린 선택에서 학습한다. 따라서 AI 기술이 계속 빠르게 발전해도 타당성을 유지한다. 시뮬레이션에서 보정은 높은 오기각률을 명목 수준인 5%에 가깝게 일관되게 낮췄다. 발표된 논문 두 편의 응용 사례를 통해 이 방법을 설명한다.

arXiv:2611.23161v1cs.CV

디코더를 통한 기여도 산정: 구조화된 출력의 예측 공간 설명

Attribution Through the Decoder: Prediction-Space Explanations for Structured Outputs

각도, 시선 방향, 회전을 예측하는 신경망은 원시 좌표를 출력하고, 정규화 같은 고정 디코더가 이를 최종 예측값으로 변환한다. 기여도 산정 방법을 원시 좌표에 적용하는 경우가 많아, 디코더에서 사라지는 변화에도 입력의 기여를 부여할 수 있다. 예를 들어 벡터의 방향만 중요할 때 크기를 바꾸는 변화가 이에 해당한다. 그 결과 예측에 영향이 없는 입력이 중요한 것처럼 표시될 수 있다. 우리는 디코더의 미분을 거쳐 기여도를 산정한다. 정규화 디코더에서는 이 미분이 스케일을 곱한 접공간 투영으로 단순화된다. 출력의 스케일을 바꿔도 결과가 유지되는 조건을 분석하고, 구면의 모든 고정된 매끄러운 스칼라 목표 함수에는 접선 방향 민감도가 0인 점이 있음을 보인다. 종점에 투영하는 통합 그래디언트 변형은 크기에만 영향을 주는 입력에 기여도를 부여할 수 있는 반면, 각도에 직접 적용하는 통합 그래디언트는 그렇지 않음을 보인다. 관련성을 해석적으로 알 수 있는 합성 과제에서 주변 공간의 기여도 산정은 전체 기여도의 최대 72%를 관련 없는 영역에 할당했다. MPIIGaze 검증 데이터에서 픽셀 10%를 삭제했을 때 접공간 Grad-CAM은 예측값을 44% 더 크게 이동시켰다. 6차원 회전 디코더를 사용하는 PASCAL3D+에서는 전체 미분을 적용했을 때 픽셀 삭제에 따른 평균 이동량이 주변 공간의 좌표 합보다 14.1도, 디코더에 대해 불변인 스칼라보다 13.8도 커졌다. 두 극성을 사용하는 접공간 LayerCAM 변형의 결과는 과제에 따라 달랐다. 원형 회귀에서는 주변 공간의 합을 쓰는 LayerCAM보다 앞섰으나, 쿼터니언 자세 추정에서는 차이가 검출되지 않았다. 이 결과는 반지름 방향 성분의 혼입과 스칼라화에 따른 정보 손실이라는 두 실패 원인을 구별한다. 이 접근법은 기존 기여도 산정 방법에 디코더를 고려한 목표를 적용한다. 일부 변형에서는 기여도 집계 방식도 바꿔야 한다. 불변성을 갖춘 기여도 산정도 예측을 움직이는 입력을 놓칠 수 있으므로 불변성과 삭제 평가 성능을 각각 확인해야 한다.

arXiv:2611.23154v1cs.LG

추론 시점 목적함수를 위한 층화 정책 학습

Learning Stratified Policies for Inference-Time Objectives

추론 시점 스케일링은 여러 응답을 샘플링하고 그 응답 집합의 효용을 평가해 대규모 언어 모델의 성능을 높인다. 그러나 기존 접근법 중 다수는 단일 정책에서 반복적으로 샘플링한다. 이 연구에서는 추론 시점의 샘플 예산을 여러 정책에 나누어 배정할 수 있는지 살펴본다. 학습한 정책 $k$개가 각각 응답 하나를 제공해 $k$개 샘플을 사용하는 추론 시점 목적함수를 평가하는 층화 정책을 제안한다. 공유 언어 모델 백본에 별도의 LoRA 어댑터를 달아 정책 집합을 구현하고 pass@$k$에 맞춰 최적화한다. 선형 설정을 분석해 이 접근법의 이론적 근거를 제시한다. 단일 LoRA는 각각 예측 오차가 0보다 크더라도 LoRA를 여러 개 사용하면 best-of-$k$ 근사 오차가 0이 될 수 있다. 여러 추론 과제의 실험에서 층화 정책은 단일 정책 기준선보다 pass@$k$를 일관되게 높였다. 이 결과는 추론 시점에 단일 정책에서 독립적이고 동일한 분포로 반복 샘플링하는 것보다 상호 보완적인 정책에 샘플을 분배하는 편이 샘플 예산을 더 효과적으로 활용할 수 있음을 보여 준다.

arXiv:2611.23142v1cs.SE

문서의 빈틈을 찾다: 문서 유지보수를 위해 배포한 다중 에이전트 시스템

Mind the Gap: A Deployed Multi-Agent System for Documentation Maintenance

‘AI 혁명’으로 기술 업계의 팀들은 전례 없는 속도로 소프트웨어 기능을 제공할 수 있게 됐다. 코드는 이전보다 빠르게 바뀌지만 고객용 문서는 변경 사항을 제때 반영하기 어려운 경우가 많다. 문서를 주된 인터페이스로 활용하는 LLM 기반 에이전트에 사용자가 점점 더 의존하면서, 오래된 정보가 전파되고 권위 있는 답변처럼 받아들여지는 문제가 커졌다. 문서가 뒤처진 부분을 찾을 단서는 이미 많다. 해결된 지원 문의에서 문서에 빠진 내용이 드러나는 명시적 단서와, 자동화된 반복 과정에서 코드와 문서의 불일치를 발견하는 암묵적 단서가 있다. 이 단서를 계속 수집해 문서와 실제 동작 간의 차이를 수정하는 다중 에이전트 시스템을 배포했다. 핵심 구성 요소는 지원 문의를 분류하는 에이전트 TriAgent다. 실제 응답을 보내지 않는 섀도 모드로 43일간 운영한 결과, 시스템은 지원 문의 499건을 분류해 문서의 빈틈 92곳을 찾았다. 서로 독립적인 모델 계열에서 뽑은 LLM 평가자 세 명의 다수결에서, 엔지니어의 답변으로 사실 여부를 확인할 수 있는 TriAgent의 주장 302개 중 245개(81.1%)가 정확했다. 길이가 비슷한 응답 쌍에서는 70.5%에서 TriAgent의 답변을, 23.2%에서 엔지니어의 답변을 선호했다. 나머지는 다수 의견이 없었다. 에이전트와 사람이 작성한 답변은 서로 보완하는 경향이 있었다. 사람은 기존 문서에서 찾기 어렵거나 전혀 다루지 않은 내용을 자주 짚었다. 시스템은 이런 내용을 각각 문서의 빈틈으로 기록하고, 사람의 검토를 거쳐 수정한다. 문서를 고친 뒤 에이전트가 같은 문의에 다시 답했을 때 답변 품질이 개선됐다. 수정 전후를 모르는 평가자들은 35건 중 71.4%에서 수정 후 답변을 선호했다. 전후 정보를 가린 사람의 검토에서도 에이전트가 개선됐다는 평가가 높은 수준으로 일치했다.

arXiv:2611.23138v1cs.AI

RSI-Prime: 모델을 학습시키는 모델 훈련하기

RSI-Prime: Training Models to Train Models

대규모 언어 모델(LLM)이 자율적으로 학습을 수행해 대상 모델을 개선하는 능력은 재귀적 자기 개선(RSI)의 중요한 기반이다. LLM의 역할이 학습을 받는 쪽에서 학습을 수행하는 쪽으로 확대되면서, 모델 학습을 수행하는 능력을 별도로 연구하고 체계적으로 개발할 필요가 있다. 이를 위해 모델 학습 능력을 개선하는 데이터셋 RSI-Prime을 구축했다. 7개 과제 범주에서 실험 과정 전체를 담은 궤적 350개로 구성된다. LLM이 학습 실습에서 더 나은 실험 결정을 내리는 법을 배울 수 있도록 결정 지점을 세밀하게 식별하고 품질에 주석을 달았다. 그런 다음 개별 결정의 손실에 마스크를 적용해 품질이 낮은 행동은 지도 신호에서 제외했다. 자율 사후 학습용 벤치마크 PostTrainBench에서 GLM-5.3을 실험한 결과, RSI-Prime으로 학습한 모델은 원래 GLM-5.3보다 종합 성능이 상대적으로 31.95% 높았다. 이는 모델이 자체 개선을 지속적으로 수행하는 미래의 RSI 시스템으로 나아갈 가능성을 보여 준다.

arXiv:2611.23106v1cs.CL

자연어 프로그래밍: 생성형 AI 시대의 언어, 기억, 인지 다시 생각하기

Natural Language Programming: Rethinking Language, Memory, and Cognition in the Era of Generative AI

생성형 인공지능은 컴퓨팅 시스템에서 자연어의 역할을 바꾸고 있다. 전통적인 자연어 처리(NLP)에서는 언어를 분석, 분류, 번역, 생성하는 계산 대상으로 다뤘다. 대규모 언어 모델(LLM)은 이 관점을 바꾸고 있다. 자연어가 점차 사람이 추론을 구성하고 문제 해결을 조율하며 사람과 AI가 함께하는 워크플로를 관리하는 실행 가능한 인지 매체로 쓰인다. 이 논문은 전통적 NLP를 이론과 인식론 측면에서 확장한 자연어 프로그래밍(NLPg)을 소개한다. NLPg는 언어 이해뿐 아니라, 목표, 제약, 가정, 검증 기준, 중간 추론 상태를 외부에 드러내는 동적 인지 산출물로 프롬프트를 바라본다. 따라서 프롬프트 작성은 상호작용 기술인 동시에 사람과 AI의 분산 기억 아키텍처에서 작동하는 대화형 인지 프로그래밍이다. 분산 인지, 확장된 마음, 메타인지, 대화 학습 이론에 기반해 대화형 작업기억이라는 개념을 제안한다. 프롬프트와 대화 상태가 추론의 연속성과 성찰적 조절을 지원하는 일시적 외부 기억 구조로 어떻게 기능하는지 설명한다. 기존 기억 아키텍처(BTMA, SKGE, RMR)를 이 틀에 대응시켜 일화적, 의미적, 메타인지적 계층이 장기 대화의 일관성을 어떻게 유지하는지 보여 준다. 마지막으로 전산언어학과 AI 매개 지식 시스템에 대한 함의를 논의한다. 자연어가 의사소통 매체, 실행 가능한 명세, 사고를 돕는 틀, 분산 기억 아키텍처로 동시에 기능하는 탈기호·탈인터페이스 패러다임을 제시한다.

arXiv:2611.23096v1cs.AI

은닉 상태 유사도로 예방접종 프롬프팅 이후의 행동 재발현 예측하기

Hidden-State Similarity Predicts Re-Elicitation After Inoculation Prompting

범위가 좁은 유해 과제로 미세조정하면 모델이 학습 분포를 벗어나 유해 행동을 일반화하는 창발적 비정렬이 나타날 수 있다. 예방접종 프롬프팅은 학습 중 원치 않는 행동을 명시적으로 유도해 이 효과를 줄일 수 있다. 그러나 최근 연구에 따르면 평가 프롬프트에 학습 문맥의 단서가 들어 있으면 그 행동이 다시 나타날 수 있다. 이 연구는 어떤 특징이 그러한 프롬프트를 효과적인 유발 요인으로 만드는지 살펴본다. 예방접종 프롬프트와의 텍스트 유사성만으로는 재발현을 완전히 예측할 수 없었다. 예방접종 문맥에서 생성된 활성화 상태와 비슷한 상태가 나타날 때 억제된 행동이 다시 나타날 가능성이 더 높았다. 이 결과는 예방접종 프롬프팅이 조건부 비정렬을 어떻게 바꾸는지 이해하는 데 도움이 된다. 또한 활성화 공간 분석으로 어떤 평가 프롬프트에서 억제된 행동이 여전히 나타날 수 있는지 파악할 수 있음을 시사한다.