PyTorchKR Papers

최신 논문

총 24,820편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 카테고리 구독

arXiv:2603.17673v3cs.CR

Towards Reliable Local Security Agents: Verifiable Post-Training for Linux Privilege Escalation

LLM agents are increasingly important in security, yet leading systems are typically closed-source and cloud-hosted, limiting reproducibility and their use with sensitive data. This creates a need for small, local models that can perform security tasks under strict resource constraints, though effective methods for developing them remain underexplored. In this paper, we address this gap by proposing a two-stage post-training recipe that turns a small local language model into a security agent. To this end, we focus on Linux privilege escalation as a representative setting to systematically study the training of local models, as the task is automatically verifiable and requires multi-step interactive reasoning. Using an experimental setup that mitigates benchmark leakage, we post-train a small 4B model in two stages: supervised fine-tuning on traces from procedural privilege-escalation environments, followed by reinforcement learning with verifiable rewards. On a held-out benchmark of 12 Linux privilege-escalation scenarios, supervised fine-tuning nearly doubles the baseline success rate under a tight budget of 20 interaction rounds, and subsequent reinforcement learning improves our model, PrivEsc-LLM 4B, to 93.3% success, ahead of all other evaluated models that fit a single consumer GPU. At the same time, its expected inference cost per successful escalation is more than 80x lower than that of Claude Opus 4.7. Our findings show that small local models can be adapted to complex security tasks. We document the challenges involved and offer guidance for transferring this recipe to other settings.

arXiv:2603.05542v3cs.DB

AI 시대의 인간-데이터 상호작용, 탐색, 시각화 시스템: 도전과 기회

Human-Data Interaction, Exploration, and Visualization Systems in the AI Era: Challenges and Opportunities

AI의 급속한 발전은 인간 중심 시스템을 변화시키고 있으며, 인간-AI 상호작용, 인간-데이터 상호작용, 시각적 분석에 중대한 영향을 미친다. AI 시대에 데이터 분석은 대규모이고 이질적이며 대부분 비정형인 멀티모달 데이터와, 분석 과정에 추가적인 불확실성을 도입하는 LLM 및 VLM과 같은 파운데이션 모델을 점점 더 많이 다루게 된다. 이러한 변화는 지각적으로 어긋난 지연, 확장성 제약, 기존 상호작용 및 탐색 패러다임의 한계, AI가 생성한 통찰의 신뢰성과 해석 가능성에 대한 커져 가는 불확실성을 포함하여, 인간-데이터 상호작용 시스템이 안고 있는 지속적인 난제들을 드러낸다. 이러한 난제에 대응하려면 기존의 효율성 및 확장성 지표를 넘어서고, 분석 워크플로에서 인간과 기계의 역할을 재정의하며, 인간-데이터 상호작용 스택의 모든 수준에 인지적, 지각적, 설계 원칙을 반영해야 한다. 본 논문은 최근 AI의 발전이 가져온 난제를 조사하고 이러한 발전이 사용자가 데이터와 상호작용하는 방식을 어떻게 바꾸고 있는지 검토하며, AI 시대의 상호작용형 데이터 분석을 위한 인간 중심 AI 시스템 구축의 한계와 미해결 연구 방향을 제시한다.

arXiv:2603.01608v3cs.AI

LLM 에이전트의 책략 성향 평가 및 이해

Evaluating and Understanding Scheming Propensity in LLM Agents

최첨단 언어 모델이 복잡하고 장기적인 목표를 추구하는 자율 에이전트로 점점 더 많이 배포됨에 따라, 에이전트가 정렬되지 않은 목표를 은밀하게 추구하는 책략(scheming)의 위험이 커지고 있다. 기존 연구는 에이전트가 책략을 쓸 능력이 있음을 보이는 데 집중해 왔으나, 현실적인 시나리오에서 책략을 쓰려는 성향은 아직 충분히 탐구되지 않았다. 에이전트가 언제 책략을 쓰는지 이해하기 위해, 책략의 유인을 에이전트 요인과 환경 요인으로 분해한다. 자기보존, 자원 획득, 목표 보호와 같이 수단적으로 수렴하는 목표를 추구하는 에이전트에게 책략의 기회가 존재하는 현실적인 설정을 개발하여 이러한 요인을 체계적으로 변화시킬 수 있게 한다. 11개의 최첨단 모델과 네 가지 시나리오에 걸쳐, 환경적 유인이 높음에도 책략이 거의 나타나지 않음을 확인하였으며, 이것이 언어로 표현된 평가 인식으로 설명될 가능성은 낮음을 보인다. 에이전트성과 목표 지향성을 장려하도록 적대적으로 설계된 프롬프트 조각을 에이전트의 시스템 프롬프트에 삽입하면 높은 책략 비율을 유도할 수 있지만, 실제 에이전트 스캐폴드에서 사용되는 조각은 그런 경우가 드물다. 이러한 조각으로 구축한 모델 유기체에서 책략 행동은 취약하여, 도구 하나를 제거하면 책략 비율이 59%에서 3%로 떨어질 수 있다. 감독을 강화하면 책략을 억제하기보다 최대 25%까지 오히려 증가시킬 수 있으며, 이 효과는 감독 문장의 표현에 의존하고 사보타주 자체가 검토되는 두 번째 시나리오에서는 나타나지 않는다. 이러한 결과는 책략 성향이 단일한 비율이 아니라 에이전트 구성별로 보고되어야 함을 시사한다. 본 연구의 유인 분해는 배포와 관련된 설정에서 이러한 체계적 측정을 가능하게 하며, 이는 에이전트에게 점점 더 중대한 과업이 맡겨지는 상황에서 필수적이다.

arXiv:2602.16736v4cs.OS

컴퓨트 ICE-AGE: 추론이 유휴 상태인 동안에도 유지되는 연속성, OPAL ONE

The Compute ICE-AGE: OPAL ONE, Continuity That Persists While Reasoning Is Idle

컴퓨트 ICE-AGE는 지속적인 애플리케이션 메모리와 확률적 추론을 분리한다. 본 논문에서는 추론 세션 사이에 레코드 식별자, 관계, 승인된 수치 상태를 보존하는 CPU 상주형 C++17 그래프 엔진 OPAL을 제시한다. 애플리케이션은 정의된 업데이트를 통해 해당 상태를 발전시키고, 정규 체크포인트를 저장하며, 재시작 후 연속성을 복구한다. 경계 지역 생성자 클래스(Bounded Local Generator Classes, BLGC)는 이러한 경계가 있는 지역적 발전의 수학적 기반을 제공한다. Apple Silicon M2 Pro 하드웨어에서 현재 엔진의 상주 업데이트 P50은 유지되는 원자 메모리 정점(Atomic Memory Vertices, AMV) 100,000개, 1,000,000개, 5,000,000개에서 0.083마이크로초로 측정되었다. 동일 세션에서 수행한 1M-5M-1M 시퀀스는 고정된 단일 바이너리와 1,024개의 준비된 대상을 사용하여 이 중앙값을 재현했으며, 모든 프로세스가 정확성 검사를 통과했다. 이 측정은 검증, 인덱스 조회, 수치 상태 변경을 포함한 완전한 상주 업데이트 호출을 대상으로 한다. 초기화 및 저장 공간 증가 비용은 별도로 보고한다. 신뢰성 테스트에서는 이벤트 재생, 충돌 거부, 동시 호출, 할당 실패 처리, 그리고 새 프로세스에서의 복구 및 지속 운영을 검증했다. 엔진 버전 간 비교에서는 바이트 단위로 동일한 체크포인트와 연속 파일이 생성되었다. 설치된 PYAMV 파이썬 패키지는 17개의 SDK 계약 검사와 20개의 워크로드 검사를 통과했다. KINDRED의 모델 컨텍스트 프로토콜(Model Context Protocol) 인터페이스는 메모리 연산, 권한 부여, 전송을 아우르는 22개의 개별 집중 검사를 통과했다. 이러한 결과는 종합적으로 500만 개의 유지되는 AMV에 이르기까지 낮은 반복 로컬 업데이트 비용으로 지속적인 연속성을 구현할 수 있음을 보여 주며, 애플리케이션과 개발자를 위한 동작하는 인터페이스를 제공한다. 이 아키텍처는 추론이 유휴 상태인 동안에도 승인된 메모리를 사용할 수 있게 유지하여, 애플리케이션이 해석, 계획 또는 생성이 필요한 작업에서만 모델을 호출할 수 있게 한다.

arXiv:2602.14865v2cs.AI

EmbeWebAgent: 맞춤형 기업 UI에 웹 에이전트 내장하기

EmbeWebAgent: Embedding Web Agents into Custom Enterprise UIs

대부분의 웹 에이전트는 애플리케이션 수준의 접근 없이 스크린샷이나 원시 DOM 트리를 관찰하는 인간 인터페이스 수준에서 동작하며, 이는 견고성과 행동 표현력을 제한한다. 그러나 기업 환경에서는 프론트엔드와 백엔드 모두를 명시적으로 제어할 수 있다. 본 논문에서는 경량 프론트엔드 훅(선별된 ARIA 및 URL 기반 관찰, 그리고 WebSocket을 통해 노출되는 페이지별 함수 레지스트리)과 추론 및 행동 수행을 담당하는 재사용 가능한 백엔드 워크플로를 사용하여 기존 UI에 에이전트를 직접 내장하는 프레임워크인 EmbeWebAgent를 제시한다. EmbeWebAgent는 스택에 구애받지 않으며(예: React 또는 Angular), GUI 기본 동작부터 상위 수준의 복합 동작까지 다양한 粒度의 혼합 행동을 지원하고, MCP 도구를 통해 내비게이션, 조작, 도메인 특화 분석을 조율한다. 데모는 최소한의 개조 노력과 실제 UI 환경에 기반한 다단계 동작을 보여 준다. 데모 영상: https://youtu.be/Cy06Ljee1JQ

arXiv:2602.07787v2cs.AI

멀티 에이전트는 전자 화면의 꿈을 꾸는가? 과제 분해를 통한 AndroidWorld 100% 달성

Do Multi-Agents Dream of Electric Screens? Achieving 100% on AndroidWorld Through Task Decomposition

본 논문에서는 안드로이드 UI 제어를 위한 멀티 에이전트 시스템인 Minitap의 mobile-use를 제시하고, Minitap 클라우드 기기 인프라의 안드로이드 에뮬레이터, 자체 기기 팜의 실제 Pixel 7 휴대폰, 그리고 기본 에뮬레이터에서 AndroidWorld의 116개 과제로 평가한다. 개발 중 사용된 적 없는 새로운 보류 과제 인스턴스(사전 등록된 세 개의 시드)에서 최종 시스템은 pass@3 100.0%(95% CI 96.8-100.0)에 도달하며, pass^3은 94.0%(95% CI 89.7-97.4), 평균 성공률은 98.0%(95% CI 96.0-99.7)이다. Minitap은 각 과제를 다섯 개의 LLM 에이전트(계획, 하위 목표 추적, 상태 캡처, 의사결정, 실행)와 결정론적 노드로 분해하며, 기기에서 입력된 텍스트를 다시 읽어 오고, 기기 증거로 목표를 검증하며, 반복되는 실패를 탐지하는 메커니즘을 갖추고 있다. 초기 시스템에 대한 연구는 각 구성 요소의 기여를 측정한다. 분해만 제거하면 성공률이 -26.1 [-35.6, -16.7]포인트 변하고, 메커니즘들을 합치면 단일 에이전트 대비 +11.7 [+2.2, +21.1]포인트가 추가되며, 의사결정 에이전트는 최첨단 모델이 필요한 유일한 역할이다. 이후 일반적인 변경을 통해 신뢰성을 개선하였으며, 그중 일부는 목표 문구에 의해 촉발된다. 개발 중 사용된 적 없는 두 번째 벤치마크인 MobileMiniWoB++에서 최종 시스템은 초기 시스템보다 7.1포인트 향상된다(McNemar p = 0.035; 95% CI -0.5 ~ +14.7). Minitap은 오픈 소스이다: https://github.com/minitap-ai/mobile-use

arXiv:2601.21760v3cs.AI

GCD: 이질적 GCM 전반에 걸친 제로샷 다운스케일링을 위한 GCM 일관적 확산 모델

GCD: GCM-consistent Diffusion for Zero-shot Downscaling across Heterogeneous GCMs

전지구 순환 모형(General Circulation Model, GCM)의 기후 다운스케일링은 GCM 출력과 재분석 자료가 서로 다른 역학계에서 생성되며 미세 규모의 시간적 짝지음이 없기 때문에 비정칙(ill-posed) 역문제이다. 따라서 지도 학습 방법은 합성 열화나 모형별 적응에 의존하게 되어, 이질적인 GCM 전반으로의 일반화가 제한된다. 제로샷 확산 사후 샘플링(diffusion posterior sampling, DPS)은 고해상도 기후 사전분포와 거친 해상도의 GCM 입력으로부터 얻은 추론 시점 제약을 결합함으로써 짝지어진 지도 신호를 필요로 하지 않으나, 일관성과 효율성 측면의 과제를 안고 있다. 본 논문은 지리적 조건화, 스펙트럼 필터링된 측정 유도, 그리고 증류로 가속화한 켤레 기울기(Conjugate Gradient) 유도를 통해 이러한 과제를 해결하는 GCM 일관적 제로샷 다운스케일링 확산 모델(GCM-consistent Diffusion for Zero-shot Downscaling, GCD)을 제안한다. GCD는 거친 해상도의 GCM 입력과의 일관성을 유지하면서 추론 과정을 1,000회의 확산 단계에서 6회로 줄인다. 다섯 가지 이질적 GCM 전반에서 GCD는 99번째 백분위수 극한 사건 정확도에서 경쟁력 있는 성능을 달성하며, 모형별 재학습 없이도 그럴듯한 고주파 열대저기압 구조를 복원한다. Github: https://github.com/shawnvonbohr/GCD-Climate-Downscaling.git

arXiv:2512.18857v4cs.AI

CORE: 수학적 추론에서 정의-적용 간극을 잇는 개념 지향 강화학습

CORE: Concept-Oriented Reinforcement for Bridging the Definition-Application Gap in Mathematical Reasoning

대규모 언어 모델(LLM)은 어려운 수학 문제를 풀면서도, 문제가 진정한 이해를 요구할 때에는 개념을 올바르게 적용하지 못하는 경우가 많다. 널리 쓰이는 검증 가능한 보상 기반 강화학습(RLVR) 파이프라인은 최종 답을 강화하지만 세밀한 개념적 신호는 거의 제공하지 않아, 모델은 개념 적용보다는 패턴 재사용 능력만 향상된다. 본 논문은 명시적 개념을 제어 가능한 지도 신호로 전환하는 강화학습 훈련 프레임워크 CORE(Concept-Oriented REinforcement)를 소개한다. 검증 가능한 연습문제를 간결한 개념 설명과 연결한, 고품질이며 오염이 적은 교재 자료에서 출발하여, LLM이 정의를 다시 진술할 수는 있으나 개념과 연계된 퀴즈에서는 실패함을 보이는 타당성 점검을 수행하고 개념적 추론 격차를 정량화한다. 이어서 CORE는 (i) 개념에 정렬된 퀴즈를 합성하고, (ii) 롤아웃 중에 짧은 개념 스니펫을 주입하여 개념으로 프라이밍된 궤적을 유도하며, (iii) 그룹 실패 후의 궤적 대체, 안내 없는 정책을 개념으로 프라이밍된 정책에 정렬하는 가벼운 순방향 KL 제약, 또는 개념에 정렬된 퀴즈에 대한 표준 GRPO를 직접 적용하는 방식으로 개념적 추론을 강화한다. 여러 모델에 걸쳐 CORE는 도메인 내 개념-연습문제 모음과 다양한 도메인 외 수학 벤치마크 모두에서 기본 모델 및 SFT 기준선 대비 일관된 향상을 보인다. CORE는 개념에 정렬된 퀴즈에 대한 직접 학습과 개념이 주입된 롤아웃을 결과 정규화 아래 통합한다. 이는 문제 해결 능력과 진정한 개념적 추론 사이를 잇는 세밀한 개념적 지도를 제공하면서도 알고리즘 및 검증기에 구애받지 않는다.

arXiv:2512.15783v5cs.AI

AI 역학을 향하여: 전향적 위험 탐지를 위한 측정 표준화 프레임워크

Toward AI epidemiology: a measurement standardization framework for prospective risk detection

본 논문은 모델 내부에 접근하지 않고도 배포된 AI 시스템의 전향적 위험 탐지를 수행할 수 있도록, 전문가-AI 상호작용을 구조화되고 비교 가능한 필드로 압축하는 측정 표준화 프레임워크를 제안한다. 이 개념 논문은 프레임워크의 범위를 의미론적·통계적으로 정의하고, 이를 실증적으로 검증하기 위한 프로토콜을 명시한다. 따라서 이 프레임워크가 뒷받침하도록 설계된 집단 수준의 주장은 본 논문에서 주장하는 결과가 아니라 단계적 연구 프로그램에 속한다. 측정 표준화는 세 가지 주장을 뒷받침한다. 첫째는 신뢰성 주장으로, 제한된 조건에서 대규모 언어 모델이 전문가-AI 상호작용의 근거 및 정책 정렬에 대해 신뢰할 수 있는 표준화된 평가를 생성할 수 있다는 것이다. 둘째는 거버넌스 주장으로, 정렬 점수가 배포 중 전문가에게 즉각적인 신호를 제공하고 기관에는 임무 유형, 모델, 도메인 전반의 정렬 패턴을 모니터링할 근거를 제공한다는 것이다. 셋째는 결과 타당성 주장으로, 측정 표준화가 확립되면 집계된 정렬 점수를 규제된 전문 환경에서 후속 결과와의 연관성을 연구하는 데 사용할 수 있다는 것이다. 이는 역학적 추론에서 영감을 얻어 기전 분석이 아닌 상관 변수에 기반한 위험 탐지 방식인 "AI 역학"의 가능성을 제시한다. 공개된 전문가-AI 말뭉치에 프로토콜을 최소한으로 적용한 결과, 명시된 조건에서 판정 모델이 두 차례 실행에 걸쳐 정책 및 근거 정렬 점수를 재현함을 보인다. 대규모에서의 판정 모델 신뢰성은 향후 연구에서 검증되어야 한다. 본 논문은 여덟 가지 상호작용 필드로 이루어진 정의된 문법과 함께, 쌍체 부트스트랩 추론, 민감도 점검으로서 쌍체 AUC에 대한 DeLong 검정, 사전에 지정한 0.05의 단측 비열등성 한계, Holm-Bonferroni 보정에 기반한 통계 프로토콜을 제시한다.

arXiv:2512.02368v3cs.CV

지도 없는 궤적 예측을 위한 에이전트 내부 운동 및 에이전트 간 관계 학습

Intra-Agent Motion and Inter-Agent Relation Learning for Map-Free Trajectory Prediction

궤적 예측은 자율주행에서 안전한 계획과 의사결정에 필수적이다. 지도 없는 예측은 고정밀 지도에 대한 의존을 제거하여 배포 유연성을 높이지만, 명시적인 도로 위상 및 차선 연결성 사전 정보도 잃게 된다. 그 결과 모델은 차선 수준의 안내 없이 전향적 상호작용 관계를 해소하면서 짧은 이력으로부터 안정적인 운동 단서를 복원해야 한다. 이러한 과제를 해결하기 위해, 본 논문은 새로운 목표 조건부 전문가 라우팅 트랜스포머(Goal-Conditioned Expert-Routed Transformer, GCERT)를 중심으로 하는 지도 없는 궤적 예측 프레임워크를 제안한다. 경량의 에이전트 내부 프런트엔드가 먼저 투영된 과거 운동 특징을 중심 이동 평균을 통해 매끄러운 추세와 국소 세부 잔차로 분해한다. 성분별 잔차 투영이 두 신호를 변환한 뒤, 인과적 시간 트랜스포머가 재결합된 신호의 변화를 요약한다. GCERT는 이중 수준의 전문가 라우팅을 사용하는데, 에지 수준 관계 전문가는 상호작용별 메시지를 생성하고, 노드 수준 상태 전문가는 메시지 집계 후의 변환을 조정한다. 예측된 운동 목표는 최종 상호작용 계층 이전에 노드 표현을 갱신하고 전향적 상대 기하 및 방향 에지 특징을 구성하며, 이를 통해 어텐션, 관계별 메시지 생성, 상태 변환을 조건화한다. 따라서 GCERT는 어떤 이웃 에이전트에 주의를 기울일지뿐 아니라, 어떤 관계별 정보를 전달하고 집계된 노드 상태를 어떻게 변환할지도 결정한다. 이렇게 얻은 표현은 다중 모달 미래 궤적으로 디코딩되며, 궤적 회귀, 모드 분류, 목표 예측 목적함수로 함께 최적화된다.

arXiv:2511.19218v3cs.CR

From Strategy Search to Policy Learning: MCTS-Guided Adversarial Co-Evolution for LLM Safety Alignment

Large Language Models (LLMs) increasingly power web-facing applications, including conversational assistants and content services, where open user interaction exposes them to diverse safety threats and adaptive attacks. In particular, jailbreak attackers repeatedly reformulate harmful requests to bypass safety alignment. Although existing studies have concentrated on defending dynamic jailbreaks, they often retain discovered attacks as flat samples and discard information about how those attacks were found. In this paper, we introduce MACE, an MCTS-guided adversarial co-evolution framework that turns search into policy-learning signals for both an attacker and a defender. Its search component, GS-MCTS, explores multi-step compositions of rewriting operators and associates discovered attacks with empirical success frequency and path depth. Its optimization component, AC-TGPO, uses these statistics for difficulty-aware group-relative credit assignment and constructs a temporally asymmetric curriculum from current interactions, pairings between the latest attacker and preceding defender, and attacks that survive a defense update. Thus, MACE connects search structure to both within-round policy optimization and cross-round memory, rather than using MCTS only to generate attacks or treating each round as a flat adversarial dataset. Removing difficulty-aware weighting, asymmetric samples, or persistent hard samples increases defense ASR-LR by 3.7 %, 6.0 %, and 5.0 %, respectively. Across evaluated models, the resulting attacker achieves the highest ASR-LR in all six model--dataset settings, while the defender reduces average ASR-LR from 11.9 % for the best baseline to 8.8 %.

arXiv:2510.26185v2cs.LG

SGD 기반 leave-one-out 영향도의 에폭 간 편향: 분석과 누적 보정

Cross-Epoch Bias in SGD-based Leave-One-Out Influence: Analysis and Accumulative Correction

학습 데이터 영향도 추정은 개별 샘플을 제거했을 때의 효과를 예측함으로써 데이터 선택과 정제를 지원한다. 표준적인 다중 에폭 SGD-Influence Estimator(SGD-IE)는 기록된 궤적을 따라 한 샘플이 반복적으로 등장할 때의 기여를 합산한다. 이를 유한 삭제의 근사에 사용하면 상호작용 하나가 누락되는데, 이후의 제거가 이전 제거로 누적된 파라미터 변위에 작용한다는 점이다. 본 논문은 이전 제거가 같은 샘플을 다시 제거하는 효과를 어떻게 바꾸는지 반영하기 위해 Accumulative SGD-Influence Estimator(ACC-SGD-IE)를 도입한다. 이 추정기는 이후 등장 시점에서의 해당 샘플의 헤시안을 사용하여 추정된 파라미터 변화를 보정한다. 비볼록 분석 결과, 이 보정은 유한 구간 오차 한계에서 SGD-IE의 추가적인 상호작용 기여를 제거한다. 즉, 누락된 상호작용은 누적된 파라미터 변화에 선형인 국소 오차를 만들며, 나머지 테일러 나머지항은 립시츠 헤시안 가정하에서 이차로 유계이다. 이 한계는 학습이 잔여 오차를 어떻게 전파하는지를 특징짓는다. 깨끗한 데이터와 잡음이 있는 정형, 텍스트, 비전 데이터셋에 걸친 비볼록 실험에서 ACC-SGD-IE는 SGD-IE 대비 검증 손실 변화 RMSE를 평균 10.8% 줄이고 Jaccard@10%를 평균 15.2% 향상시킨다. 이러한 이득은 평가된 제거 예산에서 MNIST와 CIFAR10의 데이터 정제 후 더 낮은 테스트 오분류율로도 이어진다. 잡음이 있는 산업 데이터셋에서는 평균 상대 감소율 53.4%로 파라미터 RMS 오차 총합을 줄인다. 또한 계산상의 상충 관계를 논의하고, 강볼록 목적함수에 대한 보완적인 이론 분석과 실험 평가를 제공하며, 누적 보정 메커니즘을 다른 영향도 추정기로 확장할 가능성을 탐구한다.

arXiv:2510.15200v2econ.TH

AI 파운데이션 모델의 경제학: 개방성, 경쟁, 거버넌스

The Economics of AI Foundation Models: Openness, Competition, and Governance

파운데이션 모델 개발자는 모델을 얼마나 개방할지 선택한다. 개방성이 높을수록 하위 단계의 적응 비용은 낮아지지만 경쟁 모델도 더 쉽게 사용할 수 있게 될 수 있다. 2기간 모형에서 기존 사업자는 라이선스 요금과 개방성을 선택하고, 배포자는 사용자를 위해 모델을 적응시키며, 신규 진입자는 경쟁 모델을 제공한다. 사용은 모델 고유의 경험을 축적하여 배포자의 미래 적응 비용을 낮추고, 이는 기존 사업자의 지속적 사용에 유리한 데이터 플라이휠을 만든다. 학습이 강해짐에 따라 최적 개방성이 하락한 뒤 상승하는 조건을 규명한다. 기존 사업자는 완전한 개방성과 높은 요금에서 출발하여 고객 유지를 위해 개방성을 제한하는 단계로 이동하고, 이후 개방성이 커지더라도 배포자를 유지할 만큼 충분한 사용과 경험을 쌓는 낮은 요금으로 이동한다. 완전 개방 의무화는 기존 사업자가 이러한 저요금 전략을 포기하도록 유도할 수 있다. 더 높은 요금은 개방성이 커지더라도 1기의 적응을 감소시킬 수 있다. 이러한 후생 손실이 신규 진입자 모델의 적응이 쉬워짐에 따른 2기의 이득을 초과할 때 개방성 함정이 발생한다. 경험이 모델 간에 이전되면 이 함정은 사라질 수 있다. 완전 통합은 기존 사업자와 배포자 사이의 요금을 없애지만 배포를 기존 사업자에 고정시켜, 적응 비용이 더 낮은 경쟁자를 포기하게 될 수 있다. 통합은 학습이 충분히 강할 때 이들의 공동 이윤, 소비자 잉여, 후생을 높이지만 학습이 약할 때는 이를 낮출 수 있다. 소규모 사용 보조금은 두 개발자, 배포자, 소비자 모두에게 이로울 수 있다. 그러나 보조금보다 큰 요금 인상과 개방성 축소를 유발하여 사용당 배포자의 순지불액과 적응 비용을 높일 수도 있다. 그 결과 적응이 줄어들면 보조금 지출을 차감하기 전에도 후생이 낮아진다. 이러한 결과는 AI 정책을 개발자의 가격 책정 및 개방성 대응, 그리고 배포 경험의 이식성과 연결한다.

arXiv:2509.04007v2cs.AI

AutoPBO: 국소 탐색 PBO 해결기를 위한 LLM 기반 최적화

AutoPBO: LLM-powered Optimization for Local Search PBO Solvers

유사 불리언 최적화(Pseudo-Boolean Optimization, PBO)는 유사 불리언(PB) 제약을 통해 조합 문제를 모델링하는 강력한 틀을 제공한다. 국소 탐색 해결기는 PBO 풀이에서 뛰어난 성능을 보였으며, 그 효율은 탐색을 이끄는 내부 휴리스틱에 크게 좌우된다. 그러나 이러한 휴리스틱의 설계에는 실제로 상당한 전문가의 노력과 수작업 조정이 필요한 경우가 많다. 대규모 언어 모델(LLM)이 알고리즘 설계 자동화에서 잠재력을 보여 왔지만, PBO 해결기 최적화에 대한 적용은 아직 탐구되지 않았다. 본 연구에서는 PBO 국소 탐색 해결기를 자동으로 향상시키는 새로운 LLM 기반 프레임워크인 AutoPBO를 제안한다. 실제 문제 벤치마크 하나, PB 대회 벤치마크 하나, 정수 선형 계획 최적화 벤치마크 하나, 직접 구성한 조합 벤치마크 하나를 포함한 네 가지 공개 벤치마크에서 실험을 수행하여 AutoPBO의 성능 향상을 평가하고, 이를 여섯 가지 최신 경쟁 해결기와 비교한다. 비교 대상은 국소 탐색 PBO 해결기 NuPBO와 OraSLS, 완전(complete) PB 해결기 PBO-IHS와 RoundingSat, 혼합 정수 계획(MIP) 해결기 Gurobi와 SCIP이다. AutoPBO는 기존 국소 탐색 방식보다 크게 향상된 성능을 보이면서도 최신 경쟁 해결기와 대등한 성능을 유지한다. 이 결과는 AutoPBO가 국소 탐색 해결기 설계를 자동화하는 유망한 접근임을 시사한다.

arXiv:2508.20262v3cs.AI

콘텐츠 검열 딜레마에 대한 추론에서 인간과 AI는 과제 난이도에 유사하게 반응한다

Humans and AI respond similarly to task difficulty when reasoning about content moderation dilemmas

대규모 추론 모델(LRM)은 답을 내기 전에 중간 추론 단계를 생성하며, 해결책을 반복적으로 발전시켜 어려운 문제에서의 성능을 향상시킨다. LRM이 사람이 푸는 데 더 오래 걸리는 문제에 더 많은 노력을 들인다는 증거가 있으나, 이러한 관계가 검증 가능한 답이 없는 더 주관적인 과제에서도 성립하는지는 불분명하다. 본 연구는 두 선택지의 상대적 공격성을 달리하여 과제 난이도를 조작한 콘텐츠 검열 과제를 이용한 실험으로 이 문제를 다룬다. 여섯 개의 대규모 추론 모델과 1,854명의 인간 참가자를 비교한 결과, 모델은 사람이 판정하는 데 더 오래 걸리는 유형의 사례에서 사고의 연쇄(CoT) 길이로 측정한 추론 노력을 더 많이 들인다는 것을 확인하였다. 두 게시물의 공격성이 동일하게 유지될 때 사람은 31\% 더 오래 걸렸고, 모델은 51~306\% 더 긴 CoT를 생성하였다. 개별 판단에서는 상관이 비교적 낮지만($r = 0.15$--$0.19$), 공격적 언어의 유형별로 과제를 묶으면 평균 응답 시간과 평균 추론 노력이 밀접하게 상관된다($r = 0.85$--$0.93$). Gemini 2.5 Pro의 CoT 요약에 대한 질적 분석도 이러한 결과를 뒷받침하며, 공격성이 고정되었을 때 부차적 요인이 더 자주 언급됨을 보여 준다. 이 결과는 추론 흔적을 활용하여 어려운 사례의 우선순위를 정하고 해석 가능성을 높일 수 있음을 시사한다.

arXiv:2508.07683v3cs.CV

TAR: 비디오 시간적 grounding을 위한 시간 앵커 제약 추론

TAR: Temporal Anchor-Constrained Reasoning for Video Temporal Grounding

비디오 시간적 grounding(Video Temporal Grounding, VTG)은 자연어 질의에 해당하는 특정 비디오 구간을 찾아내는 것을 목표로 한다. 최근의 대규모 시각-언어 모델(LVLM)은 강화학습을 사용하여 사고의 연쇄(CoT)를 생성하지만, 일반적으로 결과 기반 지도에만 의존한다. 그 결과 추론 과정이 시각적 내용 및 최종 예측과 분리되는 환각이 자주 발생한다. 더 큰 모델이나 별도의 보상 모델의 외부 지도에 의존하여 이를 완화하려는 기존 시도는 계산 비용이 크고 경직된 패턴에 빠지기 쉽다. 이러한 문제를 해결하기 위해 본 논문은 투명하고 감사 가능한 체크포인트 메커니즘으로서 시간 앵커(T-anchor)를 도입하는 프레임워크인 TAR(Temporal Anchor-Constrained Reasoning)를 제안한다. T-anchor는 CoT 내에서 점진적 정교화를 강제하여, 모델이 중간 사고를 시각적 증거에 지속적으로 근거하게 하고 시간적 예측을 반복적으로 보정하도록 함으로써, 추론 과정의 충실성과 자율성 및 최종 정확도를 크게 향상시킨다. 더 나아가 표준 7B 모델만으로 고품질 CoT 데이터를 자동으로 수집하는 부트스트래핑 패러다임을 도입하여 초대형 모델에 대한 의존을 없앴다. 폭넓은 실험을 통해 TAR가 최첨단 성능을 달성하며 충실하고 자율적이며 점진적으로 정교화되는 추론 흔적을 생성함을 입증한다.

arXiv:2507.20230v4cs.AI

다중 에이전트 시스템을 통한 화학 문헌 기반의 대규모 검증 가능 데이터베이스 구축

Building verifiable databases at scale from the chemical literature via a multi-agent system

인공지능으로 화학 연구를 가속하려면 고품질 데이터베이스가 필요하다. 그러나 많은 반응은 사람이 읽도록 그려진 그래픽으로만 존재하며, 기계는 이를 정확하게 읽어야 한다. 전문 소프트웨어는 정밀하지만 경직되어 있고, 멀티모달 언어 모델은 유연하지만 잘못된 구조를 작성하는 경우가 많으며, 어느 쪽도 오류를 표시하지 않는다. 본 연구는 도구가 구조를 제공하고 언어 모델이 프로그램이 적용하는 판단을 통해 그 활용 범위를 넓히는 다중 에이전트 시스템 ChemEAGLE을 제시한다. 발표된 424개의 그래픽에서 정확히 올바른 반응에 대한 F1 점수는 82.2%였으며, 이는 도구를 갖춘 범용 에이전트의 47.7%와 비교된다. 또한 보정된 신뢰도를 통해 검토 대상을 반응의 35%로 제한하면서 96.6%의 정확도를 달성하였다. 검토 없이 구축한 60,103개 반응의 광화학 데이터베이스의 기록은 조건 순위 산정과 생성물 예측 모델을 학습시켰다. 따라서 검증 가능한 데이터베이스를 대규모로 구축할 수 있다.

arXiv:2507.14760v3eess.IV

QUTCC: 영상 역문제를 위한 분위수 불확실성 학습과 컨포멀 보정

QUTCC: Quantile Uncertainty Training and Conformal Calibration for Imaging Inverse Problems

딥러닝은 과학 및 의료 영상 분야에 큰 가능성을 제공하지만, 실패와 환각(현실과 일치하지 않는 예측)은 정확히 짚어내기 어렵고 하류에 심각한 결과를 초래할 수 있다. 컨포멀 예측과 같은 불확실성 추정 기법은 모델 예측에 대해 통계적으로 유효한 오차 범위를 예측함으로써 도움이 될 수 있다. 그러나 널리 쓰이는 컨포멀 예측 방법은 고차원 영상 값 문제를 위해 설계되지 않았고 컨포멀 보정 중 영상 내 공간적 상관을 고려하지 않아, 필요 이상으로 큰 불확실성 구간을 낳는다. 본 논문은 컨포멀 보정 중 비선형적이고 공간 적응적인 스케일링을 가능하게 하는 실용적인 동시 분위수 회귀 방법을 제안한다. 본 방법인 QUTCC는 분위수 임베딩이 있는 U-Net 구조를 사용하여 학습 중 전체 조건부 분위수 분포를 학습하고, 이렇게 학습된 비선형 함수를 공간 적응적 컨포멀 보정에 활용한다. 테스트 시 본 방법은 픽셀 주변(marginal) 커버리지 보장을 갖는 불확실성 구간을 효율적으로 추정할 수 있다. 또한 QUTCC는 내장된 분포 가정 없이 픽셀 단위 조건부 확률밀도 추정도 예측할 수 있다. 여러 잡음 제거 문제, 가속 자기공명영상, 정량적 위상 현미경에서 본 방법을 평가한다. 본 방법은 동일한 커버리지 수준에서 기존 컨포멀 방법보다 일관되게 더 좁은 불확실성 구간을 산출하고, 과제별로 그럴듯한 조건부 분포를 예측할 수 있으며, 경우에 따라 불확실성이 높은 영역이 모델 예측의 환각 위치를 찾는 데 도움이 된다.

arXiv:2506.17247v3cs.LG

해석적 전역 배치를 위한 재귀 학습 기반 가상 버퍼링

Recursive Learning-Based Virtual Buffering for Analytical Global Placement

최신 공정 노드에서는 배선 지연과 셀 지연의 스케일링이 불균형하므로, 물리 합성 흐름에서 타이밍 클로저를 달성하려면 버퍼 다공성(즉, 셀 밀도)을 고려한 배치가 필수적이다. 그러나 기존 접근법은 두 가지 핵심 과제에 직면한다. (i) 전통적인 van Ginneken-Lillis 방식의 버퍼링 접근법은 전역 배치 과정에서 계산 비용이 크다. (ii) BufFormer와 같은 기계학습 기반 접근법은 전기 규칙 검사(ERC) 위반을 충분히 고려하지 못하며, 물리 설계 흐름으로 되돌아가는 "루프를 닫는" 데에도 실패한다. 본 연구에서는 OpenROAD 인프라 위에 구축된 최초의 오픈소스 학습 기반 가상 버퍼링 인지 해석적 전역 배치 프레임워크인 MLBuf-RePlAce를 제안한다. MLBuf-RePlAce는 효율적인 재귀 학습 기반 생성형 버퍼링 접근법을 채택하여 버퍼의 유형과 위치를 예측하고, 전역 배치 중 ERC 위반을 해결한다. 우리는 TILOS MacroPlacement 및 OpenROAD-flow-scripts 저장소의 오픈소스 테스트케이스를 사용하여 MLBuf-RePlAce를 OpenROAD의 기본 가상 버퍼링 기반 타이밍 주도 전역 배치기와 비교한다. 배선 후 전력의 저하 없이, MLBuf-RePlAce는 오픈소스 OpenROAD 흐름에서 총 음의 슬랙(TNS)을 (최대, 평균) (56%, 31%) 개선한다. 상용 흐름에서 완료 단계까지 평가했을 때는 TNS를 (최대, 평균) (53%, 28%) 개선하며, 배선 후 전력도 평균 0.2% 개선한다.

arXiv:2506.11627v2cs.CV

피부 병변 분류에서 피부색 편향의 평가 및 완화

Evaluating and Mitigating Skin Color Bias in Skin Lesion Classificatio

피부 병변 분류기는 피부색을 범주형 속성으로 취급함으로써 미묘한 피부색 차이로 인한 성능 격차를 간과할 수 있다. 본 연구는 피부색을 연속형 속성으로 표현하고, 분류 성능과의 비선형 관계에 기반하여 각 표본에 개별 가중치를 부여하는 방법을 제안한다. 두 개의 피부과 데이터셋에 대한 평가에서 공정성 지표가 피부색 범주화 방식에 민감하다는 것을 확인하였다. 제안한 방법은 또한 전통적인 범주형 재가중 방식보다 더 안정적인 공정성 향상을 보였으며, 분류 성능은 대체로 유지하였다.