iis.sinica.edu.tw

이 이메일 도메인이 관측된 논문 7건

arXiv:2610.08178v1cs.LG

잠재 공간 기반 워터마킹의 본질적으로 제한된 강건성에 대하여

On the Intrinsic Limited Robustness of Latent-Based Watermarking

확산 모델(diffusion model)을 위한 기존의 잠재 공간(latent space) 기반 워터마킹 방식들은 회전, 스케일링, 평행이동(RST)과 같은 기하학적 변환을 포함한 이미지 왜곡에 대한 강건성(robustness)을 과대평가해 왔다. 더욱이, 이러한 워터마킹 접근 패러다임은 워터마크가 삽입되는 도메인 자체에서 기인하는 내재적 한계를 겪을 수 있다. 본 논문에서는 이러한 방법들이 섭동(perturbation)에 대한 불변성(invariance)을 갖지 못하는 이유를 설명하는 최초의 이론적 분석을 제시한다. 불변 관계를 완화함으로써, 픽셀 공간의 섭동과 이에 대응하는 잠재 공간에서의 영향 간의 관계를 특성화하는 최대 섭동 경계를 유도한다. 또한, 실제 탐지 메커니즘의 모든 구성 요소를 포괄하는 최초의 해석적 정식화(analytical formulation)를 제시한다. 마지막으로, 이론적 발견과 잠재 공간 기반 워터마킹 방법의 한계를 검증하기 위한 실험을 수행한다. 본 연구의 이론적 및 실증적 결과는 현재의 설계 패러다임 하에서 잠재 공간 기반 워터마킹 방법이 본질적으로 제한된 강건성을 보임을 나타낸다. 마지막으로 향후 연구에서 따를 수 있는 분석 도구와 설계 가이드라인을 제공하며 결론을 맺는다.

arXiv:2609.16800v2cs.CL

순간마다 더 똑똑해지기: 지속적인 LLM 향상을 위한 환경 주도적 동적 정책

Smarter by the Moment: Environment-Driven Dynamic Policies for Continual LLM Improvement

대규모 언어 모델(LLM)은 다양한 도메인에서 괄목할 만한 발전을 이루었으나, 진화하는 태스크와 환경에 지속적으로 적응하는 것은 여전히 주요 과제로 남아 있습니다. 기존의 메모리 증강 방식은 과거의 개별 사례를 직접적인 참조로 검색하지만, 이들로부터 실행 가능한 전략을 명시적으로 종합하지 못해 동일한 유형의 오류가 반복 발생합니다. 본 논문에서는 지속적인 LLM 향상을 위해 메모리 기반 검색과 동적 정책 생성기를 통합하고, 과거 데이터와 환경 피드백을 활용하여 태스크별 맞춤 정책을 생성하는 프레임워크인 동적 검색 기반 정책 생성(DRPG)을 제안합니다. 상용 및 오픈 가중치 계열의 7개 LLM을 사용하여 text-to-SQL, 질문 답변, 의학적 진단, Python 프로그래밍에 이르는 6개 벤치마크에서 DRPG를 평가합니다. DRPG는 대부분의 데이터셋과 모델에서 강력한 베이스라인을 능가합니다. 추가 분석을 통해 DRPG의 정책 생성이 검색 전략에 대해 강건하고 이전 정책의 연속성 없이도 효과적으로 작동하며, 더 작거나 다른 계열의 모델을 비용 효율적인 정책 생성기로 활용할 수 있음을 입증합니다. 또한 정책 수준 가이던스의 이점이 태스크 특성에 따라 달라진다는 점을 밝혀냄으로써, 이 메커니즘이 언제 어떤 조건에서 가장 효과적인지에 대한 실용적인 통찰을 제공합니다.

arXiv:2609.00067v1cs.CL

멀티모달 LLM은 읽기 전에 먼저 보는가? 맥락적 아첨(contextual sycophancy) 진단

Do Multimodal LLMs See Before They Read? Diagnosing Contextual Sycophancy

외부 텍스트는 멀티모달 대규모 언어 모델에서 상충하는 이미지 증거를 덮어쓸 수 있으며, 우리는 이러한 실패를 멀티모달 맥락적 아첨(multimodal contextual sycophancy)이라 부른다. 우리는 998건 진단을 도입하여 시각 증거, 상식적 사전(commonsense priors), 외부 텍스트를 독립적으로 변화시키고, 맥락 비노출(context-blind) 시각 witness 주변에서 정보 경계(information boundary)를 이동시키며 이 실패가 언제 발생하는지 탐색한다. Gemini가 생성한 거짓 텍스트와 짝지은 비정상(abnormal) 이미지에서 GPT-5.1은 joint conditioning에서 7.9%, context-blind witness 보고를 직접 채점할 때 49.7%, witness에게 텍스트를 노출하는 matched two-call witness-arbiter 파이프라인에서 63.7%, witness로부터 텍스트를 숨기는 System-2 Visual Arbitration(S2VA)에서 84.2%를 기록한다. 여섯 개 모델 전반에서 S2VA는 직접 witness 보고 대비 19.7~44.1포인트 개선하며, 모든 쌍별 95% 신뢰구간은 0을 제외한다. 최적의 정보 경계는 균일하지 않다. 텍스트 맥락은 일부 모델에 스캐폴딩(scaffolding)을 제공하고, GPT-4o로 재생성한 부분집합은 joint conditioning, Witness-Only, S2VA의 상대적 순서를 바꾼다. 따라서 맥락적 아첨은 텍스트가 도입되는 시점뿐 아니라 모델과 맥락 출처에도 민감하다.

arXiv:2606.26108v1cs.CL

더 큰 모델이 두각을 보이는 지점: 제약 기반 추론의 우선성

Where Larger Models Excel: The Primacy of Constraint-Guided Reasoning

대형 모델이 안정적으로 우수한 벤치마크 문항을 식별하고, 대·소형 모델의 쌍을 이룬 추론 추적에서 우위를 추출·의미적 클러스터링하는 AdvCluster 프레임워크를 통해 수학·물리·화학·프로그래밍 전반의 추론 격차를 분석한다. 분석 결과 공통·도메인 전문 우위를 아우르는 분류체계가 도출되었으며, 반복되는 핵심 주제는 더 큰 모델이 명시·암시적 제약을 구조화해 불가능한 경로를 배제하고 중간 단계를 검증하는 제약 기반 추론(Constraint-Guided Reasoning)이다.

arXiv:2606.17847v1cs.AI

WallZero: 전략 분석으로 WallGo 게임 마스터하기

WallZero: Mastering the Game of WallGo with Strategic Analysis

WallGo는 최근 도입된 전략 보드 게임으로, 2025년 Netflix 시리즈 《데블스 플랜(The Devil's Plan)》을 통해 대중화되었다. 비록 작은 7×7 보드에서 진행되지만, 돌 이동과 벽 배치의 결합은 높은 게임 트리(game-tree) 복잡도와 복잡한 전략적 상호작용을 만들어낸다. 인기가 높아지고 있음에도 WallGo는 아직 충분히 연구되지 않았다. 본 논문은 2인용 WallGo 환경을 위한 AlphaZero 기반 에이전트인 WallZero를 제안한다. 우리는 대국 성능을 크게 향상시키기 위해 맞춤형 action 및 특징(feature) 설계를 도입한다. 평가에서 WallZero는 본 연구에 참여한 두 명의 프로 바둑 기사를 이겼으며, 게임당 평균 1.98배 더 많은 집을 확보했다. 강함을 넘어, WallZero를 활용해 게임 공정성을 평가하고 WallGo 마스터를 위한 핵심 전략을 식별한다. 흥미롭게도, 결과는 Netflix 시리즈에서 사용된 초반 포석이 더 균형 잡힌 게임을 만든다는 것을 보여준다. 코드는 https://rlg.iis.sinica.edu.tw/papers/wallzero 에서 확인할 수 있다.