PyTorchKR Papers

“Code Generation”

총 10,163편
태그·기간 등 상세 필터

카테고리 탐색

arXiv:2611.12477v1cs.CV

Perturb, Aggregate then Reconstruct: Consensus Aggregation and Fourier-Attended Multi-Decoders for Reconstruction-based Multi-View Anomaly Detection

Multi-view anomaly detection is crucial for industrial inspection to identify defects hidden from single viewpoints. Yet, despite their strong success in single-view applications, reconstruction-based methods remain largely underexplored in multi-view settings. A key challenge in extending these methods lies in generating view-consistent pseudo-anomalies. To address this, we propose PAR, a reconstruction-based framework for enhanced multi-view anomaly detection. First, we introduce a feature perturbation strategy coupled with a consensus aggregation module that integrates these perturbed features across viewpoints to mitigate view-inconsistent anomalies and construct highly aligned pseudo-anomaly representations. Second, we employ a view-specialized multi-decoder architecture; by assigning a dedicated decoder to each view, we increase the model's representational complexity, enabling the generation of highly feasible, localized anomaly maps rather than less precise, view-agnostic reconstructions. Last, we incorporate Fourier attention into the decoders to emphasize global frequency-domain structures over local token evidence, effectively preventing identity mapping. Extensive experiments on the Real-IAD dataset demonstrate that PAR consistently outperforms state-of-the-art methods in sample-level, image-level, and pixel-level anomaly detection. Our code is available at https://github.com/SpatialAILab/PAR_mvad.

arXiv:2611.11320v1cs.CV

Beyond Similarity Entropy: A Rank-Guided Data-Free Quantization Framework for Vision Transformers

Vision Transformers (ViTs) have demonstrated remarkable performance, yet their computational and memory demands pose significant challenges for deployment on mobile devices. Data-free quantization (DFQ) enables the compression of ViTs without access to their original training data. Existing DFQ methods often synthesize calibration samples by maximizing the entropy of patch similarity. However, similarity entropy describes the dispersion of similarity values without ensuring that the generated samples cover diverse feature directions, potentially limiting their effectiveness for quantization calibration. To address this limitation, we propose RankQ-ViT, a rank-guided DFQ framework for ViTs. We first observe that patch similarity matrices derived from Gaussian noise tend to have lower ranks than those derived from real images. Motivated by this observation, we introduce a block-aware self-contrastive objective that promotes feature diversity during synthetic data generation without explicitly computing matrix rank at each optimization step. We then select calibration samples based on their rank and semantic consistency and use them for block-wise reconstruction of the quantized model. Experiments on ImageNet, COCO, ModelNet40, and ShapeNet demonstrate the effectiveness of RankQ-ViT across multiple architectures and tasks, particularly under low-bit quantization. The code is available at https://github.com/Runqing-forMost/rankq-vit.git

arXiv:2611.16590v1cs.AI

AstroMemBench: A Benchmark for Memory Systems in Embodied Spacecraft Agents

Long-term spacecraft autonomy requires embodied agents to use operational history under communication delays, time-critical operations, environmental uncertainty, complex physical interactions, power and computational constraints, and safety and reliability requirements. We introduce AstroMemBench and a Scenario-Challenge-Capability design method that maps these requirements to executable memory tests. The benchmark covers 16 memory subchallenges through 140 templates and 2240 instances across nine tasks in planetary surface operations, on-orbit servicing, and deep-space exploration. A deterministic environment scores actions for task completion, state changes, safety, and resource use. Ablations under nine conditions show that the benchmark is sensitive to how accurately agents recover and use historical information and to differences in memory-system design. Main experiments compare six configurations. Mem0, Chain-of-Memory, LightMem, and retrieval-augmented generation (RAG) improve same-session mean scores over native Pi Agent, with no clear advantage of the three memory systems over RAG. After a session restart, Mem0 outperforms RAG by 12.25 points. Benefits favor instruction retention and result reuse over ongoing state tracking and energy reservation. AstroMemBench supports the design, development, and selection of memory systems for embodied spacecraft agents. AstroMemBench 1.0 and its evaluation code are publicly available: https://github.com/flyingView/AstroMemBench-v1.

arXiv:2606.17606v1cs.CV

Flux-Guard: 확산 모델을 활용한 얼굴 신원 보호

Flux-Guard: Facial Identity Protection using diffusion models

얼굴 인식(FR) 시스템의 광범위한 배포는 소셜 미디어와 공개 플랫폼에 공유된 개인 이미지를 신원 연결 및 프라이버시 위험에 노출시킵니다. 기존의 적대적 프라이버시 보호 방법은 승인되지 않은 FR 성능을 저하시킬 수 있지만 생성적 얼굴 편집과 호환되지 않습니다. 인공지능 기반 얼굴 편집 도구가 인기를 얻고 있어, 개인화된 초상화 생성 및 소셜 공유에 대한 사용자 수요가 크게 증가했습니다. 그러나 현재 편집 방법은 종종 신원 특징을 보존하여, 편집된 이미지가 악의적인 FR 시스템에 의한 추적에 여전히 취약하게 만듭니다. 따라서 본 논문은 Flux-Guard를 제안합니다. 이는 적대적 공격에 기반한 프라이버시 보호 얼굴 편집 프레임워크로, 통합된 생성 과정 내에서 얼굴 편집과 프라이버시 보호를 결합합니다. 구체적으로, 의미적 조작을 생성 과정과 정렬하기 위한 흐름 궤적 제어 방법을 설계하고, 시각적 품질을 유지하면서 공격 효과를 극대화하기 위해 적대적 강도를 동적으로 조정하는 적응형 지각 손실(perceptual loss) 기반 가중치 전략을 활용한 잠재 공간 적대적 최적화를 도입했습니다. 광범위한 실험을 통해 Flux-Guard가 얼굴 편집을 지원하면서 CelebA-HQ 및 LADN 데이터셋에서 교차 도메인 얼굴 인식 모델에 대한 공격 성공률을 크게 향상시킴을 입증했습니다. 또한, 상용 API에 대한 평가 결과는 실제 애플리케이션에서의 효과를 확인했습니다. 코드는 https://github.com/JLMWang/Flux-Guard에서 공개되었습니다.

arXiv:2606.28367v1cs.IR

Beyond the Reranker: Do RAG Retrieval Enhancements Help Once a Strong Reranker Is Present?

Retrieval-augmented generation (RAG) is routinely extended with methods meant to improve retrieval: query expansion, hierarchical and cross-document summarization, graph-based expansion, per-query routing, rank fusion, and corrective re-retrieval. The benefits reported for these methods come almost exclusively from homogeneous corpora, predominantly Wikipedia prose. Whether they hold on the mixed-format collections common in practice, where code, markdown, tables, scientific PDFs, and prose are interleaved within one corpus, has not been measured. To study this directly, we build \textbf{HetDocQA}, a heterogeneous benchmark with \emph{chunker-agnostic} span-overlap relevance labels and collection-disjoint splits, and pair it with MuSiQue and QASPER as homogeneous controls. We evaluate eight methods on a shared backbone, with bootstrap confidence intervals and multiple-comparison correction. A strong cross-encoder reranker accounts for most of the pipeline's quality; beyond it, only two methods yield reliable gains: query expansion and SSCC. SSCC, a per-source calibrated corrector introduced here, sets a separate acceptance threshold for each score source and helps only on heterogeneous data. The remaining reranking and pool-expansion methods in common use, among them hierarchical summarization, graph expansion, routing, and rank fusion, give no reliable gain once that reranker is present.

arXiv:2606.31029v1cs.CV

TerraDiT-$Ω$: Unified Spatial Control for Satellite Image Synthesis with Any Geospatial Primitive

Generative models have achieved remarkable progress, yet applying them to satellite imagery remains challenging. Unlike natural imagery, satellite scenes are structured by spatially complex and semantically distinct geometries. Prior work addresses this complexity by adapting natural image frameworks using dense rasters or sparse prompts, trading off annotation cost and fidelity while breaking compatibility with vector primitives commonly used to represent geographic information. We introduce TerraDiT-$Ω$, a unified spatial control framework that generates satellite imagery directly from any native geospatial primitive. By jointly leveraging precise annotations (polygons, polylines) and coarser ones (bounding boxes, points), the model supports controllable layouts across varying annotation budgets, broadening applicability to design tasks such as urban planning while remaining naturally compatible with end-to-end GeoAI workflows. To effectively leverage these primitives during generation, we propose Geometry-Aware Local Attention, a conditioning mechanism that injects explicit geometric cues into the attention space. Across all conditioning formats, our approach consistently outperforms both dense-control and sparse-control baselines. Furthermore, this flexibility enables controllable synthetic data augmentation using a single generative model, improving downstream performance on land-cover segmentation, object detection, road graph extraction, and scene classification. Code, data, and weights are available at https://github.com/mvrl/TerraDiT.

arXiv:2607.18026v1cs.AI

이질적 LLM 병합 재고: 가중 모델 평균화 관점

Rethinking Heterogeneous LLM Merging: A Weighted Model Averaging Perspective

매개변수 공간이 실질적으로 다른 대규모 언어 모델(LLM)을 학습이나 의미적 정렬(semantic alignment) 없이 직접 가중 평균으로 병합할 수 있는가? 기존 이질적 융합 방법은 일반적으로 지식 증류(distillation), 어댑터(adapter), 학습된 잠재 공간, 라우팅(routing), 또는 특징 정렬(feature alignment)을 도입하며, 진정으로 다른 수십억 매개변수 체크포인트에 더 단순한 방법이 통할 수 있는지는 열린 질문으로 남겨 둔다. 우리는 학습 없는 차원 적응(dimensional adaptation)과 비율 제어 보간(ratio-controlled interpolation)을 통해 이 직관에 반하는 질문을 재검토한다. 합집합(union) 스타일 병합에서는 더 작은 모델을 더 큰 매개변수 공간으로 확장하고, 교집합(intersection) 스타일 병합에서는 더 큰 모델을 더 작은 매개변수 공간으로 잘라낸다. Qwen 계열 모델 쌍과 수학적 추론, 코드 생성, 언어 이해, 상식 추론, 지식, 지시 따르기(instruction following)를 아우르는 벤치마크에 걸쳐, 결정론적 확장은 대체로 원본 모델 기능을 보존하며, 소규모 비율 보간은 상보적 역량을 전이함으로써 강력한 원본 체크포인트보다 나아질 수 있다. 그러나 거의 균형에 가까운 보간은 종종 붕괴하며, 과제 수준 결과는 일부 역량에서의 이득이 다른 역량에서의 퇴보와 공존하는 시소(seesaw) 효과를 드러낸다. 이 결과는 경량 차원 적응과 신중하게 제어된 비율과 결합된 단순 매개변수 평균화가 이질적 LLM 병합을 위한 놀랍도록 강력한 기준선임을 보여주며, 직접 가중 융합의 한계가 더 복잡한 이질적 병합 방법이 대규모로 달성할 수 있는 것의 상한을 제한할 수 있음을 시사한다.

arXiv:2607.19364v1cs.AI

대규모 언어 모델의 활성화 공간 제어를 위한 통계적 근거 기반 희소 특징 개입

Statistically Grounded Sparse-Feature Interventions for Activation-Space Control in Large Language Models

활성화 조향(activation steering)은 대규모 언어 모델(LLM)의 행동 제어를 위한 미세조정의 경량 대안을 제공하지만, SAE 기반 조향 방법은 종종 학습된 조향 목표나 단일 기준 특징 선택에 의존한다. 우리는 먼저 6가지 조건의 신뢰성 필터를 적용한 뒤, $F$-test, KSG 상호정보(mutual information), Cohen's $d$라는 세 가지 상보적 통계량에 대한 비가중 Borda 합의를 통해 희소 특징을 순위화하는 투명한 SAE-특징 조향 파이프라인을 제안한다. 그 결과로 얻어진 조향 방향은 SAE 디코더 행들의 Cohen's $d$ 가중 결합으로 구성되며, 근사적 SAE-특징 비상관(decorrelation) 하에서 Fisher-LDA에 의해 동기화된 최적화 없는(optimization-free) 방향을 제공한다. Gemma 계열 모델 3종, 4개 행동 도메인, 356개 층-강도 구성에 걸쳐, 이 방법은 측정 가능한 도메인별 변화를 만들어내면서 원시 속성(attribute) 이동과 품질을 보존하는 생성 사이에 상당한 격차가 있음을 드러낸다. 가장 강한 구성에서 논리적 정확성(logical-correctness) 조향은 Gemma~2 9B에서 주요 점수(primary-score) 델타 $+1.16$에 도달한다. 그러나 더 넓은 범위의 발견은, 실용 가능한 조향이 모델, 도메인, 층, 강도에 따라 매우 국소화되어 있음을 보여준다. 이 결과는 활성화 조향 평가가 원시 행동 변화와 함께 품질 조건부 성공(quality-conditioned success)을 보고해야 함을 시사한다. 코드와 데이터는 https://github.com/Oshayer-Siddique/LLM-Steering-Using-SAE 에서 이용할 수 있다.

arXiv:2608.01667v1cs.AI

TCPO: 턴 수준 신용 정책 최적화

TCPO: Turn-Level Credit Policy Optimization

검증기(verifier) 기반 강화학습(RL)은 대규모 언어 모델(LLM)의 추론 능력을 향상시키는 강력한 패러다임으로 자리 잡았습니다. 다중 턴(multi-turn) 환경에서 모델은 각 턴 이후 검증기 점수를 수신하고 출력을 반복적으로 개선합니다. 이러한 점수는 조밀한 피드백을 제공하지만, 조밀한 신용(credit)을 직접적으로 제공하지는 않습니다. 점수는 현재 출력의 품질을 측정하는 반면, 신용은 현재 턴이 개선 궤적을 어떻게 변화시키는지를 측정해야 하기 때문입니다. 본 논문에서는 검증기 기반 다중 턴 강화학습을 위한 턴 수준 신용 할당 방법인 TCPO를 제안합니다. TCPO는 신용 할당을 '점수-신용 변환'으로 공식화하고 기준 기반 비교를 통해 턴 수준 어드밴티지(advantage)를 구성합니다. 회고적 신용(retrospective credit)은 최선의 이전 상태 대비 즉각적인 진전 및 후퇴를 포착하고, 사후 지연 신용(hindsight delayed credit)은 추후 보상으로 이어지는 개선되지 않은 턴을 식별하며, 선택적 고정 히스토리 반사실적 추정(selective fixed-history counterfactual estimation)은 동일한 히스토리 하에서 의외성(surprisal)이 높은 턴을 정제합니다. 수학 추론, 코드 생성, AppWorld 에이전트 작업에 대한 실험 결과, TCPO는 모델 규모, 작업 도메인, 검증기 유형 전반에서 가장 강력한 베이스라인들과 동등하거나 개선된 성능을 보였습니다. TCPO는 Qwen3-4B 및 DeepSeek-R1-Distill-Llama-8B에서 최고 또는 공동 최고의 최적 턴 Pass@8을 달성하고, 성공까지의 턴 수를 줄이며, 다중 턴 에이전트 성능을 향상시킵니다. 이러한 결과는 점수-신용 변환이 검증기 기반 다중 턴 정책 최적화의 핵심 요소임을 보여줍니다.

arXiv:2608.14585v1cs.AI

Euclid-Omni: 평면 기하학을 위한 통합 신경-기호 프레임워크

Euclid-Omni : A Unified Neuro-Symbolic Framework for Plane Geometry

유클리드 기하학은 직관적인 도형 이해, 공리적 연역, 대수적 계산의 결합을 요구하므로 AI 추론을 위한 매력적인 시험대이다. 그러나 기존 접근법은 대부분 이러한 능력 중 일부만 다루거나 대회 수준 문제에서 어려움을 겪는다. 우리는 형식 기하 시스템을 대규모 언어 모델(LLM) 및 비전-언어 모델(VLM)과 결합하여, 올림피아드 수준 난이도까지 형식 언어와 자연어 모두에서 계산형 및 증명형 문제를 다루는 통합 신경-기호 프레임워크인 \textit{Euclid-Omni}를 소개한다. 핵심적으로, 우리는 연역적 추론과 대수적 계산을 통해 추론 단계를 자동 생성하는 다재다능한 기호 기하 솔버인 \textit{Euclidea}를 개발한다. 이를 바탕으로 기호 문제와 해를 합성하고, 도형을 렌더링하며, 이를 자연어로 번역하는 데이터 생성 파이프라인을 구축하여, 다양한 추론 설정 전반에 걸친 LLM 및 VLM 학습용 대규모·다양한 데이터셋을 만든다. 실험 결과, 우리의 합성 데이터로 학습한 VLM은 계산 과제에서 우수한 성능을 보였으며, \textit{Euclidea}와 결합한 LLM은 연산량과 학습 데이터를 자릿수 차원에서 훨씬 적게 사용함에도 불구하고 올림피아드 수준 증명 문제에서 최첨단 시스템과 견줄 만한 성능을 달성한다. 코드와 스크립트는 https://github.com/20171130/Euclid-Omni 에서 공개되어 있다.

arXiv:2608.16589v1cs.CV

Ultra: 불리한 기상 조건에서 신뢰할 수 있는 복원-분할 협업을 위한 비지도 교차 과제 최적화

Ultra: Unsupervised Cross-Task Optimization for Reliable Restoration Segmentation Collaboration under Adverse Weather

불리한 기상 의미 분할을 위한 비지도 도메인 적응(UDA-ASS)은 라벨이 있는 정상 기상 이미지에서 라벨 없는 불리한 환경으로 의미적 지식을 전이하는 것을 목표로 한다. 기존 접근법은 복원과 분할이 상호 이로운 안내를 제공한다고 암묵적으로 가정한다. 그러나 심각한 열화와 타깃 도메인 감독이 없을 때 교차 과제 최적화 방향의 타당성은 근본적으로 식별 불가능해져, 환각(hallucination)에 의한 오류 전파로 이어진다. 본 연구에서는 교차 과제 상호작용을 불확실성 하의 방향 선택과 인과 효과 추정으로 재구성하고, 후보 방향 생성 및 개입 기반 필터링을 통해 신뢰할 수 있는 협업을 가능하게 하는 새로운 비지도 복원-분할 협업 학습 프레임워크(Ultra)를 제안한다. 구체적으로 CTDN과 CMIL을 제안한다. 전자는 상보적인 시각 구조와 의미 정보를 활용해 후보 최적화 방향을 생성하고 복원과 분할 간 협력적 방향 선택을 수행한다. 후자는 교차 과제 정보 전달을 상관 기반 전파에서 인과 효과 평가로 재정식화하여 환각 전파를 억제한다. 널리 사용되는 세 가지 UDA-ASS 벤치마크에서 광범위한 실험을 통해 최첨단 분할 성능을 보였다. 분할을 넘어, 본 프레임워크는 기존 UDA-ASS 복원 방법보다 우수한 비지도 복원 결과를 달성하며, 비지도 복원 및 객체 검출 협업 과제로도 일반화된다. 코드와 모델은 https://github.com/Wang-Shiqin/Ultra 에서 제공될 예정이다.

arXiv:2608.22753v1cs.CL

사실적 지식을 넘어: 대규모 언어 모델에서 단계 수준 절차적 규칙 추론의 벤치마킹과 학습

Beyond Factual Knowledge: Benchmarking and Learning Step-Level Procedural Rule Reasoning in Large Language Models

대규모 언어 모델(LLM)은 텍스트 이해와 생성에 뛰어나지만, 외부에서 제공된 절차적 규칙을 대규모로 안정적으로 이해하고 적용하는 데는 여전히 어려움이 있다. 이 능력을 평가하기 위해, 우리는 규칙을 사례별 사실이 아니라 전역적으로 재사용 가능한 추상 단위로 재구성하는 대규모 벤치마크 RuleWorld를 제안한다. RuleWorld에서는 단일 규칙, 병렬 다중 규칙, 다중 홉(multi-hop) 추론을 포함한 여러 시나리오를 설정하여 포괄적으로 평가한다. 또한 주어진 규칙을 KV 캐시에 주입하고 검색(retrieval)을 내부적이고 학습 가능한 단계별 프로세스로 전환하는 end-to-end 프레임워크 DynaRule을 제안한다. 구체적으로 DynaRule은 특수 <search> 토큰을 사용하는 Stacked Step-Level Attention Training을 통해 추론(inference) 중 동적 규칙 재어텐션(re-attention) 및 갱신을 가능하게 한다. 이를 통해 모델은 각 단계에서 가장 관련 있는 규칙에 재어텐션하고, 구식 규칙을 동적으로 교체하여 보다 안정적인 다단계 추론을 지원할 수 있다. RuleWorld 실험 결과, 기존 LLM은 대규모 규칙 풀에서 어려움을 겪는 반면, DynaRule은 평균 QA 정확도를 최대 19%p까지 높이고 10K 규칙에서 Recall@1 85% 이상을 달성하여 강력한 베이스라인을 크게 앞선다. 코드와 데이터셋은 다음에서 공개한다: https://github.com/SharkSpicy-NLP/Beyond-Factual-Knowledge.

arXiv:2608.28611v1cs.CL

Gurukul AI: 인도 교육 체계를 위한 대화형 AI 기반 교육 플랫폼

Gurukul AI: An Interactive AI-Driven Educational Platform for Indian Education System

ChatGPT와 LLaMA 같은 대규모 언어 모델(LLM)의 최근 발전은 AI 기반 교육을 크게 변화시켰지만, 이러한 시스템은 주로 서구 중심 데이터로 학습되어 인도와 같은 지역 교육과정에는 적합하지 않다. 인도의 교육 체계는 언어적으로 다양하고 시험 중심적이며 표준화된 교수요목(syllabus)을 중심으로 구성되어 있으나, 기존 데이터셋이나 도구는 이를 다루지 못한다. 본 연구에서는 9~12학년 NCERT(National Council of Educational Research and Training) 교과서를 기반으로 교수요목에 맞춘 QA 데이터셋을 구축하여 인도 교육과정의 내용, 맥락, 교수 방식을 담아냈다. 다섯 개 과목에 걸친 18,720개의 질문-답변 쌍으로 구성된 최종 데이터셋은 https://huggingface.co/datasets/LingoIITGN/Gurukul 에서 공개되어 있다. 우리는 이 데이터셋으로 LLaMA 3.1 8B 모델을 파인튜닝하고, 이를 교육 수요에 맞춘 검색-증강 생성(RAG) 프레임워크에 배포한다. 또한 인도 학생들이 모델과 대화하고, 의문점을 해소하고, 시험 형식의 문제를 연습하고, 맥락에 맞는 답변을 받으며, 영어와 힌디어로 상호작용할 수 있는 오픈 액세스 플랫폼인 GurukulAI를 소개한다. 인도의 교실에 맞게 AI를 현지화함으로써, 본 연구는 전 세계 LLM의 역량과 지역 교육 수요 사이의 간극을 메운다. 코드는 https://github.com/lingo-iitgn/GurukulAI 에서 확인할 수 있다.

arXiv:2609.24482v1cs.CV

STA-TFM: 자세 추정을 위한 뷰 간 시공간 집합 TransForMer

STA-TFM: Spatio-Temporal Aggregation Across Views TransForMer for Pose Estimation

단안(monocular) 3D 인체 자세 추정(HPE)은 깊이 모호성, 가림(occlusion), 시간적 일관성 요구 때문에 여전히 어렵다. 다중 뷰 방법은 단안 접근보다 더 높은 정확도를 제공하지만, 종종 복잡한 구성을 요구한다. 우리는 다중 뷰 자세 추정을 위해 공간·시간 정보를 결합하는 트랜스포머 기반 아키텍처인 STA-TFM을 제안한다. 이 접근법은 각 뷰 내 장거리 자세 종속성을 포착하기 위해 단안 특징 추출기인 DSTformer를 활용한다. 이어 융합 트랜스포머가 뷰 간 정보를 집계하여 일관된 3D 추정을 만든다. 학습 데이터 부족을 완화하기 위해, 기존 3D 자세 데이터셋을 제어 가능한 매개변수를 갖는 다중 뷰 구성으로 바꾸는 데이터 생성 파이프라인을 사용한다. 여러 데이터셋에서의 실험 결과, STA-TFM은 기존 카메라 매개변수 불필요(camera-parameter-free) 다중 뷰 방법들보다 우수함을 보여준다. STA-TFM은 DHP19 데이터셋에서 관절당 평균 위치 오차(MPJPE)와 관절당 평균 속도 오차(MPJVE)를 각각 50.9%, 49.5% 줄였다. 또한 HAA4D에서는 각각 6.7%, 7.7% 감소를, TotalCapture에서는 MPJPE를 15.2% 감소시켰다. STA-TFM은 노이즈가 있거나 누락된 2D 입력도 처리할 수 있어, 의료 모니터링, 운동 능력 평가, 몰입형 기술 분야로의 잠재적 배포를 뒷받침한다. 코드, 학습 체크포인트, 데이터는 https://zenodo.org/records/22832620 에서 제공된다.

arXiv:2610.01108v2cs.CL

AgSpec: 코딩 에이전트 파이프라인에서 검색 기반 추측 디코딩의 한계 극복

AgSpec: Pushing the Limits of Retrieval-Based Speculative Decoding in Coding Agent Pipelines

검색 기반 추측 디코딩(speculative decoding, SD)은 기존 텍스트에서 후속 내용을 복사하여 토큰(token) 초안을 생성하므로, 코드, 로그 및 이전 시도를 반복적으로 재생성하는 코딩 에이전트(agent)에 매우 적합하다. 그러나 기존 방법들은 에이전트 파이프라인에서 한계를 보인다. 재사용 가능한 텍스트의 상당 부분이 말뭉치(corpus)에 누락되어 있거나 에이전트가 출력하는 형태와 다르게 저장되어 있으며, 초안 길이가 에이전트에 따라 수락 길이가 달라지고 턴이 진행됨에 따라 변화한다는 점을 간과한다. 본 논문에서는 기존 검색 엔진이 코딩 에이전트 파이프라인에서 충족하지 못했던 말뭉치 및 초안 길이 정책을 제공하는 프레임워크인 AgSpec을 제안한다. AgSpec은 세션, 작업 공간(workspace) 및 전역 말뭉치에서 검색을 수행하여, 진행 중인 세션 궤적(trajectory)을 보존하고 열린 파일들을 에이전트의 출력 형식에 맞춰 인덱싱한다. 또한 오프라인 프로파일링을 통한 상한값으로 각 에이전트의 초안 길이를 제한하고 검증 피드백을 통해 온라인에서 길이를 적응적으로 조절한다. 두 가지 저장소 수준(repository-level) 다중 에이전트 코딩 벤치마크(benchmark)에서 AgSpec은 대부분의 평가 환경에서 5개의 검색 기반 드래프터 및 EAGLE-3을 능가하며, 자기회귀 디코딩 대비 생성 처리량을 배치(batch) 크기 1에서 최대 4.37$\times$, 배치 크기 16에서 최대 4.76$\times$까지 향상시킨다. 또한 AgSpec은 저장소나 다중 에이전트 파이프라인이 없는 벤치마크에서도 효과를 유지하여, 이러한 성능 향상이 전반적인 코딩 에이전트로 일반화됨을 보여준다.

arXiv:2610.08093v1cs.CL

SAGE: 그라운디드 의료 질의응답 데이터 합성을 위한 의미론적 앵커 유도 진화

SAGE: Semantic Anchor-Guided Evolution for Grounded Medical QA Data Synthesis

의료 질의응답(Medical QA)과 같은 임상 태스크를 위한 신뢰할 수 있는 모델 개발은 고품질의 전문가 주석 학습(training) 데이터의 부족으로 인해 심각하게 제한받고 있습니다. 이러한 문제는 엄격한 개인정보 보호 요건과 자원이 제한된 임상 환경에서 대규모 오픈소스 말뭉치나 상용 클라우드 API를 활용하기 어렵다는 현실로 인해 더욱 가중됩니다. 이러한 한계를 해결하기 위해, 본 연구에서는 소형 온프레미스 배포 모델이 고품질 의료 학습 데이터를 생성할 수 있도록 지원하는 새로운 데이터 합성 프레임워크인 SAGE(Semantic Anchor-Guided Evolution)를 제안합니다. SAGE는 MeSH와 같이 공개적으로 사용 가능한 경량 분류 체계(taxonomy)를 의미론적 앵커(semantic anchor)로 활용하여, 데이터 생성 프로세스를 효과적으로 유도하고 그라운딩(grounding)하기 위한 구조화된 사전 지식(prior)을 부여합니다. SAGE의 핵심은 원자적(개별 개념 기반) 합성 방식과 연합적(관계 기반) 합성 방식을 반복적으로 교차 적용하여 최소한의 시드로부터 학습 데이터를 부트스트래핑하는 것입니다. 이러한 접근 방식은 방대한 의료 문서 수집이나 외부 API에 대한 의존 필요성을 제거함으로써 온프레미스 환경에서의 실용적인 데이터 생성 솔루션을 제공합니다. 다수의 의료 질의응답 벤치마크에 걸친 광범위한 실험 결과, SAGE로 합성된 데이터로 파인튜닝(fine-tuning)된 모델은 자체 생성 방식이나 기존 문서 기반 패러다임으로 학습된 모델보다 일관되게 우수한 성능을 보여주었으며, 이는 의료 대규모 언어 모델(LLM) 개발에 있어 데이터 효율성과 자원 활용 측면의 실질적인 향상을 입증합니다. 코드는 https://github.com/DIaacKr/SAGE 에서 제공됩니다.

arXiv:1806.05180공식 코드 · Papers with Code

A Retrospective Analysis of the Fake News Challenge Stance Detection Task

The 2017 Fake News Challenge Stage 1 (FNC-1) shared task addressed a stance classification task as a crucial first step towards detecting fake news. To date, there is no in-depth analysis paper to critically discuss FNC-1's experimental setup, reproduce the results, and draw conclusions for next-generation stance classification methods. In this paper, we provide such an in-depth analysis for the three top-performing systems. We first find that FNC-1's proposed evaluation metric favors the majority class, which can be easily classified, and thus overestimates the true discriminative power of the methods. Therefore, we propose a new F1-based metric yielding a changed system ranking. Next, we compare the features and architectures used, which leads to a novel feature-rich stacked LSTM model that performs on par with the best systems, but is superior in predicting minority classes. To understand the methods' ability to generalize, we derive a new dataset and perform both in-domain and cross-domain experiments. Our qualitative and quantitative study helps interpreting the original FNC-1 scores and understand which features help improving performance and why. Our new dataset and all source code used during the reproduction study are publicly available for future research.

arXiv:1812.08915공식 코드 · Papers with Code

Efficient Misalignment-Robust Multi-Focus Microscopical Images Fusion

In this paper we propose a very efficient method to fuse the unregistered multi-focus microscopical images based on the speed-up robust features (SURF). Our method follows the pipeline of first registration and then fusion. However, instead of treating the registration and fusion as two completely independent stage, we propose to reuse the determinant of the approximate Hessian generated in SURF detection stage as the corresponding salient response for the final image fusion, thus it enables nearly cost-free saliency map generation. In addition, due to the adoption of SURF scale space representation, our method can generate scale-invariant saliency map which is desired for scale-invariant image fusion. We present an extensive evaluation on the dataset consisting of several groups of unregistered multi-focus 4K ultra HD microscopic images with size of 4112 x 3008. Compared with the state-of-the-art multi-focus image fusion methods, our method is much faster and achieve better results in the visual performance. Our method provides a flexible and efficient way to integrate complementary and redundant information from multiple multi-focus ultra HD unregistered images into a fused image that contains better description than any of the individual input images. Code is available at https://github.com/yiqingmy/JointRF.

arXiv:2103.13279공식 코드 · Papers with Code

FakeMix Augmentation Improves Transparent Object Detection

Detecting transparent objects in natural scenes is challenging due to the low contrast in texture, brightness and colors. Recent deep-learning-based works reveal that it is effective to leverage boundaries for transparent object detection (TOD). However, these methods usually encounter boundary-related imbalance problem, leading to limited generation capability. Detailly, a kind of boundaries in the background, which share the same characteristics with boundaries of transparent objects but have much smaller amounts, usually hurt the performance. To conquer the boundary-related imbalance problem, we propose a novel content-dependent data augmentation method termed FakeMix. Considering collecting these trouble-maker boundaries in the background is hard without corresponding annotations, we elaborately generate them by appending the boundaries of transparent objects from other samples into the current image during training, which adjusts the data space and improves the generalization of the models. Further, we present AdaptiveASPP, an enhanced version of ASPP, that can capture multi-scale and cross-modality features dynamically. Extensive experiments demonstrate that our methods clearly outperform the state-of-the-art methods. We also show that our approach can also transfer well on related tasks, in which the model meets similar troubles, such as mirror detection, glass detection, and camouflaged object detection. Code will be made publicly available.

arXiv:2104.08825공식 코드 · Papers with Code

Flexible Generation of Natural Language Deductions

An interpretable system for open-domain reasoning needs to express its reasoning process in a transparent form. Natural language is an attractive representation for this purpose -- it is both highly expressive and easy for humans to understand. However, manipulating natural language statements in logically consistent ways is hard: models must cope with variation in how meaning is expressed while remaining precise. In this paper, we describe ParaPattern, a method for building models to generate deductive inferences from diverse natural language inputs without direct human supervision. We train BART-based models (Lewis et al., 2020) to generate the result of applying a particular logical operation to one or more premise statements. Crucially, we develop a largely automated pipeline for constructing suitable training examples from Wikipedia. We evaluate our models using out-of-domain sentence compositions from the QASC (Khot et al., 2020) and EntailmentBank (Dalvi et al., 2021) datasets as well as targeted perturbation sets. Our results show that our models are substantially more accurate and flexible than baseline systems. ParaPattern achieves 85% validity on examples of the 'substitution' operation from EntailmentBank without the use of any in-domain training data, matching the performance of a model fine-tuned for EntailmentBank. The full source code for our method is publicly available.