PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.14628v1cs.CL

라우팅 상한은 도메인에 무관하다: 코드 보안 취약점 탐지에서의 구조적 사전 주입

Routing Ceilings Are Domain-Independent: Structural Prior Injection in Code Security Vulnerability Detection

대규모 언어 모델(LLM)은 잠재 능력과 일관된 활성화 사이에 잘 문서화된 격차를 보인다. 라우터 가설(router hypothesis)은 모델이 과제를 해결할 지식은 갖추고 있지만, 이를 활성화할 신뢰할 수 있는 내부 라우팅이 부족하다고 본다. 형식적 수학적 추론 분야의 선행 연구(SAIR, Cázares 2026)는 구조적 사전(prior)(치트시트)가 분포 내(in-distribution) 성능을 극적으로 높이지만, 분포 외(OOD)에서는 제로샷 기준선 이하로 붕괴한다고 보고하며 — 반복적 재보정(recalibration)이 붕괴를 교정하기보다 오히려 증폭한다고 한다. 이 현상이 도메인 간(cross-domain) 현상인지 검증하기 위해 SAIR 설계를 소스 코드 보안 취약점 탐지에 재현하고, 구문적·문맥적·의미적 복잡도에 걸친 세 가지 취약점 범주(CWE-798, CWE-284, 비CWE N+1 안티패턴)에서 세 LLM(GPT-OSS-120B, Llama-3.3-70B, Gemma-4-31B)을 평가한 뒤, 치트시트가 보강된 프롬프트를 VUDENC의 실제 CVE 데이터(CWE-89, CWE-22)로 이전(transfer)했다. 결과는 SAIR를 재현하고 확장한다: (F1) 구조적 사전은 모든 모델에서 의미적 취약점 재현율을 20.0%에서 100.0%로 끌어올린다; (F2) 제로샷 성능은 의미적 복잡도 그래디언트를 따라 저하된다; (F3) 합성 성능을 포화시키는 동일한 치트시트가 실제 CVE 데이터에서 분포 이동(distribution-shift) 붕괴를 증폭한다(CWE-89: 합성 F1 100% → VUDENC 48.9%, -51.1pp); (F5) 반복적 재보정은 실제 데이터에서 v1보다 성능이 더 낮은 v2 치트시트를 만들어 SAIR의 AN45c 대 AN38 발견을 재현한다. 이 결과는 SAIR에서 문서화된 교차-분포 트레이드오프 표면이 코드 보안으로 일반화된다는 증거를 제공하며, 라우터 가설이 도메인 간에 성립함을 시사한다. 붕괴의 구조적 특성은 프롬프트 보정보다 분포 인식(distribution-aware) 학습을 정당화한다고 주장한다. 코드 및 평가 스크립트: https://github.com/bytepro-ai/bitcoder-v2-research

arXiv:2512.18542v3cs.CR

SecureCode: 보안 인식 코드 생성 모델 학습을 위한 프로덕션 수준의 멀티턴 데이터셋

SecureCode: A Production-Grade Multi-Turn Dataset for Training Security-Aware Code Generation Models

AI 코딩 어시스턴트가 보안 관련 시나리오의 45%에서 취약한 코드를 생성하는 문제를 해결하기 위해, OWASP Top 10 2021(웹)과 OWASP LLM Top 10 2025(AI/ML)를 통합 커버하는 최초의 공개 인스트럭션 튜닝용 데이터셋인 SecureCode(2,372개 멀티턴 예제)를 제시한다. 7개 전문 AI 관점의 멀티 에이전트 품질 검토와 8단계 개선 파이프라인을 통해 평균 품질 점수 93.8/100을 달성했으며, QLoRA로 파인튜닝된 오픈소스 모델(3B~20B) 8개와 함께 HuggingFace에 공개된다.

arXiv:2607.02825v1cs.CR

JavaVulBench: 현실적 분할 전략, 통합 멀티백엔드 하네스, 누출 인식 평가 모드를 갖춘 Java 취약점 벤치마크

JavaVulBench: A Java Vulnerability Benchmark with Realistic Splits, a Unified Multi-Backend Harness, and a Leakage-Aware Evaluation Mode

우리는 Java 취약점 탐지를 위한 벤치마크 데이터셋과 평가 하네스인 JavaVulBench를 공개한다. 이 데이터셋은 1,740개의 CVE와 700개 이상의 프로젝트에 걸친 약 30,600개의 Java 메서드를 포함하며, 메서드 및 라인 단위로 레이블이 부여되어 있고, CVE별 공개 날짜와 다섯 가지 현실적 분할 전략(무작위, 프로젝트 비중복, 시간적, 중복 제거, 미확인 CWE 계열)을 제공한다. 하네스는 세 가지 백엔드 계열(인코더 분류기, Ollama로 서빙되는 로컬 생성 모델, OpenRouter를 통해 라우팅되는 API 서빙 대규모 언어 모델(LLM))에 걸쳐 단일 LlmPrediction 스키마를 제공하므로, CodeBERT, GraphCodeBERT, UniXcoder, DeepSeek-Coder-1.3B 및 8개의 API/오픈 가중치 LLM(GPT-4o, GPT-4.1-mini, Claude Sonnet 4, DeepSeek-v3, DeepSeek-Coder-v2, Qwen-2.5-Coder-14B/7B, CodeLlama-13B)을 포함한 12개의 참조 탐지기가 단일 명령어로 동일한 조건에서 평가된다. 사전학습 오염 감사가 모든 모델과 함께 제공되어 사용자가 진정으로 미확인 테스트 CVE와 잠재적으로 기억된 CVE를 구분할 수 있다. 데이터, 코드, 파인튜닝된 체크포인트는 Zenodo [31]에 보관되어 있으며, 짧은 시연 영상은 YouTube(https://www.youtube.com/watch?v=nMTX_hqkuoM)에서 확인할 수 있다.