PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.31808v1cs.AI

Large Databases Need Small, Open-Weight Language Models

Language model systems built around proprietary APIs often operate on a token-based cost model. This becomes prohibitively expensive in the context of large databases, where LM-enhanced relational operators can incur costs exceeding $10,000 for a single set of experiments, hindering thorough research and practical deployment. In this paper, we demonstrate that quantized, open-weight models running locally on just 16GB of VRAM can match or exceed the accuracy of closed-source counterparts at lower latency and a fraction of the price, challenging the prevailing assumption that closed-source LM APIs are necessary for effective LM-database integration. We present and analyze the key system optimizations required to efficiently deploy these open-weight models within an LM-DB system. By integrating these local models into the BlendSQL v0.1.0 framework, we demonstrate a 390x reduction in overall costs and 3.8x reduction in latency compared to a proprietary LM API. We make our code available at https://github.com/CapitalOne-Research/play-by-the-type-rules/tree/main/sembench.

arXiv:2606.26099v1cs.CY

글로벌 AI 기술 거버넌스를 위한 오픈웨이트 파운데이션 모델 벤치마킹

Benchmarking Open-Weight Foundation Models for Global AI Technical Governance

대규모 언어 모델(LLM)은 국가 및 국제 기구 전반의 인공지능(AI) 거버넌스 분석에 점점 더 많이 배치되고 있다. 그러나 이러한 모델이 학습 데이터에서 과소 대표된 국가에 대해 상당히 덜 정확한 응답을 생성한다는 증거가 점점 늘고 있으며, 기존 문헌에서는 이 패턴을 지리적 바이어스(geographic bias)라고 부른다. 이 현상을 조사한 기존 연구들은 세 가지 방법론적 한계에 직면하며, 이는 함께 그들의 발견을 훼손한다: (1) 가중치가 공개되지 않은 독점 시스템에 대한 의존으로, 이는 독립적 재현을 불가능하게 한다; (2) 모델 학습을 위한 데이터 수집이 끝난 이후의 연도에 대한 모델 지식을 평가하는 것으로, 각 모델 지식의 자연스러운 한계에 더하여 지리적 무지(geographic ignorance)를 초래한다; (3) 모델의 자신 있게 날조(confident fabrication, HF)와 불확실성에 대한 정직한 인정을 구별할 수 없는 거친 이진 응답 분류(classification)의 사용. 본 연구는 Harvard Dataverse에 2026년 1월 공개된 227개국에 걸친 24,453개 지표의 검증된 ground-truth 데이터베이스인 Global AI Dataset v2(GAID v2)를 기준으로 네 개의 오픈웨이트 프론티어 언어 모델을 벤치마킹하여 세 가지 한계를 모두 해결한다. GAID v2에서 IEEE IRAI 2026 프레임워크의 8개 주제 차원에 매핑된 총 18개 지표를 선택하여, 2010-2023 기간 내 6개 평가 연도에 걸쳐 약 2,990개의 국가-지표-연도 관측치를 산출한다. 모델 응답은 (a) 검증된 정확성(verified accuracy, VA), (b) HF, (c) 정직한 거부(honest refusal, HR), (d) 질적 회피(qualitative hedging, QH), (e) 오귀속(misattribution, MF)을 구별하는 5범주 분류 체계를 사용하여 분류한다. 정확성의 지리적 격차는 혼합효과 로지스틱 회귀(mixed-effects logistic regression)와 차이의 차이(difference-in-differences, DiD) 분석을 통해 추정한다.

arXiv:2606.21638v1cs.CR

위험 없는 오픈 가중치 모델을 향하여: LLM에서 공개·비공개 기능 분리

Toward Open Weight Models Without Risks: Separating Public and Private Capabilities in LLMs

오픈 가중치 공개와 민감 기능 접근 제어를 함께 달성하기 위해, 비밀 키가 소규모 매개변수 부분집합의 순열을 지정해 동일 가중치 위에 대체 연산 그래프를 형성하는 계층형 언어 모델(TLM)을 제안하고 공동 사전학습과 정규화 기반 비공개 미세조정으로 공개·키 구성의 기능 분리를 학습한다. 1.8억 및 6.5억 매개변수 TLM에서 키 구성은 새 언어, 지시 따르기, 비공개 사실 지식을 습득하고 공개 구성에는 누출되지 않으며, 입력 공간이 아닌 가중치 구조에서 인가가 작동해 미세조정 기반 추출과 부분 키 노출에 더 견고하다.