arXiv:2609.22981v1 cs.CR

학습된 AI 모델 이중 잠금: PIN 기반 희소 QIM 워터마킹 및 적응형 인덱스 순열 접근법

Dual-Locking Learned AI Models: A PIN-Based Sparse QIM Watermarking and Adaptive Index Permutation Approach

Iva Vasic, Jes\'us Mu\~noz-C\'adiz, Bata Vasic

제출 2026-09-22

한국어 초록

본 논문에서는 키 기반 인덱스 순열(index permutation)과 희소 양자화 인덱스 변조(Sparse Quantization Index Modulation, QIM) 기반의 PIN 워터마킹을 결합하여 학습된 신경망을 보호하는 이중 잠금(dual-locking) 방법을 제안한다. 적응적으로 선택된 인덱스 벡터의 각 행에 균등 무작위 순열을 독립적으로 적용하여 암호학적 무작위성을 도입한다. 그런 다음 양자화된 값을 변조하여 바이어스 계수에 강건한 블라인드 이진 워터마크를 삽입함으로써, 사용자가 정의한 개인 식별 번호(PIN)에 네트워크를 결속시킨다. 올바른 키가 없으면 네트워크는 아키텍처를 유지하지만 내부 표현이 교란되어 기능적으로 손상된다. 역순열을 통해 원래 모델 정확도를 완전히 복원할 수 있으며, 삽입된 워터마크는 감지되지 않는 상태를 유지하면서 키 연관성 및 모델 소유권에 대한 블라인드 검증을 가능하게 한다. 잠금 효과와 복구 가능성을 모두 향상시키기 위해, 적응형 키 선택 전략을 통해 크기가 큰 가중치를 민감도가 낮은 위치로, 그 반대로 재배치함으로써 완전한 복원력을 유지하면서도 잠금 상태에서의 성능 저하를 극대화한다. 완전 연결 신경망, ResNet CNN, 트랜스포머 아키텍처를 사용하여 MNIST, CIFAR-10/100, ImageNet-1K에서 수행한 실험에 따르면, 잠금 시 정확도가 10% 미만으로 떨어지고 CNN의 경우 0.5% 미만까지 감소하는 반면, 올바른 키를 사용하면 성능이 완전히 복원됨을 보여준다. 워터마크는 측정 가능한 정확도 저하를 유발하지 않으며 소유권을 안정적으로 인증한다. 또한 CNN과 트랜스포머 전반에 걸친 임베딩 분포 분석은 과소학습되거나 최적화되지 않은 구조로 설계된 모델을 식별하는 데 잠재적인 진단 가치가 있음을 나타낸다. 따라서 제안된 접근 방식은 모델 보호, 복구 및 소유권 검증을 동시에 제공한다.

원문 초록

We present a dual-locking method for securing trained neural networks that combines key-driven index permutation with PIN-based watermarking based on Sparse Quantization Index Modulation (QIM). Cryptographic randomness is introduced by independently applying a uniform random permutation to each row of adaptively selected index vectors. A robust blind binary watermark is then embedded into the bias coefficients by modulating their quantized values, binding the network to a user-defined Personal Identification Number (PIN). Without the correct key, the network retains its architecture but becomes functionally impaired due to disrupted internal representations. Inverse permutation fully restores the original model accuracy, while the embedded watermark remains imperceptible and enables blind verification of key association and model authorship. To improve both locking effectiveness and recoverability, an adaptive key selection strategy redistributes high-magnitude weights to low-sensitivity positions and vice versa, increasing degradation in the locked state while preserving full recovery. Experiments on MNIST, CIFAR-10/100, and ImageNet-1K using fully connected networks, ResNet CNNs, and transformer architectures show that locking reduces accuracy below 10\%, and even below 0.5\% for CNNs, while the correct key fully restores performance. The watermark introduces no measurable accuracy degradation and reliably authenticates ownership. Analysis of embedding distributions across CNNs and transformers further indicates potential diagnostic value for identifying undertrained or suboptimally designed models. The proposed approach therefore provides simultaneous model protection, recovery, and ownership verification.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2609.22981v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.24176v1cs.CL공통 태그 Quantization, Diagnostic

압축 단문 생성에서 품질이 붕괴되는 지점: 단계적 병목 국소화

Where Quality Breaks in Compressed Short-Text Generation: Staged Bottleneck Localization

압축 단문 생성기는 두 가지 서로 다른 지점에서 실패할 수 있다. 생성이 시작되기 전에 코덱이 정보를 버릴 수 있고, 잠재 생성기(latent generator)가 약한 코드를 만들 수 있다. 이러한 실패 모드를 분리하지 않으면, 연구자들은 잘못된 구성 요소를 개선하는 데 연산 자원을 쓸 수 있다. 우리는 계층적 VQ-VAE-2 코덱과 마스크된 이산 확산 생성기(MDLM)로 구성된 제어된 64-to-16 TinyStories 사례 연구에서 이 문제를 연구한다. 공유 외부 GPT-2 채점기(scorer) 아래에서 코덱 재구성 충실도, 잠재 생성 품질, 보조 잠재 진단을 분리하는 단계적 검증 프로토콜을 사용하고, 기하학 연구를 위해 보완적 의미론적 지표를 보고한다. 테스트된 구성에서, 코덱 재구성만으로도 중앙값 외부 perplexity가 15.17에서 27.36(+80.4%)으로, p95가 25.10에서 98.91(+294.1%)로 증가하여, 지배적인 품질 손실이 잠재 생성이 시작되기 전에 나타남을 보여준다. 동일한 채점기 하에서, 코드 공간 MDLM은 토큰 공간 확산보다 실질적으로 더 강함을 유지하며, 평균, 중앙값, p95를 각각 32.9%, 30.9%, 36.6% 줄인다. 기하학 인식 정규화(geometry-aware regularization)는 지역적 잠재 프록시를 개선하지만, 사용 가능한 실행에서는 디코딩된 텍스트 지표를 개선하지 않는다. 기여는 알고리즘적이기보다 방법론적이다. 본 논문은 하나의 구체적인 파이프라인에 대한 재사용 가능한 단계적 진단을 제시하고, 이 설정에서 잠재 디노이징(latent denoising)보다 코덱 충실도가 실질적 품질 상한을 설정함을 보여준다.

arXiv:2607.21680v1cs.LG공통 태그 Quantization, Diagnostic

교량 진단 에이전트를 위한 보이지 않는 인과관계 인코딩: QLoRA 기반 트리플 가이드 검색-증강 미세조정

Encoding Invisible Causation for Bridge Diagnostic Agents: Triple-Guided Retrieval-Augmented Fine-Tuning with QLoRA

교량 인프라는 점진적으로 열화되지만, 염분 침투, 동결, 피로 균열 등 그 근본 원인은 육안으로는 확인하기 어렵다. 전문가 진단은 수년간의 실무를 통해 축적된 암묵적 지식에 의존한다. 우리는 이러한 잠재적 인과 추론을 자동화하는 과제를 해결하기 위해, 가시적 손상 설명 $S_i$로부터 10개 클래스의 손상 원인을 분류하는 Damage Cause Encoder를 제안하여 자율 교량 진단 에이전트에 활용한다. 우리의 접근법은 세 가지 구성 요소를 연결한다: (i) 지식 트리플 추출(Knowledge Triple Extraction)---대규모 언어 모델이 15--35개의 진단 PDF 매뉴얼에서 (damage $\xrightarrow{\mathtt{caused\_by}}$ cause) 형태의 인과 트리플을 추출하고 이를 FAISS 벡터 저장소에 색인한다; (ii) 검색-증강 컨텍스트(Retrieval-Augmented Context)---학습 및 추론 시점에 관련 인과 트리플 $\mathcal{C}_i$를 검색하여 $S_i$와 연결함으로써 암묵적 도메인 지식을 명시적 Encoder 컨텍스트로 변환한다; (iii) 체계적 미세조정 비교(Systematic Fine-tuning Comparison)---고정된 Golden Testset(층화된 116개 샘플)에서 LoRA, QLoRA, QA-LoRA를 엄격하게 비교하여, QLoRA가 최적의 절충점을 달성함을 보인다: 전 정밀도(full-precision) LoRA와 동일한 테스트 정확도(87.07%), 11% 더 빠른 추론, 72% 낮은 GPU 메모리, 그리고 다양한 미관측 입력에 대한 우수한 일반화. 통제된 Golden Testset---층화, 중복 제거, 난이도 태깅---을 재사용 가능한 벤치마크 기여로 제안한다. QLoRA는 10개 손상 원인 클래스 전체에 걸친 100개 샘플의 다양한 평가에서 LoRA보다 13%p 더 우수한 성능을 보인다. 이러한 결과는 엣지 배포를 위해 소비자급 하드웨어에서 메모리 효율적이고 고정확도의 진단 에이전트를 가능하게 한다.

arXiv:2609.27932v2cs.LG공통 태그 Quantization

이진 양자화 신경망 학습은 입력 및 출력 차원으로 매개변수화할 때 W[1]-난해하다

Binary Quantized Neural Network Training Is W[1]-Hard Parameterized by Input and Output Dimensions

신경망의 가중치와 편향이 고정된 유한 알파벳 위의 값을 가질 때, 데이터셋에 정확히 맞도록 네트워크를 학습하는 것은 유한한 조합 문제가 되며, 매개변수화 복잡도는 인스턴스의 어떤 구조적 양이 이 문제를 풀기 쉽게 만드는지를 묻는다. Ganian, Sommer, Sorge(ICLR 2026)는 입력 차원 $\alpha$, 출력 차원 $\omega$, 아키텍처의 트리폭을 함께 매개변수로 삼을 때 양자화 네트워크 학습이 고정 매개변수 다루기 쉬움(fixed-parameter tractable)을 보였고, $\alpha+\omega$만으로 충분한지 물었다. 우리는 그렇지 않음을 보인다. 이진 양자화 네트워크 학습은 $\alpha+\omega$로 매개변수화했을 때 W[1]-난해하며, 따라서 FPT = W[1]이 아닌 한 어떤 계산 가능한 $f$에 대해서도 실행 시간이 $f(\alpha+\omega)\cdot|I|^{O(1)}$인 알고리즘이 존재하지 않는다. 난해성은 입력이 목표값과 같고 좌표별 접두사 사슬을 이루는 $k+1$개의 예제를 정확히 맞추는 경우에 이미 성립하며, 모든 편향이 0으로 고정된 경우에도 성립한다. 증명은 일회 전환 라우팅 동치성에 기반한다. 이러한 데이터에서 음이 아닌 이진 가중치는 모든 뉴런이 최대 한 번만 켜지도록 강제하며, 네트워크가 데이터를 정확히 맞추는 것은 아키텍처가 변화하는 각 입력을 대응하는 출력에 연결하는 꼭짓점 서로소 경로를 포함하는 것과 동치이다. 따라서 모든 뉴런은 단 $k+1$가지의 활성화 프로파일 중 하나를 가지지만, 이러한 프로파일을 동시에 실현할 수 있는지를 결정하는 것은 서로소 경로 라우팅만큼 어렵다. 이처럼 작은 입력 및 출력 차원은 각 뉴런이 국소적으로 할 수 있는 일을 제한하지만, 아키텍처가 뉴런들로 하여금 전역적으로 자원을 공유하도록 강제하는 방식은 제한하지 않는다.

arXiv:2607.22862v2cs.NE공통 태그 Diagnostic

매개변수화된 CEC 2017 벤치마크를 이용한 변환의 민감도 분석

Sensitivity Analysis of the Transformation Using a Parameterized CEC 2017 Benchmark

CEC 2017은 편향(bias), 이동(shift), 회전(rotation)을 동시에 적용하므로 각각이 알고리즘 동작에 미치는 개별 효과가 가려진다. 우리는 원래의 함수와 변환 데이터를 보존하면서 이들을 독립적으로 제어하는 매개변수화된 구현을 소개한다. 이를 이용하여, 예측 후보 메커니즘이 수치적 목적함수 값과 좌표별 재구성에 의존하는 하이브리드 해양 포식자 알고리즘(hMPA)을 진단한다. 심층 통계 비교(DSC)와 확장 DSC(eDSC)를 알고리즘 수준의 비교에서 구성 수준의 진단으로 적응시켰다. 우리가 아는 한, 이는 매개변수화된 CEC 2017 벤치마크의 편향-이동-회전 8개 구성 전체에 대한 최초의 철저한 DSC 및 eDSC 분석이다. 29개 함수, 차원 10, 30, 50, 100, 30회의 독립 실행, 차원당 10,000회의 목적함수 평가라는 고정 예산을 사용하여, 가능한 56개의 3개 구성 부분집합 전부와 변환하지 않은 대조군과의 비교를 검토한다. DSC와 eDSC는 모든 차원에서 구성 간 통계적으로 유의한 차이를 보이지만, 순위는 함수에 따라 달라 일관된 순서를 정할 수 없다. 대부분의 개별 효과 크기 신뢰구간은 0을 포함한다. 0을 포함하지 않는 경우 중에서는, 차원 10에서는 MPA가, 차원 50과 100에서는 hMPA가 유리한 비교가 더 많다. 이동은 대체로 목적함수 값 결과를 악화시킨다. 단독 회전은 체계적인 성능 저하를 일으키지 않으며, 단독 편향은 최종 해 분포를 거의 바꾸지 않는다. 이동과 회전의 결합은 대조군과 가장 일관되게 다르다. 수렴 곡선은 함수 및 차원에 따라 달라지는 분리, 정체 구간, 후반부 개선을 보여 준다. 수치적 결과는 hMPA에 한정되지만, 이 프레임워크는 다른 연속 최적화 알고리즘으로 확장될 수 있고 CEC 2024 및 CEC 2025를 포함한 관련 CEC 벤치마크에도 적용할 수 있다.

arXiv:2607.22864v2cs.CV공통 태그 Diagnostic

Spatial-IQ: 계층적 능력 테스트를 통한 공간 지능 분해

Spatial-IQ: Deconstructing Spatial Intelligence via Hierarchical Capability Tests

다중모달 대규모 언어 모델(MLLM)은 시각 해석에는 뛰어나지만, 인간이 안정적으로 풀 수 있는 공간 추론 과제에서는 실패한다. 기존 벤치마크는 이러한 모델을 블랙박스로 평가하여 낮은 성능의 근본 원인을 식별하는 능력을 제한한다. 모델이 공간 추론 과제에서 실패할 때, 그 장애가 객체 경계 인식과 같은 지각(perceptual) 문제인지, 가려짐에 대해 추론하여 숨겨진 기하를 추론하는 것과 같은 인지(cognitive) 문제인지 판별하기 어렵다. 우리는 Spatial-IQ를 제안한다. 이는 쌓인 3D 구조에서의 객체 개수 세기를 인간 공간 인지의 발달 단계에 따라 구성된 9개의 지각·인지 하위 과제로 분해하는 계층적 진단 프레임워크이며, 정신 회전(mental rotation)을 추가 목표 프로브로 포함한다. NVIDIA Isaac Sim을 사용하여 과제별 ground truth를 갖춘 약 80,000개의 다양한 쌓인 3D 구조 데이터셋을 절차적으로 생성했다. 자유 응답 텍스트, 객관식 이미지, 이미지 편집의 세 가지 출력 형식과 인간 기준선을 함께 사용하여 모델을 평가한다. Spatial-IQ 프레임워크는 최고 성능 모델이 종종 목표 과제(객체 개수 세기)를 뒷받침하도록 의도된 하위 수준 하위 과제에는 성공하지 못한 채 목표 과제에서 성공하는 경우가 많으며, 모델마다 이러한 계층적 연쇄를 얼마나 유지하는지가 다르다는 것을 보여준다. 이는 목표 과제 정확도만으로는 드러나지 않을 지름길(shortcut) 행동을 종종 드러낸다. 마지막으로, 계층적 하위 과제에 대한 사고의 연쇄(Chain-of-Thought, CoT) 감독과 검증 가능 보상을 이용한 강화학습을 결합하여 모델을 학습하면, 하위 과제 간 공간적 일관성과 목표 과제 정확도가 모두 크게 향상됨을 보여준다. 이는 제안한 분해가 진단 도구이자 학습 신호 모두로서 가치 있음을 뒷받침한다.

arXiv:2607.24743v4cs.CV공통 태그 Diagnostic

ClinFusion: 포괄적 의료 이해를 위한 비전 중심 다중모달 LLM 시스템

ClinFusion: A Vision-Centric Multimodal LLM System for Holistic Medical Understanding

다중모달 대규모 언어 모델(MLLM)은 임상 실무를 혁신할 막대한 잠재력을 지니고 있으나, 의료 분야에 이를 배포하는 것은 근본적으로 비전 중심의 과제이다. 모델은 이질적인 2D 및 3D 의료 영상으로부터 지식을 흡수해야 하며, 평가 프로토콜은 방사선 전문의의 임상 실무와 부합해야 하고 정확하고 세밀하며 사실성 중심의 평가를 제공해야 한다. 본 논문에서는 이러한 한계를 체계적으로 해결하기 위해 포괄적 의료 이해를 위해 설계된 비전 중심 MLLM인 ClinFusion을 소개한다. 우리는 Cascade Spatial-Aware Locality Fusion 연산자를 특징으로 하는 구성적·계단식 비전 인코더 아키텍처를 제안하며, 이는 융합 인코더 내에서 다양한 2D 및 네이티브 3D 의료 영상 이해를 통합한다. 또한 지시 따르기(instruction following) 평가를 위한 MedIF-Bench와, 임상적으로 정렬되고 사실성 중심의 보고서 생성 평가를 위한 관심 영역(RoI) 기반 방법을 포함하는 비전 그라운딩(vision-grounded) 평가 프레임워크를 추가로 도입한다. ClinFusion이 시각적 질의응답, 보고서 생성, 지시 따르기에 이르는 2D 및 3D 다중모달 의료 벤치마크와 텍스트 의료 과제를 아우르는 포괄적 벤치마크 모음 전반에서 새로운 최첨단(state-of-the-art) 성능을 달성함을 보인다. 24개 벤치마크 중 20개에서 Hulu-Med, Lingshu 등 선도적인 오픈소스 의료 MLLM을 능가했으며, 16개 벤치마크 중 13개에서 GPT-5.2, Gemini-3-Flash와 같은 강력한 독점 모델보다 우수한 다중모달 능력을 보였고, 검색-증강 생성(RAG) 및 도구 지원 임상 워크플로를 위한 에이전트(agent) 도구 사용으로 더욱 확장할 수 있다. 방사선 전문의 자격을 갖춘 전문의들의 단맹 평가는 ClinFusion이 최상위 순위의 보고서를 생성함을 확인했으며, 우리의 RoI 기반 지표가 검토된 모든 자동 평가 지표 중 전문가 판단과 가장 강한 상관관계를 달성함을 검증했다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.