PyTorchKR Papers

최신 논문

총 5편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.01378v1cs.AI

행동 귀속 이전의 생성 출처: 합성 음성 연구 대상 감사하기

Generation Provenance Before Behavior Attribution: Auditing Synthetic Speech Research Objects

모델 행동을 합성 학습(training) 데이터의 탓으로 귀속시키기 위해서는, 각 학습 항목이 무엇을 유발했는지 추정하기에 앞서 무엇이 그 항목을 생성했는지를 알아야 합니다. 파형(waveform)-레이블 쌍은 이러한 정보를 보존하지 못합니다. 본 논문에서는 합성 연구 대상(synthetic research object)이 소스 명세, 생성된 콘텐츠, 파형, 타깃, 사실 요건, 품질 신호, 검토 계보(review lineage), 그리고 불변 매니페스트 식별자를 결합하는 생성 출처(generation provenance) 기반 구조를 제안합니다. 생성자 및 선택 메커니즘이 증거적 의미를 결정하며, 저장 위치나 변수명은 그렇지 않습니다. 저자들은 비공개 일본어 간호 인수인계 파이프라인에서 이 기반 구조를 감사합니다. 113개 자산으로 구성된 검토 대상군은 6개 시나리오 패밀리에 걸쳐 1.552시간 분량의 합성 음성을 포함합니다. 모든 항목은 연결된 오디오, 전사본, 후보 노트, 사실 체크리스트를 갖추고 있으나, 사람에 의한 증거는 선별적이며 소스에 국한됩니다. 두 개의 충실성 전용(faithful-only) 매니페스트는 시나리오 시드가 서로 겹치지 않으며(scenario-seed-disjoint) 불변 버전으로 관리되지만, 유동적인 생성기 별칭(floating generator aliases), 클립별 TTS 및 코드 스탬프 누락, 버전이 지정되지 않은 검사 프롬프트(prompt)로 인해 정확한 상류 귀속(upstream attribution)은 여전히 차단되어 있습니다. 본 논문에서는 생성 출처가 행동 귀속을 위한 필요조건이지만 충분조건은 아니라고 주장합니다. 즉, 생성 출처는 후보 인과 그래프와 감사 단위를 정의할 뿐이며, 기여적 귀속(contributive attribution)을 위해서는 여전히 동결된 학습 실행과 개입 또는 영향력 증거가 필요합니다. 본 연구는 합성 데이터 귀속을 위한 간결한 출처 계약, 감사 프로토콜, 그리고 한정된 사례 연구를 제시합니다. 통제된 연구 목적의 접근은 제공될 수 있으나, 인과적 학습 데이터 귀속, 임상적 유효성, 또는 제한 없는 공개 배포를 주장하지는 않습니다.

arXiv:2607.13037v1cs.AI

OriginBlame: AI 학습 데이터셋을 위한 레코드 및 토큰 수준 데이터 프로비넌스

OriginBlame: Record- and Token-Level Data Provenance for AI Training Datasets

데이터 기여자가 삭제를 요청할 때, 모델 학습자는 실질적인 공백에 직면한다. 언러닝(unlearning) 알고리즘은 forget set이 필요하지만, 특정 저자에 속하는 학습 레코드를 찾아내는 도구는 없다. 기존 프로비넌스 시스템은 파일 또는 데이터셋 수준에서 동작하여 치명적인 과다 삭제를 초래한다. 우리는 데이터 처리 파이프라인 전반에 저자 신원을 전파하고, 결정론적 쿼리를 통해 철회 요청을 정밀한 forget set으로 해석하는 레코드 및 토큰 수준 데이터 프로비넌스 시스템 OriginBlame을 제시한다. 219,555개의 Wikipedia 페이지에 대한 평가는 레코드 수준 프로비넌스가 데이터셋 수준 과다 삭제를 제거함을(101배에서 1.3배로) 보여주며, 통합은 wiki 데이터에서 1.3–4.0%의 처리량 오버헤드(HuggingFace)와 2.1–19.0%(Datatrove)를 추가한다. 17억(1.7B) 파라미터 모델에서, 프로비넌스 기반 forget set은 무작위 베이스라인 대비 언러닝을 42% 개선한다.

arXiv:2607.09682v1cs.LG

AuditWeave: AI 보조 및 데이터 변환 워크플로우를 위한 변조 탐지 가능하고 감사자 탐색 가능한 증거 층

AuditWeave: A Tamper-Evident, Auditor-Navigable Evidence Layer for AI-Assisted and Data-Transformation Workflows

AI 시스템은 감사, 금융, 의료와 같은 규제 도메인에서 중요한 결정을 보조하는 데 점점 더 많이 활용되고 있다. 이로 인해 반복적인 의무가 발생한다: 조직은 사후에 특정 결론을 도출하는 데 어떤 증거가 사용되었는지 재구성하고, 해당 추론 기록이 변조되지 않았음을 입증할 수 있어야 한다. 기존 도구들은 모델 관측 가능성(observability), 드리프트 모니터링(drift monitoring), 거버넌스 보고(governance reporting) 등 관련되지만 별개의 문제를 다루며, 시스템을 운영하는 머신러닝 엔지니어를 위해 설계되었지 특정 결론을 뒷받침 증거까지 추적해야 하는 검토자를 위한 것이 아니다. 우리는 AuditWeave를 소개한다. 이는 런타임 의존성이 없는 경량 Python 라이브러리로, AI 보조 및 데이터 변환 워크플로우의 각 단계를 단일 추가 전용(append-only) 해시 체인(hash-chain) 원장에 기록한다. 소규모의 시스템에 구애받지 않는 이벤트 어휘는 검색-증강 생성(RAG) 파이프라인과 테이블형/레이크하우스(lakehouse) 변환 모두를 포괄하므로, 두 가지를 모두 활용하는 결론도 하나의 기록을 통해 종단 간(end-to-end) 추적이 가능하다. 봉인된 원장 내에서는 이벤트의 수정, 재정렬, 삽입, 삭제 등 어떠한 변경도 체인 검증을 통해 탐지할 수 있다. 본 논문에서는 설계를 설명하고 참조 구현체를 대상으로 기록 오버헤드, 확장성, 변조 탐지 정확성을 평가한다. 무결성 보장에 드는 비용은 이벤트당 수십 마이크로초이며, 해시 체인 구조의 특성상 2,000회의 무작위 실험에 걸쳐 4가지 변조 유형에서 주입된 모든 변이가 검증을 통해 탐지되었다.

arXiv:2606.29605v1cs.CL

LLM이 생성한 임상 코퍼스에서 실제로 새로운 내용은 얼마나 되는가? 출처 분류를 위한 콘텐츠 중복성의 프로덕션 규모 측정

How much of an LLM-generated clinical corpus is actually new? A production-scale measurement of content redundancy for provenance classification

임상 머신러닝은 임상의가 주석을 달기보다 대규모 언어 모델(LLM)이 생성한 학습 코퍼스에 점점 더 의존하고 있으며, 이러한 코퍼스는 보고된 규모를 기반으로 설명되고 재사용된다. 우리는 데이터 양이 정보 내용을 반영하는지 검증한다. 167,034개의 환자 내러티브에 적용된 멀티 에이전트 임상 추출 파이프라인의 전체 출력물을 분석하여—11채널 파이프라인 중 텍스트를 포함하는 10개 채널에 걸쳐 생성된 총 25.1억 토큰—우리는 출처 기반 중복성 분해(Provenance-based Redundancy Decomposition)를 도입하여 전체 출력물을 출처에 따라 토큰 수준에서 분류한다. 출력물의 단 10.9%만이 학습 가능한 고유 콘텐츠이며, 79.4%는 중복이다. 즉 원시 토큰 수는 정보 내용을 약 9배 과대평가한다. 중복성은 두 가지 별개의 메커니즘을 통해 발생하는데, 항목별 필드에 소스 컨텍스트를 그대로 복사하는 것과 레코드 전반에 걸쳐 생성된 텍스트가 중복되는 것이며, 전자만이 손실 없이 제거 가능하다. 무손실 압축에 기반한 독립적이고 모델 비의존적인 분석이 이 중복성을 확인하며, 출처 레이블을 참조하지 않고도 두 가지 메커니즘을 복원한다. 파이프라인 채널 하나는 거의 중복성이 없어, 중복성 수준이 LLM 추출의 고정적 특성이 아니라 각 채널의 구조 방식에 따라 달라짐을 보여준다. 수정되지 않은 중복성은 가장 많은 항목을 생성하는 더 길고 복잡한 사례에 가중치를 부여하기 때문에, 코퍼스의 토큰 수준 학습 분포를 왜곡하며 이를 직접 측정한다. 통제된 다운스트림 실험에서, 동일한 토큰 예산 하에 적응(adaptation) 전 코퍼스의 중복을 제거하면 외부 질병 인식 벤치마크에서 임상 인코더 성능이 향상되었으며, 이는 적응 깊이 전반에 걸쳐 강건하게 나타났고 두 번째 벤치마크에서도 재현되어 중복성이 저장 공간 이외에도 측정 가능한 비용을 수반함을 확인한다. 분류 도구는 공개적으로 배포된다.

arXiv:2606.28386v1cs.CV

이미지 자기회귀 생성을 위한 데이터 출처 추적

Data Provenance for Image Auto-Regressive Generation

이미지 자기회귀 모델(IAR)은 최근 시각 콘텐츠 생성에서 놀라운 능력을 보여주었으며, 대규모 언어 모델에서 차용한 다음 토큰 예측 패러다임을 통해 사진과 같은 품질과 빠른 합성을 달성하고 있다. 이러한 모델이 광범위하게 접근 가능해짐에 따라, IAR이 생성한 이미지를 해당 이미지를 합성한 원본 모델로 신뢰성 있게 추적하기 위한 강건한 데이터 출처 추적(data provenance)이 요구된다. 이는 허위 정보의 확산을 방지하고, 사기를 탐지하며, 유해 콘텐츠를 귀속시키는 데 핵심적이다. 우리는 IAR이 생성한 이미지가 실제 이미지와 시각적으로 동일하게 보이는 경우가 많음에도 불구하고, 생성 과정에서 출력물에 특징적인 패턴이 도입되며, 이것이 생성된 이미지에 대한 신뢰할 수 있는 출처 추적 신호로 기능함을 발견하였다. 이를 활용하여, 우리는 출처 추적을 위한 이러한 패턴의 강건한 탐지를 가능하게 하는 사후(post-hoc) 프레임워크를 제시한다. 특히, 우리의 프레임워크는 생성 과정이나 출력물의 수정을 필요로 하지 않는다. 따라서 추가적인 마크 없이 이미 공개된 생성 콘텐츠나 워터마킹을 통합하지 않은 모델과 같이, 기존 워터마킹 방법을 적용할 수 없는 맥락에서도 활용 가능하다. 우리는 다양한 IAR에 걸쳐 우리 접근법의 효과를 입증하며, 자기회귀 이미지 생성에서 강건한 데이터 출처 추적의 높은 잠재력을 강조한다.