PyTorchKR Papers

최신 논문

총 13편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.20827v2cs.AI

LLM 에이전트 행동 선택에서 출처 민감도 감사

Auditing Provenance Sensitivity in LLM Agent Action Selection

LLM 에이전트는 사용자 요청, 도구 출력, 검색된 레코드, 메모리, 신뢰할 수 없는 텍스트가 혼합된 컨텍스트에서 도구와 인자를 선택한다. 증거는 결정을 내릴 권한이 없어도 관련 있을 수 있으므로, 올바른 행동이라고 해서 반드시 허용된 증거에만 그라운딩된 것은 아니다. 우리는 각 도구 및 인자 대상에 대해 컨텍스트 요인을 별도로 라벨링하는 대상별 승인(authorization) 감사를 도입한다. 주요 테스트는 과제, 명제(proposition), 위치, 정책을 고정한 채 명제의 출처 권한(source authority)만 변경한다. 그런 다음 유효한 증거가 약화되었을 때의 행동을 테스트하고, 컨텍스트 부분집합 상호작용을 보조적 국소화(localization) 진단으로 사용한다. 450개의 통제된 다음 행동(next-action) 과제와 여러 오픈 가중치 LLM 계열에 걸쳐, 신뢰할 수 있는 변형과 신뢰할 수 없는 변형은 경쟁(competing) 사례의 5.4%에서, 대조적으로 지지(supporting) 사례의 1.7%에서 서로 다른 행동을 생성한다. 통제된 성능 저하(degradation) 하에서, 무권한 경쟁(unauthorized competition)은 full-correct, mixed-error, clean-correct 패턴에서 비교의 2.4%에서 유지되며, 95% 신뢰구간은 2.1~3.0%이다. 이는 배포 유병률(prevalence)이 아니라 통제된 스트레스 세트(stress-set) 비율이다. 모델은 텍스트적 출처 권한 단서에 반응하지만, 이는 신뢰할 수 없는 증거가 행동에 영향을 미치는 것을 막지 못한다.

arXiv:2609.26035v1cs.CL

믿을 수 있는 AI를 위한 진실성: 공학적으로 구현 가능한 태도로서의 의구심 표현, 출처 추적, 신념 수정

Truth for Believable AI: Expressed Doubt, Provenance, and Belief Revision as an Engineerable Stance

대화형 에이전트(agent)는 흔히 답변을 일률적으로 확신에 찬 어조로 표현한다. 우리는 표현된 불확실성, 출처 인식 기반 주장(provenance-aware assertion), 명시적 신념 수정(belief revision)을 고정된 언어 모델 위의 행동 층(behavior layer)으로 구현할 수 있는지 검증한다. 다만 신뢰성(believability)이나 신뢰(trust) 자체는 검증하지 않는다. 이 층은 세 가지 인식적 상태(epistemic state), 주장별 신뢰도(confidence)와 유형화된 출처(typed provenance), 출처 기반 게이팅 표현 규칙(provenance-gated expression rule), 그리고 감사 가능한 확인 응답(acknowledgment)과 잘못된 정정에 대한 부분적 저항을 갖춘 영속적 수정 저장소(revision store)를 결합한다. 우리는 합성 모델과 Qwen2.5-0.5B-Instruct를 사용하여, 직접 구성하고 기계적으로 채점하는 다중 세션 벤치마크에서 이를 평가한다. 합성 도구(synthetic instrument)는 다섯 가지 검사를 모두 통과한다. 실제 모델에서는 설계상 보장되는 확인 응답의 건전성(acknowledgment soundness)이 100%의 사례에서 성립하며, 올바른 정정이 잘못된 정정보다 더 자주 수용된다(보유 중인 신념에서 0.44 대 0.15, 보유하지 않은 사실에 대해 규칙이 수용한 정정을 포함하면 0.875 대 0.420). 그러나 사전에 지정한 표현 충실도(expression-fidelity), 모순 분리(contradiction-separation), 출처(provenance) 기준치(margin)는 충족하지 못한다. 사후(post hoc) 분석 결과를 공개하면, 평균 답변 토큰 확률에 기반한 표현 게이팅은 종단 간(end to end)으로 정답 여부를 무작위 수준보다 낮게 순위화하는 반면(AUC 0.41, 대화 단위 군집화), 샘플링 일관성(sampling consistency)에 기반한 게이팅은 판별력을 보인다(AUC 0.66). 이 결과를 바탕으로 선택한 일관성 게이팅 구성을 별도로 확정한 프로토콜에 따라 평가한 결과, 대화 수준의 조작(manipulation) 기준과 능력 동등성(capability-equivalence) 기준을 충족하였고, 다시 추출한 대화 집합에서도 재현되었다. 다만 조작 결과는 선택에 의존적이며, 불확실성을 60개의 사실 단위로 군집화하면 두 기준 모두 결론이 나지 않는다. 뒷받침되는 결론은 설계상 보장되는 감사 보장(audit guarantee), 저장소에 의존하는 부분적 정정 판별, 그리고 토큰 확률 게이팅이 해당 벤치마크와 모델에서 실패한다는 점으로 한정된다. 사람 평가에 앞서 사실 기반(fact base)의 규모 확장이 필요하다.

arXiv:2609.25054v1cs.CL

MoM: 메모리의 메모리

MoM: Memory of Memory

장기 과제를 수행하는 LLM 에이전트(agent)에게 메모리의 핵심 질문은 과거에 무엇이 기록되었는가가 아니라 \emph{현재 무엇이 유효한가}이다. 대부분의 설계는 이 질문에 간접적으로만 답한다. 모든 상호작용을 저장해 두고, 질의 시점에 기록을 검색하고 조정하여 현재 상태를 재구성하기 때문에, 오래된 값이 다시 유입되고 동일한 충돌이 반복해서 재논의된다. 쓰기 시점에 현재 값을 확정하면 이 문제를 피할 수 있지만, 기존의 쓰기 시점(CRUD) 메모리는 값을 덮어쓰기 때문에 잘못된 갱신을 되돌릴 수 없고 이전 상태도 사라진다. 우리는 이 빠져 있던 조합, 즉 \emph{도착 시점에 확정하되 밀려난 값은 보존한다}는 방식을 취하여 이를 \textsc{Memory of Memory}(MoM)로 형식화한다. MoM에서 메모리는 내용뿐 아니라 각 항목 자체의 출처(provenance), 상태, 이력까지 추적한다. 우리는 MoM을 \textsc{Provenant Memory}(P-Mem)로 구현하는데, 이는 타입이 지정된 출처 그래프(provenance graph)로서, \emph{활성 프런티어(active frontier)}가 해소된 각 키마다 하나의 현재 값을 제공하고 밀려난 값은 출처 정보로 보존한다. 타입이 지정된 연산은 새로운 관측이 기존 값을 지지(support), 대체(supersede), 이의 제기(contest), 기각(reject), 철회(revoke), 해소(resolve) 중 무엇에 해당하는지를 결정한다. P-Mem의 결정적인 이점은 정확도가 아니라 유효성(validity)이다. 턴 단위 읽기는 가장 강력한 검색 기반 메모리와 정확도가 동등하면서 읽기 토큰은 약 $\sim$4$\times$ 적으며, 이는 검색 단위(granularity) 효과이다. 또한 그래프 기반 턴 가지치기(pruning)는 지식 갱신에서 오래된 답변 비율을 낮춘다(19.4\%$\rightarrow$10.9\%). 수정 체인(revision chain)에서는 질의 시점 읽기 방식이 25\%로 무너지는 반면 P-Mem은 100\%를 유지하며, 밀려난 값을 덮어쓰지 않고 보존하기 때문에 CRUD 메모리가 복구하지 못하는 확정된 오류도 복구한다(100\% 대 0\%).

arXiv:2609.22961v1cs.CR

조직 경계를 넘는 에이전트적 신뢰: 구조적 외부화와 신뢰 증거를 위한 참조 모델

When Agentic Trust Crosses Organizational Boundaries: Structural Externalization and a Reference Model for Trust Evidence

에이전트 시스템은 점점 더 조직 경계를 넘어 도구, 서비스, 데이터 및 다른 에이전트를 호출하지만, 의존 당사자(relying party)는 위임된 행동을 생산 도메인의 통제와 기록만으로 평가할 수 없다. 본 논문은 신뢰할 수 있는 AI 거버넌스, 에이전트 보안, 분산 신뢰 관리, 신원(identity), 출처(provenance), 보증(assurance), 제어 평면(control-plane) 연구를 종합하여 서비스로서의 신뢰성(Trustworthiness as a Service, TaaS)을 정립한다. 분석 단위는 발행자(issuer), 대상(subject)과 행동(action), 의존 당사자, 행정 경계(administrative boundary), 증거 의존성(evidence dependencies), 불리한 조건(adverse condition), 그리고 요구되는 검증 또는 심사(adjudication) 의미론을 명명하는 교차 도메인 의존 명제(cross-domain reliance proposition)이다. 세 가지 조건의 구조적 외부화(structural-externalization) 진단은 여러 도메인에 의존하고, 생산자 독립적 의존(producer-independent reliance)을 요구하며, 철회, 실패, 상충하는 기록, 또는 분쟁 이후에도 검토 가능(reviewable)해야 하는 명제를 식별한다. 이러한 명제에 대해 논문은 신뢰 증거 봉투(trust-evidence envelope)를 규정한다: 변경 불가능한 워크플로 매니페스트를, 과제 범위 권한(task-scoped authority), 정책 및 실행 결정, 출처, 유효성, 공개(disclosure), 상태, 이의 제기(challenge), 복구(recovery)에 대한 발행자 귀속(issuer-attributed), 추가 전용(append-only) 증명(attestation)과 연결한다. 토폴로지 중립(topology-neutral) 논리 참조 모델은 이러한 기능을 명시적 역할과 신뢰 도메인(trust domain)에 배치한다. 세 가지 분석 시나리오와 TaaS-Eval 프로토콜 제안은 매니페스트, 독립 소비자(independent consumer), 하드 게이트(hard gate), 적대적 증거 시험(adversarial evidence test), 지표, 재현 가능한 산출물 보고를 정의한다. 신원, 권한 부여(authorization), 출처, 보증, 거버넌스 메커니즘을 경계가 있는 위임 행동(bounded delegated action) 주위로 구성함으로써 TaaS는 교차 도메인 의존을 위한 재사용 가능한 프로파일을 제공한다. 이는 증거 의존성, 독립 검증, 이의 제기, 복구를 명시화하여 상호운용 가능한 거버넌스와 생산자 주장을 근거 진실(ground truth)로 취급하지 않는 향후 평가를 지원한다.

arXiv:2607.24563v2cs.AI

TRACE-CTI: 지식 그래프를 활용한 TTP 주장의 감사 가능한 추출 후 거버넌스

TRACE-CTI: Auditable Post-Extraction Governance of TTP Claims with Knowledge Graphs

보안 운영 센터(SOC)는 사이버 위협 인텔리전스(CTI) 보고서를 MITRE ATT&CK에 자동 매핑하는 데 점점 더 의존하고 있지만, 추출기 출력은 여전히 오류 가능성이 있으며 개별 매핑을 신뢰해야 하는지 판단하는 데 필요한 증거, 출처(provenance), 검증 이력 없이 저장되는 경우가 많다. 우리는 TRACE-CTI를 제시한다. 이는 실행(run) 수준 Predictions를 보존하고, 이를 구성(configuration) 수준 GraphAssertions로 집계하며, 설정 중복 제거된 상호 검증을 ConsensusAssertions로 구체화하고, 정책 준수 검증 근거(validation grounds)가 뒷받침하는 GraphAssertions만 노출하는 추출 후 클레임 거버넌스 프레임워크이다. 이 프레임워크는 원본 증거의 세분화 수준, 완전한 추출 출처, 버전 관리된 신뢰 결정, 비파괴적 철회 이력을 유지한다. 우리는 65개 보고서와 5,303개 문장으로 구성된 두 공개 CTI 코퍼스에서 TRACE-CTI를 평가한다. 검색기(retriever)와 생성기(generator) 계열의 통제된 2×3 행렬을 사용하여 6개 GraphVersion에 걸쳐 점진적으로 수집한다. 모든 설정은 스키마 수정 없이 통합되며, 출처 경로는 완전하게 유지되고, 운영 범위는 분리(disjoint)되어 있으며, 신뢰할 수 있는 모든 GraphAssertion에는 활성화된 적격 검증 근거가 있다. 생성기 계열 간 교차 설정 쌍은 동일 계열 쌍보다 더 큰 출력 다양성을 보인다. 최종 그래프 상태에서 설정 지원을 k ≥ 1에서 6개 설정 전원 일치(six-setup unanimity)로 늘리면 gold 정렬 정밀도는 25.3%에서 90.6%로 상승하고, 재현율은 88.2%에서 16.3%로 감소한다. 그래프는 또한 출처, 신뢰, 버전 관리, 의존성, 불일치, 검토 대기열(review-queue)에 관한 7가지 질문에 직접 답할 수 있으며, 이는 평가된 최소 평면(flat) 출력이 보강이나 재처리 없이는 완전히 답할 수 없는 질문들이다. 이 결과는 추출된 TTP 주장에 대한 명시적이고 감사 가능한 거버넌스를 뒷받침한다. 관찰된 상호 검증 궤적은 기술적(descriptive)이며 통계적 독립성이나 인과적 모델 계열 효과를 확립하지 않는다.

arXiv:2607.24117v1cs.AI

서술자 등급 부여: 다중 에이전트 지식 시스템에서 주장 수준 출처 추적을 위한 Isnad-Rijal 프레임워크

Grading the Narrators: An Isnad-Rijal Framework for Claim-Level Provenance in Multi-Agent Knowledge Systems

현대의 다중 에이전트 지식 시스템은 직접 검색보다 자율적 변환의 연쇄를 통해 지식을 점점 더 축적하고 있다. 기존 출처(provenance) 연구는 무엇이 일어났는지—실행 추적, 도구 호출, 증거 링크—를 기록하며, 출처 신뢰도 추정은 진실 발견(truth discovery), 평판 시스템(reputation systems) 등으로 오래전부터 확립되어 왔다. 부족한 것은 완전성 의미론(completeness semantics), 변환 유형별 집계(transformation-typed aggregation), 분리된 내용 비평(decoupled content criticism), 제공/검토/격리(serve/review/quarantine) 라우팅을 갖춘, 주장 수준 전달 사슬에 영역별 등급화된 전달자 신뢰도를 부여하는 운용 가능한 프레임워크이다. 고전 이슬람 하디스 학문은 구조적으로 유사한 문제—인간 서술자 사슬을 통해 전달된 지식을 수용할지 결정하는 것—에 직면했다. 수세기에 걸쳐 엄격한 방법론을 발전시켰다—isnad(모든 주장에 부여된 완전한 전달 사슬), rijal(각 서술자의 청렴성과 정밀도에 대한 체계적 등급 부여), 최약 고리(weakest-link) 사슬 평가, 독립 사슬을 통한 상호 확인(corroboration), matn 비평(사슬 품질과 무관하게 평가되는 내용)—을 포함한다. 본 논문은 그 방법론을 AI 시스템 설계로 이전한다. 우리는 하디스 학문 개념에서 다중 에이전트 파이프라인으로의 공식적 매핑, 주장 사슬과 등급화된 서술자 레지스트리를 구현하는 관계형 스키마, 사슬 등급과 내용 비평을 결합하는 의사결정 행렬, 실제 물리학 교과서에서 추출한 20,000개 주장에 대한 평가를 기여한다. 평가는 최약 고리 격리(quarantine)와 독립 사슬 상호 확인을 검증하고, 가장 결함이 많은 서술자를 놓친 등급 회복(grade-recovery) 루프의 부분적 실패를 보고하며, 기준 내용 비평기(reference content critic)와 프레임워크가 도달하지 못한 일치 커버리지(matched-coverage) 비교를 포함해 두 분석을 결론적이지 않다(inconclusive)고 보고한다. 본 논문은 증거가 어떤 주장을 지지하고 아직 지지하지 않는지를 전반에 걸쳐 명시적으로 서술한다.

arXiv:2607.22953v1cs.AI

요청이 요구하는 이상은 공유하지 않음: 관점 인식 AI를 위한 연합 공개

Share No More Than the Request Requires: Federated Disclosure for Perspective-Aware AI

현대 AI 시스템은 대규모 감시, 권력의 극단적 집중, 사용자 자율성 상실과 같은 사회적 위험을 초래하며, 제3자가 방대한 사용자 데이터를 수집·통제하는 모델에 의문을 제기한다. 사용자는 엄격한 출처(provenance), 해석 가능성(interpretability), 정책 준수를 요구하는 규제 영역 전반에서도 준수하면서, 자신의 컨텍스트를 안전하게 소유·관리·공개할 수 있는 주권적(sovereign) 시스템을 필요로 한다. 관점 인식 AI는 사용자의 집계된 개인 데이터를 \emph{Chronicle}이라 불리는 구조화된 정체성 모델로 변환함으로써 이에 접근한다. Chronicle은 사용자를 표현하고 함께 성장하는 시간적 지식 그래프(temporal knowledge graph)이다. Chronicle은 연합(federated) 네트워크 전반에서 컨텍스트의 안전한 공개를 지원한다. Chronicle 보유자(holder)는 제3자 에이전트가 누구의 데이터도 중앙 집중화하지 않고 조회할 수 있는, 쿼리 가능한 승인된 뷰(authorized view)를 노출할 수 있다. 본 논문은 도메인 경계를 넘는 최소 필요 공개(minimum-necessary disclosure) 문제를 탐구한다. 요청자의 에이전트가 Chronicle을 쿼리할 때, 시스템이 어떻게 응답을 요청자와의 관계, 명시된 목적, 구체적 과업이 요구하는 것만 공개하도록 제한할 수 있는가? 우리는 \textbf{Provenance Preserving Chronicles}(PPC)를 제안한다. 이는 각 보유자의 Chronicle을 컴팩트한 \emph{authorized evidence subgraph}로 컴파일하는 연합 프로토콜이며, \emph{share no more than the request requires}(요청이 요구하는 이상은 공유하지 않는다)는 하나의 규칙으로 거버넌스한다. 보유자는 로컬 주권을 유지하고, 액세스 컨트롤러는 도메인 전문 온톨로지(domain-expert ontologies) 위에 관계 인식(relationship-aware) 뷰를 투영(project)하며, 2단계 흐름(two-phase flow)은 먼저 출처 연결(provenance-linked) 텍스트를 반환하고, 원시 아티팩트(raw artifacts)는 보유자의 명시적 승인 후에만 공개한다. 우리는 문제를 틀 짓고, 블록체인, P2P, 보유자 주권(holder-sovereign) 설계의 공백을 매핑하며, 핵심 구성 요소를 정의하고, 명시적 위협 모델(threat model)과 함께 프로토콜을 개괄한다.

arXiv:2607.21910v1cs.AI

TRW: TRACE-RealWorld---구체화 뷰로서의 월드 모델을 위한 감사 가능한 일관성 계약

TRW: TRACE-RealWorld---An Auditable Consistency Contract for World Models as Materialized Views

TRACE-RealWorld는 핵심 데이터 관리 문제, 즉 기본 상태에 대한 읽기가 비용이 부과되고 지연되며 이질적이고 오류 가능할 때 지속적으로 변하는 물리 세계 위에서 실행 가능한 구체화 뷰(materialized view)를 유지하는 문제를 다룬다. 데이터 관리 측면의 기여는 구체화된 예측을 위한 커밋(commitment) 수준 유효성 추상화, 결과 조건형(consequence-conditioned) 적응형 뷰 유지, 승인 후 무효화된 커밋에 대한 트랜잭션(transaction) 스타일·의존성 범위 보상, 정확한 재생(replay)을 지원하는 append-only 출처(provenance)이다. 이 연구는 구체화 뷰 유지, 적응형 스트림 동기화, 트랜잭션 복구, 사가(saga), 데이터 신선도(freshness), 출처(provenance)를 직접 기반으로 한다. End-to-end Flood-SAR 평가는 센싱을 물리적 데이터 획득으로 취급하고, 보류(hold-out) 시드로 사전 등록된 6개 질문을 통해 신선도, 검증 비용, 오래된(stale) 읽기, 복구 범위, 복원 실패, 재생 가능성을 측정한다. 따라서 기여는 새로운 예측 모델이 아니라, 학습된 세계 표현을 운영 데이터 시스템으로 배포하기 위한 일관성·복구·책임성(accountability) 계약이다.

arXiv:2607.11172v1cs.AI

STAMP: 심층 탐색 에이전트를 위한 출처 기반 크레딧 할당

STAMP: Provenance-Guided Credit Assignment for Deep Search Agents

심층 탐색 에이전트를 위한 강화학습은 주로 궤적 수준의 점수화, 즉 결과 정확성, 인용 인식 보상, 증거 커버리지에 초점을 맞춰 왔다. 그러나 지지 문서를 노출시키는 행동에는 어떠한 표적 크레딧도 부여되지 않으며, 우리는 이 간극을 보상-크레딧 불일치(reward-credit mismatch)라고 부른다. 우리는 STAMP를 제안하는데, 여기서 참조 기반 검증기는 각 인용 문서가 학습 시 증거 그래프의 엔티티 또는 관계를 지지하는지 판단하고, 최초 노출 귀인(first-exposure attribution)은 지지된 각 인용을 처음 발견한 행동으로 역추적한다. 이 단계 크레딧은 부호 보존 어드밴티지 변조(sign-preserving advantage modulation)를 통해 주입되며, 이는 궤적 수준의 보상이나 각 그룹 내 궤적의 상대적 순위를 변경하지 않고 단계 전반에 걸쳐 어드밴티지를 재분배한다. BrowseComp, BrowseComp-ZH, xbench-DS에서 STAMP는 동일한 SFT 초기화, 학습 데이터, 검색 도구 조건 하에 GRPO 기준선을 +2.0/+5.5/+3.0점 향상시키며, 결과 전용 및 인용 루브릭 기본 보상 모두와 결합된다. 구성 요소 절제 실험을 통해 출처 기반 크레딧 신호와 부호 보존 어드밴티지 변조가 각각 성능 향상에 기여함을 확인한다.

arXiv:2607.08400v1cs.CR

TRACE: LLM 에이전트 궤적을 위한 상보적 임베딩 기반 이중 채널 강건 귀속 워터마크

TRACE: A Two-Channel Robust Attribution Watermark via Complementary Embeddings for LLM-Agent Trajectories

LLM 에이전트 궤적 로그의 출처 귀속(attribution)을 위협하는 재판매자 공격—삭제 및 LLM 기반 재작성—에 동시에 강건한 워터마크 프레임워크 TRACE를 제안하며, 내용 키 기반 선택 채널과 위치 키 기반 집계 채널을 중첩해 행동 선택의 왜곡 없이 두 공격 방향을 독립적으로 방어한다. ToolBench와 ALFWorld 실험에서 TRACE는 워터마크 미적용 에이전트와 동등한 성공률을 유지하면서 장기 궤적 기준 z ≈ 100의 감지 점수를 달성하고, 70% 단계 삭제와 임의 강도의 LLM 재작성 공격 하에서도 각 채널의 감지 능력을 보존함을 보인다.

arXiv:2604.26180v2cs.DB

Evergreen: Efficient Claim Verification for Semantic Aggregates

LLM 기반 시맨틱 집계(semantic aggregation)가 생성한 자연어 요약에 사실 근거가 없는 주장(claim)이 포함될 수 있다는 문제를 해결하기 위해, Evergreen은 각 주장을 선언적 시맨틱 검증 쿼리로 컴파일하고 조기 종료·관련성 정렬·신뢰 구간 추정 등 검증 특화 최적화를 적용하는 시스템이다. 레스토랑 리뷰 및 고객 지원 데이터셋 벤치마크에서 강력한 LLM 기준 F1 0.94를 유지하면서 비용을 3.1배 절감하였으며, 약한 LLM으로도 외부 최강 베이스라인의 F1(0.83)을 0.87로 능가하면서 비용은 7.0배 낮췄다.

arXiv:2606.26449v1cs.CL

ProvenAI: 생성 답변에서의 출처 기반 증거 추적

ProvenAI: Provenance-Native Traces of Evidence in Generated Answers

ProvenAI는 검색-증강 생성(RAG) 다중 홉 질의응답에서 답변 정확도, 벤치마크 지원 증거 대비 인용 충실도, leave-one-resource-out 개입 기반 문서별 영향력을 독립 계층으로 측정하는 7단계 평가 프레임워크를 제안한다. HotpotQA distractor 검증 7,405건에서 답변 정확도 53.53%, 평균 인용 충실도 71.55%를 기록했으며, 인용 감사는 양호하지만 인용된 출처의 영향은 약하고 인용되지 않은 출처가 출력을 바꾸는 인용-영향력 격차를 보여준다.

arXiv:2606.24163v1cs.CR

CORE-BREW: LLR-Based Soft Decoding for Robust Multi-Bit LLM Watermarking

대규모 언어 모델(LLM) 출력의 출처 검증을 위해 편집에도 견고한 다중 비트 워터마킹이 필요하지만, 기존 오류정정코드(ECC) 방식은 하드 디코딩으로 토큰 신뢰도 정보를 버린다. CORE-BREW는 block-wise BREW에 고정 히트율 보정을 더해 토큰별 로그우도비(LLR) 기반 소프트 디코딩을 가능하게 하며, 오픈소스 LLM에서 토큰 편집·의역 공격 하에도 낮은 오탐률(FPR) 판별과 견고성이 이전 다중 비트 워터마킹 대비 개선되면서 의미 품질은 유사하게 유지된다.