반복적 공유 접근은 그록킹을 가능하게 하지만, 편집 전파는 세밀한 주소 지정 가능 메모리에 달려 있다
Repeated Shared Access Enables Grokking, but Edit Propagation Depends on a Fine-Grained Addressable Memory
한국어 초록
우리는 통제된 합성 지식 그래프 QA 설정에서 사실 편집 전파를 연구하며, 루프 순환(loop recurrence)과 공유 메모리 접근을 교차하는 네 가지 아키텍처를 비교한다: dense(Dense), looped(Loop), 공유 메모리를 갖춘 dense(Dense+Mem), 공유 메모리를 갖춘 looped(LMC). Dense는 분포 내(in-distribution) 2-hop 구성을 학습하지만 OOD(분포 밖)에서는 실패한다. looped 재계산과 메모리 재읽기 모두 이 OOD 그록킹 장벽을 넘으며, 이는 특정 아키텍처가 아니라 반복적 공유 접근이 학습의 공통 요소임을 시사한다. 그러나 편집은 다른 축을 따라 기질(substrate)을 구분한다. 공유된 편집 전 정답 분포 내(in-distribution) 세트에서, 단일 행 사실 편집은 두 메모리 보유 셀(LMC 0.78–0.92, Dense+Mem 0.71–0.96)에서는 강하게 전파되고 나머지(Loop 0.04–0.30, Dense 0.00–0.03)에서는 약하게만 전파된다. 이 분리는 통계적으로 명확하다(메모리 셀과 비메모리 셀 간 Mann-Whitney p=0.008, 두 메모리 셀 간 p=0.55. 다만 n=5 vs n=5로 중간 수준의 격차를 배제하기에는 검정력이 부족하다). LMC에서는 원자적 사실이 구성(composition)이 재읽는 지배적 메모리 사이트에 국한(localize)되며, LMC 자체의 편집 전 정답 프로브에 대한 단일 행 값 편집은 100% 직접 성공과 평균 0.989의 의도된 전파를 달성하면서 관련 없는 사실은 약 0.1%의 경우에만 이동한다(기질 간 일치된 특이성(specificity)은 아직 검증 대기 중). 거친 hold-answer-subspace(HOLDANS) 교환 진단은 이 순서와 일치하며, 기질을 구분하는 것은 편집된 사실이 언제 주입되는지와 이후 재사용하기 위해 남는 계산량임을 시사한다. 이 결과는 학습 능력과 편집 affordance(편집 지원)를 분리한다. 반복적 공유 접근만으로 그록킹하기에 충분하지만, 편집 전파는 전방 계산이 쓰고 나중에 재읽을 수 있는 세밀한 주소 지정 가능 메모리를 기질이 노출하는지에 달려 있으며, 이는 루프 순환이 부분적으로만 제공하는 affordance이다.
원문 초록
We study factual edit propagation in a controlled synthetic knowledge-graph QA setting, comparing four architectures that cross loop recurrence with shared memory access: dense (Dense), looped (Loop), dense with shared memory (Dense+Mem), and looped with shared memory (LMC). Dense fits in-distribution 2-hop compositions but fails OOD; both looped recomputation and memory rereading cross this OOD grokking barrier, indicating that repeated shared access -- not a specific architecture -- is the common ingredient for learning. Editing, however, separates the substrates along a different axis. On a shared pre-edit-correct ID set, a single-row factual edit propagates strongly in the two memory-bearing cells (LMC 0.78-0.92, Dense+Mem 0.71-0.96) and only weakly in the others (Loop 0.04-0.30, Dense 0.00-0.03); the separation is statistically clean (Mann-Whitney p=0.008 between memory and non-memory cells, p=0.55 between the two memory cells, though n=5 vs n=5 is underpowered to rule out a moderate gap). In LMC, atomic facts localize to dominant memory sites that composition rereads, and a one-row value edit on LMC's own pre-edit-correct probes achieves 100% direct success with mean 0.989 intended propagation while moving unrelated facts ~0.1% of the time (matched specificity across substrates pending). A coarse hold-answer-subspace (HOLDANS) interchange diagnostic is consistent with this ordering, suggesting that what separates the substrates is when an edited fact is injected and how much computation remains afterwards to reuse it. These results dissociate learning competence from editing affordance: repeated shared access suffices to grok, but edit propagation depends on whether the substrate exposes a fine-grained addressable memory the forward computation can write to and later reread -- an affordance that loop recurrence provides only partially.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.20737v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
Build2SPARQL: 빌딩 지식 그래프 쿼리를 위한 대규모 Text-to-SPARQL 벤치마크 데이터셋
Build2SPARQL: A Large-Scale Text-to-SPARQL Benchmark Dataset for Building Knowledge Graph Querying
빌딩 자동화 시스템은 Brick 및 ASHRAE 223P와 같은 온톨로지를 사용하는 시맨틱 지식 그래프(KG)로 점점 더 많이 표현되고 있으며, 이는 인공지능 응용을 위한 기계 판독 가능한 기반을 형성합니다. 유망한 응용 분야 중 하나는 자연어 질문을 SPARQL로 변환하는 Text-to-SPARQL로, 빌딩 관리자가 언어 에이전트를 통해 이러한 그래프를 쿼리할 수 있게 해주지만 대규모 자연어/SPARQL 벤치마크의 부족으로 발전이 제한되고 있습니다. 본 논문에서는 지식 그래프 기반(KG-grounded) 파이프라인으로 생성된 빌딩 지식 그래프용 대규모 벤치마크인 Build2SPARQL을 제시합니다. 이 파이프라인은 SPARQL 쿼리를 전적으로 그래프 순회 코드로 생성 및 검증하는 반면, 대규모 언어 모델(LLM)은 자연어 질문만을 생성하도록 하여 쿼리의 정확성을 모델의 동작과 독립적으로 유지합니다. 해당 파이프라인은 선형 체인, 분기, UNION, 집계, OPTIONAL, 속성 필터링의 6가지 쿼리 패턴 패밀리를 추출하며, 각 쿼리를 5가지 어휘 레지스터에 걸쳐 표현합니다. 201개의 빌딩 지식 그래프(Brick 180개, ASHRAE 223P 21개)에 적용하여 6,136개의 실행 가능한 SPARQL 쿼리와 30,680개의 질문을 도출했습니다. 300개 질문에 대한 2인 평가자 인적 검증 결과 98.8%의 시맨틱 충실도, 98.8%의 자연스러움, 84.0%의 운영 타당성을 확인했습니다. 3개의 공개 가중치(open-weight) 언어 모델에 걸친 검색-증강 평가에서는 완전 일치(exact-match) 정확도가 0.2~20%(제로샷)에서 56~65%(3샷 검색)로 향상되었습니다.
지식 그래프 기반 멀티태스크 사전학습을 통한 사전학습 언어 모델의 법률 추론 능력 향상
Enhancing Legal Reasoning in Pre-trained Language Models via Knowledge Graph-Guided Multi-Task Pre-training
법률 언어 이해는 반정형 규제 문서에 대한 추론을 요구하지만, 표준 사전학습(pre-training) 목표는 이러한 구조적 역량을 명시적으로 겨냥하지 않습니다. 현재의 법률 언어 모델은 마스크 언어 모델링에만 의존하기 때문에, 법령 텍스트를 단순한 평면 토큰(token) 시퀀스로 취급하고 그 이면에 있는 계층적 제약 조건을 무시합니다. 이러한 격차를 해소하기 위해 본 연구에서는 독일 도로교통법(StVO)을 대상으로 한 멀티태스크 사전학습 방식을 제시합니다. 우리의 접근법은 다음 문장 예측(NSP), 지식 그래프(KG) 기반 클러스터링(CLU), 그리고 지식 그래프 인식 단락 분류(CLS)라는 세 가지 상호보완적인 목표를 결합합니다. 이 접근법은 구조화된 법률 지식을 모델 가중치에 직접 명시적으로 인코딩합니다. 이러한 인코딩을 통해 추론(inference) 시점에 제로샷(zero-shot) 법률 추론이 가능해지며 이산적인 그래프 순회의 필요성을 없앱니다. 우리는 9개의 트랜스포머(Transformer) 기반 인코더와 324회의 실험적 실행을 통해 제안 방식을 평가합니다. 합성 StVO 질의응답에서 본 연구의 모델은 베이스라인 대비 10.3%에서 155.0% 사이의 일관된 상대적 성능 향상을 보여줍니다. 나아가 기존에 확립된 LexGLUE 베이스라인(Chalkidis et al., 2022)과 비교하여 7개 법률 벤치마크 중 4개에서 이전 결과를 개선합니다. 또한 오스트리아 운전 규정에 대해서도 3.4%에서 15.8% 사이의 일관된 제로샷 전이 이득을 달성합니다. 이러한 실험 결과는 우리의 학습(training) 방식이 초기 학습 법률 도메인을 넘어 성공적으로 일반화됨을 나타냅니다.
UniDataAgent: 기업 질문-보고서 자동화를 위한 온톨로지 그라운딩 에이전트
UniDataAgent: An Ontology-Grounded Agent for Enterprise Question-to-Report Automation
기업 데이터 에이전트(agent)는 단순히 질문을 쿼리로 변환하는 것을 넘어 조직 고유의 의미 체계(semantics)를 보존해야 합니다. 본 논문에서는 의미 체계 획득과 온라인 실행을 분리하여 재사용 가능한 질문-보고서 분석을 수행하는 온톨로지 그라운딩(ontology-grounded) 시스템인 ChinaUnicom DataAgent(UniDataAgent)를 소개합니다. 온톨로지 획득 및 검증(OAV) 단계에서는 전문가가 작성한 비즈니스 스킬, 제약된 생성, 질문 검증, 선별된 전문가 검토를 통해 메타데이터, 비즈니스 지식, 지원 자료로부터 버전 관리되는 기업 온톨로지를 구축합니다. 질문-보고서 실행(QRE) 단계에서는 각 질문에 대한 의미적 계약(semantic contracts)을 검색하고, 스킬과 데이터 툴을 조율하며, 결과를 검증하고 근거가 연결된 보고서를 생성합니다. 27개 기업 테이블과 대략 수천 가지 지표 유형에 걸쳐, 온톨로지 구축에는 수작업으로 약 1주일이 걸리던 작업이 불과 몇 시간밖에 걸리지 않았습니다. 보고서 생성에는 며칠의 근무일 대신 단 몇 분밖에 걸리지 않았습니다. 온톨로지 그라운딩은 실제 비즈니스 질문에 대해 95.0%의 엄격한 정확도(strict accuracy)를 달성하여 문서 기반 검색-증강 생성(RAG)의 72.5%와 대조를 보였으며, 특히 정형 및 조합형(compositional) 태스크에서 두드러졌습니다. 이 시스템은 이미 배포되어 비용 절감 효과를 창출하고 있으며 다른 기업으로 복제될 수 있는 잠재력을 지니고 있습니다.
홉 감쇠 영향력: LLM 기반 GraphRAG 파이프라인에서 구조적 보조 색인의 새로운 취약점
Hop-Decayed Influence: New Vulnerabilities of Structural Auxiliary Indexing in GraphRAG Pipelines with LLM
GraphRAG 파이프라인은 오프라인 색인(indexing) 과정에서 쿼리 시점의 검색 우선순위를 결정하는 의미론적 요약, 계층적 에지, 사전 계산된 점수와 같은 보조 구조를 구축합니다. 기존 공격들은 인스턴스 수준의 구성 요소(노드, 에지, 트리플)만을 대상으로 삼았으며, 이러한 스키마 수준의 구조는 간과했습니다. 본 연구에서는 보조 스키마 수준 엔티티(Auxiliary Schema-Level Entity)를 새로운 공격 표면으로 공식화하고, 이를 체계적으로 활용(exploitation)하기 위한 3S 프레임워크(Semantics, Structure, Scoring)를 제안합니다. 본 논문의 홉 감쇠 영향력(Hop-Decayed Influence, HDI) 공격은 쿼리 인지 영향력 전파를 통해 영향력이 큰 대상을 식별하고, 색인 후 이들의 보조 구조를 오염시킵니다. 2개의 벤치마크(HotpotQA, 2WikiMultiHopQA)와 2개의 아키텍처(Microsoft GraphRAG, HippoRAG2)에 걸쳐, HDI는 보조 구조의 0.016%만을 수정하면서도 88-94%의 공격 성공률을 달성합니다. 각 수정은 최대 6.00개의 쿼리에 영향을 미쳐(스키마 활용 비율, Schema Leverage Ratio), 인스턴스 수준 공격에서는 불가능했던 1:N 증폭 효과를 입증합니다. 조작된 구조는 언어적으로 일관된 시스템 생성 아티팩트로 유지되므로, 99% 이상의 회피율로 퍼플렉서티(perplexity) 및 패러프레이즈 방어를 회피합니다. 이러한 결과는 보조 스키마 수준 엔티티가 런타임 검증(validation) 없이 암묵적인 신뢰를 받고 있으며, 현재 GraphRAG 방어 체계에서 구조적 사각지대를 형성하고 있음을 보여줍니다. https://github.com/Jisung-Pacific/HDI-GraphRAG-Attack.
과학 AI에서 LLM의 추론 평가를 위한 온톨로지 기반 추론기 검증 벤치마크
Ontology-Grounded, Reasoner-Verified Benchmarks for Evaluating LLM Reasoning in Scientific AI
대규모 언어 모델(LLM)은 생의학 질의응답부터 재료 정보학에 이르기까지 구조화된 지식을 바탕으로 추론하는 과학 AI 응용 분야의 기반으로 점차 자리 잡고 있습니다. 그러나 이들의 논리적 추론은 종종 기대에 미치지 못하여, 해당 분야에서 용납될 수 없는 사실적 부정확성을 초래합니다. 신뢰할 수 있는 평가는 여전히 어려운 과제입니다. 수작업 데이터셋 구축은 확장이 어렵고, LLM 기반 생성은 측정하고자 하는 바로 그 결함을 내재시킬 위험이 있습니다. 고품질 벤치마크는 정답과 오답으로 레이블링된 예시 모두를 명시적인 배경지식에 그라운딩(grounding)해야 하며, 표준 추론기(reasoner)를 통해 정식으로 검증할 수 있어야 합니다. 본 연구에서는 충분히 공리화된 OWL 2 온톨로지로부터 온톨로지 기반 다지선다형 질문(MCQ) 벤치마크를 자동 생성하며, 설계상 정답이 온톨로지에 그라운딩되는 파이프라인을 제안합니다. 오답 선택지(distractor)는 클래스 정의 공리의 우변 클래스 표현식을 변형하여 생성되며, 이들의 오류 여부는 함의 검사를 통해 OWL 추론기로 정식 검증됩니다. 저자들은 세 가지 온톨로지, 즉 Pizza(소규모, 학술용), PMDco(복합형, 재료과학), DOID(대규모, 생의학)에서 파이프라인을 평가하여 각각 112개, 2,491개, 15,216개의 MCQ를 생성했습니다. 오답 선택지는 클래스 불만족성부터 약화된 함의에 이르기까지 4가지 의미적 범주를 포괄하여 특정 추론 실패에 대한 진단적 평가를 가능하게 합니다. 문항들은 자연어 품질 표준을 충족합니다. 5점 만점에 평균 4.02, 4.36, 3.36점의 LLM 판별 점수로 유창성을 확인하였으며, 정답과 오답 선택지 간 0.8 이상의 유사도는 표면적 형태만으로는 오답을 배제할 수 없음을 보여줍니다. 제로샷(zero-shot)으로 평가된 6개 LLM은 41.1~76.8%의 정확도를 기록하여 무작위 추측 기준선인 25%를 크게 웃돌았으며, 이는 본 벤치마크가 도전적이고 변별력이 있음을 나타냅니다. 본 연구는 과학 AI에서 논리적 추론을 평가하기 위한 보다 신뢰할 수 있는 벤치마크로 나아가는 한 걸음입니다.
LEGO: 법률 추론을 위한 Expert GraphRAG와 Expert Chain-of-Thought의 시너지
LEGO: Synergizing Expert GraphRAG and Expert Chain-of-Thought for Legal Reasoning
대규모 언어 모델(LLM)은 법률과 같은 고위험 영역에 점점 더 적용되고 있으나, 복잡한 법률 추론은 두 가지 구조적 난제로 여전히 제한된다. 첫째, 기존 RAG 및 GraphRAG 방법은 어휘적 또는 의미적 유사성을 강조하는 반면, 법조문 간의 규범적 관계를 간과한다. 둘째, 기본 사고의 연쇄(Chain-of-Thought) 프롬프팅은 법률 추론의 규범적 구조를 강제하지 않은 채 그럴듯한 근거를 생성할 수 있다. 법률 추론 영역의 파이프라인 병목을 해결하기 위해, 우리는 복잡한 법률 추론을 위해 Legal Expert GraphRAG와 expert Chain-of-thought를 상호 보완적으로 결합하는 이중 모듈 프레임워크인 LEGO를 제안한다. ExpertGraphRAG는 전문가 주석이 달린 민법 그래프에 이러한 규범적 관계를 인코딩하고, 탐욕적 규범 커버리지(normative-coverage) 검색 알고리즘을 사용하여 사례별 조문 부분 그래프를 동적으로 추출한다. 반면 ExpertCoT는 검색된 조문과 사건 사실을 구조화된 조문-사실-결론(Provision-Fact-Conclusion) 추론으로 구성한다. Qwen3-8B 백본을 사용할 때 LEGO는 LawExamQA_Civil에서 40.53% exact-match 정확도를 달성하여, 평가한 RAG 및 CoT 베이스라인을 능가하고 평가한 더 큰 모델들과 유사한 성능을 보이며, 다중 홉 질문에서도 견고성을 유지한다. 또한 개방형 벤치마크에서 평가한 베이스라인 중 최고 결과를 달성한다. 절제 연구(ablation studies)는 두 모듈의 개별적이고 상호 보완적인 기여를 확인하며, LLM의 복잡한 법률 추론 능력 향상에서 LEGO의 효과를 보여준다. 코드와 데이터셋은 다음 링크에서 확인할 수 있다: https://github.com/BLK-WHT/LEGO
토론
이 논문과 연결된 포럼 글이 아직 없습니다.