PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.01940v3cs.LG

조건부 공동 소거(Conditional Co-Ablation): 트랜스포머 회로에서 자기 수리 백업 복원

Conditional Co-Ablation: Recovering Self-Repair Backups in Transformer Circuits

메커니즘적 해석가능성(mechanistic interpretability)은 행동을 인과적으로 뒷받침하는 내부 구성요소 집합인 회로(circuit)를 통해 트랜스포머 행동을 설명하려 한다. 그러나 자기 수리(self-repair)는 맹점을 만든다. 주요 구성요소를 소거(ablation)하면 휴면 상태의 백업이 활성화될 수 있어, 무손상 모델에서는 행동을 설명하던 회로가 이를 검증하기 위해 쓰인 개입 하에서는 불완전해질 수 있다. 우리는 이 공백을 조건부 회로 완성(conditional circuit completion)으로 형식화한다. 주요 집합이 주어졌을 때, 그 제거 이후 인과적으로 중요해지는 구성요소를 식별하는 것이다. 우리는 주요 집합 제거 후 소거 효과의 증가로 후보를 순위 매기는 조건부 공동 소거(CoAx)를 제안한다. 완전히 휴면인 백업은 단위별 무손상 상태(intact-state) 점수만으로는 무관한 구성요소와 구별되지 않을 수 있지만, 그 조건부 효과 변화는 제거된 집합과 연결하는 모든 상호작용 차수를 정확히 집계한다. GPT-2-small의 간접 목적어 식별(Indirect Object Identification, IOI) 회로에서 CoAx는 문서화된 백업 헤드를 ROC-AUC 0.941로 복원하며, 가장 강한 무손상 상태 속성(attribution) 기준선 0.815, 짝을 맞춘 조건부 에너지(conditional-energy) 통제 0.758보다 낫다. 행동 효과, 출력 변위, 깊이에서 짝을 맞춘 대안 구성요소 집합에서는 복원이 AUC 0.40 ± 0.13으로 떨어져, 복원이 제거된 회로에 특이함을 보인다. 복원을 넘어, CoAx로 선택된 헤드는 인과적으로 부하를 지는(load-bearing) 구성요소이다. 주요 구성요소 제거 후 이들을 동결(freezing)하면 IOI 마진이 급격히 줄고, 불완전 회로에 추가하면 불완전도가 0.75에서 0.21로 감소한다. 더 넓게, 조건부 증가는 4개 메커니즘 클러스터에 걸친 12개 보류(hold-out) 사례 중 11개에서 개입으로 도출한 수리(repair)와 정렬하며, CoAx 완성은 6개 아키텍처 계열에 걸친 GPT-2가 아닌 8개 모델 모두에서 짝을 맞춘 무작위 완성보다 우수하다. 종합하면, 자기 수리하는 트랜스포머에 대한 인과적 설명은 주요 구성요소가 실패할 때 백업 회로를 반드시 고려해야 한다.