유사도 점수는 모델(model)이 뇌 또는 여러 언어 전반에 걸쳐 구조를 공유한다는 증거로 자주 제시됩니다. 본 연구에서는 두 가지 설정에서 해당 구조가 제거되거나 이를 측정하는 도구가 작동하지 않을 때 이러한 점수가 무엇을 나타내는지 질문합니다. 17개 언어 전반에서 문법성 프로브(probe)는 거리가 더 먼 언어 간에 전이 성능이 더 낮습니다(r = -0.66). 그러나 프로브 자체의 정확도도 동일한 축을 따라 하락하며 가장 먼 5개 언어 중 4개를 포함한 4개 언어에서는 무작위 확률 수준(chance level)에 머뭅니다. 이들을 제외하면 설명 변량이 절반으로 줄어들고, 거리 범위 또한 좁아지기 때문에 이러한 설계로는 그래디언트(gradient) 중 얼마만큼이 측정 도구에 기인한 것인지 밝힐 수 없습니다. 272개의 언어 쌍을 독립적인 것으로 간주하면 조향 효과(steering effect)에 대해 p = 0.0006이 산출되지만, 17개 언어를 단위로 삼을 경우 이는 무효합니다(p = 0.155). 뇌 정렬(brain alignment)의 경우, 학습(training) 목표는 언어 모델(language model)과 fMRI 반응 간의 유사도를 0.10에서 0.34로 높이지만(신뢰도 상한선 0.54), 뇌 대응 관계가 파괴된 타깃도 여전히 0.31에 도달합니다. 셔플된 타깃은 랭크 k와 n개의 문장에 대해 실제 타깃 대비 약 k/n의 점수를 기록하는데, 이는 어떤 모델도 학습되기 전에 계산할 수 있는 기준선(baseline)입니다. 두 개입 모두 작동하지만, 거리 등급에 따른 조향 효과나 정렬을 통한 구문론적 이점은 감지되지 않았습니다. 대응 점수를 해석하기 전에, 대응 관계가 없는 상태에서 해당 점수가 얼마만큼 유지되는지 먼저 측정해야 합니다.
어휘 정규화는 사용자 생성 텍스트에 널리 등장하는 잡음이 많고 비표준적인 단어(tmrw, u, gr8)를 표준 형태로 다시 쓰는 작업이다. 대부분의 언어에서는 레이블 데이터가 부족하기 때문에, 흔히 쓰이는 지름길은 여러 언어를 한꺼번에 단일 모델로 학습시키는 것이다. 우리는 단순한 질문을 던진다: 그러한 모델은 몇 개의 언어에 대해 학습되어야 하는가? 고정 용량의 문자 수준 모델 하나와 표준 벤치마크의 12개 언어를 사용해, 공동 학습 언어 수를 1개에서 12개까지 바꿔 가며 언어별 정확도를 측정한다. 우리는 뚜렷한 다국어성의 저주를 확인한다. 정확도는 한 언어가 다른 소수 언어, 종종 1~4개와만 함께 학습될 때 가장 높고, 이후 나머지 언어가 계속 더해지면서 꾸준하고 상당하게 떨어져, 모두 쌓였을 때 약 40%까지 감소한다. 총 학습 데이터량을 일정하게 유지하는 대조 조건에서는 하락이 더 일찍 시작되고 더 커지며, 이는 데이터 가용량보다는 고정 크기 하나의 모델을 두고 언어들이 서로 경쟁하는 현상을 시사한다. 또한 한 언어의 다른 언어들과의 유형론적 거리가 그 언어에 이상적인 공동 학습 언어 수를 예측하는지 검증했으나, 믿을 만한 규칙은 없었다. 겉보이는 관계는 소수 언어에 의존하며 일반화되지 않는다. 간결한 정규화 모델에서는 적을수록 나을 수 있다. 소수 언어만 학습하는 편이 모든 것을 단일 모델로 풀링하는 것보다 낫다.
We introduce the Ignition Index (I), a validated scalar metric that operationalizes Global Workspace Theory's (GWT) all-or-none ignition prediction in transformer language models. The metric fits a four-parameter sigmoid to per-layer linear probe accuracy as a function of input signal strength, extracting steepness parameter beta-hat: high values indicate abrupt, ignition-like transitions; low values indicate graded build-up. Across 11 models spanning five architecture families, shuffled-label controls demonstrate 9.6-fold selectivity for genuine linguistic structure over spurious probe capacity (p < 0.001, Mann-Whitney U-test). We find: (1) Feedforward transformers exceed SSMs by 89% in aggregate beta-hat (p < 1e-13, Cohen's d = 0.52), with Mamba exhibiting near-linear profiles consistent with absent global broadcast. (2) Huginn-3.5B exhibits 2.12-fold higher ignition along its iteration axis than its depth axis, demonstrating that recurrent architectures manifest workspace-like transitions along the recurrence dimension. (3) Pythia-410M shows a PELT-detected phase transition at training step 256 (+67%), preceding induction-head formation. (4) Hypotheses linking ignition to model scale and signal strength were not confirmed, suggesting transformer architectures may saturate available ignition mechanisms. The Ignition Index provides the first validated quantitative bridge between GWT's dynamical predictions and mechanistic interpretability, with 9.6-fold measurement selectivity and architecture-level discriminability not previously characterized in the scaling literature. Code: https://github.com/saman-rahbar/ignition-index