최전선 언어 능력은 보통 최전선 연산량으로 얻는다. CHERRY는 다른 트레이드오프를 보여준다. 이것은 하나의 원칙 위에 구축된 주권적 한국어 모델 계열이다: 답을 결정하는 토큰을 감독하고, 나머지는 공유 가중치가 담당하게 한다. 동일 연산량 조건에서 이는 날카롭고 재현 가능한 분리를 드러낸다---선택 토큰 감독은 홀드아웃 판별력은 보존하지만 자유 생성은 붕괴시키며, 전체 시퀀스 앵커는 격차의 일부만 회복한다. 동일 신호가 병합 후 치유(heal-after-merge) 순환-표현-수율 루프를 구동하여 48개 레이어를 6개의 고유 블록으로 압축하며, 거의 dense 동등성을 달성한다(손실 2.934의 227M vs 손실 2.926의 566M dense 모델). MoEE 융합(2.789)으로 이를 구성한다---동시기 최전선 looped-MoE 연구가 독립적으로 추구하는 순환 압축 방향이며, 우리는 이를(아직 측정하지는 않았지만) 최전선 규모로 투사한다. 또한 2-토큰 감독으로 메타인지를 설치한다(유형별 200개 홀드아웃 KO 프롬프트, kappa>0.82, +/-6.9pp): 1.2B에서 97.6% 손실 유지율로 자기 교정 12->47%, jailbreak 23->4%이며, 사전 등록된 1B->13.7B ablation이 피연산자 결합(operand-binding) 한계를 용량으로 국한한다(1B lookup vs 13.7B H-PRESERVE). CyberMetric에서 1.8B 모델을 보고된 인간 전문가 수준으로 특화한다(75.0% vs 30명 전문가 평균 72.24%). 공개된 1.8B 토크나이저는 Gemma-4보다 한국어 효율이 9.2% 높다. 처음부터 학습한 12B는 주권적 한국어 토크나이저(어휘 131,037)를 추가한다. 정부 운영 K-AI Korean-LLM 리더보드에서 공개 1.8B가 HLE(Ko) 열을 선도한다(0.123 vs 0.077; 전체 51/78). 최전선에서는 하나의 120GB 가속기에서 적응된 122B 모델을 파인튜닝하고 서빙한다(측정 최대 83GB). 출처(provenance)는 구성원마다 다르며 이를 정확히 명시한다. 아키텍처와 레시피는 전 구간에서 우리 것이며, 모든 주장은 공개된 큐레이션된 측정에 귀속된다.
인공지능(AI), 특히 생성형 AI의 광범위한 채택은 사용자가 이러한 시스템과 상호작용하여 새로운 콘텐츠를 생산하는 방식에 관한 긴급한 질문을 제기한다. 본 논문에서는 AI와 상호작용할 때 자신의 실제 저작에 대한 사용자의 인식, 즉 저작 인식 보정(authorship calibration)이라는 개념을 도입한다. CoAuthor 데이터셋을 사용하여, 저작 인식 보정이 사용자마다 어떻게 달라지는지, 그리고 AI 사용 빈도와 어떤 관련이 있는지를 실증적으로 조사한다. 결과는 높은 변동성을 보여준다. AI에 크게 의존하는 사용자는 자신의 저작을 잘못 판단하는 경향이 있는 반면, AI를 덜 자주 사용하는 사용자는 더 정확한 저작 인식 보정을 보인다. 이러한 발견은 AI가 사용자의 자기 저작에 대한 인식을 흐릴 수 있음을 시사한다. 학습 맥락에서, 보정 오류(miscalibration)는 메타인지(metacognitive) 모니터링과 학습 전략에 영향을 미치고, 궁극적으로 학습 성과에 영향을 줄 수 있다. 따라서 저작 인식 보정을 함양하는 것은 책임 있고 교육적으로 의미 있는 AI 통합을 촉진하는 데 필수적인 것으로 보인다.
"모른다"고 말할 시점을 아는 것은 인간 판단의 기본이지만, AI 어시스턴트는 거의 모든 질문에 대해 유창한 답변을 제공한다. 다섯 번의 실험(N = 3,132; 네 건은 사전등록, 한 건은 직접 복제)에서 참가자들은 어려운 질문에 답했으며, 항상 응답을 거부할 수 있었다. 우리는 AI 조언이 틀리도록 질문을 설계하여 AI 사용과 그 정확성을 분리했다. AI에 접근만 할 수 있어도 참가자들이 판단을 유보하려는 의지가 거의 사라졌으며, 이는 조언을 적극적으로 요청했든 단순히 표시되었든 동일하게 나타났다. 그 결과 참가자들은 더 많은 질문에 답했지만, AI를 사용할 수 없을 때보다 정답률이 약 3분의 1 수준이었으며, 그럼에도 자신감은 거의 두 배로 높아졌다. 정확성에 대한 인센티브를 부여하고 부정확함에 페널티를 부과하면 참가자들은 AI 조언을 덜 찾고 따르며, 더 정확하게 답하고, 판단을 더 자주 유보했지만, 여전히 AI를 사용할 수 없을 때보다는 훨씬 덜 그랬다. AI 제안이 어디에나 존재하고 자발적으로 주어지는 형태로 확산됨에 따라, 이는 단순히 답변 정확도에 영향을 미치는 것뿐 아니라 사람들이 답할 만큼 충분히 안다고 판단하는 메타인지적 임계값까지 바꿀 수 있다.
메타인지는 효과적인 학습, 문제 해결, 의사결정, 소통 등에 있어 핵심적인 지능의 구성 요소다. 최근 몇 년간 메타인지는 유능하고 투명한 AI 시스템의 근간으로 점점 더 주목받고 있다. 그러나 대규모 언어 모델(LLM)이 다양한 실세계 과제에서 상당한 발전을 이루었음에도 불구하고, LLM이 효과적인 메타인지 능력을 언제, 어떻게, 어느 정도까지 발휘하거나 갖출 수 있는지, 또한 그러한 능력이 AI 시스템의 근본적인 역량, 신뢰성, 지능을 향상시키는 데 어떻게 활용될 수 있는지는 아직 명확하지 않다. 본 논문은 LLM의 메타인지에 관한 현재 지식 상태를 최초로 포괄적으로 개관함으로써 이 간극을 해소한다. 우리는 이 신흥 분야의 전반적인 연구 지형을 분석하고 분류하며, LLM의 메타인지 능력을 측정·평가하는 방법 및 벤치마크, LLM에서 메타인지를 유도·개선·적용하는 기법, 그리고 진행 중인 연구의 발견과 시사점을 포함한 최근의 기술적 발전을 요약한다. 또한 응용 사례, 미해결 문제와 도전 과제, 향후 연구의 유망한 방향도 논의한다. 본 논문의 목적은 이 주제에 대한 상세하고 최신의 리뷰를 제공하고 의미 있는 연구와 논의를 촉진하는 것이다. 정리된 논문 목록은 https://github.com/yale-nlp/LLM-Metacognition 에서 확인할 수 있다.
대규모 언어 모델(LLM)이 내부 불확실성을 잘못 표현하는 문제를 해결하기 위해, 모델의 자기 성능 판단 품질을 기반으로 강화학습 보상을 조정하는 메타인지 피드백 강화학습(RLMF)과 메타인지 데이터 선택 기법을 제안한다. 제안된 프레임워크는 충실한 보정(faithful calibration) 과제에서 표준 강화학습 대비 최대 63% 성능 향상을 달성하며, 수치적·언어적 불확실성 표현 모두에서 최첨단 성능을 보인다.
We study a single idea across two settings: that a prediction-error signal, computed by a small predictor over the latent space of a frozen encoder, can serve both as a gate on plasticity and as a substrate for metacognition. In the first system, a non-parametric episodic memory writes a new concept only when this surprise is high, and a periodic offline replay phase consolidates recent traces into a slow linear readout. On a continual stream of 1000 ImageNet classes with a frozen DINOv2 or I-JEPA backbone, the consolidation phase recovers 17.7 points of retention on the oldest classes for DINOv2 and 51.3 points for I-JEPA (single-seed runs), and an ablation shows that replaying only a recent window is worse than no replay at all. In few-shot evaluation the same memory reaches 91.6% on 5-way 1-shot mini-ImageNet, above a task-specific baseline, while a harder 500-way regime exposes the true difficulty. In the second system, the same surprise signal, computed in a shared text-image space, modulates the behaviour of a vision-language model: it answers assertively when a concept is known, hedges when it is partially familiar, and refuses to identify the object and asks for an explanation when it is novel, learning the concept from a single user utterance. The external detector separates known from novel concepts at an AUROC of 0.966 (95% CI +/-0.024), far above the model's own verbalised confidence (0.618), while its token-level confidence sits below chance under greedy decoding; after a sleep phase that empties the fast store, the system recalls 99.2% of fifty taught facts from the consolidated store while a base model recovers none. We report both systems as proof-of-concept, with explicit limitations, and position the second against recent episodic-memory and personalised-VLM work.
협력적 문제 해결(CPS) 맥락에서 인간-AI 및 다중 에이전트 협업 대화를 분석하기 위해, 인지·비인지적 문제 해결과 메타인지적 조절을 통합한 계층적 2층 코딩 체계 기반 개념적 프레임워크를 제시한다. 아홉 개 데이터셋에서 효과와 일반화 가능성을 입증했으며, 메타인지적 조절이 더 깊은 협업을 구별하는 핵심 변별 요인임을 보였고, 인간-AI 상호작용에서는 인간이 자기조절을 주도하고 AI는 반응적 공동조절에 치우쳐 진정한 협업 달성이 어려운 패턴이 나타난다.