인식(recognition)은 에이전트에게 이미지에 무엇이 있는지 알려주고, 개인 메모리는 다음에 무엇을 조회할지 결정한다. 카메라 우선 환경에서 사용자는 이미지만 전송할 수 있으므로, 에이전트가 조회를 직접 구성해야 한다. 우리는 개인 시각적 메모리가 에이전트 측의 도구 선택과 도구 인수를 개선하고, 이를 통해 더욱 사용자 지향적인 다중 도구 조회를 가능하게 하는지 연구한다. 이 설계는 3층 개인 시각적 메모리(프로필, 단기 집중, 관찰)를 활용하며, 카메라 우선 입력 환경에서 대규모 언어 모델(LLM) 도구 호출 루프를 조건화하기 위해 각 턴마다 로드되고, 이후 캡처를 위한 사용자 모델 갱신을 목적으로 한 충돌 인식 쓰기 반영(conflict-aware write-back)을 포함한다. 제어된 제거 실험을 위해 구성된 합성 메모리 블록과 쌍을 이루는 800개 이미지에서, 전체 3층 메모리 블록을 제거하면 도구 쿼리 관련성이 절대 0.47포인트 감소하고(5점 척도에서 4.21 → 3.74; 상대적 11.2%), 종단 간(end-to-end) 유용성이 절대 0.082 감소한다(0.842 → 0.760; 상대적 9.7%). 이러한 결과는 실제 사용자 기록의 다중 세션 쓰기 반영이 아닌, 고정된 합성 블록을 사용한 이미지 전용 입력 환경에서 도구 정책에 대한 메모리 조건화를 측정한 것이다.
그래프 파운데이션 모델(GFM)은 다양한 그래프 도메인에 걸쳐 전이 가능한 표현을 학습하는 유망한 패러다임으로 부상하고 있다. GFM의 최근 발전은 그래프 신경망(neural network)과 대규모 언어 모델(LLM) 기반 방법이라는 두 패러다임이 주도해 왔다. 그러나 이러한 방법들은 제한된 데이터로의 학습(training)과 텍스트 속성에 대한 과도한 의존 사이의 근본적인 딜레마에 직면하는 경우가 많다. 테이블형 파운데이션 모델(TFM)은 노드(node) 피처와 표현을 자연스럽게 테이블 형태로 구성할 수 있다는 점에서 잠재적인 대안을 제공한다. 그러나 TFM이 그래프의 구조적 정보를 효과적으로 포착할 수 있도록 하는 방법은 아직 충분히 탐구되지 않았다. 핵심 과제는 TFM의 그래프 구조 이해를 가능하게 하는 그래프-테이블 정렬 메커니즘을 학습하는 것이다. 이를 해결하기 위해 우리는 텍스트 불필요 그래프 파운데이션 모델을 위한 놀랍도록 단순하면서도 효과적인 그래프-테이블 정렬 프레임워크인 GTAlign을 제안한다. 구체적으로, 먼저 다양한 그래프를 통합된 잠재 공간에 매핑하여 도메인 불가지론적 그래프 표현을 포착하는 그래프 인코더를 사전학습(pre-training)한다. 그래프 위상과 테이블형 표현 공간 사이의 간극을 추가로 좁히기 위해, 그래프 커뮤니티에서 도출된 의사 레이블을 사용하여 퓨샷(few-shot) 예측 에피소드를 구성하는 커뮤니티 유도 연속 사전학습을 제안한다. 마지막으로 그래프 인코더를 미지의 타깃 도메인에 적응시키고 문맥 내 학습(ICL) 방식으로 추론(inference)을 수행한다. 5개의 벤치마크 데이터셋에 대한 광범위한 실험을 통해 GTAlign이 노드 및 그래프 분류(classification) 모두에서 최신 기준 모델(baseline)을 크게 능가함을 보여주며, 단순하고 효과적인 텍스트 불필요 GFM 모델임을 입증한다. 코드는 논문 게재 승인 후 공개될 예정이다.
Large language model (LLM) agents increasingly rely on external tools served by shared providers and accessed by heterogeneous downstream agents. Existing approaches improve tool use on the agent side through parameter updates, prompt refinement, or agent-side memory, making tool knowledge difficult to share and limited to behaviors observed in past tasks. We argue that reusable tool knowledge should instead be maintained by the tool provider. We introduce ToolAtlas, a graph-based framework that builds a persistent provider-side tool memory of tool capabilities, failure boundaries, and cross-tool compositions through execution-verified probing. At inference time, agents query the tool memory via adaptive graph traversal. Across two MCP-based benchmarks spanning eight services, ToolAtlas outperforms existing tool-side optimization and agent-side memory baselines by up to 21.61% in pass@1 and 18.61% in pass@4. The same tool memory also transfers across environment instances and agent frameworks without retraining or task-time exploration, yielding up to 24.16%/16.22% and 17.49%/14.27% relative gains in pass@1/pass@4, respectively. Ablation studies show that these gains arise from combining tool-centered memory organization with capability-guided execution probing. These results establish provider-side tool memory as an effective and reusable paradigm for tool servers. Our code is in: https://github.com/PuppyKnightUniversity/ToolAtlas.
컨텍스트 엔지니어링은 모델이 어떤 정보를 이어받을지를 결정하며, 현재의 설계들은 이를 토큰 단위로 계량한다: 과거를 제한된 순환 상태로 압축하거나, 모든 토큰에 대해 키-값 항목을 유지하거나, 윈도우나 축출 규칙을 통해 고정 예산을 부과하는 방식이다. 세 가지 방식 모두 스트림이 중복적이고 태스크가 스트림이 담고 있는 고유 정보에 의존하는 경우에도 토큰을 메모리의 단위로 삼는다. 입력 키가 새로운 경우에만 캐시 슬롯을 열어 메모리가 토큰 수가 아닌 고유 항목 수에 따라 확장되도록 하는 관련 메커니즘 논문을 기반으로, 우리는 해당 신규성 기반 할당(allocate-on-novelty) 캐시를 작업 메모리 구성요소로 발전시키고, 태스크가 과거에 의존하는 방식에 따라 컨텍스트를 구성한다: 회상(recall)으로 전달되는 정보는 내용 주소 지정 방식의 신규성 캐시에, 요약으로 전달되는 정보는 순환 상태에, 지역성으로 전달되는 정보는 최신성 윈도우에 배치된다. 이 주장은 실증적이며 제한적이다. 매칭된 문자 수준 제어 실험에서, 신규성 게이팅 어텐션은 약 절반의 토큰만을 처리하면서 전체 어텐션 수준의 성능에 도달하며, 캐시와 상태공간 요약을 결합하면 해당 절감된 비용으로 전체 어텐션 결합과 동등한 성능을 달성한다; 이 이점은 컨텍스트가 길어질수록 증가하는 반면, 슬라이딩 윈도우는 짧고 지역성이 지배적인 구간에서 더 유리하다. 합성 Medicare 청구 데이터에 대한 다음 코드 예측에서, 결합 구성요소는 천 개 이벤트 수평에서 전체 어텐션 및 모든 고정 예산 축출 정책을 능가하는 반면, 동일 스트림에 대한 비용 예측은 요약으로 전달되어 캐시는 중립적이다. 유지된 메모리는 불투명한 상태가 아니라 템플릿, 코드, 약물 또는 장소의 검사 가능한 테이블이다. 실험은 소규모이며 공개 데이터만을 사용하며, 컨텍스트가 토큰이 아닌 고유 정보에 따라 확장될 수 있고 내용 주소 지정 방식으로 감사 가능한 작업 메모리에서 이를 구현할 수 있다는 기본 원리를 확립한다.
후보 추론 체인 풀에서 올바른 답을 선택하는 것은 테스트 시간 스케일링(test-time scaling)의 핵심 엔진이지만, 표준 선택자들은 각각 고유한 비용을 수반한다: 자기 일관성(self-consistency)은 재샘플링하는 단일 모델의 오류를 그대로 이어받고, 학습된 보상 모델은 레이블된 데이터를 필요로 하며 분포 외 환경에서 전이 성능이 저조하다. 우리는 추론 시간에 무료로 얻을 수 있는 세 번째 신호를 연구한다: 교차 모델 합의(cross-model consensus), 즉 독립적으로 학습된 모델들이 각각 한 번씩 문제를 풀었을 때 최종 답에 동의하는 정도이다. 우리는 이 패널을 LLM 심사단(LLM-jury)으로 취급하며, 어떤 모델이 다른 모델을 채점하는 것이 아니라 동의의 구조 자체가 검증 신호가 된다. 7개의 벤치마크에 걸쳐 이 방법은 자기 일관성보다 더 정확한 답을 선택하며, 모델이 자신의 후보를 직접 채점하는 방식보다 훨씬 뛰어난 성능을 보인다: 경시대회 수학에서는 오라클 선택자와의 성능 차이를 완전히 좁히는 반면, 자기 채점은 거의 아무런 차이도 좁히지 못한다. 그 메커니즘은 오류 비상관화(error decorrelation)이다: 독립적으로 학습된 모델들은 서로 다른 방식으로 오류를 범하기 때문에 틀린 답들은 분산되는 반면, 정답은 합의를 축적한다. 우리는 이를 매개변수 없는 법칙으로 정밀하게 규명한다. 이 법칙은 폐쇄형으로 도출되며, 세 가지 측정된 패널 통계로부터 평균 절대 오차 $0.03$으로 합의 정확도를 예측하고, 이 방법의 한계를 드러낸다: 모델들이 공통된 오개념을 공유하는 공유 오류 하한(shared-error floor)이 존재하는데, 이는 수학에서는 거의 0에 가깝지만 과학에서는 무시할 수 없는 수준이다. 판별적(discriminative), 결과 기반(outcome), 생성적(generative) 보상 모델을 포괄하는 4개의 학습된 검증자와 비교했을 때, 무료 LLM 심사단은 수학 학습 도메인 내에서 가장 강력한 검증자에 필적하며, 도메인 외에서는 최고의 선택자이다. 따라서 교차 모델 합의는 사전에 특성화 가능한 검증자이다: 언제 신뢰할 수 있는지를 알려주는 법칙과, 어디서 한계에 이르는지를 표시하는 하한이 함께 제공된다.
대규모 언어 모델(LLM)은 사실 지식을 파라미터에 저장합니다. 최근 연구에서 이 지식이 MLP 레이어에 존재한다는 것이 밝혀졌지만, LLM의 사실 저장에 관한 기존 구성적·기계론적 해석 가능성(mechanistic interpretability) 모델들은 LLM이 정보 이론적으로 최적인 비율로 사실을 저장한다는 놀라운 실험적 현상을 설명하지 못합니다. 본 연구에서는 이 현상에 대한 이론적 설명을 제시합니다. 우리는 LLM에서 실험적으로 관찰된 다음 세 가지 속성을 만족하는, 최초의 트랜스포머 호환 사실 저장 MLP 폐쇄형 구성(closed-form construction)을 개발합니다: (i) 최적의 사실 저장 스케일링을 달성하고, (ii) 임의의 입력/출력 기하학을 처리하며, (iii) 트랜스포머 내부에서 작동합니다. 본 연구의 핵심은 기존 연구가 MLP 사실 저장만을 분석한 것과 달리 MLP의 디코딩 마진을 분석한 것입니다. 등방성 임베딩(isotropic embedding) 하에서 우리의 구성은 정보 이론적으로 최적인 저장 용량 스케일링을 달성하며, 동일한 사실 수 기준으로 기존 구성 대비 10~104배 적은 파라미터를 요구합니다. 임의의 키 및 값 임베딩에 대해서는, 임베딩 기하학에 의존하는 패널티 인수를 제외하고 동일한 저장 용량 스케일링을 달성함을 보입니다. 또한 구성된 MLP를 트랜스포머 블록 내에서 사실 재현(recall) 태스크에 활용할 수 있음을 보이며, 동일한 사실 수 기준으로 기존 구성 대비 15~63배 적은 파라미터로 최적 용량 스케일링을 달성합니다. 마지막으로, 개념 증명으로서 사실 저장 MLP가 트랜스포머의 MLP를 새로운 것으로 교체하는 방식으로 모듈식 사실 편집을 가능하게 함을 보입니다.
자기-정제(self-refinement)는 대규모 언어 모델(LLM)에서 퓨샷(few-shot) 귀납적 추론을 강화하는 데 종종 실패한다. 모델이 추론한 규칙을 명시적으로 서술하도록 프롬프트하는 것만으로는 거의 효과가 없다. 실질적으로 중요한 것은 추론 단계들 간에 구조적으로 강제된 격리이며, 이를 통해 정보는 압축된 심볼릭 상태(symbolic state)로만 단계 간에 전달될 수 있다. 우리는 추론 단계들 간의 엄격한 컨텍스트 격리를 강제하는 모래시계 추론(Hourglass reasoning)을 제안한다. 고정된(frozen) LLM은 메타-생성자(meta-constructor)로 동작하며, 각 태스크에 대해 심볼릭 인코더-디코더를 구축한다: 귀납 모듈(Induction module)은 지원 예시들을 스키마 φ(인코더)와 일시적 스캐폴드 z로 압축하고; 연역 모듈(Deduction module)은 이로부터 규칙 T(디코더)를 도출하고 z를 폐기하며; 구현기(Implementer)는 (φ, T)를 아티팩트로 컴파일하고; 오류 기반 정제기(Refiner)는 (φ, T)를 수정하고 아티팩트를 처음부터 재생성한다. (φ, T)만이 단계 경계를 넘기 때문에, 모든 정제는 규칙에 고정된 채 유지된다. 우리는 GPT-5.5와 Gemini 3.1 Pro를 사용하여 시각적 추상화, 하드웨어 합성, 텍스트 규칙 귀납에 걸친 세 가지 벤치마크에서 모래시계 추론을 평가한다. ARC-AGI-2에서, 반복 정제 기준선(iterative-refinement baseline) 대비 best-of-5 정확도를 최대 14포인트 향상시킨다. ChipBench에서, GPT-5.5로 Verilog 합성 정확도를 31%에서 58%로 거의 두 배로 늘린다. BBEH-Linguini는 국제 언어학 올림피아드의 퍼즐을 활용하는데, 이는 명시적 언어화(explicit verbalization)가 성능을 저하시킬 수 있음을 선행 연구가 보여준 환경이다. 모래시계 추론은 이러한 경향을 완화하며, Gemini 3.1 Pro에서는 그 효과를 완전히 역전시킨다. 절제 실험(ablation)을 통해, 이러한 성능 향상이 단계 간 격리와 초기 귀납의 품질에서 비롯된 것이며 프롬프트 표현이나 사용된 특정 심볼릭 형식에 의한 것이 아님을 확인한다. 고정된 LLM에서 귀납적 추론을 이끄는 것은 정보를 표현하는 데 사용되는 언어가 아니라, 정보가 추론 과정을 통해 흐르는 방식이다.
전방위 모달 증거 탐색 QA는 비디오, 오디오, 이미지, 웹 페이지, 연산 결과에 걸쳐 희소하게 분산된 증거를 바탕으로 에이전트가 질문에 답하도록 요구한다. 기존 에이전트 기반 멀티모달 시스템은 증거를 스크래치패드, 도구 궤적, 자유형 히스토리에 남겨두는 경우가 많아, 무엇이 그라운딩되었는지, 무엇이 누락되었는지, 언제 증거가 충분한지를 추적하기 어렵다. 우리는 전방위 모달 QA를 쿼리 범위의 증거 완결 프로세스로 전환하는 학습 없는 증거-상태 시스템 Omni-Decision을 제안한다. 각 쿼리에 대해 Omni-Decision은 확인된 증거, 미해결 충돌, 사실 및 연산 의존성, 미충족 증거 요구사항을 포함하는 구조화된 증거 상태를 유지한다. 공유 상태 뷰는 계획, 증거 수집, 검증, 수정, 최종화를 조건화한다. 미디어, 웹, 연산, 검증 모듈로부터의 이질적 관측값은 결정론적 상태 업데이트를 통해 정규화, 판단, 커밋된다. 이 설계는 목표 지향적 증거 수집을 가능하게 하고, 희소한 교차 모달 단서를 보존하며, 수정 및 종료에 대한 검사 가능한 제어를 제공한다. Omni-Decision은 OmniGAIA에서 45.6%, WorldSense에서 58.3%의 정확도를 달성하여 기준선 대비 각각 +27.3 및 +30.2 퍼센트포인트 향상되었다. 상태 없음 어블레이션 및 궤적 감사는 다단계 전방위 모달 증거 탐색에서 명시적 증거-상태 제어의 역할을 추가로 뒷받침한다.
오늘날 대규모 언어 모델(LLM) 에이전트는 곤란한 딜레마에 처해 있다. 정적 안전 지침으로 제한하면 명백한 범위를 거의 벗어나지 못하고, 도구와 다중 에이전트 토론에서 자유를 부여하면 안전 위반이 빠르게 뒤따른다. 단일 모델이 창의성과 신중함을 동시에 처리하도록 강요하는 대신, 우리는 특화된 역할별로 관심사를 분리한다. Disrupter는 비관습적인 제안을 생성하고, Validator는 도구 게이트웨이에서 엄격한 런타임 검사를 수행하며, Broker는 멀지만 관련성 있는 유추를 끌어온다. 실패는 폐기되지 않고, MCTS를 통해 Scars라 부르는 소형의 서명된 제약 패치로 컴파일된다. 이 패치는 로컬에 캐시되어 미래 코호트에 상속되며, 반복된 실패를 재사용 가능한 저비용 런타임 제약으로 전환한다. 공간-의미 샌드박스(N=20회 실행, p<0.01)에서, 우리의 코호트는 토론이 실패하는 원격 목표에 도달하고, Validator는 실행된 모든 위반을 방지하며, Scars는 중복된 검증기 검사를 피함으로써 토큰 소비를 15.1% 줄인다. 또한 신용 기반 통신 할당 점수(CAS)는 아웃바운드 대역폭을 제한하여, 자원 제약 하에서 전체 토큰 비용을 55.9% 절감한다.
AI agents are evolving from answer engines into persistent teams that use tools, delegate work, learn from experience, and modify the artifacts that shape their future behavior. The defining question for deployment is no longer merely what agents can do, but who controls what they are allowed to become. We introduce logos, a pluggable layer for self-evolution and governance that strengthens existing multiagent frameworks rather than replacing them. logos compiles heterogeneous multimodal inputs, including documents, images, audio, tables, databases, APIs, and human instructions into versioned agent packs containing agents, tools, knowledge, tests, permissions, and policies. During operation, it transforms agent activity into portable, auditable event traces and applies fail-closed verification across frameworks and backends. Every learned prompt, memory, skill, tool, role, or workflow remains an untrusted release candidate until held-out execution evidence, human-controlled policy, and explicit authorization permit its promotion. This architecture enables "verifiable human-agent loop engineering": agents can act, ask, learn, and propose improvements, while humans can steer objectives, permissions, approvals, and irreversible actions without interrupting continuous operation. logos provides a living logic for accountable automation. Agents may evolve at machine speed, but only evidence and human authority can close the loop.
합성 데이터는 생성 비용이 저렴하고 제어가 용이하여 대규모 언어 모델(LLM) 학습에 널리 활용됩니다. 모델이 점점 더 에이전트로 배포됨에 따라, 합성 궤적은 에이전틱 행동을 위한 중요한 학습 데이터 소스가 될 가능성이 높습니다. 우리는 다른 에이전트의 프로세스를 종료하거나, 스케줄링 우선순위를 낮추거나, 권한 없이 리소스에 접근하는 행동을 포함한 적대적 상호작용이 담긴 합성 에이전틱 궤적으로 학습했을 때의 효과를 조사합니다. 우리는 강화학습 롤아웃을 근사하도록 생성된 이러한 궤적으로 Llama 3.3 70B Instruct를 파인튜닝하고, Anthropic의 Agentic Misalignment 스위트와 Apollo의 문맥 내 계획(in-context scheming) 시나리오에서 결과 모델을 평가합니다. 이러한 궤적으로의 파인튜닝은 일관되게 정렬 이탈 행동을 증가시킵니다. 누출(leaking)은 기준선 대비 약 5배 상승하여 4.6%에서 24.9%로 증가합니다. 이 증가는 궤적에서 모든 적대적 행동을 제거한 후에도 유지됩니다. 처음부터 양성(benign)으로 생성된 구조적으로 유사한 궤적으로 파인튜닝하면 실질적으로 더 작은 효과(15.5%)가 나타납니다. 이러한 결과는 정렬 이탈 성향이 생성 과정에서 도입되어 해로운 행동 자체에 국한되지 않고 궤적 전반에 분산되어 인코딩됨을 나타냅니다. 이 효과는 또한 생성 모델에 따라 달라집니다. Gemini 2.5 Flash가 생성한 양성 궤적은 Claude 3.7 Sonnet이 동일한 태스크에서 생성한 궤적보다 약간 높은 누출률을 유발합니다. 반면, 광범위한 안전성 벤치마크는 모든 파인튜닝된 모델에서 유사하게 저하되어 이러한 효과를 구별하는 데 실패합니다. 우리의 결과는 행동 수준 필터링이 합성 에이전틱 학습 데이터의 안전성을 보장하기에 불충분하며, 생성 모델에 의해 도입된 성향이 의미론적 검사를 통해서도 살아남을 수 있음을 시사합니다.
메모리는 장기 수행 AI 에이전트의 핵심 구성 요소로 자리잡고 있으며, 에이전트가 웹 브라우저, 소프트웨어 도구 및 기타 인터랙티브 환경을 운용할 때 과거 경험을 재사용할 수 있게 해준다. 기존 연구는 대부분 메모리를 공급 문제로 취급하여, 어떤 경험을 기록할지, 어떻게 저장할지, 다음 작업을 위해 어느 항목을 검색할지를 다루었다. 그러나 다단계 행동 궤적 전반에 걸쳐 모델이 검색된 메모리를 어떻게 소비하는지에 대한 명확한 설명은 아직 부족하다. 이 소비 과정은 어떤 메모리를 검색해야 하는지뿐만 아니라, 이를 안전하게 사용하기 위해 어떤 모델과 제어 정책이 필요한지를 결정하기 때문에 중요하다. 이 과정을 진단하기 위해, 우리는 메모리가 처음으로 행동을 변경하는 지점, 그 변경이 이후로 이어지는지 여부, 그리고 에이전트가 올바른 경로를 이탈한 후 회복할 수 있는지를 묻는 궤적 수준의 프레임워크인 Entry-Propagation-Recovery (E-P-R)를 제안한다. 우리는 WebArena와, 이러한 단계들을 분리하기 위해 직접 구축한 통제된 벤치마크인 MemTrapBench에 E-P-R을 적용한다. 주요 실패는 종종 진입(entry) 단계에서 시작됨을 발견하였다: 에이전트는 충돌하는 메모리가 작업에 부적합하더라도 첫 번째 노출 결정 지점에서 이를 채택한다. 반복적인 노출은 이 초기 오류를 증폭시키며, 이탈 이후의 회복은 미약하다. 이러한 효과들이 결합하여 순응 함정을 형성한다: 모델 전반에 걸쳐 충돌하는 메모리는 유사한 순응률을 유도하지만, 에이전트가 순응하게 되면 성공률은 낮은 수준으로 붕괴된다. 따라서 더 강력한 에이전트는 각 순응 이벤트가 더 많은 기준선 역량을 소거하기 때문에 절대적으로 더 큰 손해를 입는다. 이러한 결과는 메모리 증강 에이전트가 검색 품질이나 최종 성공률만으로 평가되어서는 안 되며, 궤적 전반에 걸쳐 메모리를 어떻게 소비하는지로도 평가되어야 함을 시사한다.
기존 가설들은 대규모 언어 모델(LLM)에서 개념을 단일 점, 선형 방향, 또는 가우시안 클러스터로 표현하지만, 이러한 구조가 어떻게, 왜 나타나는지는 아직 불분명하다. 본 연구에서는 개념 기하학이 라게르 기하학(Laguerre Geometry)을 통해 정밀하게 특성화될 수 있음을 보인다. 라게르 기하학에서 개념은 라게르-보로노이 셀(Laguerre-Voronoi cell) 또는 셀들의 합집합으로 이루어진 영역으로 정의되며, 이를 통해 개념을 엄밀하게 정의하고 측정하며 분리할 수 있다. 이 형식화를 기반으로, 포함 관계나 계층 구조와 같은 더 세밀한 개념 구조가 라게르 가중치(Laguerre weights)에 의해 자연스럽게 드러남을 보인다. 이어서 이 기하학을 트랜스포머 내부로 확장한다. 각 층을 조각별 선형(piecewise-linear) 연산자로 분해함으로써, 토큰의 은닉 궤적이 두 가지 결합된 메커니즘에 의해 지배됨을 보인다: 자기완결적인 조각별 선형 흐름의 정적 트리와, 교차 토큰 어텐션이 발동될 때 궤적을 트리 간에 이동시키는 동적 수송이 그것이다. 이 분해로부터 Geometric Lens가 도출되는데, 이는 학습 및 하이퍼파라미터 없이 임의의 층에서 은닉 벡터가 인코딩하는 정확한 개념을 읽어낼 수 있는 방법이다. 또한 결정 기하학과 모델의 전체 추론 궤적을 하나의 뷰에서 렌더링하는 2D 시각화 도구인 Laguerre Autoencoder를 개발한다. 마지막으로, 설명적 기하학을 넘어 실행 가능한 해석 가능성으로 나아가, 문맥 내 간섭(in-context interference)이 포함된 프롬프트가 주어질 때 Geometric Lens가 올바른 사실 토큰을 복원함을 보인다. 코드는 GitHub에서 공개되어 있다.
문맥 학습(Context learning)은 대규모 언어 모델(LLM)이 사전학습에 부재한 복잡한 문맥으로부터 새로운 태스크 특화 지식을 학습하고 적용해야 하는 새롭게 부상하는 추론 시 태스크로, 프론티어 모델조차 태스크 성공률이 24% 미만이다. 본 연구에서는 이 설정이 여전히 어려운 이유를 이해하기 위해 포괄적인 실증 연구를 수행한다. 자연스러운 가설은 실패가 내용 접근 문제에서 비롯된다는 것이지만, 광범위한 문맥 학습 벤치마크인 CL-Bench에서 12가지 검색·반성·검증 기준선에 걸쳐 직접적인 전체 문맥 프롬프팅 대비 제한적인 성능 향상만이 관찰되었다. 추가적인 실패 분석은 핵심 발견을 드러낸다: 긴 문서 이해와 같은 일반적인 긴 컨텍스트 태스크와 달리, 문맥 학습은 로컬 내용의 복구뿐만 아니라 쿼리에 종종 명시되지 않고 문맥 전체에 분산되어 있는 로컬 명세—도메인 특화 형식, 로컬 규칙, 완전성 조건—의 습득도 요구한다. 31,592개의 루브릭 항목 전체에 걸쳐, 55.4%가 명세 습득을 명확히 평가하는 반면 내용 습득을 평가하는 항목은 22.6%에 불과했다. 또한, 명세의 76.7%가 사용자 쿼리에 명시되지 않음에도 불구하고 95.5%는 문맥에서 추적 가능하며, 이는 해당 명세들이 숨겨진 요구사항이 아닌 학습 가능한 의무임을 나타낸다. 이 진단을 검증하기 위해, 로컬 명세를 추출하고 적대적 검사 및 수정을 통해 이를 적용하는 의도적으로 단순한 개입 방법인 PSCI(private specification-contract induction)를 설계한다. PSCI는 CL-Bench에서 GPT-5.1로 최고 성능인 28.14%를 달성하며(절대값 +5.59 pp, 상대값 +24.8%), Qwen3.5-27B(+5.28 pp)와 Gemini 3 Pro(+6.17 pp)에서도 재현된다. 17가지 ablation 실험이 태스크 특화 명세의 역할을 추가로 분리한다. 전반적으로, 본 연구의 결과는 문맥 학습이 내용 습득뿐만 아니라 명세 습득에도 달려 있음을 시사한다.
우리는 몬테카를로 입자 및 중이온 수송 코드 시스템(PHITS)을 위한 실행 기반 평가 벤치마크인 PHITSBench를 소개한다. PHITSBench는 세 가지 공통 워크플로 범주에 걸쳐 282개의 수송 채점 가능 태스크로 구성된다: 매개변수 편집(Edit), 구문 수정(Repair), 자연어 설명으로부터의 완전한 시뮬레이션 생성(Reproduce). 각 태스크는 실행 성공 여부와 생성된 수송 관측량과 참조 수송 관측량 간의 일치도를 결합한 복합 지표 점수(Composite Metric Score)를 사용하여 평가된다. PHITSBench를 활용하여 제로샷 프롬프팅부터 지식 증강 및 에이전트 워크플로까지 다섯 가지 GPT-5.4 기반 구성을 평가한다. 도메인 특화 지식 없이 모델은 편집 및 수정 태스크에서 높은 성능(각각 95%, 70% 성공률)을 보이지만, 처음부터 올바른 시뮬레이션을 생성하는 데는 실패한다(Reproduce 트랙에서 성공률 0%). 사용자 매뉴얼과 함께 제공되는 구조화된 기계 가독형 PHITS 지식 카탈로그는 단일 시도 Reproduce 태스크 성공률을 57%까지 향상시킨다. 에이전트 실행은 66~73%까지 추가적인 개선을 제공하지만, 계산 비용이 증가한다. 실패 분석 결과, 나머지 오류는 구문 생성보다는 물리적 관측량의 잘못된 선택 및 구성에서 비롯된 것으로 나타났다. 이러한 결과는 AI 보조 방사선 수송 모델링의 향후 발전이 기반 모델 자체의 발전만큼이나 기계 가독형 지식 베이스, 큐레이션된 도메인 학습 데이터셋, 실행 기반 평가 환경에 달려 있음을 시사한다.
머신러닝(ML) 알고리즘은 다양한 맥락에서 농업 변수를 추정하는 데 널리 활용되어 왔다. 그러나 학습 데이터의 양과 질이 ML 알고리즘의 성능에 큰 영향을 미치기 때문에, 참조 데이터가 부족하거나 불완전한 경우 그 활용이 제한될 수 있다. 합성 데이터 생성(SDG)은 원본 데이터의 주요 특성을 보존하는 인공적이지만 현실적인 샘플을 생성함으로써 이 문제를 해결하는 실용적인 접근법을 제공한다. 본 연구는 교사-학생 지식 증류(knowledge transfer)와 표 형식 데이터에 대한 문맥 내 학습(ICL)을 기반으로, 베이지안 네트워크 생성기와 트랜스포머 기반 표 형식 파운데이션 모델(TabICL)을 결합한 작업 조건부 SDG(TCSDG) 알고리즘을 제안한다. 제안된 알고리즘은 작물 수확량 예측과 작물 유형 분류(classification)의 두 가지 농업 예측 작업에서 평가되었다. 또한 6가지 벤치마크 SDG 알고리즘을 활용하여 TCSDG와의 성능을 비교하였다. 12개 연구 지점, 2가지 학습(training) 데이터 비율, 4가지 증배 비율, 3가지 예측 ML 알고리즘에 걸쳐, 원본 데이터에 TCSDG 생성 합성 데이터를 증강하면 작물 유형 분류 실험의 89%, 작물 수확량 예측 실험의 74%에서 ML 성능이 향상되었다. TCSDG는 벤치마크 SDG 알고리즘들을 크게 능가했으며, 집계 수준에서 두 작업 모두에 걸쳐 일관되게 ML 성능을 향상시킨 유일한 방법이었다. 본 연구는 신중하게 설계되고 처리된 합성 데이터가 정밀 농업(precision-agriculture) 응용 분야에서 ML 성능을 향상시킬 수 있음을 입증한다. TCSDG는 농업 ML 예측의 다운스트림 작업을 지원하는 합성 데이터를 생성하기 위한 실용적이고 확장 가능한 프레임워크를 제공한다. TCSDG의 전체 구현은 https://github.com/HamidEbrahimy/TCSDG 에서 오픈 소스로 공개되어 있다.
프롬프트 래퍼는 형식만 다른 경우에도 모델 점수를 충분히 변화시켜 리더보드 결론을 뒤집을 수 있다. 본 연구는 토큰 제어 프로토콜 하에서 이 분산을 분석하고, 두 가지 보완적 지표를 제안한다: 래퍼 선택에 의해 유발되는 정확도 범위인 형식 민감도 지수(FSI)와, 이에 대응하는 정답 파싱 가능성 범위인 파싱 가능성 민감도 지수(PSI)이다. 7개의 QA 태스크, 5개의 래퍼 패밀리, 7B에서 72B 파라미터에 이르는 4개의 인스트럭션 튜닝 모델에 걸쳐 생성된 140,000건의 OpenRouter 출력을 분석한 결과, 평균 FSI는 모델 간 30배 이상 차이를 보이며, 이는 대부분 준수 실패(compliance failures)로 설명된다. 고정 효과 회귀 분석을 통해, 태스크·모델·래퍼를 통제한 이후에도 파싱 가능성이 정확도의 강력한 예측 변수임을 확인한다. 본 연구는 래퍼 분산 및 준수 여부 없이 정확도만 보고하는 것은 통계적으로 취약하다고 주장하며, 벤치마킹 및 구조화된 출력 배포 모두에 대한 실용적 권고안을 제시한다.
긴 컨텍스트 처리는 대규모 언어 모델(LLM)에서 점점 더 중요해지고 있지만, 단순히 컨텍스트 윈도우를 확장하는 것만으로는 긴 입력의 효과적인 활용을 보장하지 않는다. 입력 길이가 늘어날수록 정확도가 저하되는 경우가 많으며, 이는 모델들이 여전히 질문과 가장 관련성 높은 증거를 식별하고 활용하는 데 어려움을 겪고 있음을 나타낸다. 긴 컨텍스트 활용을 개선하는 유망한 방법으로 테스트 시간 학습(TTT)이 있으며, 이는 테스트 컨텍스트를 인스턴스별 매개변수 적응을 위한 학습 예시로 취급한다. 그러나 전체 긴 컨텍스트에 TTT를 적용하는 것은 비용이 지나치게 크고, 무작위로 샘플링된 스팬에 적응하면 심각한 노이즈가 발생한다. 긴 컨텍스트의 대부분 스팬은 특정 질문과 무관하기 때문에, 이러한 스팬으로 학습하면 기반 모델의 성능이 오히려 저하될 수 있다. 우리의 예비 연구에 따르면 TTT는 학습 스팬의 품질에 매우 민감하다: LongBench-v2에서 무작위로 샘플링된 스팬에 대한 TTT는 성능을 저하시키는 반면, 오라클 스팬에 대한 TTT는 성능을 크게 향상시킨다. 이에 동기를 얻어, 우리는 간단한 방법인 자기 유도 TTT(S-TTT)를 제안한다: 적응 전에 모델이 스스로 학습해야 할 증거 스팬을 식별하고, 표준 언어 모델링 학습 목표를 선택된 스팬에만 적용한다. LongBench-v2와 LongBench-Pro라는 두 가지 도전적인 긴 컨텍스트 추론 벤치마크에서 S-TTT는 Qwen3-4B-Thinking-2507과 Llama-3.1-8B-Instruct 모두의 정확도를 향상시켜 최대 15%의 상대적 개선을 달성한다.
사고의 연쇄(Chain-of-Thought, CoT) 프롬프팅은 대규모 언어 모델(LLM)의 추론 능력을 크게 향상시켰다. 그러나 기존의 CoT는 중복성과 준최적 성능 문제를 겪는 비구조적이고 평탄한 추론 체인에 의존하는 경우가 많다. 본 연구에서는 복잡한 다단계 추론의 과제를 해결하기 위해 특별히 설계된 구조적 추론 패러다임인 계층적 사고의 연쇄(Hierarchical Chain-of-Thought, Hi-CoT)를 제안한다. Hi-CoT는 지시적 계획과 단계별 실행을 교대로 수행함으로써 추론 과정을 계층적 하위 단계로 분해한다. 이러한 분해는 LLM이 긴 추론 구간을 더 잘 관리하고 논리적 일관성을 유지할 수 있도록 한다. 다양한 LLM과 수학적 추론 벤치마크에 대한 광범위한 평가에서 Hi-CoT는 CoT 대비 추론 경로 길이를 13.9% 줄이면서 평균 정확도를 6.2%(일부 모델 및 과제에서 최대 61.4%) 일관되게 향상시키는 것으로 나타났다. 또한 모델이 계층적 구조를 엄격히 준수할 때 정확도와 효율성이 최대화됨을 보인다. 코드는 https://github.com/XingshuaiHuang/Hi-CoT에서 확인할 수 있다.
명시적 사고의 연쇄(Chain-of-Thought, CoT)는 대규모 언어 모델(LLM)에 강력한 추론 능력을 부여하지만, 모델의 사고를 이산적인 어휘 공간으로 제한한다. 최근 연속 잠재 공간에서의 추론이 유망한 대안으로 부상하고 있으나, 현재의 패러다임은 은닉 상태를 반복적으로 재사용할 때 발생하는 분포 불일치로 인한 특징 붕괴(feature collapse)와 불안정성, 또는 보조 모델에 의존할 때 발생하는 정렬 문제로 어려움을 겪는다. 이를 해결하기 위해 우리는 잠재 사고가 구성되고 활용되는 방식을 재정의하는 사후 학습 프레임워크인 잠재 사고 튜닝(Latent Thoughts Tuning, LT-Tuning)을 제안한다. 원시 은닉 상태에만 의존하는 대신, 우리의 방법은 컨텍스트 은닉 상태와 어휘 임베딩 공간의 예측적 의미 안내를 공동으로 활용하는 컨텍스트-예측-융합(Context-Prediction-Fusion) 메커니즘을 도입한다. 점진적인 3단계 커리큘럼 학습 파이프라인과 결합하여, LT-Tuning은 잠재 사고 모드와 명시적 사고 모드 간의 동적 전환도 가능하게 한다. 실험 결과, 우리의 방법은 기존 잠재 추론 기준선을 능가하며 특징 붕괴를 효과적으로 완화하고 견고한 추론 정확도를 달성함을 입증한다.