빠르게 확장하는 생성형 AI 지형은 아키텍처, 학습 목적함수, 수학적 표현, 샘플링 절차가 서로 다른 방법들을 아우른다. 간결하고 선별적으로 구성된 기술 안내서는 이처럼 점점 복잡해지는 지형에 대한 일관된 이해를 발전시키는 데 접근하기 쉬운 출발점이 될 수 있다. 이 글은 생성 중심의 접근을 취하여, 모델이 새로운 관측을 만들어 내는 방식을 생성을 가능하게 하는 모델링 및 학습 원리와 연결한다. 우리는 두 수준의 관점을 전개한다. 첫째는 반복적으로 나타나는 세 가지 생성 경로, 즉 직접 변환 또는 디코딩, 순차적 조건부 구성, 반복적 갱신 또는 수송을 구분하는 것이며, 둘째는 이러한 경로의 기저에 있는 모델링 및 학습 원리를 살펴보는 것이다. 대표적인 접근법은 핵심 구성 요소, 학습 목적함수, 샘플링 절차를 통해 소개한다. 이어서 서로 다른 아키텍처와 생성 메커니즘이 어떻게 겹치거나 결합될 수 있는지를 포함하여 이들의 더 넓은 연관성을 검토한다. 이 글은 필수적인 기술 설명을 간결한 개념 틀 안에 모음으로써, 독자가 낯선 접근법에 대한 실용적 이해를 발전시키고, 이미 접한 모델들 사이의 연결을 인식하며, 더 넓은 생성형 AI 지형 속에서 여러 접근법을 탐색하도록 돕는 것을 목표로 한다.
과학을 수행하는 에이전트는 정보량이 큰 실험을 선택하고 그 결과로부터 추론해야 하지만, 대부분의 발견 벤치마크는 이 능력을 암기, 명시되지 않은 채점 규칙, 또는 지름길 정책과 분리하지 못한다. 본 논문은 27개의 절차적으로 생성된 환경(일부는 유한한 진리 공간을 가짐)으로 구성된 Openhagen Worlds를 소개한다. 이 환경들은 실험 추론의 고전적 퍼즐부터 시뮬레이터 기반의 물리 및 화학까지 아우르며, 에이전트는 예산 내에서 실험을 수행하고 결정론적 검증기가 숨겨진 진리와 대조하여 확인하는 답을 제출한다. 모든 관측은 전체 채점 규칙을 명시하며, 178개의 난이도 수준 각각은 보정되어 있다. 64개의 개발 인스턴스에서 스크립트 오라클이 0.75 이상, 가장 강력한 비연역적 정책이 0.25 이하, 통제된 각 지름길이 0.35 이하로 성공하는 경우에만 수준이 채택된다. 92개의 핵심 수준은 27개 패밀리 전체에 걸쳐 있으며 소형 모델 학습에 맞게 규모가 정해져 있고, 86개의 프런티어 단계는 15개의 발견 세계를 더 어려운 질문과, 하나의 숨겨진 시스템에 대한 3단계, 5단계, 8단계 이상의 확정 단계 캠페인으로 확장한다. 패밀리와 단계마다 하나씩인 동일한 84개의 보류된 프런티어 인스턴스에서, DeepSeek V4.1 Flash는 호출당 16,384 토큰의 기본 추론 강도에서 32개를, 호출당 최대 393,216 토큰의 최대 강도에서 57개를 해결한다(오라클: 79). 남은 향상 여지는 8단계 캠페인에서 가장 크다. 온폴리시 전문가 반복은 9B 모델에 완만한 이득을 주어, 학습된 패밀리에 대한 핵심 계층 성공률이 0.090에서 0.148로 상승하며, 이는 부분적으로 행동 형식의 개선에 기인하고 GPQA Diamond에서는 감지 가능한 성능 저하가 없다. 호스팅 서비스가 핵심 계층의 보류된 인스턴스를 제공한다.
배포된 월드-액션 모델(WAM)은 자신의 경험을 잘 활용할 때에만 계속 개선될 수 있다. 기존 방법은 검색된 롤아웃이나 시연을 컨텍스트로 정책에 제공하지만, 이러한 경험은 이전에 해결했던 과제를 실패로 바꾸는 경우가 많다. 그렇다면 WAM에게 좋은 경험이란 무엇인가? 본 논문은 경험이 사용될 때에만 가치가 있음을 보인다. 그 가치는 원본 롤아웃의 성공 여부가 아니라, 무엇이 저장되는지, 언제 사용되는지, 정책의 어디에 투입되는지에 달려 있다. 따라서 Form, Fit, Fusion으로 이 세 가지 결정을 내리는 F$^3$를 제안한다. Form은 성공한 롤아웃과 실패한 롤아웃을 모두 짧고 검증된 작업 기록으로 압축한다. Fit은 정책이 기록을 읽고 그것이 언제 도움이 되는지 예측하도록 가르친다. Fusion은 기록의 이미지, 텍스트, 행동을 접두부와 행동 사전분포로서 정책에 주입한다. 단 200개의 예시로 한 번 학습하고 증가하는 경험 라이브러리와 함께 배포된 이 모델은 RoboLab에 대한 학습 없이도 MolmoSpaces와 RoboLab에서 최첨단 결과를 달성한다. 기본 Cosmos 3 Nano 대비 성공률을 12.0 pp와 10.8 pp 높이고, 성공까지의 단계 수를 12.2%와 11.3% 줄이며, 성능 후퇴를 57% 감소시킨다.
지속적 사전학습(CPT)은 사전학습된 언어 모델을 방언 및 비표준 언어 변종에 적응시키는 데 널리 사용되지만, 이러한 추가 학습이 언제 필요한지, 그 이점을 무엇이 좌우하는지, 그리고 종합 평가 점수가 그 효과를 충분히 포착하는지는 여전히 불분명하다. 본 논문은 서로 다른 계열과 규모에 걸친 아홉 개의 LLM을 대상으로 퀘벡 프랑스어 언어 이해를 위한 CPT의 통제 연구를 제시한다. 실험당 3천만 토큰으로 예산을 맞춘 프로토콜을 사용한 결과, CPT의 이점은 출발 모델이 대상 변종에 대해 이미 지닌 능숙도에 크게 좌우됨을 보인다. CPT가 유익한 경우, 개선은 데이터 양보다 코퍼스 구성에 의해 더 크게 좌우되며, 문학 텍스트가 이득의 대부분을 차지한다. 퀘벡 프랑스어와 표준 프랑스어의 쌍을 이룬 평가는 또한 CPT가 문법 능력보다는 주로 표현 이해를 향상시키며, 코퍼스 문체가 어떤 지역 표현이 습득되는지를 결정함을 보여 준다. 이러한 이득에는 종합 점수가 가릴 수 있는 독해력 저하를 포함하여 능력별 상충 관계도 수반된다. 종합하면, 이러한 결과는 방언 적응을 위한 CPT를 일률적으로 유익한 기본 선택으로 취급해서는 안 됨을 보여 준다. 대신 적응 전략은 기반 모델이 이미 지닌 능숙도에 대한 신중한 평가에서 시작해야 하며, 출처 수준의 데이터 분석과 과제 수준의 평가가 병행되어야 한다.
강화학습(RL)은 장기 과제에서 대규모 언어 모델(LLM) 에이전트를 학습시키는 일반적인 접근법이 되었다. 그러나 희소한 최종 보상으로부터 학습하면 크레딧 할당과 탐색이 어려워진다. 본 논문은 이러한 난제에 정책 유도 능력 영역, 즉 현재 정책이 과제를 안정적으로 완료할 수 있는 상태들의 집합을 통해 접근한다. 그 경계 근처에서는 목표가 여전히 멀더라도 에이전트가 더 해결하기 쉬운 상태에 도달하는 데 몇 가지 행동만 필요할 수 있다. 이는 장기 학습을 그러한 상태에 도달하는 것과 그곳에서 과제를 완료하는 것이라는 두 개의 결합된 하위 문제로 환원한다. 본 논문은 이를 쌍을 이루는 이점과 점진적인 역방향-순방향 커리큘럼으로 다룬다. 이점은 더 해결하기 쉬운 상태에 도달하는 것과 그 상태에서 과제를 완료하는 것에 대해 별도의 신호를 제공하며, 커리큘럼은 성공한 참조 궤적을 따라 능력 영역을 뒤쪽으로 확장한 다음 온폴리시 탐색을 통해 참조 밖의 상태로 확장한다. ALFWorld와 WebShop에서 본 방법은 두 모델 규모 모두에서 경쟁력 있는 에이전트 RL 방법을 능가하며, Qwen2.5-1.5B/7B-Instruct에서 각각 90.1%/96.1%와 80.2%/82.6%의 성공률을 달성한다.
영화를 게임으로 각색하려면 원작의 요소를 선별하고 이를 플레이어의 행동, 규칙, 피드백으로 변환해야 한다. 본 논문에서는 플레이 가능성을 넘어 영화-게임 각색을 평가하기 위한 벤치마크인 Movie2Game-Bench(M2G-bench)를 소개한다. M2G-bench는 일반 평가, 영화 특화 평가, 그리고 세 개의 GUI 모델 플레이어에 의한 플레이테스트를 결합한다. 이 프로토콜은 원작 콘텐츠를 게임플레이 단계 및 구현 근거와 연결하여, 콘텐츠 보존과 상호작용적 구현을 모두 포착한다. 이 벤치마크는 22편의 영화와 658개의 원작별 참조 항목으로 구성된다. 14개 모델을 동일한 영화에 대해 각자 선택한 주요 하니스로 평가한 결과, 게임 품질, 각색, 플레이어 경험에서 상호 보완적인 강점이 나타난다. 공통적인 약점은 플레이 가능한 시퀀스에서 나타난다. 이 범주는 14개 모델 모두에서 콘텐츠 반영도 평균이 가장 낮았으며, 상징적 요소의 54.8에 비해 평균 37.9점(100점 만점)이었다. 유지된 감정 전개 콘텐츠에 대한 판단 중에서는 서사적 선택이 60.0%, 시나리오 조작이 7.2%를 차지한다. 이러한 결과는 영화-게임 각색에서 서로 연결된 두 가지 우선 과제, 즉 게임플레이를 뒷받침할 수 있는 원작의 상황을 보존하는 것과 유지된 콘텐츠를 플레이어의 행동 및 그 결과와 연결하는 것을 보여준다.
본 논문에서는 에이전틱 데이터 엔지니어링과 재귀적 자기 개선(RSI)을 통해 모델 능력과 학습 데이터를 함께 진화시키는 멀티모달 의사결정 모델군 Piccolo(0.8B~27B)를 제시한다. 이 모델들은 범용 텍스트 및 시각 판단, 에이전트 하니스, 데이터 워크플로, 상호작용 게임에 대해 후보 답변들의 확률을 예측한다. Piccolo-27B는 Decision Index Vision Full 리더보드에서 75.59점으로 1위를 차지하였고, Piccolo-9B와 Piccolo-4B는 각각 68.35점과 67.46점을 기록하였다. 세 모델 모두 각자의 모델 크기 범주에서 Private 벤치마크 1위를 차지하였다. 연구 에이전트는 모델 행동을 분석하고, 학습 데이터를 구성하며, 실험을 수행하고, 그 결과를 사용해 이후 제안을 개선한다. 의미적 슬라이스와 공유 연구 메모리는 모델군의 개발 전반에 걸쳐 이러한 행동들을 연결한다. 학습 레시피는 수십만 개의 예시로 구성되므로, 데이터 선택과 피드백 기반 개선이 자기 개선 과정의 핵심이다. 우리의 대규모 RSI 탐색은 의사결정 모델 개발에 대한 직관에 반하는 세 가지 통찰을 제공한다. (1) 백본-레시피 공동 적응이 원시 모델의 최신성보다 중요하다. 동일한 레시피에서 이전 백본이 시각 과제에서 더 최신 세대를 능가할 수 있다. (2) 표적 데이터 큐레이션을 통해 4B-9B 모델이 특화된 워크플로에서 27B 기준선에 필적할 수 있다. (3) 연속적인 손실 감소는 이산적인 의사결정 정확도와 분리될 수 있으며 심지어 이를 저하시킬 수도 있다. 공개된 가중치 및 Data-Juicer와 AgentScope 생태계의 도구와 함께, Piccolo는 최전선 의사결정 모델을 구축하고 데이터 기반 RSI를 확장하기 위한 실행 가능한 청사진을 제공한다.
재료과학을 위한 멀티모달 언어모델은 3차원 구조 표현을 통합하는 효과적인 메커니즘에 의존한다. MatterChat은 사전학습된 구조 인코더와 LLM 사이의 대형 브리지 모듈 및 별도의 대조 정렬 단계를 사용하여 이 문제를 다룬다. 우리는 대신 이 브리지가 목표 물성에 따라 여러 구조 인코더의 표현을 적응적으로 선택하고 결합할 수 있는지 묻는다. 지도학습 기반 재료 인코더와 생성 기반 재료 인코더가 물성 예측에 상보적인 정보를 제공함을 확인하였다. Zatom-1의 경우 이 정보가 마지막 층에 집중되어 있지 않다는 것을 발견하였다. 오히려 가장 유익한 표현은 목표 물성에 따라 서로 다른 깊이에서 나타난다. 이는 과제 조건부 잠재 쿼리를 사용해 CHGNet 특징과 Zatom-1의 중간 표현을 결합하는 경량 어텐션 기반 브리지인 Task-Conditioned Attention Fusion(TCAF)의 동기가 된다. 이 브리지는 하위 예측 과제에서 직접 학습되므로, 별도의 대조 사전학습 없이 표현 선택과 재료-언어 정렬을 함께 학습할 수 있다. 분류 및 회귀 과제 전반에서 TCAF는 MatterChat을 능가하며 RMSE를 최대 47.8% 낮추면서, 학습 가능한 매개변수는 훨씬 적게 사용하고 전체 학습 시간은 절반으로 줄인다. UMA-S를 포함한 추가 실험은 인코더 조합 전반에서 TCAF의 유연성을 보여주며, 세 인코더 구성은 매크로 평균 분류 정확도 89.61%로 가장 높은 값을 달성한다.
지속학습(CL)은 파국적 망각을 완화함으로써 신경망이 비정상 데이터 스트림에 적응하게 하며, 견고하고 프라이버시를 보호하며 적응 가능한 엣지 장치로 가는 길을 제시한다. 그러나 CL을 실제 엣지 장치에 이식하는 일은 두 가지 이유로 여전히 어렵다. (i) 센서 데이터가 한 번에 하나의 샘플씩 도착하고 장치가 즉석에서 적응해야 하는 온라인 동작, (ii) 전통적인 오차 역전파 학습을 엄두도 못 내게 하는 엣지 장치의 낮은 자원 규모이다. 전자는 최소한의 자원으로 빠르게 적응하고 후자는 장기적 통합을 수행하는 뇌의 각성 및 수면 주기에서 영감을 받아, 우리는 엣지에서의 효율적 CL을 위한 오픈소스 이중 단계 플랫폼 Hypnos를 소개한다. 각성 단계(예: 일상 동작)에서 Hypnos는 효율적인 추론을 목표로 하고 경량의 그래디언트 없는 프로토타입 업데이트를 지원하는 RISC-V 마이크로컨트롤러 유닛(MCU)을 갖춘 저자원 시스템온칩에 의존한다. 수면 단계(예: 야간 충전)에서는 벽면 콘센트 전력과 더 큰 메모리 예산을 사용할 수 있으므로, 스마트 충전기가 통합을 위해 리허설 기반 그래디언트 업데이트를 수행한다. ZCU104 필드 프로그래머블 게이트 어레이(FPGA)에 배치하고 28-nm 공정으로 합성한 Hypnos를 CORe50 NICv2-391 프로토콜에서 벤치마크하였다. 이는 엣지 CL 시스템에서 78.6%-81.6%라는 새로운 최고 정확도를 달성하며, 활성화 정밀도에 따라 샘플당 온디바이스 지연 시간은 7.79초-10.54초이고, 양자화된 잠재 리플레이에 비해 더 높은 정확도와 비슷한 지연 시간에서 학습 스텝은 $3.8\times$ 적고 학습 연산량은 $22\times$ 적다.
본 논문에서는 총 350억 개, 활성 30억 개의 매개변수를 갖고 사고 모드 생성을 지원하는 전문가 혼합 확산 언어모델 Clover-35B-A3B-Preview(Clover)를 소개한다. Clover는 이전에 생성된 문맥의 순환 메모리와 현재 블록 내부의 양방향 소프트맥스 어텐션을 결합하여 Gated Delta Networks를 블록 확산에 적응시킨다. 과거 메모리 읽기는 학습 가능한 블록 크기 보정과 별도의 영 초기화 우측 문맥 합성곱 분기와 함께 공유 소프트맥스에서 현재 블록 토큰과 경쟁한다. Clover는 SWE-bench Verified 73.6, Terminal-Bench 2.1 51.7을 포함하여 평가한 일곱 가지 에이전트 지표에서 선두를 차지한다. 내부 에이전트 워크로드에서는 NVIDIA GB300 GPU 한 대, BF16 정밀도, 배치 크기 1 조건에서 보고된 생성 속도가 680 토큰/초에 이른다. 우리는 모델 품질, 드래프팅 및 검증 비용, 제한된 메모리에서의 배치를 중심으로 평가를 구성한다. 또한 관련 질문들에 대한 답을 한 번의 디노이징 패스로 생성하는 의사결정 모델 변형을 기술한다. 내부 500개 그룹 집합에서 결합 예측은 질문 정확도를 90.37%에서 93.88%로, 전부 정답인 그룹의 정확도를 65.4%에서 77.0%로 높인다.
사전 학습된 비디오 편집기는 풍부한 제거 및 보완 사전 지식을 갖추고 있으나, 대상을 그대로 남기거나 관련 없는 내용을 변경할 수 있다. 본 논문은 객체가 없는 학습 정답 쌍 없이 비디오 객체 제거를 위해 MiniMax-H3 Base Ref2VA를 강화하는 H3Remover를 제안한다. 색상 변경과 같은 피상적 편집을 억제하기 위해, 대상 제거 보상은 더 먼 내용이 드러나는 것과 일관되도록 보정된 깊이 변화를 선호한다. 의도하지 않은 장면 변화를 제한하기 위해, 배경 기하 보상은 상대적 깊이 순서의 보존을 장려한다. 원치 않는 그림자나 반사를 유지하지 않으면서 배경 외형을 보존하기 위해, 외형 보상은 대상과 추정된 효과 영역은 제외하고 원본에서 도출된 보호 영역의 RGB 변화를 제약한다. 고정된 HPSv3는 합성된 내용에 대한 지각적 품질 피드백으로 이러한 제약을 보완한다. 평가 영역은 후보 간에 고정되며, DiffusionART는 백본을 고정한 채 LoRA 어댑터를 최적화한다. 실험 결과 원래의 H3 대비 복원 성능이 크게 향상되었으며, 정성적 비교에서는 더 효과적인 객체 제거와 주변 장면 내용의 더 나은 보존이 나타났다.
대규모 언어 모델(LLM)과 LLM 기반 에이전트의 배포가 늘어남에 따라, 안전하지 않거나 의도하지 않은 행동을 탐지하기 위해 이들의 행동을 모니터링하는 것이 중요해지고 있다. 활성화 프로브는 효율적인 접근법이지만, 기존 방법은 정확도, 해석 가능성, 계산 오버헤드 사이의 상충 관계에 직면한다. 원시 활성화에 대한 프로브는 해석 가능한 입력이 없는 반면, 희소 오토인코더(SAE) 프로브는 해석 가능한 특징을 사용하지만 흔히 가법적 분류기와 큰 SAE 인코더에 의존하여 해석 가능성을 제한하고 메모리 오버헤드를 증가시킨다. 본 논문은 소수의 이진화된 SAE 특징에 대한 명시적 불리언 논리로 전체 결정 규칙을 표현하는 간결하고 해석 가능한 분류기인 GateWatch를 소개한다. 지정된 게이트 예산 하에서 이러한 회로를 구성하는 세 가지 접근법을 탐구한다. 효율적인 배포를 위해 GateWatchServe는 선택된 SAE 특징만 계산하고, 추론 중 층 간에 그 이진 값을 스트리밍할 수 있게 하며, 간결한 룩업 테이블을 사용해 여러 GateWatch 분류기를 병렬로 평가한다. Gemma-2-9B의 24개 과제에서 GateWatch는 프로브당 평균 3.8개의 SAE 특징과 3.5개의 논리 게이트만으로 평균 테스트 정확도 80.49%를 달성하였으며, 이는 16K 특징 전체 SAE 프로브보다 단 1.17%p 낮은 수준이면서 10개 과제에서는 동등하거나 더 우수하고 프로브 메모리를 99.98% 감소시킨다. vLLM 내에서 1,000개의 동시 다층·다토큰 GateWatch 분류기는 기준 처리량의 97-98%와 KV 캐시 용량의 99.8%를 유지한다.
인공지능(AI)의 특성은 인간의 통제를 심각하게 제한한다. 이는 특히 위험에 대한 통제와 발생한 피해에 대한 책임이 모두 필수적인 안전 필수 분야에서 사회기술 시스템 설계에 새로운 과제를 야기한다. 우리는 인간 요소 및 AI 거버넌스 문헌, 전문가 인터뷰, 철도 분야의 복잡한 고위험 AI 활용 사례에 대한 참여 관찰을 바탕으로, AI 개발과 도입에서 거버넌스와 이해관계자 참여를 세 가지 방식으로 지원하는 시나리오 기반 방법인 ALIGN을 개발하였다. 첫째, 사회기술 시스템에서 책임과 통제의 잠재적 불일치와 그 부정적 결과에 대한 인식을 높인다. 둘째, 주어진 사용 사례에서 이해관계자에 대한 책임과 통제 간의 정렬을 평가하는 구조화된 접근법을 제공한다. 셋째, AI 위험을 완화하기 위한 효과적인 설계 결정을 지원한다. 본 논문은 ALIGN의 반복적 개발과 평가를 기술하고, 이 방법이 AI 수명주기 전반에 걸쳐 통제-책임 정렬의 중요성을 부각함으로써 AI 거버넌스를 어떻게 증진하는지 논의한다.
사고 사슬(CoT) 프롬프팅은 중간 추론 단계를 이끌어냄으로써 대규모 언어 모델의 성능을 향상시킨다. 그러나 CoT는 완벽하지 않다. 일부 과제에서는 모델이 직접 답변 프롬프팅보다 성능이 떨어지고, 다른 과제에서는 정답에 도달하기 위해 수백 개의 토큰을 생성한다. 우리는 먼저 각 CoT 은닉 상태를 직접 프롬프트에 패칭했을 때 정답이 나오면 회복형, 그렇지 않으면 실패형으로 레이블링한다. 선형 프로브는 모델이 이 두 부류를 다르게 부호화함을 보여준다. 이어서 직접 프롬프트의 표현 공간에, 짧은 생성으로 CoT보다 더 자주 모델을 정답으로 이끄는 질문별 방향이 존재함을 보인다. 구체적으로, 생성 전에 직접 프롬프트의 마지막 은닉 상태를 각 질문 자체의 회복형 및 실패형 상태로부터 구성한 방향으로 한 번 회전시킨다. 25개 과제에 걸쳐 이러한 방향은 직접 프롬프트의 평균 정확도를 LLaMA 3.1 8B에서 $46\%$에서 $85\%$로(CoT: $69\%$), Qwen 2.5 7B에서 $52\%$에서 $86\%$로(CoT: $77\%$) 높이며, 토큰은 CoT의 10분의 1만 사용한다. 따라서 CoT는 이 정확도에 이르는 가장 짧은 경로가 아니며, 이러한 방향은 향후 연구에서 모델이 자신의 상태를 이에 정렬하도록 학습시키는 데 사용될 수 있다.
사전 학습된 모델은 화면을 읽고 게임에 대해 추론할 수 있지만, 낯선 게임에서는 에이전트가 여전히 플레이하는 법을 학습해야 한다. 본 연구는 에이전트가 화면만 볼 수 있고 에이전트가 생각하는 동안에도 게임이 계속 진행되는 실시간 시각 게임에서, 자신의 몇 번의 시도로부터 에이전트가 어떻게 자기 개선할 수 있는지 질문한다. 이러한 개선을 담을 수 있는 두 종류의 정책을 연구한다. 정책으로서의 모델에서는 플레이 중 모델이 행동을 선택하며, 모델이 추론하는 동안 확정된 행동이 계속 실행되도록 실시간 청킹을 적응시키고 이 인터페이스를 위해 2B 컨트롤러를 학습시킨다. 정책으로서의 코드에서는 모델이 시도 사이에 프로그램을 작성, 테스트, 수정하며, 플레이 중에는 그 프로그램이 행동한다. 실행당 최대 8회의 1분 실행으로 170개 GameWorld 과제에 걸쳐 평가한 결과, 정책으로서의 코드는 평균 진행도 47.80%에 도달하여 학습된 컨트롤러의 30.90%를 앞섰으며 다섯 개 게임 범주 모두에서 우위를 보였다. 반면 단일 게임에서 컨트롤러의 가중치를 개선하면 완만한 이득만 얻어진다. 이러한 결과는 모델이 오프라인으로 생각하도록 하고, 학습한 내용을 실시간으로 행동하는 프로그램에 저장하는 방식을 뒷받침한다. 프로젝트 저장소: https://github.com/TabibitoQZP/SIGame
재귀적 자기 개선(RSI)은 기반 모델을 둘러싼 프롬프트와 도구의 하네스에서 모델 자체로 옮겨 가고 있다. 그러나 기존 RSI는 기반 모델 밖에 머무는 하네스 종속적 이득, 모델의 출력만 읽는 블랙박스 지도, 위치와 강도가 미리 고정된 부정확한 편집 등의 핵심 과제에 여전히 직면해 있다. 이러한 과제를 해결하기 위해 본 논문은 재귀적 하네스 내재화라는 새로운 패러다임인 BaseRSI를 제안한다. 여기서 기반 모델은 자신의 하네스를 개선한 뒤, 하네스가 더하는 것을 학습이 필요 없는 편집을 통해 자신의 가중치에 기록하며, 이를 자신의 응답에 대해 라운드마다 반복한다. 이 패러다임을 뒷받침하기 위해 우리는 ReGap을 도입한다. ReGap은 하네스가 각 블록에서 단독으로 만들어 내는 고차원 활성화 차이로 모든 트랜스포머 블록을 지도하고, 이 신호를 따라 저차원 부분공간에서 해당 블록의 가중치를 갱신하는 메커니즘이다. 이 메커니즘을 기반으로 우리는 ReKey도 제안한다. ReKey는 이 신호를 모든 블록의 소수의 키-값 뉴런에 회귀로 기록하고, 모델 자신의 응답을 바탕으로 각 편집의 위치와 강도를 측정하는 알고리즘이다. 또한 기반 모델은 순전파만으로 이 재귀의 모든 역할을 수행하며, 서로 다른 위치에 기록된 편집들은 재적합 없이 하나의 체크포인트에서 합성된다. 열 개의 시각 추론 벤치마크에 대한 실험 결과, BaseRSI는 기반 비전-언어 모델을 분포 내 벤치마크와 보류된 벤치마크 모두에서 일관되게 향상시킨다. 코드는 https://github.com/beita6969/BaseRSI 에서 공개되어 있다.
Current command and control (C2) platforms lack integrated simulation capabilities that would allow commanders to dynamically explore courses of action (COAs) during live operations. This paper presents ongoing research and contributions to the development of AGAMOTTO (Advanced Guidance and Analytics for Military Operations, Tactical Threats, and Outcomes) as part of the overarching NGC2 program, which advances the Army's efforts to modernize C2 systems, such as the Tactical Assault Kit (TAK). The paper outlines the current design, preliminary findings, and the remaining research tasks, with an emphasis on how the completed work will support tactical decision-making in future time-constrained environments. While the full system is still under development, initial development and results demonstrate the feasibility of AGAMOTTO. Early experiments highlight both the potential benefits and practical constraints of deploying AI-enabled tools in operational settings, and introduce lessons learned and a viable training strategy to make AI-generated COAs feasible in tactical scenarios.
멀티모달 지식 그래프 추론(MKGR)은 관계 구조, 텍스트 설명, 시각적 증거를 함께 활용하여 누락된 사실을 추론하는 것을 목표로 한다. 기존의 임베딩 기반 방법은 그래프 위상을 효과적으로 포착하지만, 고정된 멀티모달 표현은 질의별 세밀한 의미 추론에 덜 효과적이며, 생성 기반 방법은 잡음이 섞인 검색에 취약하고 유효하지 않은 개체를 생성할 수 있다. 이러한 문제를 해결하기 위해 우리는 MKGR을 위한 잡음 인지 생성 프레임워크 NaviGATE를 제안한다. NaviGATE는 먼저 그래프에서 도출한 구조 표현을 텍스트 의미와 정렬한 다음, 멀티모달 개체 요약과 주입된 구조 토큰으로 멀티모달 언어 모델을 미세 조정하여 구조 인지 내부 지식 활성화를 수행한다. 잡음 인지 이중 뷰 지시 튜닝 단계에서 NaviGATE는 검색 비의존 뷰와 검색 인지 뷰를 함께 최적화한다. 신뢰할 수 있는 검색 후보는 대조적 로짓 선명화를 통해 강화하고, 오도하는 후보는 파라미터 일관성 증류를 통해 억제한다. 추론 시에는 구조 제약 디코딩이 생성을 대상 지식 그래프의 유효한 개체로 제한한다. 표준 벤치마크 실험에서 NaviGATE는 강력한 단일모달, 멀티모달, 생성 기반 기준선을 일관되게 능가하며, 잡음이 있는 검색 시나리오에서도 강건함을 유지한다.
소형 언어 모델을 구축하려면 공개된 개선 사항 중 어떤 것을 조합할지 선택해야 한다. 우리는 동일한 데이터와 학습 예산으로 같은 모델에서 다섯 가지 변경을 비교한다. 선택한 조합을 시험하고 각각을 두 번째 랜덤 시드로 반복한다. 전문가 혼합 레이어, Muon 최적화, Gated DeltaNet 하이브리드가 가장 큰 이득을 준다. 추가 정규화도 도움이 되는 반면, 파라미터 예산을 맞춘 어텐션 게이트는 평균적으로 거의 이득을 더하지 못한다. 이득은 대체로 결합되지만, 변경 사이의 작은 상호작용은 반복 실행에서도 다시 나타난다. 또한 반복을 통해 초기 통계 추정치가 잡음으로 취급했던 이점이 드러난다. 이러한 결과는 우리의 소형 모델 학습 설정에 적용되며, 전문가 모델은 총 용량도 더 크다. 실용적 교훈은 유망한 구성 요소를 함께 시험하고, 어떤 것을 유지할지 결정하기 전에 비교를 반복하라는 것이다.
멀티모달 개체 연결(MEL)은 멀티모달 문맥 속의 멘션을 지식 베이스의 특정 개체에 대응시켜 중의성을 해소하는 것을 목표로 한다. MEL의 핵심 과제는 멘션-개체 쌍 간의 의미적 일관성과 모달리티 간의 상호 보완적 상관관계라는 다층적 대응 관계를 포착하는 것이다. 그러나 기존 방법은 결합된 상호작용이나 거친 전역 집계에 의존하기 때문에 요소 지배 문제를 겪는 경우가 많다. 이에 본 논문에서는 Multi-Element Collaborative Interaction(MECI) 프레임워크를 제안한다. 먼저 다중 요소 멘션-개체 대응 관계를 포착하기 위해, 요소 지배를 완화하는 분리된 특징 학습을 위한 "분할 정복" 전략을 활용하는 Multi-view Experts Network를 개발하며, 이는 전문가의 특화와 협력을 제어하는 KL 기반 라우팅 메커니즘의 지원을 받는다. 나아가 모달리티 간 상호 보완적 상관관계를 모델링하기 위해 계층적 멀티모달 상호작용 모듈을 제안하는데, 여기서 동적 모달리티 인식 가중치 네트워크가 계층적 의미 수준에 걸쳐 상호작용을 정교화하여 다중 입도의 증거를 통합함으로써 요소 지배에 대응한다. 마지막으로 대규모 언어 모델을 활용해 제로샷 재순위화를 수행하는 생성적 의미 정제 단계를 도입한다. WikiDiverse, RichpediaMEL, WikiMEL에 대한 폭넓은 실험에서 MECI는 최신 베이스라인을 일관되게 능가했으며, Hits@1이 각각 1.95%, 7.30%, 2.31% 향상되었다.