NAVER LABS의 IWSLT 2025 인스트럭션 팔로잉 파이프라인을 IWSLT 2026 제한 조건에 맞게 재구현한 연구로, SeamlessM4T-v2-large 음성 인코더와 Qwen3-4B-Instruct LLM 백본을 적용하고 프로젝터 정렬, 텍스트 전용 LoRA 사전학습, 멀티모달 병합의 3단계 학습 방식을 유지했다. 10가지 음성 중심 태스크 유형에 걸쳐 10만 개의 합성 인스트럭션 팔로잉 데이터를 추가 구축하였으며, 최종 모델은 MCIF 벤치마크에서 EN-ZH 음성 번역 COMET 0.781, 영어 SQA BERTScore-F1 0.346을 달성했다.
게임 엔진은 실시간 시뮬레이션, 렌더링, 물리, 상호작용, 네트워킹, 에셋 파이프라인을 제공하므로, 게임뿐만 아니라 헬스케어, 로보틱스, 건축, 제조 등 다양한 분야의 3D 애플리케이션에서도 높은 가치를 지닌다. 게임 개발은 이러한 시스템이 가장 성숙하고 공개적으로 이용 가능한 분야이기 때문에, 상태 기반(stateful)의 인터랙티브한 실시간 시스템 내에서 C++ 코드를 수정해야 하는 코딩 에이전트(coding agent)를 평가하기 위한 실용적인 테스트베드를 제공한다. 우리는 9개의 실제 게임 저장소를 기반으로 구축된, Unreal Engine 5 프로젝트 내의 범위가 한정된 C++ 구현 태스크에서 코딩 에이전트를 평가하기 위한 벤치마크인 GameEngineBench를 제시한다. 평가 세트는 게임플레이 메커닉, 멀티플레이어 동작, AI 및 월드 오케스트레이션, 애니메이션 및 이동, UI 및 세션 코드, 로딩 동작, 온라인 서비스 통합, 영속성, 데이터 직렬화, XR 동작, 렌더링 지향 플러그인에 걸친 110개의 태스크로 구성된다. 이 태스크들은 실행 가능한 Unreal Engine 프로젝트 내에서 컴파일되고 동작 테스트를 만족하는 네이티브 C++ 변경을 모델이 수행하도록 요구한다. 12개의 평가 구성에서 가장 강력한 모델은 55.5%의 pass@1에 도달하였으며, 31개의 태스크는 모든 구성에서 미해결로 남았다. 우리의 결과는 최전선 코딩 에이전트가 실시간 인터랙티브 소프트웨어를 위한 깊이 통합된 C++ 개발에 여전히 어려움을 겪고 있음을 보여주며, 게임 엔진 벤치마크가 기존 소프트웨어 엔지니어링 평가를 보완하는 가치 있는 수단임을 강조한다.
대규모 언어 모델(LLM)을 기반으로 구축된 멀티 에이전트 시스템은 복잡한 추론, 계획, 도구 사용 작업을 해결하기 위한 주류 패러다임이 되었습니다. 이러한 시스템에서 지배적인 통신 프로토콜은 자연어입니다. 에이전트는 토큰 단위로 메시지를 교환하며, 동료 에이전트가 읽고, 검증하고, 응답할 수 있도록 내부 추론 과정을 언어화합니다. 편리하고 해석 가능하지만, 이 프로토콜은 높은 추론 비용, 이산화 과정에서의 되돌릴 수 없는 정보 손실, 그리고 자연어의 모호성 및 중복성이라는 세 가지 구조적 단점이 있습니다. 따라서 점점 더 많은 연구가 대안 프로토콜인 '잠재 통신(latent communication)'을 탐색하고 있습니다. 잠재 통신에서는 에이전트가 텍스트 생성이라는 병목 현상을 우회하여 임베딩, 은닉 상태, 또는 KV 캐시와 같은 연속 표현을 직접 교환합니다. 본 논문은 잠재 통신에 관해 급속도로 확장되는 문헌을 체계화하기 위한 통합 프레임워크를 제시합니다. 우리는 세 가지 직교하는 축을 따라 기존 방법들을 분석합니다: (1) 어떤(WHAT) 정보가 전달되는지(임베딩, 은닉 상태, KV 캐시, 또는 기타 연속 상태), (2) 어떤(WHICH) 송신자-수신자 정렬이 사용되는지(잠재 공간 정렬 및 층 정렬), (3) 전달된 정보가 수신자에게 어떻게(HOW) 융합되는지(연결, 앞에 붙이기, 수학적 연산, 크로스 어텐션, 또는 캐시 복원). 이 3축 프레임워크 하에서 우리는 2024년부터 2026년 사이에 제안된 18가지 대표적인 방법을 체계적으로 분류하고, 5가지 주요 설계 패턴을 식별하며, 교차 아키텍처 정렬, 잠재 채널의 보안, 엣지 배포를 위한 압축, 그리고 잠재 통신과 잠재 사고의 연쇄(latent chain-of-thought) 간의 관계를 포함한 일련의 미해결 과제를 제시합니다. 우리는 이 프레임워크가 새로운 연구자들의 진입 장벽을 낮추고 미래 연구를 비교할 수 있는 어휘를 제공하기를 바랍니다.
디지털 텍스트 정보의 급격한 증가로 인해 자동 텍스트 요약의 중요성이 날로 커지고 있다. 본 논문은 추상적 텍스트 요약의 견고성과 품질을 향상시키기 위해 설계된 다중 모델 요약 프레임워크를 제안한다. 단일 모델에 의존할 경우 구조와 주제가 다양한 기사에 걸쳐 요약 품질이 일관되지 않는 문제가 발생한다. 이러한 한계를 해결하기 위해 제안된 프레임워크는 파인튜닝된 여러 트랜스포머 기반 요약 모델을 통합하고 메트릭 기반 선택 메커니즘을 도입한다. 이 프레임워크에서 각 모델은 동일한 입력 기사에 대해 독립적으로 후보 요약을 생성한다. 생성된 요약들은 어휘적 유사도와 의미적 관련성을 모두 포착하는 자동 평가 메트릭을 통해 평가된다. 이 점수를 기반으로 프레임워크는 가장 높은 품질의 요약을 최종 출력으로 선택한다. 모델들은 널리 사용되는 CNN/DailyMail 뉴스 요약 데이터셋에서 파인튜닝 및 평가되었다. 실험 결과, 제안된 프레임워크는 비교된 모든 방법 중 88.63%의 점수로 가장 높은 BERTScore를 달성하였다. 또한 GPT3-D2, Falcon-7b, Mpt-7b 등 여러 대규모 언어 모델(LLM)을 능가함으로써 그 효과성과 견고성을 입증하였다. 이러한 결과는 메트릭 기반 선택 전략 내에서 여러 트랜스포머 기반 모델을 활용하는 것이 자동 텍스트 요약 시스템의 품질과 견고성을 향상시키는 데 효과적임을 보여준다.
현재 연구는 주로 모델 성능에 초점을 맞추고 있으며, 대규모 언어 모델(LLM)이 주석 데이터 생성에 점점 더 많이 사용되는 맥락에서 특히 불확실성 추정(uncertainty estimation)에는 비교적 적은 관심이 기울여져 왔다. 우리는 컨포멀 예측(conformal prediction)을 협업 필터링(Collaborative Filtering) 방식의 주석자 표현과 결합하여, 인간 주석자와 관련한 LLM 행동을 모델링하고 일치 및 불일치 패턴을 분석하는 프레임워크를 제안한다. 비일치 점수(Non-Conformity Scores)를 사용하여, 모델 예측이 사용 가능한 모든 인간 주석과 달라지는 경우를 정량화하는 Ghost Prediction 지표와 Ghost Annotator 표현을 도입한다. 사회인구통계학적 축에 걸친 모델 행동 차이를 탐색하기 위해 코사인 유사도 측도를 계산한다. 네 개의 콘텐츠 모oderation 데이터셋에서 서로 다른 크기와 계열의 LLM 네 개를 평가했다. 결과는 모든 모델에서 주석자 간 불일치가 커질수록 불확실성이 증가하지만, 더 큰 모델은 어떤 인간 주석과도 일치하지 않는 텍스트의 분류에서 더 높은 확신을 보이는 경향이 있다는 것을 보여준다. 마지막으로, Ghost Annotator 프레임워크는 일관되고 견고한 인구통계학적 불일치 패턴을 드러내며, 이는 사전학습(pre-training) 코퍼스에 뿌리를 둔 구조적 바이어스일 가능성을 시사한다.
추론(reasoning) 기능이 활성화된 대규모 언어 모델(LLM)은 의료 추론 벤치마크에서 강한 성능을 보이지만, 이러한 이득이 구조화된 임상 문서 작성으로 이전되는지는 여전히 불분명하다. 본 연구는 OMI Health, ACI-Bench, PriMock57에 걸친 소스 인식(source-aware) 벤치마크에서 임상 대화로부터 SOAP 노트 생성을 사용하여 이 질문을 조사한다. 우리는 공급자 네이티브(provider-native) 추론과 동일 소스(same-source) 검색-증강 생성(RAG)을 독립적으로 전환하는 통제된 2×2 설계에서 GPT-5.4, DeepSeek-V4-Flash, Gemma-4-E4B를 평가한다. 출력은 참조 인식(reference-aware) LLM 심사관 2개와 함께 7개의 자동 지표로 평가된다. 두 평가 방식 모두 비추론(non-reasoning) GPT-5.4 구성이 전반적 품질에서 최고 성능을 달성한다는 데 동의하며, DeepSeek-V4-Flash는 추론 활성화 구성 중에서 최고 성능을 보인다. 추론을 활성화하면 세 데이터셋 전체에서 GPT-5.4 성능이 유의미하게 저하되는 반면, 동일 소스 RAG는 더 작고 모델에 따라 다른 개선을 가져온다. 전반적으로, 이러한 발견은 충실도(fidelity)에 민감한 SOAP 노트 생성에서 더 강한 추론 능력이 향상을 가져올 것이라고 가정해서는 안 되며, 전용의 과제별 평가 없이는 그렇지 않음을 시사한다.
본 논문은 러시아 정부의 상호 연계된 멀티모달 정치 커뮤니케이션 데이터셋을 소개하며, 권위주의 정치 맥락에서 텍스트 및 이미지 기반 사회 데이터의 가용성에 지속적으로 존재하는 한계를 다룬다. 이 데이터셋은 수십 년에 걸쳐 크렘린 및 러시아 외교부의 고위 인사가 발표한 공식 연설로 구성된 두 개의 대규모 말뭉치로 이루어져 있다. 각 연설에 대해 러시아어 및 영어 텍스트, 가능한 경우 관련 이미지와 캡션, 그리고 날짜, 발언자, (지리)위치, 공식 정부 콘텐츠 태그 등을 포함하는 정합화된 메타데이터를 제공한다. 고유 식별자를 통해 이미지를 연설에 연결하고, 동일한 커뮤니케이션 텍스트의 러시아어 및 영어 버전을 정렬한다. 또한 이러한 연계 데이터셋에 연설 텍스트와 연설 이미지 모두에 대한 검증된 주제(topic) 주석을 추가하며, 이는 트랜스포머 기반 멀티모달 토픽 모델링을 통해 생성되고 러시아 정치 전문가에 의해 정제된다. 결과적으로 만들어진 데이터 리소스는 (권위주의) 정치 커뮤니케이션의 멀티모달, 다국어, 시간적 및/또는 공간적 분석을 지원하며, 사회과학 연구와 정치 분야의 대규모 언어 모델(LLM) 응용을 위한 유용한 테스트베드를 제공한다.
대규모 언어 모델(LLM)은 과학적 글쓰기에 점점 더 많이 사용되지만, 그럴듯해 보이나 서지 정보 검증에 실패하는 인용 형태의 참고문헌을 만들어낼 수 있다. 기존 탐지기는 종종 검증을 발견/미발견의 이분법적 판단으로 축소하고, 취약한 파싱이나 불완전한 검색에 의존하여 감사자에게 필드 수준의 신호를 거의 제공하지 못한다. 우리는 인용 환각 탐지를 분류체계에 정렬된 필드 수준의 판정으로 재구성하고, Real, Potential, Hallucinated 인용을 아우르는 12개 코드 분류체계를 도입한다. 이 분류체계를 바탕으로 CiteTracer를 구축한다. CiteTracer는 PDF와 BibTeX에서 구조화된 인용을 추출하고, 캐시 조회, URL 페치, 학술 검색 커넥터, 웹 검색을 통해 증거를 검색하며, 결정론적 필드 매칭을 적용하고, 모호한 사례를 클래스 전문 판정 에이전트로 라우팅하는 계단식 다중 에이전트 탐지기이다. 우리는 실제 시드에서 통제된 LLM 변이로 구축한 2,450개의 합성 인용으로 이루어진 벤치마크를 공개하며, ICLR 2026과 익명 학회의 사전 심사 거절 투고에서 추출한 957개의 실세계 조작 인용과 짝을 이룬다. CiteTracer는 합성 벤치마크에서 97.1% 정확도를 달성하며, Real, Potential, Hallucinated에 대해 각각 97.0, 95.8, 98.5의 클래스 수준 F1 점수를 기록하고, 실세계 데이터셋에서 기권(abstaining) 없이 조작의 97.1%를 탐지한다. Code: https://github.com/aaFrostnova/CiteTracer.
사람과 대규모 언어 모델(LLM)이 동일한 텍스트를 처리할 때, LLM의 활성화는 기능적 자기공명 영상(fMRI) 등으로 측정된 뇌 활동과 상관을 보인다. 더 나아가 LLM의 학습이 진행될수록, 그 내부 활성화로부터 뇌 활동을 예측하는 성능은 우반구보다 좌반구에서 더 크게 향상된다는 것이 밝혀졌다. 본 연구는 LLM이 습득한 어떤 종류의 능력이 이러한 좌-우 비대칭의 출현을 뒷받침하는지 이해하는 것을 목표로 한다. 다양한 학습 체크포인트의 OLMo-2 7B 언어 모델과 영어 화자 참가자의 fMRI 데이터를 사용하여, 뇌 활동과 모델 예측 간 상관에서의 좌-우 비대칭 변화를 여러 벤치마크 성능과 함께 비교한다. 우리는 이 비대칭이 LLM의 형식적 언어 능력과 함께 출현함을 관찰한다. 이러한 능력은 두 가지 방식으로 입증된다. 하나는 최소 대조 쌍 내에서 문법적으로 허용 가능한 문장에 허용 불가능한 문장보다 더 높은 확률을 부여하는 모델의 능력이고, 다른 하나는 잘 형성된(well-formed) 텍스트를 생성하는 능력이다. 반면, 좌-우 비대칭은 산술(arithmetic) 또는 Dyck 언어 과제에서의 성능과도, 세계 지식 및 추론을 포함하는 텍스트 기반 과제와도 일치하지 않는다. 우리는 이러한 결과를 다른 LLM 계열(Pythia)과 프랑스어와 중국어의 두 다른 언어로 일반화한다. 우리의 관찰은 뇌 예측력(predictivity)에서의 좌-우 비대칭이 형식적 언어 능력의 진행과 일치함을 나타낸다.
대규모 언어 모델(LLM)이 자율 작업을 위해 방대한 컨텍스트 윈도우(context window)를 작업 메모리로 점점 더 활용하면서, 실제 코퍼스에서 정보가 어떻게 분포되어 있는지에 따라 그 신뢰성이 크게 달라진다. 우리는 확장성을 고려해 설계된 모델에 구애받지 않는 확장 needle-in-a-haystack 벤치마크를 도입하고, 이를 Gemini-2.5-flash, ChatGPT-5-mini, Claude-4.5-haiku, Deepseek-v3.2-chat 평가에 적용함으로써, 사실 배치, 코퍼스 수준 분포, 그리고 환각 억제("Don't Make It Up") 프롬프트가 모델 행동에 어떤 영향을 미치는지 조사한다. 기존 연구와 달리, 우리는 문자 그대로의 추출, 논리적 추론, 환각 위험을 별도로 평가한다. 우리는 두 가지 핵심 실패 양상을 확인한다: 증거가 분산될 때 성능이 크게 저하되는 분포 붕괴(Distributional Collapse); 그리고 환각 억제 프롬프트가 존재하는 사실과 증거에 대해 과도하게 보수적으로 거부하여 정확도를 급격히 떨어뜨리는 안전성 세금(Safety Tax). 우리 결과는 많은 실패가 부효과적인 컨텍스트 활용에서 비롯됨을 시사한다. 모델은 관련 정보가 존재하더라도 이를 우선순위화하는 데 어려움을 겪기 때문이다. 이러한 발견은 장기간 에이전트(agentic) 워크플로에서의 신뢰할 수 있는 배포를 보장하기 위해 모델별 견고성과 효과적인 컨텍스트 관리의 필요성을 강조한다.
대규모 언어 모델(LLM)이 사회에서 점점 더 중요한 역할을 차지함에 따라, 모델은 일반 지식에 의존하는 것뿐만 아니라 특정 인간 가치 체계에 부합해야 하는 질문들을 점점 더 자주 마주하게 된다. 따라서 LLM의 인간 가치와의 정렬(alignment)을 연구하는 것은 중요한 연구 분야가 되었다. 그러나 기존 연구는 대부분 완전히 학습된 모델의 정렬을 평가하는 데 초점을 맞추어, 모델이 인간의 가치를 표현하도록 학습되는 학습 역학을 간과해 왔다. 본 연구에서는 모델의 사후 학습 과정에서 가치 정렬이 어떻게, 그리고 어느 단계에서 발생하는지 조사한다. 우리의 분석은 사후 학습 알고리즘과 데이터셋의 효과를 분리하여, 학습 중 가치 표류의 크기와 시점을 측정한다. 서로 다른 크기의 Llama-3 및 Qwen-3 모델과 널리 사용되는 지도 미세조정(SFT) 및 선호도 최적화 데이터셋과 알고리즘으로 실험한 결과, SFT 단계가 일반적으로 모델의 가치를 확립하며, 이후의 선호도 최적화는 이러한 가치를 거의 재정렬하지 않는다. 또한 가치를 통제된 방식으로 조작할 수 있는 합성 선호도 데이터셋을 사용하여, 선호도 데이터를 일정하게 유지하더라도 서로 다른 선호도 최적화 알고리즘이 서로 다른 가치 정렬 결과로 이어진다는 것을 발견했다. 우리의 발견은 사후 학습 중 가치가 어떻게 학습되는지에 대한 실행 가능한 통찰을 제공하며, 데이터 큐레이션과 인간 가치에 대한 모델 정렬을 개선하기 위한 모델 및 선호도 최적화 알고리즘 선택에도 도움이 된다.
정책 입안자들은 실무에서 국민에게 의미 있는 이익을 기대하며 개인정보보호법을 제정하고 개정한다. 학계에서는 일부 개인정보보호 규제—특히 EU와 캘리포니아—의 실제 영향을 측정해 왔지만, 어떤 형태든 개인정보보호 입법을 시행한 140개국 이상 중 다수에 대해서는 제한적인 실증적 증거만 존재한다. 스위스는 EU 국가들과 거의 전면을 접하고 있는 다국어 국가로, 그러한 사례 중 하나이다.
본 논문은 2023년 스위스 개인정보보호법을 EU 개인정보보호 규제에 맞춘 개정이 스위스 내 웹사이트 개인정보 처리방침에 어느 정도 영향을 미쳤는지 분석한다. 스위스의 독특한 다국어 문화를 다루기 위해, 우리는 번역 없이 단일 추론(inference)에서 법적으로 관련 있는 정보를 문서 수준 라벨로 추출하는 LLM 기반 파이프라인을 개발한다. 독일어, 프랑스어, 이탈리아어, 영어로 작성된 전문가 주석 120건의 개인정보 처리방침 벤치마크에서, 우리 파이프라인은 대부분의 언어 쌍과 법적으로 관련 있는 공시 항목에 대해 0.90 이상의 F1 점수를 달성한다.
2023년 개인정보보호법 개정 전후에 35,000개 이상의 스위스 및 EU 대상 웹사이트에서 수집한 개인정보 처리방침에 이 파이프라인을 적용한 결과, 스위스 개인정보 처리방침에서 정보주체 권리에 대한 의무 및 자발적 공시가 모두 유의미하게 증가한 것으로 나타난다. 공시율 상승을 이끄는 메커니즘을 탐구하는 과정에서, 자동화된 개인정보 처리방침 생성기의 광범위한 사용을 확인했으며, 생성된 처리방침은 최대 15퍼센트포인트 더 높은 공시율과 연관되는 것으로 나타난다. 이러한 결과는 독특한 다국어 환경에서 규제 변화와 새로운 작성 기술이 개인정보 처리방침의 내용에 미치는 영향에 대한 대규모 실증적 증거를 제공한다.
대규모 언어 모델(LLM)은 채용 및 대학 입학과 같은 고위험 의사결정에 점점 더 많이 사용되고 있어, 그 사회적 바이어스가 중요한 우려사항이 되고 있다. LLM은 명시적으로 편향된 요청을 거절하도록 학습되지만, LLM의 계획 및 추론 과정에서 바이어스가 암묵적으로 누출될 수 있다. 코드가 LLM의 내부 논리 작성의 주요 매체가 되면서, 우리는 의사결정을 코딩 과제로 구성하여 고용, 교육, 의료 분야에 걸쳐 여러 공정성 정의를 포괄하며 LLM 바이어스를 체계적으로 탐색하는 벤치마크인 FairCoder를 제안한다. LLM이 요청을 자주 거절할 때 기존 지표가 실패할 수 있다는 점을 고려하여, 거절 행동과 그룹 수준 결과 다양성을 함께 포착하는 지표인 FairScore를 제안한다. 강력한 LLM을 대상으로 1k 샘플 데이터셋으로 실험한 결과, 대학 입학에서 고소득 가족 출신 지원자를 우선시하는 것과 같은 일관되고 이전에 충분히 탐구되지 않았던 바이어스 패턴이 드러난다. 우리의 발견은 LLM을 의사결정 에이전트로 배치할 때의 위험을 강조하며, 향후 연구를 위한 포괄적인 평가 프레임워크를 제공한다.
다중 턴(multi-turn) 에이전트는 최종 답을 생성하기 전까지 도구 상호작용의 긴 연속 과정을 통해 복잡한 작업을 해결하므로, 사후 학습에서 크레딧 할당(credit assignment)이 근본적인 과제가 된다. 결과 보상(outcome reward)은 단기 호라이즌 추론에 대해 신뢰할 수 있는 감독을 제공하지만, 궤적이 수십 또는 수백 번의 도구 호출로 늘어나면 희소해지고 분산이 커진다. 또한 결과 보상은 오해의 소지가 있다. 실패한 롤아웃에는 목표에 에이전트를 더 가까이 이끄는 유용한 행동이 많이 포함될 수 있지만, 결과만을 사용하는 학습은 그러한 행동들에 최종 실수와 동일한 음의 advantage를 부여한다. 우리는 에이전틱 강화학습(agentic reinforcement learning)을 위한 밀집(dense) 크레딧 할당 방법인 TRACE(Turn-level Reward Assignment via Credit Estimation, 크레딧 추정을 통한 턴 단위 보상 할당)를 제안한다. TRACE는 롤아웃을 도구 호출 경계에서의 상태 전이(state transition)로 표현하고, 고정된 참조 모델(frozen reference model)로부터 정답(gold-answer) 로그 확률(log-probability)을 얻어 이를 로그 비율(log-ratio) 상태 가치(state value)로 변환하며, 해당 가치의 시간차(Temporal-Difference, TD) 변화량으로 행동별 보상을 도출한다. 이는 추가 critic이나 프로세스 레이블(process-label) 학습이 필요 없으며, 1단계(one-step) 로그 비율 TD 구성요소가 중복된 도구 호출 전체에 걸쳐 망원(telescope) 효과를 낸다. 장기 호라이즌 복합 검색에서 TRACE는 콜드스타트 지도 미세조정(cold-start supervised fine-tuning) 단계, 에이전틱 중간 학습(agentic mid-training) 단계, 또는 실시간 웹(live-web) 데이터 학습 없이 순수 강화학습(pure RL)만으로 기본 모델의 도구 사용 능력을 크게 향상시킨다. 폐쇄 웹(closed-web) BrowseComp-Plus 벤치마크에서 Qwen3-4B를 $7.2$에서 $35.6$으로, Qwen3-30B-A3B를 $8.4$에서 $42.6$으로 끌어올린다. 학습된 검색 행동은 공개 웹(open-web) 벤치마크로도 전이(transfer)되며, 학습 곡선은 강화학습 학습 중 더 빠른 초기 개선과 더 빠른 수렴을 보여준다.
직렬 검증 게이트는 LLM 하네스의 핵심 신뢰성 원자 연산으로, 후보 답은 $k$번의 검증자 호출이 모두 수락할 때만 반환된다. 조건부 독립 게이트 하에서 최근 Odds Law(arXiv:2606.15712)는 사후 로그-오즈가 $k$에 대해 선형적으로 증가하여 실패가 지수적으로 감소함을 보이며, "부분 상관 검증자 캐스케이드에 대한 엄밀한 이론은 아직 열려 있다"고 밝힌다. 본 노트는 이에 대한 최소한의 이론을 제시한다. 생성기 자체 오류에 대한 인스턴스별 오수락률을 잠재 변수 $α\sim G$(de Finetti)로 모델링하면, 정확한 캐스케이드 사후는 $m_k$가 $G$의 $k$번째 모멘트일 때 $\ell_k = \ell_0 - \ln m_k$이다. 이어서: (i) 모든 비퇴화 $G$에 대해 $\ell_k$는 $k$에 대해 오목하며—Odds Law는 첫 번째 게이트에서의 접선이자 상한이다; (ii) Beta$(a,b)$ 잠재 변수의 경우 실패는 다항식적으로 감소하고 $1-r_k \asymp k^{-b}$이며, 상관 매개변수는 $ρ_v = 1/(a+b+1)$이다; (iii) $α=1$에서 질량 $1-π$인 맹점 원자가 임의 개수의 게이트에서 추출 가능한 증거를 $-\ln(1-π)$ nat으로 상한하므로 신뢰성은 1 미만에서 포화된다; (iv) 참 수락률도 변하게 하면($β\sim H$) 삼분류가 나타난다—게이트가 결국 항상 도움이 되거나, 정체되거나, 적극적으로 해가 된다—이는 $G$와 $H$의 상꼬리 지수에 의해 결정되며 폐형식 교차점 $k^\dagger$이 존재한다. 그 메커니즘은 생존者偏倚(survivorship)로, 게이트를 통과하는 오류는 높은 $α$를 가진 것들이다. 이 이론은 측정 가능하다: 인스턴스당 $R$번의 반복 판정은 $G$의 처음 $R$개 모멘트를 식별하므로 두 번의 판정으로 $ρ_v$를 식별할 수 있다; beta-이항 가능도와 NPMLE는 신뢰성 곡선과 ill-posed 상한을 복원한다. 합성 테스트에서 독립성 기반 외삽은 $k=5$에서 20배, $k=10$에서 약 3000배 실패를 과소추정하고, $R=8$에서의 상관 적합은 hold-out 깊이를 추적한다. 실용적 레버는 게이트를 추가하는 것이 아니라 비상관화—모델 패밀리, 모달리티, 또는 증거 출처를 바꾸는 것—이다.
대규모 언어 모델(LLM) 기반 침입 탐지 시스템(IDS)은 보안 모니터링을 위해 점점 더 연구되고 있지만, 실행 가능한 트래픽 조작에 대한 견고성은 여전히 대체로 경험적 수준에 머물러 있다. 본 논문은 트래픽 인식 무작위 평활화(TA-RS)를 제안하며, 이는 분류기에 구애받지 않는 인증 방어 기법으로, 미세조정과 인증 모두에서 원격 공격자가 수정할 수 있는 특성, 즉 직접 제어 가능(DC) 부분공간에만 가우시안 노이즈를 주입하여 평활화 분포를 공격자가 제어 가능한 부분공간과 정렬한다. 우리는 중요한 전제 조건을 확인한다. 표준 무작위 평활화를 클린 학습된 LLM-IDS에 적용하면, 테스트한 네 가지 (모델, 데이터셋) 쌍 중 세 쌍에서는 약한 인증 정확도(14-33%, 무작위 수준이거나 그 이하)만, 네 번째에서는 57%(노이즈 증강 결과보다 43 pp 낮음)만 달성한다. 노이즈 증강 미세조정은 세 벤치마크 데이터셋 중 두 개에서(sigma=0.25) 68-100%로 회복한다. L_inf 등가 임계값 R_inf = epsilon*sqrt(|DC|) (epsilon=0.05)에서 TA-RS는 CIC-IDS-2018과 HIKARI-2021에서 55-100%의 인증 정확도를 달성하며, 중앙값 인증 반경(R approx 0.45-0.96)은 R_inf를 1.8-5배(sigma=0.25-1.00) 초과한다. 공정하게 학습된 등방성 RS 기준선 대비 잔여 이점은 데이터셋에 따라 달라진다(CIC-IDS-2018에서 4-19 pp). 더 큰 격차, 즉 DC-노이즈-증강 학습 레시피를 공유하는 등방성 RS 기준선 대비 최대 72 pp, 는 주로 DC 정렬만이 아니라 학습-인증 불일치를 반영한다. 등방성 테스트 시점 노이즈는 공격자가 악용할 수 없는 제어 불가능 특성을 교란하여 최대 68%의 기권 비율을 유발한다. RT-IoT2022는 이 방법의 한계를 시험한다. 기본 미세조정 레시피에서는 실패하지만, 노이즈 증강을 늘리면 76%/69%의 인증 정확도(LLaMA3-8B/Qwen3-8B)로 회복한다.
여러 해답을 샘플링하고 다수결 답을 반환하는 방식은, 라벨 없이 대규모 언어 모델(LLM)의 추론 정확도를 높이는 가장 신뢰할 수 있는 방법 중 하나이며, 점점 더 많은 방법군이 이 합의(consensus) 신호를 학습 감독(supervision)으로 변환하고 있다. 그러나 기존 접근법들은 합의를 제한된 형태로만 사용한다: 미세조정을 위한 해답 선별 필터, 답변 간 선호도, 또는 강화학습의 스칼라 보상으로, 동의하는 해답들이 담고 있는 정보의 대부분을 버린다. 우리는 CANON(Consensus-ANchored self-distillatiON)을 제안한다. 이는 합의를 밀집적 토큰 수준의 감독으로 변환하는 라벨 없는 학습 방법이다. 각 라벨 없는 프롬프트에 대해 CANON은 여러 해답을 샘플링하고, 다수결 답을 추출한 뒤, 이를 달성하는 해답에 조건을 걸어 고정된 모델 스냅샷을 사용한다. 이 합의-고정(consensus-anchored) 교사는 모델이 자체 롤아웃(rollout)에서 생성하는 모든 토큰을 감독한다. 수학 및 과학 추론 벤치마크 실험에서 CANON은 pass@1을 최대 12포인트 향상시키며, 라벨 없는 강화학습을 7분의 1의 연산량으로 6포인트 능가하고, 정답(gold) 해답에 조건을 건 교사에 근접한다. 풀링된 라벨 없는 데이터로 학습하면 보류(hold-out) 벤치마크로 전이되며, 정답 라벨을 사용하는 학습 방법과 맞먹는다. 분석에 따르면 이러한 개선은 순수한 분포 샤프닝(sharpening)만은 아니다: 학습 후 모델은 이전에 32번 시도해도 풀지 못했던 문제를 해결하고, 다수결 투표 자체의 정확도도 높아진다.
우리는 ExTernD(Expanded-rank Ternary Decomposition, 확장-랭크 삼원 분해)를 제안한다. 이는 각 LLM 가중치 행렬 $A \in \mathbb{R}^{m \times n}$을 삼원 인수 $B \in \{-1,0,+1\}^{m \times k}$, $C \in \{-1,0,+1\}^{k \times n}$ 및 실수 스케일 벡터 $D \in \mathbb{R}^k$를 갖는 $A \approx B \mathrm{diag}(D) C$ 형태로 사후 학습 분해하는 방법이다. 내부 랭크 $k = μ\min(m,n)$은 의도적으로 full rank($μ> 1$)를 넘어 확장되어, full rank 이후의 성분들이 앞선 성분들의 양자화 오차를 보정한다. 우리는 잔차가 $k$에 대해 단조 감소하며 임의의 $\varepsilon > 0$ 아래로 낮출 수 있음을 증명한다. ExTernD는 bf16 정확도에 임의로 가깝게 접근하며, 고정된 평면 수를 갖는 어떤 삼원 방식도 이를 달성할 수 없다. 메모리와 연산량은 $μ$에 따라 연속적으로 스케일링되고, 인수 희소성은 임계값 $τ$에 따라 연속적으로 변하므로, 정확도 목표를 다음 비트 폭으로 반올림하는 대신 정확히 충족할 수 있다. ExTernD는 Gemma-4-E2B와 Qwen3.5-4B에서 행렬당 5.2–5.5 effective bpw(중요도 가중치 적용 시 5.1–5.5)로 Q4_K의 행렬별 정확도와 일치한다. $μ= 3$에서 Qwen3.5-4B 전체 변환 시 wikitext-2 perplexity는 10.10으로, bf16의 9.78(+3.2%)에 비해 ~5.7 effective bpw에서 Q4_K/Q5_K 정확도 구간에 근접한다.
아날로그 회로 토폴로지 설계 자동화는 점점 더 다양하고 맞춤화된 애플리케이션 요구를 충족하는 데 필요한 광범위한 수동 노력을 줄이는 데 필수적이다. 최근 연구에서는 사전학습된 언어 모델에 시퀀스-투-시퀀스 미세조정을 적용하여 사용자 사양으로부터 회로 토폴로지를 한 번에 직접 생성하는 방법이 제안되었다. 그러나 이러한 원샷(one-shot) 생성 방식은 기하급수적으로 증가하는 탐색 공간과 제한된 학습 데이터셋 때문에 복잡한 회로를 생성하는 데 실패했다. 본 논문에서는 아날로그 토폴로지 생성을 위한 테스트 타임 스케일링(test-time scaling)을 가능하게 하기 위해 시뮬레이터 안내 Monte Carlo Tree Search(MCTS)와 트랜스포머 기반 디코딩을 통합한 검색 강화 프레임워크 EXPLORE를 제안한다. EXPLORE는 언어 모델 사전분포(prior)를 활용하고 높은 신뢰도의 구조적 토큰(token)을 건너뛰어, 검색 중 토폴로지를 변경하는 결정에 비용이 큰 시뮬레이터 예산을 주로 할당한다. 6-구성요소 벤치마크에서 0.01의 엄격한 허용 오차 조건에서 EXPLORE는 원샷 생성 12%, 샘플링-필터 기준선 33%에서 성공률을 65%로 끌어올리고, 동일한 검색 예산 하에서 샘플링-필터 대비 MSE를 20% 이상 낮췄다. 이 결과는 EXPLORE가 아날로그 토폴로지 생성을 위해 구조화된 테스트 타임 검색과 LM 디코딩을 통합한 최초의 프레임워크임을 보여 주며, LLM 기반 설계 자동화를 스케일링(scaling)하기 위한 실용적인 진전이다.
최근 텍스트-투-오디오 모델은 고품질 오디오를 생성하지만, 여러 사운드 이벤트와 시간적 순서를 포함하는 인스트럭션을 따르지 못하는 경우가 많다. 이 격차는 기존 평가 및 학습 신호가 주로 전역 유사도나 지각적 품질에 중점을 두고, 인스트럭션 수준의 정확성에 대한 감독이 제한적이기 때문에 발생한다. 우리는 생성된 오디오에서 대상 이벤트의 존재와 시간적 관계를 검증하기 위해 오디오 인지 대규모 언어 모델(ALLM)을 세밀한 판정기로 사용하는 인스트럭션 수준 프레임워크를 제안한다. 벤치마크와 인간 검증을 통해 ALLM 판정을 검증한 후, 이들의 피드백을 사용해 직접 선호 최적화를 위한 선호 쌍을 구성한다. 또한 다중 이벤트 시간적 인스트럭션 준수를 평가하기 위한 내러티브 벤치마크인 S3Bench를 도입한다. 실험 결과, 제안 방법은 기존 벤치마크와 S3Bench 전반에서 이벤트 완전성, 시간적 순서, 그리고 결합 인스트럭션 준수 정확도를 향상시키면서 오디오 품질을 유지하는 것으로 나타났다.