스티어링(steering)은 추론 시 선택된 활성화에 바이어스를 주입하여 대규모 언어 모델(LLM)을 정렬(alignment)하는 방법으로, 지도 미세조정이나 강화학습 같은 가중치 갱신 방식보다 훨씬 저렴한 대안을 제공한다. 그러나 기존의 학습 없는 스티어링 방법 대부분은 입력과 무관하다: 하나의 방향을 한 번만 적합(fit)한 뒤 모든 입력에 공통으로 사용한다. 서로 다른 입력은 활성화 공간의 서로 다른 영역을 차지하며, 동일한 목표 개념을 향할 때도 입력마다 최적의 스티어링 방향이 달라질 수 있기 때문에—고정된 손실에 대한 그래디언트가 입력마다 달라지는 것과 유사하게—이는 근본적인 한계다. 본 논문은 IDEEA(Input-Dependent stEEring via Activation cluster matching, 활성화 클러스터 매칭 기반 입력 의존적 stEEring)로 이 간극을 메운다. IDEEA는 어텐션 헤드마다 양·음성 활성화 지지(support)를 클러스터링하고, 최적 매칭 문제를 풀어 목표 개념에 관한 클러스터 조건부 방향들의 집합을 구성한다. 추론 시에는 이 방향 풀에서 입력 자체 활성화와 가장 잘 맞는 하나를 고르해 스티어링에 사용한다. IDEEA는 입력의 원래 표현을 보존하면서 모델을 목표 개념 쪽으로 정렬하며, 이는 개념을 인코딩하는 활성화가 표현 공간의 단일 영역이 아니라 여러 뚜렷한 부분 영역(sub-region)을 차지한다는 증거가 된다. IDEEA는 TruthfulQA에서 truth $\times$ info rate를 최고의 입력 무관 기준선 대비 평균 9.9%(최대 23.5%) 개선한다.
본 논문은 연속 확산 언어 모델(DLM)을 이용한 단일 스텝 시퀀스 생성을 위한 스코어 증류(score distillation) 기반 프레임워크인 DLM-One을 소개한다. DLM-One은 순방향 확산된 노이즈 공간에서 학생 모델 출력의 스코어를 사전학습된 교사 DLM의 스코어 함수와 정렬함으로써 반복적 정제 과정을 제거한다. 우리는 이 프레임워크가 아키텍처에 구애받지 않으며, 표준 토큰 임베딩 공간과 로짓 심플렉스(logit simplex) 공간을 포함한 다양한 연속 매니폴드에서 견고함을 보인다. 여러 대표적인 DLM에 대한 실험을 통해, DLM-One이 벤치마크 텍스트 생성 과제에서 경쟁력 있는 성능을 유지하면서 샘플링 스텝 수 기준 최대 약 2000배, 실제 소요 시간(wall-clock time) 기준 약 500배의 속도 향상을 달성함을 보인다. 또한 언어 도메인 확산 증류에서의 실패 양상을 분석하고, 학생 모델의 퇴화(degeneration)를 방지하기 위한 적대적 정규화 기반의 2단계 학습 방식을 제안한다. 본 연구 결과는 단일 스텝 스코어 증류가 자연어 처리를 위해 연속 공간에서 동작하는 연속 확산 모델을 효율적으로 배포하기 위한 실현 가능한 방안임을 시사한다.
우리는 대기업의 백오피스 인력 사이에서 생성형 AI(genAI) 활용의 정교함이 어떻게 달라지는지를 연구한다. 독점 데이터를 활용하여, 2025년 8개월 동안 15개 기능 부서에 걸친 약 4,000명의 백오피스 직원이 작성한 713,564개의 프롬프트와 그에 대응하는 대규모 언어 모델의 응답을 관찰한다. 우리는 세 가지 주요 발견을 제시한다. 첫째, 고위 직원일수록 더 정교하게 genAI를 활용하며, 이는 도메인 전문성이 genAI의 역량을 보완한다는 점과 부합한다. 둘째, 정교함은 부서별로 상당히 다르며, 전략, 디지털 혁신, 프로젝트 관리 부서에서 가장 높게 나타난다. 이 세 그룹은 전사적 전략 과제와 조직 변화에 초점을 둔다는 공통점이 있다. 셋째, 시간이 지남에 따라 정교함이 향상되는 모습도, 공식 AI 교육 이후 지속적인 향상도 관찰되지 않았으며, 이는 정교한 활용 방식을 바꾸기가 어려울 수 있음을 시사한다. 종합하면, 본 연구는 관리자가 성과를 개선하는 데 활용할 수 있고 연구자가 향후 연구에서 활용할 수 있는, 정교한 genAI 활용에 대한 측정 방법과 통찰을 제공한다.
문제 정의: 태양광 발전은 수요 증가를 충족하고 탄소 배출을 줄이기 위해 설계된 에너지 포트폴리오의 전략적 구성 요소이다. 정부와 지방 자치단체는 선불 리베이트와 세금 공제를 통해 가구의 가정용 광전(PV) 도입을 장려한다. 제한된 예산은 도입 동인과 인센티브가 도입률에 미치는 영향을 반영하는 원칙적이고 데이터 기반의 정책을 요구한다. 방법론/결과: 우리는 지금 설치하는 것과 나중에 설치하는 것 사이의 경제적 상충 관계를 저울질하는 미래 지향적(forward-looking) 가구의 도입 결정에 기반하여 주택용 PV 확산의 동적 구조 모델을 개발한다. 도입은 투자 수익률과 이웃 채택자의 영향에 달려 있다. 모델은 주택 가치와 도시화 수준으로 가구를 세분화하고, 관측되지 않는 이질성을 포함하며, 시공간적 설치 역학을 포착한다. 우리는 베이지안(Bayesian) 방법과 텍사스 오스틴의 상세한 가구 수준 데이터를 사용하여 모델을 추정한다. 표본 외(out-of-sample) 검증에서 이 모델은 동시대 대안보다 설치를 더 정확하게 예측한다. 우리는 리베이트 설계를 평가하기 위해 PV 확산의 동적 균형 내에서 반사실(counterfactual) 정책을 시뮬레이션한다. 이 프레임워크는 다른 내구재 기술의 도입 연구에도 적용할 수 있다. 경영적 시사점: 기간이 제한된 리베이트는 장기간·고비용 프로그램보다 더 많은 도입과 배출 감축을 만든다. 이 직관에 어긋나는 결과는 미래 지향적 행동, 이웃 영향, 그리고 리베이트 만료 전 도입 가속에서 비롯된다. 우리는 단계적 감축과 가구 세그먼트별 차등 리베이트도 평가한다. 2단계 감축은 여러 번의 소규모 감축보다 우수하다. 지역별 차등화는 정책 성과를 개선하는 반면, 주택 가치별 차등화는 균일 리베이트 대비 큰 이점을 제공하지 않는다.
재무제표 예측에서는 범용(generalist) 규모(scale)보다 전문(specialist) 학습이 더 낫다. 우리가 아는 한, 선행 연구는 1년을 넘어 완전한 재무제표를 공동(jointly) 예측한 적이 없으나, 할인현금흐름(DCF) 밸류에이션에서는 기업 가치의 대부분이 그 기간 이후에 있다. 우리는 ProForma-20Q를 공개한다. 이는 익명화된 기업에 대해 과거 재무제표와 산업 코드만으로 78개 재무제표 항목을 1~20분기 앞으로 예측하는 재현 가능한 벤치마크이며, 변화 공간(change-space) $R^2$로 채점한다. 이 벤치마크에서 Forma—재무제표를 (account, quarter, value) 튜플의 집합으로 읽고 마스크된 튜플 가우시안 가능度(likelihood)를 최대화하는 트랜스포머—는 우리가 투입한 모든 경쟁 방법, 즉 고전적 머신러닝, 연쇄(chain) 그래디언트 부스팅, 제로샷 시계열 파운데이션 모델, 최신 대규모 언어 모델을 능가한다. 격차는 예측 구간(horizon)이 길어질수록—밸류에이션이 정확도를 가장 필요로 하는 구간에서—더 벌어지며, 가우시안 예측 구간은 과소 커버리지(under-cover)를 일으키지 않는다. Forma의 예측은 회계 항등식을 거의 만족하며, 정확한 일관성(coherence)은 통계적으로 유의한 정확도 손실 없이 회복할 수 있다. 튜플 인터페이스는 재학습 없이 시나리오 분석을 지원하며, 미래 매출 경로를 고정(pinning)하면 재무제표의 나머지 항목 예측이 더 정교해진다는 것을 보인다.
바세르슈타인 정책 그래디언트(Wasserstein policy gradient, WPG)는 행동 공간에서의 수송(transport)을 통해 상태-조건부 행동 법칙을 업데이트합니다. 본 연구에서는 엔트로피 정규화된 할인 선형-이차(LQ) 제어를 다룹니다. 벨만 검증 논증(Bellman verification argument)을 통해 비제약 문제(unrestricted problem)가 선형-가우시안 최적 정책을 가짐을 보이며, 할인된 점유 가중 상태별 바세르슈타인 그래디언트(discounted-occupancy-weighted statewise Wasserstein gradient)가 이 정책 군(policy class)에 접함을 확인합니다. 따라서 WPG는 피드백 게인과 행동 공분산에 대한 유한 차원 상미분방정식(ODE)으로 정확하게 축약됩니다. 본 논문은 이 ODE가 대역적으로 잘 정의(globally well-posed)되며, 모든 허용 가능한 초기화로부터 지수적으로 수렴함을 증명합니다. 각각의 고정된 LQ 문제에 대해, 엔트로피 온도(temperature)가 0으로 갈 때 지수(exponent)는 양의 극한값을 가지며 $\exp(-c/τ)$ 형태의 섭동 요소를 포함하지 않는 한편, 제어 문제의 조건수(conditioning)에 대한 일반적인 의존성은 그대로 유지합니다.