arXiv:2111.00057

Word embeddings for topic modeling: an application to the estimation of the economic policy uncertainty index

Hairo U. Miranda Belmonte, Victor Muñiz-Sánchez, Francisco Corona

제출 2021-10-29

원문 초록

Quantification of economic uncertainty is a key concept for the prediction of macro economic variables such as gross domestic product (GDP), and it becomes particularly relevant on real-time or short-time predictions methodologies, such as nowcasting, where it is required a large amount of time series data, commonly with different structures and frequencies. Most of the data comes from the official agencies statistics and non-public institutions, however, relying our estimates in just the traditional data mentioned before, have some disadvantages. One of them is that economic uncertainty could not be represented or measured in a proper way based solely in financial or macroeconomic data, another one, is that they are susceptible to lack of information due to extraordinary events, such as the current COVID-19 pandemic. For these reasons, it is very common nowadays to use some non-traditional data from different sources, such as social networks or digital newspapers, in addition to the traditional data from official sources. The economic policy uncertainty (EPU) index, is the most used newspaper-based indicator to quantify the uncertainty, and is based on topic modeling of newspapers. In this paper, we propose a methodology to estimate the EPU index, which incorporates a fast and efficient method for topic modeling of digital news based on semantic clustering with word embeddings, allowing to update the index in real-time, which is a drawback with another proposals that use computationally intensive methods for topic modeling, such as Latent Dirichlet Allocation (LDA). We show that our proposal allow us to update the index and significantly reduces the time required for new document assignation into topics.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.21785v1cs.AI공통 태그 Time Series Analysis, Word Embeddings

계절성에서 의미론으로: 볼리비아 도로 봉쇄 예측을 위한 하이브리드 확률 예측 시스템 벤치마킹

From Seasonality to Semantics: Benchmarking a Hybrid Probabilistic Forecasting System for Roadblocks in Bolivia

볼리비아의 도로 봉쇄는 사회적 갈등 현상으로, 국내 총생산(GDP)의 4%에 해당하는 손실로 추산되는 파괴적인 경제적 영향을 미친다. 반복 발생과 그 영향에도 불구하고, 물류 의사결정을 위해 이러한 사건을 사전에 예측하는 현지 예측 시스템이 부족하다. 본 논문은 6년간의 볼리비아 뉴스 보도 코퍼스에 자연어 처리(NLP) 기법을 적용하여 시계열 분해(Prophet)와 통합하는 하이브리드 확률적 예측 시스템을 제시한다. 방법론은 도로 봉쇄가 실제로 발생하기 전 담화적 긴장 고조의 신호를 포착하기 위해 벡터 의미 임베딩(embedding)과 제로샷(zero-shot) 분류 모델을 사용한다. 1,762일에 걸쳐 확장형 워크포워드 검증(validation) 방식을 적용하고 7개의 예측 시점(H+1~H+7)에서 SARIMA와 LightGBM을 포함한 4개의 외부 벤치마크와 7개의 내부 구성을 비교했다. 결과는 하이브리드 구성(Prophet + NLP, C6)이 순수 통계 모델보다 지속적으로 우수한 성능을 보임을 보여주며, H+1에서 AUC-ROC 0.677을 달성하고 기준선(baseline) 시간 모델 대비 Brier Score를 10.9% 감소시켰다(0.220 vs. 0.247). 모든 평가 시점에서 통계적으로 유의한 오차 감소를 유지했다($p < 0.02$). 이 연구는 의미론적 뉴스 신호의 통합이 역사적 관성으로는 포착되지 않는 사회적 긴장의 정점을 탐지할 수 있음을 검증하며, 중요 운송 회랑의 리스크 관리를 위한 기술적 도구를 제공한다.

arXiv:2607.04832v1cs.CL공통 태그 Time Series Analysis, Word Embeddings

이탈리아 대중음악의 의미론적 균질화: 통시적 분석

Semantic Homogenization in Italian Popular Music: A Diachronic Analysis

최근 몇 년간 연구들은 스트리밍 플랫폼(특히 Spotify의 영어권 음악)에서 대중음악 가사의 의미론적 다양성이 감소하고 있음을 밝혀왔다. 본 연구는 이탈리아 최고 권위의 음악 경연 대회인 산레모 음악제(Sanremo Music Festival) 75회 전 부문 최종 후보 곡들의 가사를 분석 대상으로 삼아, 서로 다른 언어적·문화적 맥락에서도 유사한 경향이 나타나는지를 검토한다. 이 연구의 차별점은 의미론적 유사도의 시간적 변화를 추적하기 위한 유연하고 효율적인 방법론을 개발하고, 이를 다양한 데이터셋에 적용하여 유사한 현상을 연구할 수 있도록 한 데 있다. 전문(full-text), 구간(segment), 주제(topic), 단어 수준 분석을 결합하여 임베딩(embedding) 기법과 대규모 언어 모델(LLM)을 활용하는 이 접근법을 산레모 코퍼스에 적용한 결과, 의미론적 균질성이 점진적으로 증가하는 양상이 확인되었으며, 이는 선행 연구에서 식별된 글로벌 패턴과 일치한다. 이러한 연구 결과는 음악적 언어와 문화적 표현의 장기적 변화를 규명하는 데 있어 자연어 처리(NLP) 도구의 가치를 재확인시켜 준다.

arXiv:2610.10850v2cs.LG공통 태그 Time Series Analysis

유사한 예측 적합도와 상이한 잠재 동역학: 뇌 질환 맞춤형 모델에서 학습된 동역학적 구조 특성화

Similar Predictive Fit but Different Latent Dynamics: Characterizing Learned Dynamical Structure in Personalized Models of Brain Disorders

AI 모델이 임상 의사결정 및 맞춤형 치료로 나아감에 따라, 모델이 무엇을 학습하는지 이해하는 것은 단순한 예측 정확도를 넘어 매우 중요합니다. 본 연구에서는 예측 적합도가 유사하더라도 개인화된 잠재 동역학(latent dynamics)이 임상적으로 연관된 차이를 드러내는지 조사합니다. Temple University EEG Corpus(TUEG)로 사전학습된 경량 CNN-트랜스포머(Transformer) 뇌파(EEG) 파운데이션 모델을 사용하여 세그먼트 수준의 표현을 추출합니다. Temple University Epilepsy Corpus(TUEP)를 활용하여 표현들을 공유 잠재 상태 공간으로 매핑하고, 각 피험자에게 독립적으로 희소 다항 로지스틱 전이 분포(mLTD)를 적합하여 개인화된 전이 의존성 그래프 $W_n$을 얻습니다. 분석 대상은 $n{=}198$명의 피험자(뇌전증 99명 / 비뇌전증 99명)입니다. $k{=}4$에서 뇌전증 피험자는 훨씬 더 조밀한 학습된 의존성 구조를 나타내며($p{=}1.1\times10^{-7}$), $k{=}6$에서도 동일한 패턴을 보입니다(19.90 대 13.46; $p{=}5.2\times10^{-5}$). 그래프 유래 특징들은 5-겹 피험자별 교차 검증(cross-validation) 하에서 중간 수준의 집단 구별 능력을 제공합니다($k{=}4$에서 AUROC 0.68; $k{=}6$에서 0.65). 대조적으로, 홀드아웃 로그 가능도(log-likelihood)는 $k{=}4$에서 두 집단 간에 거의 동일하며($-0.992$ 대 $-0.991$; $p{=}0.95$), 다음 상태 예측 역시 유사하게 일치합니다(AUROC 0.855 대 0.861; $p{=}0.54$). 따라서 유사한 예측 적합도가 유사한 학습 동역학을 의미하지는 않습니다. 즉, 개인화된 모델이 학습한 내부 동역학 구조에는 상당한 차이가 있더라도, 두 집단은 대등한 수준으로 예측 가능할 수 있습니다. 이러한 차이는 개인화된 임상 모델에서 예측 성능과 함께 학습된 구조를 평가해야 할 필요성을 시사합니다.

arXiv:2607.12455v4cs.AI공통 태그 Time Series Analysis

EVOQUANT: 견고한 정량 트레이딩을 위한 자기 진화형 검증기 유도 전략 최적화

EVOQUANT: Self-Evolving Verifier-Guided Strategy Optimization for Robust Quantitative Trading

정량 전략 최적화는 여전히 대부분 수동으로 이루어지며, 도메인 전문가가 약한 신호를 식별하고, 리스크 관리 규칙을 조정하며, 반복적인 수정을 지속적으로 검증해야 한다. 대규모 언어 모델(LLM)은 이 과정을 가속할 수 있지만, 이를 직접 의존하여 트레이딩 전략을 재작성하면 환각(hallucination)으로 인한 수정, 전략 표류(strategy drift), 백테스트 과적합이 발생하는 경우가 많다. 우리는 정량 트레이딩에서의 전략 최적화를 위한 자기 진화형 검증기 유도(self-Evolving Verifier-guided) 프레임워크인 EVOQUANT를 제안한다. 우리 방법은 LLM을 활용해 성능 병목을 심층 진단하고, 의미적으로 통제된 후보 수정안을 생성하며, 다단계 검증 파이프라인을 통해 최적 전략을 선택하고, 최적화 경험을 재사용 가능한 지식으로 증류(distillation)하여 지속적인 자기 개선을 가능하게 한다. 우리는 대표 전략 일곱 개—A주 시장 네 개와 암호화폐 시장 세 개—를 사용해 방법을 평가한다. 실험 결과, 검증된 모든 전략에서 Sharpe ratio가 크게 향상됨을 보여준다: 평균 테스트 Sharpe는 -0.298에서 0.538로 증가했으며, 최고 성능 전략은 상대적으로 199% 개선을 달성했다. 더 엄격한 조건에서의 ablation 연구와 스트레스 테스트는 프레임워크의 효과와 견고함을 추가로 검증한다. 전반적으로, 본 연구는 정량 전략 최적화를 비용이 큰 수동 시행착오에서 자동화되고 검증 가능한 반복적 패러다임으로 전환하며, 금융 전략 연구에 대규모 언어 모델을 적용하는 새로운 경로를 제시한다.

arXiv:2607.06089v2math.ST공통 태그 Time Series Analysis

타원형 마할라노비스 판별 분석을 위한 폐형식 분수 방사형 링크

Closed-form fractional radial links for elliptical Mahalanobis discriminant analysis

우리는 두 클래스가 공유된 반경 생성자 $g$를 갖는 타원형 분포일 때의 이진 분류를 연구한다. 이때 로그 우도비는 두 제곱 마할라노비스 반경의 가법 함수이며, 반경 링크는 $\varphi=\log g$이다. 가우시안 클래스에서는 $\varphi$가 아핀이며 규칙은 이차 판별분석(QDA)으로 환원되고, 그렇지 않으면 베이즈 링크는 항등이 아니다. 이 링크를 스플라인 평활기로 적합하는 대신, 우리는 반경의 클래스 내 분포로부터 그 족을 유도하고 유한 분수 거듭제곱 사영을 추정한다. 반경 분포로부터 링크가 식별 가능하며, 플러그인 추정량이 유한 적률 조건에서 $\sqrt{n}$-일치성과 점근 정규성을 가지고, 유도된 분류기가 반복된 시브(sieve) 극한에서 점근적으로 베이즈 최적임을 증명한다. $d\ge2$이고 비중첩 클래스 모수인 경우, 항등 링크는 아핀(가우시안) 생성자에서만 충분하다. 이 브리지, GAM 소속, 그리고 이 이분법의 아핀 방향은 Lean 4에서 검증되었다. 우리는 Ghosh et al. (2025)의 전역 마할라노비스-GAM을 동일한 입력 예산으로 mgcv REML 스플라인을 사용해 재구현하여 비교한다. 두 UCI 벤치마크에서 유도된 링크는 적합된 GAM과 대등하다. 세 자산군의 금융 시계열 여섯 개에서, 시간 의존성을 존중하는 검증을 사용하면 적합된 GAM보다 유의하게 나쁜 경우가 없으며, CAD/USD에서는 더 낫고 나머지 다섯 개에서는 대등하다. 꼬리가 가장 두꺼운 세 시계열(원유 $[+0.023,+0.069]$, S&P 500 $[+0.039,+0.125]$, JPY/USD $[+0.009,+0.047]$)에서는 QDA를 능가하고 나머지에서는 대등하다. 닫힌 형태의 기준값을 갖는 속도 시뮬레이션은 $\sqrt{n}$ 속도를 재현하며, 공분산 이질성 하에서 QDA의 위험 하한과 유도된 링크의 소멸하는 초과 위험을 대비하여 보여 준다. 따라서 유도된 링크는 평활 모수 선택 없이도 조정된 GAM에 필적하며, 생성자가 가우시안에서 벗어나는 경우 QDA를 개선한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.