When a learned representation is reused for a new task, which of its structure should survive? A task is a small category, a change of task is a functor $J$, and the invariants of a trained representation form a functor $F$. The left Kan extension $\operatorname{Lan}_JF$ is the invariant that the source and the change of task force on the target: by its universal property, every comparison of the source with an observed target invariant factors through it. The transfer discrepancy is the largest distance, over the target objects, between this extension and the observed invariant. For persistent homology the extension is a cokernel over comma categories, and a functorial version of the discrepancy, which also compares the maps between target objects, is $1$-Lipschitz under interleavings. On finite samples the discrepancy is a bottleneck distance, computed without approximation. For data glued from two pieces whose exclusive parts lie farther apart than the filtration scale, a Mayer-Vietoris sequence identifies what extending homology loses, while extending chains loses nothing. For a merge of labelled point clouds, the degree-zero discrepancy vanishes if and only if some $1$-Lipschitz classifier has a margin above the filtration scale at every sample point. In experiments on sampled manifolds, trained encoders and pretrained image models, every exact prediction holds on every sample. The discrepancy of truncated invariants recovers a hidden merge of separated parts far above chance and tells the intended target of a merge from a permuted control, but across pretrained models it does not track the accuracy of a linear probe.
부호 그래프(signed graph)는 엣지가 양수이거나 음수일 수 있으며 방향성을 가질 수도 있는 신뢰-불신 네트워크, 금융 상관관계 시스템, 생물학적 상호작용 그래프 및 기타 여러 도메인에서 발생합니다. 부호 그래프 신경망이 특정 태스크에 특화된 학습(training)을 향상시켰지만, 부호 그래프에서의 그래프 전이학습(transfer learning)은 여전히 미진한 상태입니다. 본 논문에서는 부호 그래프를 위한 선구적인 위상학 기반 그래프 사전학습(pre-training) 및 프롬프트(prompt) 학습 프레임워크인 TopoSIGN을 소개합니다. TopoSIGN은 자기 부호 라플라시안(magnetic signed Laplacian)을 기반으로 구축된 구조적 인코더와 Dowker 복합체 지속성 이미지(Dowker-complex persistence images)를 통해 부호 위상을 요약하는 새로운 지속성 호몰로지(persistent-homology) 브랜치를 결합합니다. 융합된 임베딩(embedding)은 이후 프롬프트 학습 함수로 전달됩니다. 합성 및 실제 데이터셋(dataset)에 대한 실험 결과는 부호 그래프에서 유용한 구조적 정보를 추출하는 TopoSIGN의 효능뿐만 아니라, 제안된 일반 프레임워크의 적응성과 유연성을 입증합니다.
최근 몇 년 동안 지속성 호몰로지(persistent homology)는 심층 학습(deep learning)에서 빠르게 도입되었으나, 그 연산 과정은 네트워크 학습(training)에서 여전히 주요한 병목점으로 남아 있습니다. 본 논문에서는 2D 및 3D 이미지로부터 유도된 큐비컬 복합체(cubical complex)의 지속성 다이어그램(persistence diagram)을 계산하는 GPU 스트리밍 파이프라인인 TopoGPU를 소개합니다. TopoGPU는 입력 이미지를 청크 단위로 스트리밍하여 GPU 블록 그리드 상의 대규모 병렬 GPU 커널로 각 청크를 처리하며, 그 결과로 얻어지는 경계 관계는 호스트 메모리에 누적되어 CPU가 경계 행렬 축약(boundary matrix reduction)을 수행합니다. TopoGPU는 스트리밍 환경에서도 지속성 호몰로지를 증명 가능하게 보존하는 계층화 인식 이산 모스 매칭(stratification-aware discrete Morse matching)을 도입하고, GPU 상에서 모스 경계를 도출하기 위한 병렬 위상 정렬 알고리즘 및 병렬 V-경로 패리티(V-path parity) 알고리즘을 함께 제안합니다. TopoGPU는 평가된 모든 벤치마크에서 지속성 호몰로지 계산의 최신 기법인 Cubical Ripser를 능가하여 평균 53.24배, 최대 198.01배의 엔드투엔드 속도 향상을 달성했습니다. 나아가 TopoGPU를 위상 보존 딥 네트워크에 통합하여, 네트워크 학습 중 지속성 호몰로지 연산 비용을 대폭 줄일 수 있음을 입증했습니다. TopoGPU는 오픈 소스로 제공되며, 사전 빌드된 바이너리, Google Colab 노트북 및 Docker 이미지는 프로젝트 GitHub 페이지(https://github.com/seravee08/GPU-Computation-of-Persistent-Homology-for-Image-Data)에서 이용할 수 있습니다.
시계열에서 주기적 역학과 혼돈 역학을 구별하는 것은 물리학과 공학 모두에서 근본적인 과제입니다. 그러나 엔드투엔드(end-to-end) 학습 기반 아키텍처는 상당한 비용을 들여 데이터로부터 표현과 결정 경계를 모두 찾아내야 합니다. 본 연구에서는 이러한 작업을 분리하는 TopTimeNet을 소개합니다. 고정된 비학습 단계에서 타켄스 지연 임베딩(Takens delay embeddings) 및 지속성 호몰로지(persistent homology)를 통해 $42$차원의 기하학적·위상수학적 기술자를 추출하고, 경량 학습 가능 단계에서 분류를 수행합니다. $49$개의 비선형 동역학계로 구성된 벤치마크에서, $1{,}638$개의 매개변수를 갖는 구성은 $33$배 더 많은 학습 가능한 매개변수를 갖는 구성의 평균 정확도와 일치합니다. 또한, 이 접근법은 세 자리에서 네 자리 수(orders of magnitude)만큼 더 적은 학습 가능 매개변수를 요구하면서도 합성곱 신경망(CNN)에 필적하는 평균 정확도를 제공하고 수렴된 트랜스포머 모델의 평균 성능을 능가합니다. 견고성 또한 노이즈가 유입되는 위치에 크게 좌우됩니다. TopTimeNet은 사전 계산된 특징에 대한 섭동에는 완만하게 저하되지만, 원시 신호에 노이즈가 유입되어 전체 특징 추출 파이프라인이 재계산될 때는 급격히 저하되므로, 사전 계산된 특징의 섭동에 대한 견고성이 원시 신호부터 예측까지 이어지는 전체 파이프라인의 견고성을 의미하지는 않음을 보여줍니다. 이러한 결과는 고정된 기하학적 및 위상수학적 특징 구성을 경량 판별 단계와 분리함으로써 실질적으로 훨씬 적은 학습 가능 매개변수로도 대등한 분류 정확도를 달성할 수 있음을 보여줍니다.
우리는 동적 금융 거래 그래프에서의 사기 선별을 위한 탐색적 벤치마크 및 양자 영감 모델링 프로토타입을 제시한다. 조직적 사기는 개별 거래만으로는 가시화되지 않을 수 있으나, 다중 기간 관계 패턴으로서 나타날 수 있다. 우리는 희소 링 사기(sparse-ring fraud)에 초점을 맞추는데, 이는 완성된 유향 사이클이 여러 날에 걸쳐 분산되는 양식화된 패턴으로, 모델이 시간과 그래프 구조 모두에 걸쳐 증거를 통합할 것을 요구한다. 우리는 완성된 희소 링 주입과 깨진 링 미끼를 포함한 합성 거래 시뮬레이터를 사용하여 이 문제를 연구한다. 일별 유향 거래 그래프는 롤링 윈도우로 집계되고, 원시 그래프 특징, 지속적 호몰로지(persistent homology) 요약, 또는 두 가지를 결합한 하이브리드 특징 벡터로 표현된다. 우리는 게이트 순환 유닛(GRU) 기준선과 양자 영감 문맥적 기계학습(Contextual Machine Learning, CML)을 시퀀스 수준 분류기로 비교한다. 벤치마크가 합성 데이터, 적은 샘플 크기, 시퀀스 수준 레이블을 사용하므로 결과는 탐색적이다. 이 범위 내에서, 위상 전용 요약은 지도 학습 기반 링 완성 과제를 단독으로 해결하기에 지나치게 압축되어 있는데, 주된 이유는 계정 쌍 식별자와 엣지 방향을 제거하기 때문이다. 가장 강력한 결과는 식별자 보존 그래프 특징과 위상적 요약을 결합한 하이브리드 표현에서 나온다. 이러한 발견은 위상이 동적 그래프 특징 위의 문맥적 층으로 가장 유용하며, CML이 시간적·관계적 문맥에 걸쳐 증거가 분산된 사기 패턴에 대한 유망한 후보 모델임을 시사한다.
클러스터링은 현대 데이터 분석의 핵심 기법이다. 탐색적 데이터 분석(EDA)에서 클러스터를 탐지하려면 데이터에 대한 가정이 적은 알고리즘이 필요하다. 밀도 기반 클러스터링 알고리즘은 밀도가 존재한다는 가정만으로 고밀도 영역을 기술하기 때문에 EDA에 특히 적합하다. 그러나 밀도 기반 클러스터링 알고리즘을 실제로 적용할 때는 데이터 분포에 대한 사전 지식 없이는 적절한 하이퍼매개변수를 선택하기 어렵다. 예를 들어, DBSCAN은 밀도 임계값 선택이 필요하고, HDBSCAN*은 최소 클러스터 크기 매개변수에 의존한다. 본 연구에서는 HDBSCAN*의 상호 도달 가능 연결 계층 구조에 대한 고정 최소 클러스터 크기 가지치기를 지속성 기반 클러스터 선택 절차로 대체한 다중 스케일 밀도 기반 클러스터링 알고리즘인 PLSCAN(Persistent Leaves Spatial Clustering for Applications with Noise)을 제안한다. PLSCAN은 HDBSCAN*이 안정적인(리프) 클러스터를 생성하는 모든 최소 클러스터 크기를 식별한다. 개념적으로 PLSCAN은 스케일-공간 클러스터링 원리를 적용하며, 새로운 거리 공간에서의 지속적 호몰로지(persistent homology)와 동등하다. 여러 실세계 데이터셋에서 HDBSCAN*과의 성능을 비교한 결과, PLSCAN은 더 높은 중앙값 ARI를 달성하고, 상호 도달 가능 이웃 수 변화에 덜 민감하며, 재샘플링 시 더 높은 안정성을 보인다. 또한 PLSCAN의 계산 비용을 $k$-Means++와 비교한 결과, 저차원 데이터셋에서 경쟁력 있는 실행 시간을 보였다. 고차원에서는 실행 시간이 HDBSCAN*과 더 유사한 방식으로 증가한다.
위상 데이터 분석(Topological Data Analysis)의 지속적 호몰로지(persistent homology, PH) 벡터화를 활용해 제한된 데이터셋으로 학습된 챗봇의 입력을 강화하고, encoder-encoder, encoder-decoder, decoder-decoder 등 다양한 아키텍처에서 PH 적용 유무에 따른 성능을 비교한다. 실험 결과, PH 강화가 항상 유효하지는 않지만 decoder-decoder 모델의 perplexity 지표에서 일관되고 상당한 성능 향상을 가져오는 등 사실상 추가 비용 없이 챗봇 성능을 개선할 수 있음을 보였다.
테스트 시점 적응(TTA)은 딥 모델의 분포 이동을 완화하기 위한 유망한 패러다임으로 부상했다. 그러나 이상 분할을 위한 기존 TTA 접근법은 신뢰도 임계값 처리나 엔트로피 최소화 같은 픽셀 수준 휴리스틱에 의존하기 때문에 여전히 한계가 있으며, 이는 노이즈와 텍스처 변화 하에서 구조적 일관성을 보존하지 못한다. 또한 이상 맵을 평탄한 강도 필드로 취급하여 복잡한 결함 형상을 특징하는 고차 공간 관계를 무시하는 경향이 있다. 본 논문에서는 지속 호몰로지(persistent homology)를 TTA 파이프라인에 통합하여 적응 과정에서 기하학적·구조적 일관성을 강제하는 TopoTTA(Topological Test-Time Adaptation)라는 새로운 프레임워크를 제안한다. 지속 호몰로지는 토폴로지 데이터 분석의 도구이다. TopoTTA는 이상 점수 맵에 다층 큐비컬 복합체 필터링을 적용하여 견고한 토폴로지 의사 라벨을 도출하고, 이를 경량 테스트 시점 분류기의 지도 신호로 활용하여 백본 모델을 재학습하지 않고도 분할 품질을 향상시킨다. 이 접근법은 마스크 이진화를 위해 방법별 원점수 임계값 처리에 의존하지 않으며, 연결성을 보존하고 2D·3D 양쪽 모달리티에서 일반화된다. MVTec AD, VisA, Real-IAD, MVTec 3D-AD, AnomalyShapeNet, MVTec LOCO 등 6개 표준 벤치마크에서의 광범위한 실험 결과, 최신 비지도 이상 탐지·분할 방법 대비 평균 15% F1 향상을 보였으며, 복잡한 기하학적·구조적 변화를 보이는 이상에서 가장 큰 이득이 관측됐다. 이러한 결과는 테스트 시점 적응에 토폴로지적 추론을 통합하면 구조 인식 일반화로 가는 원칙적 경로를 제공하고, 기하학적 학습과 견고한 적응 사이의 간극을 메울 수 있음을 시사한다.
시계열 예측(TSF) 평가가 MSE 등 점 단위 지표 중심이라 과스무딩·위상 이동·주파수 왜곡 같은 구조적 퇴화를 포착하지 못한다. Takens 지연 임베딩과 지속 호몰로지(persistent homology) 기반 TopoCast가 TFS·LTFS로 Transformer 예측의 위상적 구조 충실도를 측정하며, 다섯 모델·세 벤치마크 실험에서 비슷한 예측 오류에도 구조적 충실도 프로필이 크게 달라짐을 보인다.
모호하거나, 사양이 불충분하거나, 상호 모순되는 질의를 포함하는 부적정 질문은 유효한 답이 없거나 여러 그럴듯한 답을 허용할 수 있으며, 이는 대규모 언어 모델(LLM)에게 도전 과제가 된다. 기존 접근법은 대체로 모델 출력을 통해 부적정성(ill-posedness)을 분석하며, 종종 특정 하위 부류에만 초점을 맞춘다. 우리는 다양한 부적정성 원인이 LLM 내부 상태의 통합된 위상(topology) 내에 표현될 수 있는지, 그리고 이러한 구조가 응답 행동을 스티어링하는 데 사용될 수 있는지를 조사한다. 우리는 각 트랜스포머 층에서 프롬프트 토큰의 문맥 은닉 상태를 점군(point cloud)으로 모델링하고, 유한 0차원 지속적 호몰로지(finite zero-dimensional persistent homology)를 사용하여 그 기하학적 특성을 기술한다. 각 층은 세 가지 간결한 기술자(descriptor)로 요약된다: 평균 유한 수명(mean finite lifetime), 정규화된 수명 엔트로피(normalized lifetime entropy), 최대 수명 집중도(largest-lifetime concentration). 층 전반에 걸쳐 이러한 기술자를 연결(concatenate)하면 질문의 위상 표현이 얻어진다. 또한, 위상 조건화 활성화 스티어링(topology-conditioned activation steering)을 도입한다. 이는 위상적으로 유사한 예시를 검색하고, 출처 인식(source-aware) 명확화 또는 기권(abstention)을 유도하는 질의별 활성화 개입(activation intervention)을 구성한다. 세 개의 오픈 가중치(open-weight) LLM에 걸쳐, 위상 특징은 부적정성 분류에서 프롬프트 기반 및 풀링된 은닉 상태(pooled-hidden-state) 베이스라인을 일관되게 능가하며, AmbigQA에서 평균 정확도를 \(67.4\%\)에서 \(78.9\%\)로, SituatedQA에서 \(79.9\%\)에서 \(88.5\%\)로, CLAMBER 9-way 분류에서 \(57.6\%\)에서 \(69.6\%\)로 향상시킨다. 위상 조건화 스티어링은 평균 총 허용 가능 응답률을 \(61.4\%\)에서 \(70.6\%\)로, 그라운딩된(grounded) 허용 가능 응답을 \(11.9\%\)에서 \(16.4\%\)로 증가시킨다. 이 결과는 지속적 호몰로지가 부적정성에 대한 해석 가능한 표현과 목표화된 응답 스티어링을 위한 효과적인 메커니즘을 모두 제공함을 보여준다.
대규모 언어 모델(LLM)은 일반적으로 지도 미세조정을 통해 정렬되지만, 이 과정에서 내부 표현이 어떻게 진화하는지에 대해서는 알려진 바가 거의 없습니다. 본 연구에서는 미세조정 전반에 걸쳐 활성화 공간의 위상(topology)을 추적하여 지속적 호몰로지를 활용한 정렬 역학을 분석합니다. 10억에서 70억 파라미터에 이르는 4개의 트랜스포머 언어 모델과 유용한(helpful), 무해한(harmless), 혼합된 학습 데이터에 해당하는 3가지 정렬 목표를 통해 실험한 결과, 대부분의 위상 재구성이 학습 초기 단계에서 발생함을 확인했습니다. 조밀한 체크포인트 분석 결과, 위상 활동에 일시적인 피크가 나타난 후 급격히 안정화되는 양상이 관찰되었습니다. 또한, 서로 다른 정렬 목표는 구별되는 위상 궤적을 유도하며, 인스트럭션 튜닝된 모델과 사전학습된 모델은 질적으로 다른 진화 패턴을 보임을 추가로 확인했습니다. 이러한 결과는 지속적 호몰로지가 정렬에 대한 보완적인 관점을 제공하며, 행동 지표만으로는 파악할 수 없는 표현 수준의 변화를 드러낼 수 있음을 시사합니다.
지속적 호몰로지(persistent homology)에서 파생된 특징(feature)으로 학습된 지도 머신러닝 파이프라인은 실험적으로 지속 다이어그램(persistence diagram)에 포함된 상당한 정보를 무시하는 것으로 관찰되었습니다. 그러나 지속 다이어그램을 계산하는 과정은 종종 이러한 파이프라인에서 가장 계산 비용이 많이 드는 단계입니다. 이러한 현상을 탐구하기 위해, 우리는 축소되지 않은 경계 행렬(unreduced boundary matrix)에서 위상 특징 벡터를 생성하는 여러 방법을 소개하고 그 이론적 및 계산적 특성을 조사합니다. 우리는 여러 데이터와 작업 유형에 걸쳐, 축소되지 않은 지속 다이어그램(PD)의 벡터화로 학습된 파이프라인의 성능을 완전히 축소된 PD의 벡터화로 학습된 파이프라인의 성능과 비교했습니다. 결과에 따르면, 축소되지 않은 다이어그램에서 구축된 PD로 학습된 모델은 일부 작업에서 완전히 축소된 다이어그램으로 학습된 모델과 대등한 성능을 보이며 심지어 이를 능가하기도 했습니다. 또한, Ripser를 크게 수정한 버전으로 구현된 축소되지 않은 다이어그램 계산 알고리즘의 계산 성능을 벤치마킹했습니다. 이 계산들은 병렬화가 가능하며, 전체 지속 다이어그램을 계산하는 것에 비해 평균적으로 한 자릿수 더 적은 메모리를 필요로 했습니다. 본 연구 결과는 위상 기반 특징을 통합하는 머신러닝 파이프라인이 축소되지 않은 경계 행렬에 포함된 정보를 활용함으로써 계산 비용과 성능 면에서 이득을 볼 수 있음을 시사합니다.
우리는 학습된 기저 함수의 위상(topology)을 정규화하여 비음수 행렬 분해(NMF)에서 해석 가능한 기저의 학습을 연구합니다. 우리의 접근 방식은 많은 데이터 모달리티가 구조화된 도메인 위의 비음수 함수로 볼 수 있다는 관찰에서 동기를 얻었으며, 여기서 기저의 품질은 그 위상과 본질적으로 연결되어 있습니다. 그러나 지지 집합(support)의 위상을 통합하는 단순한 방법들은 종종 이산성과 임계값 의존성으로 인해 제한을 받아 연속 최적화에 부적합합니다. 우리는 안정적이고 임계값이 없는 위상학적 정량화 지표로서 지속적 호몰로지(persistent homology)를 활용하고, NMF 목적 함수에 정규화 항으로 통합되는 위상학적 점수를 설계하여 이러한 문제를 해결합니다. 결과적인 프레임워크는 공간적으로 응집된 이미지 구성 요소, 주기적인 시계열 구조, 클리크 유사 그래프 신호를 하나의 통합된 모델링 언어로 포괄합니다.
신경 세포 오토마타(Neural Cellular Automata, NCAs)가 인공 생명(Artificial Life)의 장난감 모델(toy models) 밖에서 점점 더 많이 적용됨에 따라, 이들이 어떻게 동작하는지 이해하고 학습한 내용을 해석할 수 있는 적절한 방법을 구축할 필요성이 대두되고 있습니다. 본질적으로 NCA 학습(training)의 이점은 해석 가능성의 부재와 상충 관계에 있습니다. 즉, 창발적 행동(emergent behaviour)을 설계할 수는 있지만, 학습된 내용을 이해하는 능력은 제한적입니다. 본 논문에서는 NCA 블랙 박스를 열어 학습한 내용을 파악하기 위해 다양한 기법을 적용합니다. 우리는 NCA의 기저 행동 매니폴드(behavioural manifold)를 포착하기 위해 매니폴드 학습(manifold learning) 기법(주성분 분석(Principal Components Analysis, PCA) 및 밀집(dense)과 희소(sparse) 오토인코더)과 위상 데이터 분석(topological data analysis) 기법(지속적 호몰로지(persistent homology))을 적용하였으며, 다양한 정도의 성과를 거두었습니다. 결과에 따르면 거시적 수준(즉, 전체 NCA 상태를 하나의 데이터 포인트로 취함)에서 분석을 수행할 때, 기저 매니폴드는 종종 매우 단순하며 상당히 잘 포착되고 분석될 수 있습니다. 반면 미시적 수준(즉, 개별 세포의 상태를 하나의 데이터 포인트로 취함)에서 분석을 수행할 때, 매니폴드는 고도로 복잡하며 이를 파악하기 위해 더 복잡한 기법이 필요합니다.