arXiv:2606.21790v1 cs.LG

로렌츠 등변 제트 태거는 무엇을 학습하는가?

What Do Lorentz-Equivariant Jet Taggers Learn?

Jay Agarwal, Siddharth Khare, Dhruv Kumar

제출 2026-06-19

한국어 초록

로렌츠 등변 제트 태거가 내부적으로 무엇을 학습하는지, L-GATr, L-GATr-slim, LLoCa-T를 포함한 다섯 개 모델에 대해 등변성 테스트, 선형 프로브(linear probe), grade 소거를 통해 조사하였다. 선형 프로브는 등변 모델이 기준계에 의존하는 의사빠르기(pseudorapidity)를 0으로 억압하면서 제트 질량과 N-subjettiness를 강하게 인코딩함을 보여준다. L-GATr에 대한 grade 소거는 top 쿼크 태깅에서 이벌렉터(bivector) 채널은 무시할 만한 반면, 벡터형 채널은 지배적이지만 시드(seed)에 따라 달라짐을 밝히며, 이는 네트워크가 여러 표현 경로를 활용하고 있음과 일치한다. 이러한 결과는 등변 태거에서 어떤 물리적 특징과 대수적 grade 구조가 판별 정보를 담는지 특성화하며, 향후 이러한 모델의 개발에 기여할 수 있다.

원문 초록

We study what Lorentz-equivariant jet taggers learn internally, using equivariance tests, linear probes and grade ablations across five models including L-GATr, L-GATr-slim and LLoCa-T. Linear probes show that equivariant models suppress frame-dependent pseudorapidity to zero while encoding jet mass and N-subjettiness strongly. Grade ablations on L-GATr reveal that bivector channels are negligible for top-quark tagging while vector-like channels are dominant but seed variable, consistent with the network exploiting multiple representational pathways. These results characterize which physical features and algebraic grade structures carry discriminative information in equivariant taggers and may inform future development of such models.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.21790v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.27710v3cs.CV공통 태그 Representation Learning, Graph Neural Network

FFM-CP: 퓨샷 계산병리학을 위한 비전-언어 기반 모델의 교차 백본 융합

FFM-CP: Cross-Backbone Fusion of Vision-Language Foundation Models for Few-Shot Computational Pathology

병리학 비전-언어 기반 모델은 질환과 과제에 따라 성능이 달라지며, 어떤 단일 모델도 일관되게 최고 성능을 내지 못한다. 전문가 병리 주석의 높은 비용은 과제별 적응에 사용할 수 있는 라벨 데이터를 제한하기도 한다. 상호 보완적인 사전학습 표현을 결합하는 것은 이러한 한계에 대한 잠재적 접근이지만, 소수의 라벨 예시로부터 효과적인 융합을 학습하는 것은 여전히 어렵다. 본 연구는 퓨샷 학습 설정에서 여러 병리학 비전-언어 모델을 결합하는 프레임워크인 Few-shot Fusion Foundation Models of Computational Pathology(FFM-CP)를 제안한다. 이 프레임워크는 먼저 대응하는 서포트 이미지로부터 추정한 폐형식(closed-form) 직교 프로크루스테스(Orthogonal Procrustes) 변환을 사용하여 이질적인 표현을 정렬한다. 이 정렬은 추가 정렬 네트워크를 학습하지 않고도 모델 내부 특징 기하를 보존한다. 정렬된 공간 안에서 통합 그래프는 서포트 이미지 특징과 시각·텍스트 클래스 프로토타입을 공동으로 정제함으로써 백본 간 정보 교환을 가능하게 한다. 이렇게 정제된 표현은 의미적 클래스 지식과 클래스 내 시각적 변이를 각각 포착하는 상호 보완적인 텍스트-프로토타입 분기와 케이스 검색(case-retrieval) 분기를 지원한다. 각 분기는 모든 순서화된 백본 쌍의 예측을 결합하는 방법을 학습하여, 한 모델로 인코딩된 쿼리가 다른 모델이 표현한 증거를 활용할 수 있게 한다. 우리는 6개의 조직병리학 데이터셋에서 클래스당 4, 8, 16샷 조건으로 3가지 백본 조합을 평가했다. FFM-CP는 54번 비교 중 50번에서 각 융합 집합의 개별 적응 멤버 중 가장 강한 모델보다 더 높은 평균 macro-F1을 달성했다. 이러한 결과는 주석이 제한될 때 상호 보완적인 사전학습 표현의 결합이 조직병리학 분류를 개선할 수 있음을 시사한다.

arXiv:2610.02517v1cs.LG공통 태그 Representation Learning, Graph Neural Network

잠재 구조 학습: 그래프 데이터 증강을 위한 특징 중심 접근법

Learning the Latent Structure: A Feature-Centric Approach to Graph Data Augmentation

그래프 구조 데이터는 복잡한 관계를 모델링하는 데 핵심적인 역할을 합니다. 그러나 실제 그래프는 데이터 수집 및 관측의 제약으로 인해 불완전한 경우가 많으며, 이는 현대 그래프 학습 파이프라인의 효과를 심각하게 제한합니다. 기존 그래프 데이터 증강(Graph Data Augmentation, GDA) 방식들은 다운스트림 성능 향상을 위해 그래프 구조를 정제하고자 시도하지만, 대개 레이블 의존적이고 계산 비용이 많이 들며 본질적으로 트랜스덕티브(transductive)하여 실제 환경에서의 적용 가능성이 제한됩니다. 본 연구에서는 명시적인 구조 모델링을 우회하고 임베딩(embedding) 공간에서 직접 작동하는 새로운 특징(feature) 중심 그래프 데이터 증강 프레임워크를 제안합니다. 자기지도 역마스킹(inverse masking) 과정을 통해, 본 방법은 관측된 그래프와 완전한 그래프 사이의 잠재적 연결을 포착하여 정제된 노드(node) 표현을 통해 관측되지 않은 구조적 신호를 복원할 수 있도록 합니다. 노이즈가 많고 희소한 지도 신호 하에서의 강건성을 향상하기 위해, 효과적인 학습(training)과 일반화를 위한 메시지 정규화기(message regularizer) 및 부트스트랩 전략을 도입합니다. 여러 도메인에 걸친 10개의 그래프 데이터셋에서 평가한 결과, 우리의 접근 방식인 SelfAug는 인덕티브(inductive) 및 콜드 스타트(cold-start) 설정 모두에서 정확도와 효율성 측면에서 최첨단(SOTA) 방법들을 일관되게 능가하며, 실제 그래프 학습 시나리오를 위한 확장 가능하고 일반화 가능한 솔루션으로서의 잠재력을 입증합니다.

arXiv:2610.02263v1eess.IV공통 태그 Binary Classification, Graph Neural Network

ZAGNet: 환자 단위 폐 초음파 진단을 위한 구역 인식 그래프 집계 네트워크

ZAGNet: Zone-Aware Graph Aggregation Network for Patient-Level Lung Ultrasound Diagnosis

환자 단위 폐 초음파(LUS) 진단은 여러 해부학적 구역에 걸쳐 획득된 소견을 통합해야 하지만, 임상 검사에서는 구역이 누락되는 등 가변적이고 불완전한 스캔 프로토콜이 자주 발생합니다. 기존의 진단 인공지능 방법론들은 주로 개별 프레임이나 비디오 루프를 분석하며, 환자 단위 추론(inference)을 위해 구역 간 관계를 무시하는 최대 풀링(max pooling)이나 평균 풀링(mean pooling)과 같은 휴리스틱 집계 전략에 의존합니다. 본 논문에서는 시간적으로 추적된 병리 소견을 해부학적 구역 인접성으로 연결된 그래프 노드(node)로 표현하는 구역 인식 그래프 신경망(neural network)인 ZAGNet을 제안합니다. 그래프 트랜스포머(transformer) 네트워크는 인접한 폐 영역 전반에 걸쳐 문맥 정보를 전파하며, 가상 글로벌 노드는 그래프 수준의 특징을 집계하여 환자 단위 지도학습만으로 환자 단위의 폐 경화(consolidation) 및 흉막 삼출(pleural effusion)을 예측합니다. ZAGNet은 고정된 입력 형식이나 크기가 없는 그래프 구조 상에서 연산함으로써 누락된 구역을 유연하게 수용합니다. 전면, 후면 및 외측 흉부 영역에 걸쳐 4개에서 16개 구역으로 다양한 검사를 포함하는 714명의 대상자(20,256개 LUS 비디오 루프)로 구성된 다기관 데이터셋(dataset)에서 ZAGNet을 평가합니다. 폐 경화 진단에서 ZAGNet은 최대 풀링의 0.677 및 평균 풀링의 0.674에 비해 0.803의 AUC를 달성했습니다. 흉막 삼출의 경우 AUC가 최대 풀링의 0.804 및 평균 풀링의 0.815에서 0.893으로 향상되었습니다. 이는 폐 경화 및 흉막 삼출에 대해 각각 최대 19%와 11%의 향상을 나타냅니다. 이러한 결과는 그래프 기반의 구역 간 추론이 자동화된 환자 단위 LUS 평가를 위한 효과적이고 임상적으로 일관된 프레임워크를 제공함을 입증합니다.

arXiv:2610.01533v1cs.AI공통 태그 Representation Learning, Graph Neural Network

흑백의 이분법을 넘어: 그래프 기반 시맨틱 ID(GrIS)를 통한 시맨틱 및 협업 신호의 균형

Neither Black nor White: Balancing Semantic and Collaborative Signals with Graph-Informed Semantic IDs (GrIS)

생성형 추천을 위한 시맨틱 ID(Semantic ID, SID)에 관한 기존 연구들은 SID 구축을 표현 학습(representation learning) 문제로 취급하여, 아이템을 양자화된 잠재 공간으로 인코딩하고 코드를 읽어내는 방식을 취합니다. 본 논문에서는 이러한 관점이 본질적이지 않다고 주장합니다. SID 구축은 본질적으로 재귀적 클러스터링(recursive clustering) 문제이며, 이렇게 정의하면 클러스터링할 자연스러운 대상은 노드가 시맨틱 콘텐츠를 담고 에지가 협업 신호(collaborative signal)를 전달하는 그래프가 됩니다. 즉, SID 할당은 계층적 그래프 분할(hierarchical graph partition)이 됩니다. 이러한 재구성을 통해 기존 접근 방식을 대체하기보다는 포괄하는 통합 프레임워크인 그래프 기반 시맨틱 ID(Graph-Informed Semantic IDs, GrIS)를 도출합니다. RQ-VAE 및 RQ-KMeans는 그래프가 비어 있는 특수한 경우로 환원되며, 이는 콘텐츠 전용 양자화가 지금까지 하나로 뭉쳐져 있던 두 축인 그래프 구축과 재귀적 분할 알고리즘으로 이루어진 더 큰 설계 공간의 한 단면에 불과함을 보여줍니다. 본 연구에서는 두 가지 대조적인 구현체를 탐색합니다. 하나는 미분 가능한 그래프 풀링(pooling)을 통해 계층적 할당을 수행하는 RecDMoN이고, 다른 하나는 그래프 인식 아이템 표현과 그래프 재구성 목적 함수를 통해 RQ-VAE를 확장하는 RQ-GAE입니다. 여러 실제 데이터셋에서 GrIS는 협업 필터링(CF) 인식 최신 기술(SOTA) 대비 일관되게 향상된 성능을 보여주며, Hit@10에서 최대 +52%의 성능 향상을 달성합니다. 그래프 구축과 분할이 명시적이고 개별적으로 구성 가능한 컴포넌트이기 때문에, 두 축 중 어느 한쪽의 개선점이라도 결합하여 체계적으로 평가할 수 있습니다.

arXiv:2609.27764v1cs.LG공통 태그 Representation Learning, Binary Classification

기호적 실패 탐지 학습: 머신러닝과 블랙-숄즈 모형의 한계

Learning to Detect Symbolic Failure: Machine Learning and the Limits of Black-Scholes

우리는 옵션 가격 결정을 표현(representation) 문제로 다룬다. 즉, 260만 건의 실제 옵션 계약을 사용하여 머신러닝이 블랙-숄즈(Black-Scholes)로부터의 체계적인 편차를 탐지할 수 있는가? 우리는 세 가지 방식을 비교한다. 학습된 추상 임베딩(커널 PCA), 보존된 도메인 구조(트리 기반 앙상블), 그리고 신경망 검증이다. 트리 기반 방법은 커널 차원 축소보다 21.5%p 높은 성능(93.8% 대 72.3%)을 보였으며, 도메인 전문가가 설계한 특징(그릭스, 머니니스)은 엔지니어링된 특징보다 더 우수한 성능을 보였다. 신경망 기반 편차 레이블과 BS 기반 편차 레이블은 99.9974%의 비율로 일치하며, 이는 편차가 모델의 인위적 결과물이 아니라 시장 구조를 반영함을 시사한다. 우리는 전문가가 설계한 기호적 특징이 존재하는 도메인에서는 추상화를 학습하는 것보다 구조를 보존하는 것이 더 낫다고 결론짓는다. 우리는 활용 가능한 오가격(mispricing)이 존재한다고 주장하지 않는다.

arXiv:2609.28194v1cs.LG공통 태그 Representation Learning, Binary Classification

지리공간 임베딩은 고대림을 탐지하지만, 버퍼 공간 검증은 Sentinel 특징 대비 그 이점을 줄인다

Geospatial embeddings detect old-growth forests but buffered spatial validation narrows their advantage over Sentinel features

고대림은 인위적 교란이 거의 없는 상태에서 수세기에 걸쳐 형성되어 구조적으로 복잡하고 생물다양성이 높은 임분을 이룬다. 유럽에서는 이를 보호하려면 개별 임분 단위로 정확하면서도 대륙 전역에 배포 가능한 지도화가 필요하다. 지리공간 파운데이션 모델(GFM) 임베딩은 라벨이 부족한 토지 분류를 가능하게 하지만, 고대림 탐지에 대한 그 가치는 아직 알려져 있지 않다. 본 연구에서는 알프스 생물지리구(Alpine Biogeographic Region)에 전형적인 너도밤나무-가문비나무 경관인 루마니아 남부 카르파티아 211,893 ha에 걸쳐 고대림을 지도화한다. 고대림 및 비고대림 임분에 대한 고신뢰·전문가 기반 참조 라벨을 구축한다. 지형 및 인간 접근 예측변수로 구성된 공통 기준선에 AlphaEarth, TESSERA v2, Sentinel-1/2 특징을 추가한 뒤, 잔여 공간 자기상관을 줄이기 위해 10 km 학습-검증 버퍼 유·무에 따른 공간 블록 검증 하에서 이를 비교한다. 버퍼를 적용하면 GFM 및 Sentinel-1/2 예측변수가 기준선 대비 정밀도-재현율 AUC를 0.21–0.25 [95% CI: 0.15–0.34]만큼 높여, 스펙트럼 데이터에 공간적으로 견고한 고대림 신호가 포함됨을 시사한다. PR-AUC 0.84 [0.79–0.88]에서 TESSERA는 버퍼 없는 공간 검증 하에서 Sentinel-1/2(+0.08 [+0.05–+0.11]) 및 AlphaEarth(+0.08 [+0.04–+0.12])보다 우수하다. 그러나 10 km 버퍼에서는 이 우위가 각각 +0.04 [-0.01–+0.11] 및 +0.03 [-0.04–+0.10]로 줄어들어, 차이가 없음과 일치하는 구간이 된다. 10 m 해상도에서는 합성곱 신경망(CNN)이 픽셀 기반 XGBoost보다 이점을 주지 않는다. 국가·대륙 규모 제품 4종과의 비교는 비고대림 라벨의 중요성을 보여 주며, 현장 보정 지도와 본 연구 예측 간 81% 일치를 드러낸다. 고대림 탐지 모델을 보지 못한 경관으로 전이할 때 버퍼 공간 검증이 필수적임을 결론짓고, 후속 연구를 위해 라벨과 예측을 공개한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.