arXiv:2102.12205

Enabling the Network to Surf the Internet

Zhuoling Li, Haohan Wang, Tymoteusz Swistek, Weixin Chen, Yuanzheng Li, Haoqian Wang

제출 2021-02-24

원문 초록

Few-shot learning is challenging due to the limited data and labels. Existing algorithms usually resolve this problem by pre-training the model with a considerable amount of annotated data which shares knowledge with the target domain. Nevertheless, large quantities of homogenous data samples are not always available. To tackle this issue, we develop a framework that enables the model to surf the Internet, which implies that the model can collect and annotate data without manual effort. Since the online data is virtually limitless and continues to be generated, the model can thus be empowered to constantly obtain up-to-date knowledge from the Internet. Additionally, we observe that the generalization ability of the learned representation is crucial for self-supervised learning. To present its importance, a naive yet efficient normalization strategy is proposed. Consequentially, this strategy boosts the accuracy of the model significantly (20.46% at most). We demonstrate the superiority of the proposed framework with experiments on miniImageNet, tieredImageNet and Omniglot. The results indicate that our method has surpassed previous unsupervised counterparts by a large margin (more than 10%) and obtained performance comparable with the supervised ones.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.22408v1cs.LG공통 태그 Self-Supervised Learning, Few-Shot Learning

LunarFM: 달 표면의 공유 다중모달 표현

LunarFM: A Shared Multimodal Representation of the Moon's Surface

현장 자원 활용(in-situ resource utilization)과 달에 대한 지속적인 인간 거주 전망에 힘입어 달 탐험이 다시 전 세계적 관심을 받으면서, 달 표면의 정확하고 대규모적인 특성화에 대한 수요가 증가하고 있다. 궤도 원격 탐사 데이터가 방대하게 수집되었음에도, 이질적인 다중 계측기 관측, 희소 라벨, 맞춤형 과제별 모델링 워크플로로 인해 과학적 분석과 자원 매핑은 여전히 파편화되어 있다. 본 연구에서는 다양한 궤도 측정으로부터 달 표면의 일반적 표현을 학습하는 다중모달 파운데이션 모델 LunarFM을 소개한다. LunarFM은 세 개의 달 임무에서 여섯 개 계측기의 관측을 통합하여 18개 입력 채널을 공유 임베딩 공간에 매핑한다. 이 임베딩 공간이 유사도 검색, 퓨샷(few-shot) 자원 매핑, 광물 함량 회귀, 지질 단위 분류 등 다양한 다운스트림 응용을 지원함을 보여, 효율적인 과학적 조사와 자원 중심 분석을 가능하게 한다. 위도 70°S에서 70°N에 걸친 공동 등록(co-registered) 다중모달 관측의 머신러닝 준비 데이터셋, 사전학습된 다중모달 마스크드 오토인코더, 그리고 달 표면 특성의 결합 768차원 표현을 제공하는 동반 임베딩 데이터셋을 함께 제공한다. 모든 코드와 데이터는 https://lunarfm.trillium.tech/ 에서 이용할 수 있다.

arXiv:2607.22508v1cs.LG공통 태그 Self-Supervised Learning, Few-Shot Learning

bag-of-waves를 이용한 해석 가능한 EEG 바이오마커: 저데이터 환경을 위한 공간·시간 파형 사전

Interpretable EEG biomarkers with bag-of-waves: Spatial and temporal waveform dictionaries for low-data regimes

EEG(전기뇌파)는 신경학적 질환 진단에 널리 사용되지만, 그 분석은 보통 사전 정의된 스펙트럼 특징이나 심층 신경망에 의존한다. 사전 정의된 특징은 정보적 가치가 있는 것을 미리 고정하기 때문에 강한 바이어스를 수반하며, 심층 신경망과 파운데이션 모델은 해석하기 어렵고 대량의 데이터와 연산 자원이 필요하다. 우리는 bag-of-waves를 제안한다. 이는 레이블 없이 shift-invariant k-means를 사용하여 반복되는 EEG 파형 템플릿(atom이라고 함)의 작은 사전을 학습하는 해석 가능한 프레임워크이다. 연속 EEG 신호는 atom 토큰의 시퀀스로 변환되며, 그 토큰의 빈도는 간단한 하류 분류기 또는 클러스터링 단계에 입력된다. 이 표현을 두 가지 방식으로 확장한다: 시간적 구조를 포착하기 위해 atom 간 전이(n-gram이라고 부름)를 추가하고, 다채널 경우를 위해 단일 채널 atom에서 지역 및 채널 간 공간 atom으로 확장한다. 세 가지 상호 보완적인 데이터셋에서 방법을 검증한다. 각 데이터셋은 서로 다른 측면을 탐구한다: 동물 16마리만으로 수행한 단일 채널 마우스 유전형 클러스터링(저데이터 및 시간적 사례), 휴식 상태 치매 분류(공간적 사례), 그리고 임상 EEG 이벤트의 6분류를 위한 TUEV 벤치마크(강력한 심층 및 파운데이션 기준선과의 고데이터 비교). 세 데이터셋 모두에서 bag-of-waves는 최첨단 심층 및 파운데이션 모델과 경쟁력 있는 성능을 달성한다. 그러나 매개변수 수의 극히 일부만으로 동작하며 완전한 해석 가능성을 제공한다. 모든 atom이 검사 가능한 파형에 대응하기 때문에, 이 방법은 신경생리학자가 직접 검증할 수 있는 알려진 임상 형태학을 명시적으로 복원한다. 주요 장점은 더 무거운 모델이 적합하지 않은 저데이터 환경에서도 잘 작동한다는 점이다.

arXiv:2607.13967v1cs.CL공통 태그 Self-Supervised Learning, Few-Shot Learning

DeltaMerge-LowRes: 저자원 적응을 위한 언어 및 작업 델타 조합

DeltaMerge-LowRes: Composing Language and Task Deltas for Low-Resource Adaptation

다국어 인코더를 수백 개의 골드 예시만으로 새로운 언어와 새로운 작업에 적응시키는 것은 흔한 저자원 NLP 설정이지만, 두 축은 보통 비용이 큰 언어-작업 미세조정 실행을 통해 융합된다. 우리는 대신 각각 독립적으로 학습한 뒤 가중치 공간에서 재결합할 수 있는지를 묻는다. DeltaMerge-LowRes는 비라벨 단일언어 텍스트로부터 언어 델타 $Δ_L$을, 라벨링된 영어 데이터로부터 작업 델타 $Δ_T$를 학습한 다음, 추론 시 네 가지 규칙 중 하나에 따라 조합한다: 가법적(additive), 활성화 안내(activation-guided), 희소성 인지(sparsity-aware), 그리고 새로운 cross-axis TIES. 새 규칙은 TIES-Merging의 trimming, sign election, 병합 단계를 두 작업 축이 아닌 언어와 작업 축에 맞게 조정한다. 네 가지 작업 계열과 네 개의 아프리카 언어에서 규칙 간 $(Δ_L,Δ_T)$를 고정한 채(평가 셀 158개, 셀당 10,000표본 페어드 부트스트랩) 다음을 확인한다: (i) cross-axis TIES는 4개 언어 중 3개에서 요약 작업에서 chrF +4~+7로 우수하다(chrF 18.59 vs. 작업 전용 13.80); (ii) QA F1을 +2.32, EM을 +2.91 개선한다; (iii) 희소성 인지 병합은 macro-F1 동등 수준에서 분류 ECE를 36% 절감한다. 조합 규칙은 병합된 모델이 무엇을 보존하고, 억제하며, 보정하는지를 실질적으로 바꾼다. 우리는 모든 JSON 추적 데이터와 claim ledger를 공개한다.

arXiv:2607.14086v1cs.LG공통 태그 Self-Supervised Learning, Few-Shot Learning

라벨 없는 데이터를 활용한 일반화 가능한 신경 집단 디코딩

Leveraging unlabelled data for generalizable neural population decoding

강건하고 정확한 신경 디코더는 뇌-컴퓨터 인터페이스 및 폐루프(closed-loop) 실험과 같은 신경기술에 필수적이다. 최근 연구는 스파이크(spike) 수준에서 신경 데이터를 토큰화(tokenization)하면 다중 세션 사전학습(pre-training)을 용이하게 하고 최첨단 디코딩 성능을 달성함을 보여주었다. 그러나 현재 스파이크 기반 모델은 지도 학습(supervised learning, SL)에 국한되어, 행동 라벨이 쌍으로 제공된 데이터셋에서만 학습이 가능하다. 이 한계를 해결하기 위해, 우리는 마스크 오토인코더 기반 공동 학습(MOJO, Masked autOencoder-based JOint training)을 제안한다. 이는 마스크 오토인코딩을 통한 자기지도 학습(self-supervised learning, SSL)과 SL 목적 함수를 공동으로 활용하는 스파이크 토큰화 모델용 학습(training) 프레임워크이다. 우리는 도달 과제(reaching task) 중 원숭이 운동 피질과 시각 및 의사결정 과제 중 다중 영역 쥐 기록을 아우르는 세 개의 스파이킹 데이터셋에서 MOJO를 평가하였으며, 순수 SL로 학습된 모델보다 우수한 성능을 보였다. 이 개선은 라벨이 제한된 데이터로 학습할 때, 특히 새 세션에서 소량의 라벨 데이터만 사용 가능한 퓨샷(few-shot) 파인튜닝(fine-tuning)에서 두드러진다. SSL을 통합하면 더 해석 가능한 뉴런 표현이 형성되어, 해당 과제를 명시적으로 최적화하지 않았음에도 뇌 영역 분류(classification) 및 스파이크 통계 예측 성능이 향상된다. 또한 MOJO가 스파이킹 데이터를 넘어 음성 중 인간 피질전기도(electrocorticography)에도 일반화되며, 순수 SL로 학습된 모델을 계속 능가하고 연속 신호용으로 특별히 설계된 신경 기초 모델(neuro-foundation model, NFM)과 견줄 만한 성능을 달성함을 보인다. 전반적으로 스파이크 토큰화 모델에 SSL을 보강하면 라벨이 부족한 설정에서 성능이 개선되고, 다양한 과제와 종(species)에 걸쳐 라벨 없는 데이터를 활용할 수 있으며, 다른 신경 양식(modality)으로도 일반화된다. 이러한 결과는 NFM 학습 시 더 유연하고 확장 가능한 데이터 활용 방향을 제시한다.

arXiv:2607.09727v1eess.SP공통 태그 Self-Supervised Learning, Few-Shot Learning

CSI의 보편 언어: 기기와 환경을 아우르는 무선 센싱의 통합

The Universal Language of CSI:Unifying Wireless Sensing Across Devices and Environments

채널 상태 정보(CSI)를 기반으로 한 WiFi 센싱은 기기 부착 없는 어디서나 가능한 인식을 약속하지만, 현재 연구는 여전히 바벨탑에 갇혀 있다. 즉, 특정 하드웨어 방언, 고정된 환경, 좁은 태스크에 맞춤화된 모델들이 고립된 사일로로 파편화되어 있다. 주요 병목은 이질성 격차(Heterogeneity Gap)로, 신호 차원, 샘플링 속도, 의미 레이블의 불일치가 시스템 간 상호 이해를 가로막는다. 이 격차를 해소하기 위해, 우리는 CSI를 단순한 원시 신호가 아니라 학습 가능한 보편 문법을 갖춘 구조화된 언어로 취급하는 기반 모델(foundation model) 프레임워크를 제안한다. 먼저 다양한 실세계 CSI 데이터셋을 대규모로 수집하고 표준화하여, 호환되지 않는 신호 형식을 단일 코퍼스로 처리할 수 있는 통합 인프라를 구축한다. 다음으로, 보편 번역기 역할을 하는 모듈형 아키텍처를 도입한다. 경량의 데이터셋별 어댑터가 다양한 신호 입력을 공유 잠재 어휘로 토큰화하는 한편, 공유 자기지도(self-supervised) 트랜스포머 백본이 인체 동작과 환경 역학의 시간적 문법을 학습한다. 이 설계는 센싱 의미론을 하드웨어 문법으로부터 분리한다. 광범위한 평가를 통해, 이 보편 언어를 습득함으로써 우리의 접근법이 태스크별 기준선을 일관되게 능가하고, 새로운 환경에서 강한 일반화 능력을 보이며, 퓨샷(few-shot) 시나리오에서 우수한 효율성을 달성함을 확인하였다. 이질성을 효과적으로 흡수함으로써, 이 프레임워크는 대규모 언어 모델(LLM)에서 관찰되는 언어적 일반화를 반영하는, 강건하고 범용적인 무선 센싱으로 나아가는 경로를 제시한다. 코드 구현은 https://github.com/cjychenjiayi/WiLLM 에서 확인할 수 있다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.