Representation Learning
태스크의 하위 분류와 논문·코드·평가·기법·데이터셋을 탐색하세요.
- 하위 태스크
- 14
- 평가표
- 5
- 보존된 평가 기록
- 11
Representation Learning is a process in machine learning where algorithms extract meaningful patterns from raw data to create representations that are easier to understand and process. These representations can be designed for interpretability, reveal hidden features, or be used for transfer learning. They are valuable across many fundamental machine learning tasks like image classification and retrieval.
Deep neural networks can be considered representation learning models that typically encode information which is projected into a different subspace. These representations are then usually passed on to a linear classifier to, for instance, train a classifier.
Representation learning can be divided into:
- Supervised representation learning: learning representations on task A using annotated data and used to solve task B
- Unsupervised representation learning: learning representations on a task in an unsupervised way (label-free data). These are then used to address downstream tasks and reducing the need for annotated data when learning news tasks. Powerful models like GPT and BERT leverage unsupervised representation learning to tackle language tasks.
More recently, self-supervised learning (SSL) is one of the main drivers behind unsupervised representation learning in fields like computer vision and NLP.
Here are some additional readings to go deeper on the task:
- Representation Learning: A Review and New Perspectives - Bengio et al. (2012)
- A Few Words on Representation Learning - Thalles Silva
<span style="color:grey; opacity: 0.6">( Image credit: Visualizing and Understanding Convolutional Networks )</span>
논문
이 태스크와 하위 분야의 관련 논문입니다. 실제 성능 비교는 평가 결과에서 확인하세요.
언어 모델에서 거부 회피를 위한 잠재 공간 공격
연속 언어 확산에서 단순 리드아웃이 놓치는 것
Tac-DINO: 패치 정렬을 통한 촉각 특징 학습
디퓨전을 이용한 시각 텍스처 최대 엔트로피 모델 학습
숨은 상태에서 자백으로: 추론 모델의 기만 감사
픽셀 공간 자기회귀 이미지 생성을 위한 병렬 롤아웃 근사
잠재 추론에 부족한 것은 신호가 아니라 불변성이다: 강건한 추론을 위한 부분공간 제약 정제
SCARCE: Scalable Cascade Analysis for Rare-event Characterisation via Embeddings
Muon은 느린 안장점 간 동역학 없이 행렬 분해에서 균형 해를 학습한다
추론의 기하학적 특징: 과제 난이도에 대한 스펙트럼적 관점
비전 트랜스포머에서의 형태 기반 도형-배경 조직화
SinAE: 교차 도메인 원자계를 위한 단일 아키텍처 플로우 매칭 오토인코더
인식론적 불확실성 평가: OOD 탐지와 능동 학습을 넘어서
원격 탐사 변화 탐지를 위한 시간 순서화된 영역 토큰 Mamba와 로짓 공간 확산 모델
FFM-CP: 퓨샷 계산병리학을 위한 비전-언어 기반 모델의 교차 백본 융합
PRISM: 정렬 위장 주장에 대한 스트레스 테스트
의미 보상을 통한 소스 프리 도메인 적응형 객체 탐지
시간적 추상화를 통한 순방향-역방향 표현에서의 스펙트럼 정렬
실환경 비디오로부터의 공유 정준 객체 프레임 창발
XOR 모델에서 SGD는 지름길 허위 특징을 우선적으로 학습함을 증명
지도 학습 기반 분리를 활용한 조직 그래프 반사실 질의
교차 언어 추론을 위한 소프트 토큰 정렬
시네 MRI로부터 심실 양측 전체 주기 심장 운동을 모델링하는 잠재 ODE 접근법
정형 및 비정형 볼륨의 빠르고 메시가 필요 없는 압축을 위한 명시적 3D 가우시안 모델
인공 신경망에서 표현 학습을 통한 창발적 일반화
활성화 오라클이 읽지 않는 법을 배울 때: 파인튜닝된 오라클의 개념별 사각지대
딥러닝의 표현 낙관론에 대한 의문 제기: 파편화된 얽힘 표현 가설
OLIVE: 음성 자기지도학습을 위한 뷰 증강 잠재 예측과 파형 재구성
PixCon: 기반 모델 반지도 분할을 위한 클린-포지티브 대조 학습
공정한 자기지도 학습을 위한 편향 없는 Open World 정규화
노드 유사도, 그래프 표현 학습, 계층적 군집화를 통한 복잡 네트워크의 커뮤니티 탐지
자기지도 학습에서 프로젝션 헤드로서의 방사 기저 함수 네트워크
CLAP: 언어-행동 그라운딩을 통한 직접적인 VLM-to-VLA 적응
SPERA: 기하학 및 주파수 인식 잠재 예측을 적용한 구면 사전분포 기반 뇌파 파운데이션 모델
교차 스펙트럼 이미지 패치 매칭을 위한 관계 표현 학습 네트워크
출처: Papers with Code · CC BY-SA 4.0. 아카이브 자료와 새로 수집한 논문은 별도로 관리합니다.