Papers with Code 아카이브
Knowledge Distillation
태스크의 하위 분류와 논문·코드·평가·기법·데이터셋을 탐색하세요.
- 하위 태스크
- 2
- 평가표
- 11
- 보존된 평가 기록
- 90
Knowledge distillation is the process of transferring knowledge from a large model to a smaller one. While large models (such as very deep neural networks or ensembles of many models) have higher knowledge capacity than small models, this capacity might not be fully utilized.
논문
이 태스크와 하위 분야의 관련 논문입니다. 실제 성능 비교는 평가 결과에서 확인하세요.
순환적 자기 개선: 루프 언어 모델을 위한 동적 크로스-루프 온-정책 증류
SAVU-BENCH: 공간 시청각 이해를 위한 실제 환경 벤치마크
Agent4RE: 엔드투엔드 소프트웨어 요구공학 및 벤치마킹을 위한 자가 개선 다중 에이전트 프레임워크
올빼미를 넘어서: 잠재의식적 학습은 학습된 능력과 백도어를 전이할 수 있다
PPG에 '누구인가'가 아닌 '어떠한 상태인가'를 가르치기: ECG로부터의 고정효과 지식 증류
BEANS-Next 및 ROOTS: 생체음향학을 위한 오디오-언어 기능의 확장
중고 전자기기의 다중 시계열 가격 예측을 위한 심층 학습 대 통계 모델: 체계적 벤치마크
테이블 데이터 기반 대화형 작업 모호성 해소: 정보 누출을 고려한 정식화, 벤치마크 스위트 및 학습
개입적 전이를 통한 루브릭 생성 평가
대규모 문법 개념 주석: 배포된 미세조정 소형 언어 모델이 프롬프트 기반 프론티어 모델을 능가하다
시간 내 완수: 기한을 준수하며 생산적인 시간 제한형 AI 에이전트를 향하여
소수 스텝 증류 텍스트-투-이미지 확산 모델에서 선호도 기반 언러닝 활성화
에이전틱 온-정책 증류를 위한 확률적 교사 개입
음성 품질 지표는 얼마나 해킹에 취약한가? 수정된 프로토콜, 벤치마크, 그리고 패치 적용의 실효성
기계 번역 품질 어노테이션을 위한 대규모 언어 모델: 인간과 모델 모두가 겪는 어려움
AI4Fire: 산불 작업에서 대규모 언어 모델(LLM) 평가
RH-Detect: 보상 해킹 탐지를 위한 통합 벤치마크
인용이 오도할 때? 법률 환각 탐지를 위한 주장 수준의 벤치마크
다중 대역폭 분포 매칭 증류: 분포 매칭 증류와 Drifting Model의 동치성에 관하여
Omni-Diffusion-Distill: 통합 멀티모달 확산 대규모 언어 모델의 소수 스텝 증류
유죄 증거 확보를 위한 증류와 역량 강화를 위한 증류
질문 유도형 능동적 비전을 위한 렌더링 없는 예측 탐색
AgentHorizon: 장기 컴퓨터 사용 작업을 위한 에이전틱 심사자 평가
CityDeploy-Bench: 다중 송신기 네트워크 배치를 위한 물리 기반 공간 집합 계획 벤치마킹
임상의의 언어 모델 활용 방식과 모델 평가 방식 간의 괴리
모방을 넘어서: LLM 지원 피어 리뷰를 위한 프레임워크와 벤치마크
실제 환경의 변화 분석을 위한 환경 변화 탐지
법률 AI의 확장: 법령 분류 및 판례 검색을 위한 Mamba와 트랜스포머 벤치마킹
RoboPilot: 이중 사고 모드를 통한 일반화 가능한 동적 로봇 조작
PrismSSL: 하나의 인터페이스, 다양한 모달리티; 멀티모달 자기지도학습을 위한 단일 인터페이스 라이브러리
ELROND: 확산 모델의 내재적 능력 탐험 및 분해
노이즈가 있는 1차원 함수의 전역 최솟값 원샷 위치 추정: 세트 트랜스포머 및 고전적 추정량과 비교한 반복 신경망 최소화기
회의 효과성에 대한 재고: 시간적으로 세분화된 자동 회의 효과성 평가를 위한 벤치마크 및 프레임워크
EduGage: 자기주도형 비디오 학습 환경에서 센서 기반 순간 몰입도 평가를 위한 멀티모달 데이터셋 및 벤치마크
RamanBench: 라만 분광법 머신러닝을 위한 대규모 벤치마크
출처: Papers with Code · CC BY-SA 4.0. 아카이브 자료와 새로 수집한 논문은 별도로 관리합니다.