Residual Mixture of Experts
원문 초록
Mixture of Experts (MoE) is able to scale up vision transformers effectively. However, it requires prohibiting computation resources to train a large MoE transformer. In this paper, we propose Residual Mixture of Experts (RMoE), an efficient training pipeline for MoE vision transformers on downstream tasks, such as segmentation and detection. RMoE achieves comparable results with the upper-bound MoE training, while only introducing minor additional training cost than the lower-bound non-MoE training pipelines. The efficiency is supported by our key observation: the weights of an MoE transformer can be factored into an input-independent core and an input-dependent residual. Compared with the weight core, the weight residual can be efficiently trained with much less computation resource, e.g., finetuning on the downstream data. We show that, compared with the current MoE training pipeline, we get comparable results while saving over 30% training cost. When compared with state-of-the-art non- MoE transformers, such as Swin-T / CvT-13 / Swin-L, we get +1.1 / 0.9 / 1.0 mIoU gain on ADE20K segmentation and +1.4 / 1.6 / 0.6 AP gain on MS-COCO object detection task with less than 3% additional training cost.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
AIMS: Sim-to-Real 멀티모달 ISAC을 위한 에이전틱 AI 프레임워크
AIMS: An Agentic AI Framework for Sim-to-Real Multi-Modal ISAC
멀티모달 통합 감지 및 통신(ISAC)은 지능형 무선 네트워크를 위한 환경 인지 및 안정적인 연결성을 가능하게 합니다. 데이터 기반의 멀티모달 ISAC 모델은 센싱과 무선 관측치 간의 관계를 학습하기 위해 레이블이 지정된 실제 데이터에 크게 의존하므로 확장 가능한 배포가 제한됩니다. 합성 데이터 생성이 이러한 부담을 줄여주지만, 기존 시뮬레이션 파이프라인을 목표 배포 환경에 적응시키려면 일관된 장면, 센싱, 무선 및 학습 구성이 필요하며, 결합된 구성 요소 간의 불일치는 시뮬레이션에서 실제 환경으로의(sim-to-real) 전이성을 저해합니다. 이러한 문제를 해결하기 위해, 본 논문에서는 AIMS라는 sim-to-real 멀티모달 ISAC을 위한 에이전틱 인공지능(AI) 프레임워크를 제안합니다. 목표 태스크, 배포 조건, 실제 데이터 예산을 명시한 자연어 배포 요청이 주어지면, AIMS는 배포 맞춤형 sim-to-real 구성을 도출하고 이의 실행을 조율하여 배포 맞춤형 태스크 모델을 생성합니다. 2개 에이전트 아키텍처는 장면 구축과 태스크 학습을 상호 조율합니다. 장면 구축 에이전트는 공유된 물리적 상태로부터 지리적으로 그라운딩(grounding)되고 동기화된 센싱 및 무선 기록을 생성하는 반면, 장면 이해 에이전트는 태스크 관련 모달리티와 제로샷(zero-shot) 추론 또는 퓨샷(few-shot) 적응을 위한 전문가 혼합(MoE) 학습을 구성합니다. 구조화된 도메인 지식은 의존성을 인식하는 계획 수립을 안내하며, 검증 증거는 영향을 받는 결정에 대한 피드백 기반 수정을 지원합니다. 실제 DeepSense 6G 데이터셋에 대한 실험 결과, 고려된 시뮬레이션 및 융합 베이스라인 대비 차량 탐지 및 빔 예측 성능이 향상되었음을 입증합니다. 별도의 오케스트레이션 벤치마크는 다양한 배포 요청 전반에 걸쳐 태스크 해석, 의존성 추론 및 피드백 기반 재계획을 평가하여 구조화된 도메인 지식과 검증 피드백을 통해 계획의 정확성이 향상됨을 보여줍니다.
MECAIL: 14.6 KB 시공간 전문가를 활용한 객체 검출용 통신 인식 증분 학습
MECAIL: Communication-Aware Incremental Learning for Object Detection with 14.6 KB Spatiotemporal Experts
지능형 교통 시스템은 동적 환경에서 전반적인 성능을 지속적으로 향상하기 위해 증분 학습(IL)이 필요하다. 그러나 대부분의 엣지 디바이스는 온디바이스 IL을 지원할 연산 자원이 부족하여, 업데이트를 중앙 서버에서 전송해야 한다. 우리는 이 구성을 활용하여 주차장, 주유소, 페리, 건설 현장과 같은 특정 시공간 맥락에 맞게 고정된 베이스 모델을 적응시키는 밀집적이고 특화된 모듈 커버리지를 얻는 것을 제안한다. 그러나 V2X, Wi-Fi, 2G–5G 하드웨어를 통해 TCP, UDP, BTP를 사용하여 이러한 모듈을 엣지 디바이스에 안정적으로 전송하기 위해, 첫 TCP 윈도우에 맞추고 UDP/BTP 단편화를 최소화하기 위해 모듈당 14.6 KB의 엄격한 한도를 설정한다. 또한 이 �strict한 요구를 충족하는 최초의 방법인 통신 인식 증분 학습을 위한 전문가 혼합(MECAIL)을 도입하며, 각 새로운 도메인 또는 환경은 베이스 모델을 적응시키는 소형 전문가 네트워크가 담당한다. D-RICO와 ODinW-13에서 MECAIL을 검증하였으며, 실용적이고 대역폭 효율적인 대규모 배포를 가능하게 하면서 매개변수 집약적 접근법의 성능과 대체로 일치한다. 이를 통해 고도로 구체적이고 집중적이며 일시적인 상황에 대해 전문가가 포괄적으로 커버할 수 있다.
탐지기는 잘못된 것을 학습한다: 물리적으로 실현 가능한 공격에 대항하는 단축 경로 저항적 적대적 학습
Detectors Learn the Wrong Thing: Shortcut-Resistant Adversarial Training Against Physically Realizable Attacks
AI 기반 시각 지각 시스템이 지능형 교통 인프라 및 자율주행 차량 관련 응용에 점점 더 배치되고 있다. 그러나 물리적으로 실현 가능한 적대적 외형은 이러한 안전성(safety)에 중요한 시스템에 상당한 신뢰성 과제를 제기한다. 적대적 학습(adversarial training)은 효과적이지만, 적대적 텍스처와 양성 person 인스턴스 간의 반복적 공발생은 탐지기가 텍스처 자체를 객체 존재의 증거로 취급하게 만들어 패치 텍스처 단축 경로(shortcut)를 형성할 수 있다. 탐지기는 그러면 텍스처를 대상에 대한 증거로 취급하여, 텍스처만 있는 입력에서 오탐을 유발하고 교차 공격 일반화를 약화시킬 수 있다. 우리는 탐지기가 적대적 텍스처를 독립적인 판단 단서로 사용하는 것을 방지하는 인스턴스 수준 대조(contrastive) 적대적 학습 프레임워크인 InsCAT를 제안한다. SICA는 적대적 person 특징(feature)을 대응하는 clean 특징과 정렬하고 텍스처만 있는 음성(negative) 샘플과 분리하며, ROPO와 Guard는 온라인 공격 압력을 유지하고 학습을 조율한다. 렌더링된 nuScenes, INRIAPerson, 인쇄 의류, 세 가지 탐지기 계열에서 독립적으로 생성된 8개의 공격 텍스처를 평가한다. InsCAT은 렌더링된 nuScenes에서 평균 공격 AP 82.3%를 달성하여, 가장 강한 기준선보다 11.1포인트 높다. AT-Mix 대비 텍스처 FPR은 46.9%에서 7.3%로 감소한다. 물리적 테스트는 F1 점수 96.6%와 FPR 1.8%를 산출한다. 별도로 학습된 탐지기에서의 일관된 성능 향상은 직접 추론으로 아키텍처 전반에 걸친 적용 가능성을 보여준다. 결과는 견고한(robust) 물리적 탐지가 대상 관련 증거를 보존하면서 적대적 텍스처가 독립적인 판단 단서가 되는 것을 방지하는 데 달려 있음을 보여준다.
MicroCharNet: 번호판 문자 검출을 위한 경량화 접근법
MicroCharNet: Less is More for License Plate Character Detection
번호판 문자 검출은 지능형 교통 시스템의 핵심 구성 요소로, 실시간 배포를 위해 높은 정확도와 연산 효율성이 요구된다. 최근 심층 학습(deep learning) 기반 방법들이 검출 성능을 크게 향상시켰으나, 높은 정확도를 달성하는 모델(model) 대부분은 대규모 아키텍처에 의존하여 상당한 연산 오버헤드를 수반하며, 이로 인해 자원이 제한된 디바이스에서의 적용이 어렵다. 본 논문에서는 번호판 문자 검출에 특화된 초경량 모델인 MicroCharNet을 제안한다. 제안된 아키텍처는 C2f 블록으로 구성된 소형 백본을 채택하고, CoordAtt 모듈을 통합하여 공간 정보를 보존하면서 특징(feature) 추출 성능을 향상시킨다. 경량화된 C3k2 기반 넥(neck)이 다중 레벨 특징을 융합하며, 이후 단일 레벨 앵커 프리 검출 헤드를 통해 엔드투엔드 예측이 가능하다. UFPR-ALPR 데이터셋(dataset)에서 수행된 실험 결과, MicroCharNet은 0.08M 파라미터와 0.096 GFLOPs만으로 경쟁력 있는 검출 정확도를 달성하며, 최근의 여러 YOLO 기반 베이스라인을 능가하는 성능을 보인다. 하드웨어 수준의 평가(evaluation)를 통해 에지 디바이스에서의 실시간 배포 효율성도 확인되었다. 이러한 결과는 신중하게 설계된 초경량 아키텍처가 번호판 문자 검출에서 정확도와 효율성의 균형을 효과적으로 달성할 수 있음을 보여준다. 소스 코드는 https://github.com/chequanghuy/MicroCharNet에서 확인할 수 있다.
KnowZRel: Common Sense Knowledge-based Zero-Shot Relationship Retrieval for Generalised Scene Graph Generation
Universal Fine-grained Visual Categorization by Concept Guided Learning
토론
이 논문과 연결된 포럼 글이 아직 없습니다.