PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2505.06592v2cs.CV공식 코드 · Papers with Code

대규모 언어 모델의 멀티모달 융합을 위한 단일모달 미세조정 기반 배치 증강

Batch Augmentation with Unimodal Fine-tuning for Multimodal Fusion of Large Language Models

본 논문에서는 멀티모달(multimodal) 학습을 위한 단일모달 미세조정(unimodal fine-tuning) 기반 배치 증강(batch augmentation) 기법을 제안합니다. 먼저 사전학습된 단일모달 모델에서 출발하여 응용 데이터로 해당 단일모달 모델들을 미세조정합니다. 그 후, 단일모달 모델들의 정보를 입력받아 출력을 제공하는 다층 퍼셉트론(MLP) 헤드를 구성합니다. 마지막으로 배치 증강을 적용하여 MLP 층과 단일모달 부분을 함께 학습합니다. 데이터에 따라 일부 단일모달 모델은 하드코딩된 스크립트나 AI 에이전트로 대체될 수 있습니다. 또한 데이터 증강이 가능한 경우 단일모달 학습 과정에서도 배치 증강을 따를 수 있습니다. 우리는 멀티모달 데이터에 대한 배치 증강을 구현하는 멀티모달 배치 증강 데이터로더 스크립트를 작성했습니다. 제안하는 방법은 FPU23 초음파 및 UPMC Food-101 멀티모달 데이터셋에서 검증되었습니다. 제안된 학습법을 적용한 멀티모달 대규모 언어 모델(LLM)은 두 데이터셋 전반에 걸쳐 조사된 기법들 중 가장 우수한 평균 결과를 달성했습니다. 문헌 조사에 따르면, 비전용으로 ViT-L/16 모델을, 텍스트용으로 GPT-2 모델을 적용했을 때 제안하는 방법은 UPMC Food-101 데이터셋에서 93.29%의 최고 수준(SOTA) 정확도를 달성했습니다. 우리는 제안하는 방법과 기존 대응 방식들의 스크립트를 github.com/dipuk0506/multimodal 저장소에 공개합니다.