GenPFN: 공학 분야의 소규모 데이터셋 증강을 위한 인컨텍스트 표 형식 파운데이션 모델 접근법
GenPFN: An In-Context Tabular Foundation Model Approach for Augmenting Small Datasets in Engineering
한국어 초록
비용이 많이 드는 시뮬레이션과 실험은 공학 설계에 활용할 수 있는 데이터를 제한한다. 본 논문은 가중치가 고정된 사전 학습 표 형식 Prior-Data Fitted Network(TabPFN) 분류기의 안내를 받는 학습 불필요(training-free) 후보 생성기인 GenPFN을 제안한다. 컨텍스트는 바람직함(클래스 1) 또는 바람직하지 않음(클래스 0)으로 레이블링된 평가 완료 설계들을 포함한다. GenPFN은 바람직한 설계들 사이를 보간하고, 게이트가 적용된 분류기 기울기와 가우시안 잡음을 이용해 후보를 정제한다. 각 후보는 문제의 제약 조건과 목적 함수를 사용해 평가된다. 평가된 바람직한 설계와 그 목적 함수 값은 회귀 학습을 위한 컨텍스트를 증강한다. 평가는 두 개의 매개변수를 갖는 벤치마크와 44개의 매개변수를 갖는 선체 문제를 포함하여 선별된 14개의 문제에 걸쳐 수행된다. 쌍대 비교에서 TabPFN v1을 사용한 GenPFN은 시험한 적대적 생성기, 변분 오토인코더 생성기, 확산 생성기보다 더 높은 클래스 충족도와 더 낮은 현실성 거리를 달성한다. 변분 오토인코더 생성기는 더 큰 커버리지와 다양성을 제공한다. 합성 소수 클래스 과표집 기법(SMOTE)과 비교하면 GenPFN은 더 낮은 커버리지 거리와 더 큰 다양성을 제공한다. 관측된 쌍대 회귀 적합들 가운데, 증강은 컨텍스트만으로 학습한 경우에 비해 AutoGluon 검증 평균 제곱 오차 추정치를 62.1% 감소시킨다. 선체-선미 사례 연구에서는 무작위로 표집한 컨텍스트 설계의 1.4%에 비해 99.3%의 후보가 프로펠러와 호환된다. 생성 후 평가를 거쳐 얻은 표본 집합은 제한된 데이터셋을 증강하고 더 정확한 예측 모델의 학습을 뒷받침한다.
원문 초록
Costly simulations and experiments limit the data available for engineering design. This paper proposes GenPFN, a training-free candidate generator guided by a pretrained tabular Prior-Data Fitted Network (TabPFN) classifier with fixed weights. The context contains evaluated designs labeled desired (Class 1) or undesired (Class 0). GenPFN interpolates between desired designs and refines candidates using gated classifier gradients and Gaussian noise. Each candidate is evaluated using the problem's constraints and objective functions. Evaluated desired designs and their objective values augment the context for regression training. Evaluation spans fourteen selected problems, including a two-parameter benchmark and a 44-parameter hull problem. In paired comparisons, GenPFN with TabPFN v1 achieves higher class satisfaction and lower realism distance than the tested adversarial, variational-autoencoder and diffusion generators. The variational-autoencoder generator provides greater coverage and diversity. Relative to the synthetic minority over-sampling technique (SMOTE), GenPFN provides lower coverage distance and greater diversity. Among observed paired regression fits, augmentation reduces estimated AutoGluon validation mean squared error by 62.1% relative to context-only training. A hull-stern case study yields 99.3% propeller-compatible candidates versus 1.4% among randomly sampled context designs. Generation followed by evaluation produces sample sets that augment limited datasets and support training more accurate predictive models.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.14804v3제출 시각 미확인
- arXiv:2611.14804v2제출 시각 미확인
- arXiv:2611.14804v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.