희소 프로브와 불투명한 물리학: 연속체 역학 파운데이션 모델에서의 해석 가능성 도전 과제에 대한 사례 연구
Sparse probes and murky physics: a case study of interpretability challenges in a foundation model for continuum dynamics
생성형 AI 에뮬레이터는 이미 강력한 이론, 벤치마크, 물리적 직관이 존재하는 과학 분야에서 점점 더 많이 사용되고 있습니다. 이는 중요한 평가 및 해석 가능성 질문을 제기합니다. 파운데이션 스타일 모델이 알려진 연속체 역학을 재현할 수 있을 때, 어떤 내부 메커니즘이 그 동작을 지원하는지, 내부 동작이 알려진 물리학과 일치하는지, 그리고 이것이 에뮬레이터가 성공하거나 실패하는 지점과 어떤 관련이 있는가입니다. 우리는 물리적 원칙에 의해 안내되는 기계적 해석 가능성을 사용하여, 연속체 역학을 위한 교차 도메인 파운데이션 모델인 Polymathic의 Walrus를 조사합니다. 우리는 희소 오토인코더(SAE)를 적용하여 선택된 층을 프로브하고, 엔스트로피(enstrophy)를 물리적으로 근거 있는 지표로 사용하여 대규모 특징 집합(20,000개 이상)을 선별하는 실제적인 과제를 해결합니다. 의도적으로 단순화된 테스트베드로서, 우리는 전단 유동(shear flow)에 초점을 맞추고 여러 전단 유동 설정, 즉 수치 시뮬레이션의 매개변수 값에 걸쳐 특징 동원을 비교합니다. 설정에 걸쳐 우리는 구간별 일관성의 증거를 발견했으며, 특징의 부분집합이 유사한 역할로 재발하지만, 이 구조는 간헐적이며 표준 물리적 분해에 깔끔하게 매핑되지 않습니다. 병행하여, 수치 시뮬레이션과 에뮬레이터 간의 직접적인 비교는 에너지/구조가 너무 확산되거나 너무 국지화되는 영역을 포함하여 체계적인 출력 수준 불일치를 드러냅니다. 우리는 이러한 불일치의 일부를 특정 SAE 특징 사용의 변화와 연결합니다. 우리의 작업은 과학적 파운데이션 모델에 대한 미해결 과제를 강조합니다. 기계적으로 의미 있는 특징을 어떻게 견고하게 우선순위로 지정하는지, 안정적인 구조를 분석 인공물(단일 층 및 SAE 한계 포함)과 어떻게 분리하는지, 그리고 "다른" 내부 표현이 단순히 효과적인 것이 아니라 진정으로 정보성 있는 것인지를 결정하기 위해 확립된 벤치마크를 어떻게 사용하는지에 대한 것입니다.