ELADO: 오퍼레이터 학습을 위한 타원형 PDE 평가 데이터셋
ELADO: Elliptic PDE Assessment Datasets for Operator Learning
한국어 초록
본 논문은 ELADO(Elliptic PDE Assessment Datasets for Operator Learning)를 소개한다. ELADO는 타원형 PDE의 해(solution) 오퍼레이터를 학습할 때 신경 오퍼레이터(neural operator) 아키텍처의 실패 모드를 드러내고 정량화하기 위해 구축된 체계적인 벤치마크 모음이다. 기존 데이터셋의 벤치마크는 평균 케이스 성능에 초점을 맞추는 반면, ELADO 데이터셋은 타원형 PDE 문제에서 자연스럽게 발생하는 과제들을 부각하도록 구성되었다. 특히, 비일정(non-constant) 계수를 갖는 푸아송 방정식(Poisson's equation)과 Helmholtz 방정식을 중심으로 여러 데이터셋을 구축한다. 각각의 어려움의 원인을 분리하도록 설계된 데이터셋을 생성하기 위해 조절 가능한 데이터 생성 과정을 정의한다. 구체적으로, 이는 (1) 꼬리가 가벼운(light-tailed) 계수장(coefficient field) 분포에서 비롯되는 꼬리가 무거운(heavy-tailed) 해 분포, (2) 입력 데이터의 스펙트럴 분포 이동(spectral distribution shift), (3) 꼬리가 가벼운 계수장 분포에서 비롯되는 해의 주파수 영역에서의 꼬리가 무거운 분포, (4) 경험적 국소 Lipschitz 분석으로 정량화되는 학습된 오퍼레이터의 입력 민감도(input sensitivity), (5) 제어된 진폭 정규화 하에서 입력 신호 복잡도가 예측 정확도에 미치는 영향이다. 모든 데이터셋에 걸쳐 여러 신경 오퍼레이터 아키텍처를 평가한 결과, 꼬리가 무거운 타깃, 스펙트럴 이동, 입력 민감도가 각각 예측 정확도를 상당히 저하시킨다는 것을 보였다. 이러한 저하는 표준 데이터셋과 지표(예: 평균 상대 $L^2$ 오차)로는 가려질 수 있다.
원문 초록
We introduce ELADO (Elliptic PDE Assessment Datasets for Operator Learning), a systematic benchmark suite constructed to show and quantify failure modes of neural operator architectures when learning solution operators of elliptic PDEs. While the benchmarks of existing datasets focus on average case performance, the ELADO datasets are constructed to highlight challenges that arise naturally in elliptic PDE problems. In particular, we construct several datasets built around Poisson's equation and the Helmholtz equation, each with non-constant coefficients. We define a controllable data-generating process to create datasets, that are designed to isolate a distinct source of difficulty. Specifically, these are (1) heavy-tailed solution distributions arising from light-tailed coefficient field distributions, (2) spectral distribution shift of the input data, (3) heavy-tailed distributions in the frequency domain of solutions, arising from light-tailed coefficient field distributions, (4) input sensitivity of learned operators, quantified by an empirical local Lipschitz analysis, and (5) the effect of input signal complexity on prediction accuracy under controlled amplitude normalization. We evaluate several neural operator architectures across all datasets and show that heavy-tailed targets, spectral shift, and input sensitivity each cause substantial degradation of the prediction accuracy that standard datasets and metrics (e.g., the mean relative $L^2$ error) may obscure.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.20771v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
LLM 리더보드 주장은 숨겨진 모델 선택에 얼마나 민감한가?
How Sensitive Are LLM Leaderboard Claims to Hidden Model Selection?
LLM 리더보드에서의 성능 향상은 비공개로 평가된 여러 모델 변형 중에서 이루어진 선택을 반영할 수 있지만, 변형의 수와 이들 간의 의존성은 모두 공개되어 있지 않다. 본 연구는 공개된 마진(margin)이 고정된 비교 대상에 대한 제공자의 우위를 뒷받침하는 통계적 증거를 유지하면서 몇 개의 숨겨진 변형까지 지지할 수 있는지를 묻는다. 고정된 후보 모델군에 대해 가우시안 마진 모델을 가정하고, 모델군 내 상관관계의 하한에 대한 함수로서 이 최대 개수를 나타내는 민감도 곡선을 유도한다. 관련 상관관계는 순위 산정에 사용된 점수와 표본추출 모델에 부합해야 한다. 통제된 모델군에서 문항 단위를 통합한(pooled) 문항 상관관계는 0.90인 반면, 종합 점수(composite-score) 상관관계는 문항을 재표집할 때 0.46, MMLU 과목을 재표집할 때 0.92이다. Open LLM Leaderboard의 인접 순위 주장 394건에 대한 문항 기반 감사 결과, 391건은 선택을 고려하기 전부터 이미 통계적 뒷받침이 부족한 것으로 나타났다. 보정 전 검정을 통과한 주장들 중에서도, 인증 여부는 숨겨진 모델군의 상관관계에 대한 가정에 좌우될 수 있다. 이렇게 얻어진 곡선은 관측되지 않은 탐색 규모를 추정하지 않으면서 이러한 가정을 명시적으로 드러낸다.
RAMP: 엣지 CPU 비전 모델을 위한 강건한 적응형 혼합 정밀도 양자화
RAMP: Robust Adaptive Mixed-Precision Quantization for Edge CPU Vision Models
엣지 CPU에 심층 학습 모델을 배포할 때는 계산 및 메모리 제약이 병목이 된다. 혼합 정밀도 양자화는 정확도를 유지하면서 추론 지연을 줄일 수 있다고 기대된다. 그러나 양자화는 층 유형마다 서로 다르게 영향을 미치므로, 정확도 손실이 최소화되고 지연 감소가 최대화되는 위치를 찾는 것이 중요하며, 그 효과는 전체 배포에 걸쳐 누적되어 상당한 이득 또는 허용 불가능한 과제 성능 저하로 이어진다. 이러한 식별은 민감도 지표, 즉 모든 후보 정책의 과제 정확도를 평가하지 않고 층별 열화를 추정하는 대리 지표에 의존한다. 그럼에도 널리 쓰이는 지표는 최신 아키텍처에서 체계적으로 실패한다. 우리는 서로 뚜렷이 다른 네 개의 신경망에 걸친 층별 INT8 양자화에 대한 13개 민감도 지표의 체계적 실증 연구를 제시하고, 그로부터 얻은 정책을 두 ARM64 플랫폼에서 검증한다. 그래디언트 기반 민감도 방법은 8개 모델-하드웨어 구성 중 4개에서 실패하고, 가중치 기반 통계는 2개에서 실패한다. 반면 Jensen-Shannon Divergence는 치명적 실패가 전혀 없으며, 안전하게 양자화할 수 없는 층을 안정적으로 분리한다. 민감도 지표만으로는 정책이 정의되지 않으며, 그 단계에 흔히 쓰이는 고정 임계값은 최신 아키텍처의 고도로 치우친 분포에서 취약하다. 우리는 K-Means 클러스터링으로 이를 해결하여 거의 무손실 정확도와 전체 정밀도 모델 대비 평균 $1.81\times$ 속도 향상을 달성한다. 마지막으로, 민감도와 관계없이 속도 향상이 미미한 층을 양자화에서 제외하는 것이 역효과를 낼 수 있음을 밝힌다. 이는 계산 그래프 단편화를 유발하고 연산자 융합(operator fusion)을 비활성화하기 때문이다. 우리 결과는 GPU 접근이나 그래디언트 계산 없이 이질적 엣지 CPU에 양자화된 비전 모델을 배포하는 실무자와 연구자에게 구체적인 할당 정책을 제공한다.
Build2SPARQL: 빌딩 지식 그래프 쿼리를 위한 대규모 Text-to-SPARQL 벤치마크 데이터셋
Build2SPARQL: A Large-Scale Text-to-SPARQL Benchmark Dataset for Building Knowledge Graph Querying
빌딩 자동화 시스템은 Brick 및 ASHRAE 223P와 같은 온톨로지를 사용하는 시맨틱 지식 그래프(KG)로 점점 더 많이 표현되고 있으며, 이는 인공지능 응용을 위한 기계 판독 가능한 기반을 형성합니다. 유망한 응용 분야 중 하나는 자연어 질문을 SPARQL로 변환하는 Text-to-SPARQL로, 빌딩 관리자가 언어 에이전트를 통해 이러한 그래프를 쿼리할 수 있게 해주지만 대규모 자연어/SPARQL 벤치마크의 부족으로 발전이 제한되고 있습니다. 본 논문에서는 지식 그래프 기반(KG-grounded) 파이프라인으로 생성된 빌딩 지식 그래프용 대규모 벤치마크인 Build2SPARQL을 제시합니다. 이 파이프라인은 SPARQL 쿼리를 전적으로 그래프 순회 코드로 생성 및 검증하는 반면, 대규모 언어 모델(LLM)은 자연어 질문만을 생성하도록 하여 쿼리의 정확성을 모델의 동작과 독립적으로 유지합니다. 해당 파이프라인은 선형 체인, 분기, UNION, 집계, OPTIONAL, 속성 필터링의 6가지 쿼리 패턴 패밀리를 추출하며, 각 쿼리를 5가지 어휘 레지스터에 걸쳐 표현합니다. 201개의 빌딩 지식 그래프(Brick 180개, ASHRAE 223P 21개)에 적용하여 6,136개의 실행 가능한 SPARQL 쿼리와 30,680개의 질문을 도출했습니다. 300개 질문에 대한 2인 평가자 인적 검증 결과 98.8%의 시맨틱 충실도, 98.8%의 자연스러움, 84.0%의 운영 타당성을 확인했습니다. 3개의 공개 가중치(open-weight) 언어 모델에 걸친 검색-증강 평가에서는 완전 일치(exact-match) 정확도가 0.2~20%(제로샷)에서 56~65%(3샷 검색)로 향상되었습니다.
아무것도 예측하지 않는 것이 SAM 3를 능가할 때: 비디오 객체 분할 평가의 재검토
When Predicting Nothing Beats SAM 3: Revisiting Evaluation in Video Object Segmentation
복잡하고 긴 비디오에서의 비디오 객체 분할(Video Object Segmentation, VOS)은 대상 객체가 긴 시간 지평 내에서 간헐적으로만 나타나는 경우가 많은 실제 응용 분야에서 점차 중요해지고 있습니다. 그러나 기존 벤치마크는 대부분 비디오의 대부분 동안 가시적으로 유지되는 시간적으로 두드러진 객체에 주로 초점을 맞추고 있습니다. 이러한 공백을 해결하기 위해 본 논문에서는 낮은 시간적 가시성 조건에서 VOS 방법을 평가하도록 설계된 벤치마크인 FaVOS(A Benchmark for Video Object Segmentation with Fractional Temporal Visibility)를 소개합니다. 우리는 이러한 조건에서 표준 J&F 지표가 대상이 존재하지 않는 프레임에 대한 빈 예측에 높은 보상을 부여하기 때문에 VOS 평가를 부재 분류(absence classification)로 전락시킬 수 있음을 보입니다. 그 결과, 자명한 빈 마스크 예측기조차 SAM 3와 같은 강력한 모델을 능가할 수 있으며, 이는 현재 지표와 실질적인 VOS 성능 간의 근본적인 불일치를 드러냅니다. 이 문제를 완화하기 위해 마스크 시퀀스를 시공간 볼륨으로 평가하고 분할 품질 및 시간적 구조에 대한 민감도를 유지하면서 대상 부재 보상의 지배력을 줄이는 Volumetric J&F를 제안합니다. 프로젝트 페이지: https://aidaslab.github.io/FaVOS.
ELMA: 장기 텍스트 기반 모션 생성을 위한 조응적 구성 벤치마킹
ELMA: Benchmarking Anaphoric Compositions for Long-Term Text-to-Motion Generation
RetryBench: GPT 도구 사용에서 재시도 권한과 복구 결과의 분리
RetryBench: Separating Retry Permission from Recovery Outcomes in GPT Tool Use
토론
이 논문과 연결된 포럼 글이 아직 없습니다.