Cryo-Bench: 빙권 매핑을 위한 파운데이션 모델 벤치마킹
Cryo-Bench: Benchmarking Foundation Models for Cryosphere Mapping
한국어 초록
지리공간 파운데이션 모델(Geo-Foundation Models, GFM)은 다양한 지구 관측 작업과 영역에서 평가되며 희소한 라벨 환경에서도 신뢰할 수 있는 지도를 생성할 수 있는 강력한 잠재력을 입증해 왔습니다. 그러나 적합한 평가 데이터셋이 부족하다는 점 때문에 빙권(Cryosphere) 응용 분야에 대한 GFM의 체계적인 벤치마킹은 여전히 제한적이었습니다. 본 연구에서는 빙하 상부 쇄설물(supraglacial debris), 두 가지 감지 구성을 갖춘 빙하호, 해빙, 붕괴 전면(calving fronts), 남극 빙붕 범위의 다섯 가지 빙권 구성요소를 포괄하는 6개의 시맨틱 분할 데이터셋으로 구성된 벤치마크인 Cryo-Bench를 제안하여 이러한 공백을 해소합니다. 이 벤치마크는 기존 사전학습 아카이브에서 대표성이 낮았던 지역의 다중스펙트럼(multispectral), RGB 및 합성개구레이더(SAR) 관측 데이터를 포함합니다. 저자들은 통합 평가 프로토콜에 따라 처음부터 학습된(scratch) U-Net 및 비전 트랜스포머(Vision Transformer) 기준선과 함께 13개의 GFM을 평가합니다. 동결된 인코더(frozen encoders) 조건에서는 U-Net이 6개 데이터셋 평균 mIoU(mean intersection over union) 69.31%로 최고 성능을 달성하여 TerraMind(67.86%)를 1.45% 포인트 앞섰습니다. 쌍체 차이(paired difference)의 95% 신뢰 구간은 [+0.94, +1.98]로, U-Net의 우위가 통계적으로 유의미함을 보여줍니다. 반면, 학습률 최적화는 미세조정 성능을 크게 향상시킵니다. DOFA는 RGB 빙하호 작업에서 93.97% mIoU를 기록하여 U-Net을 4위로 밀어냈으며, Scale-MAE와 GFM-Swin은 붕괴 전면 작업에서 U-Net을 앞섰습니다. 전체 6개 데이터셋의 평균에서는 TerraMind, GFM-Swin, DOFA, Scale-MAE의 4개 GFM이 U-Net 기준선(69.31%)을 능가했습니다. 퓨샷(few-shot) 설정에서도 DOFA, RemoteCLIP, TerraMind, GFM-Swin, Scale-MAE의 5개 GFM이 마찬가지로 U-Net보다 우수한 성능을 보였으며, 13개 전체 GFM 평균 기준 전체 라벨 정확도 대비 성능 유지율은 U-Net의 86.1%에 비해 92.5%를 기록했습니다.
원문 초록
Geo-Foundation Models (GFMs) have been evaluated across diverse Earth observation tasks and domains, showing strong potential to produce reliable maps even with sparse labels. However, systematic benchmarking of GFMs for Cryosphere applications remains limited, primarily because suitable evaluation datasets are scarce. We address this gap by introducing Cryo-Bench, a benchmark comprising six semantic segmentation datasets covering five cryospheric components: supraglacial debris, glacial lakes under two sensing configurations, sea ice, calving fronts and Antarctic ice-shelf extent. The benchmark includes multispectral, RGB, and synthetic aperture radar observations from regions underrepresented in existing pretraining archives. We evaluate thirteen GFMs alongside U-Net and Vision Transformer baselines trained from scratch under a unified evaluation protocol. With frozen encoders, the U-Net achieves the highest six-dataset average mean intersection over union (mIoU) of 69.31\%, exceeding TerraMind (67.86\%) by 1.45 points. The paired difference has a 95\% confidence interval of [+0.94, +1.98], indicating that the U-Net's lead is statistically significant. In contrast, learning-rate optimization substantially improves fine-tuning performance: DOFA reaches 93.97\% mIoU on the RGB glacial lake task, ranking the U-Net fourth, while Scale-MAE and GFM-Swin surpass U-Net on calving fronts. Averaged across all six datasets, four GFMs, TerraMind, GFM-Swin, DOFA, and Scale-MAE, exceed the U-Net baseline (69.31\%). In the few-shot setting, five GFMs, DOFA, RemoteCLIP, TerraMind, GFM-Swin, and Scale-MAE, likewise outperform U-Net; averaged across all thirteen GFMs, retention is 92.5\% of full-label accuracy compared with 86.1\% for U-Net.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
아무것도 예측하지 않는 것이 SAM 3를 능가할 때: 비디오 객체 분할 평가의 재검토
When Predicting Nothing Beats SAM 3: Revisiting Evaluation in Video Object Segmentation
복잡하고 긴 비디오에서의 비디오 객체 분할(Video Object Segmentation, VOS)은 대상 객체가 긴 시간 지평 내에서 간헐적으로만 나타나는 경우가 많은 실제 응용 분야에서 점차 중요해지고 있습니다. 그러나 기존 벤치마크는 대부분 비디오의 대부분 동안 가시적으로 유지되는 시간적으로 두드러진 객체에 주로 초점을 맞추고 있습니다. 이러한 공백을 해결하기 위해 본 논문에서는 낮은 시간적 가시성 조건에서 VOS 방법을 평가하도록 설계된 벤치마크인 FaVOS(A Benchmark for Video Object Segmentation with Fractional Temporal Visibility)를 소개합니다. 우리는 이러한 조건에서 표준 J&F 지표가 대상이 존재하지 않는 프레임에 대한 빈 예측에 높은 보상을 부여하기 때문에 VOS 평가를 부재 분류(absence classification)로 전락시킬 수 있음을 보입니다. 그 결과, 자명한 빈 마스크 예측기조차 SAM 3와 같은 강력한 모델을 능가할 수 있으며, 이는 현재 지표와 실질적인 VOS 성능 간의 근본적인 불일치를 드러냅니다. 이 문제를 완화하기 위해 마스크 시퀀스를 시공간 볼륨으로 평가하고 분할 품질 및 시간적 구조에 대한 민감도를 유지하면서 대상 부재 보상의 지배력을 줄이는 Volumetric J&F를 제안합니다. 프로젝트 페이지: https://aidaslab.github.io/FaVOS.
AMLworld-Compact: 비용 효율적인 LLM 평가 및 오류 진단을 위한 중요도 가중치 다운샘플링
AMLworld-Compact: Importance-Weighted Downsampling for Cost-Effective LLM Evaluation and Error Diagnosis
AMLworld의 가장 작은 테스트 분할에서 대규모 언어 모델(LLM)을 평가하는 것은 100만 개가 넘는 타깃 각각에 별도의 그래프 프롬프트(prompt)가 필요하기 때문에 비용이 많이 듭니다. 샘플링을 통해 이러한 비용을 줄일 수 있지만, 크기가 작은 균형 잡힌 서브셋은 가중치가 적용되지 않은 정밀도(precision)와 F1 점수를 변화시킵니다. 본 논문에서는 모든 불법 테스트 거래를 보존하면서 지도학습 점수 층(strata)에서 정상 거래를 샘플링하는 평가 셋인 AMLworld-Compact를 소개합니다. 이 세트의 HT-Coreset 프로토콜은 HI-Small 및 LI-Small에서 평가 타깃을 각각 271배 및 611배 줄입니다. 호비츠-톰슨(Horvitz-Thompson) 가중치(weight)는 고정된 예측에 대해 편향되지 않은 전체 테스트 오차 행렬 카운트 추정치를 제공하며, 재현율(recall)은 정확하고 정밀도와 F1은 비율 추정치입니다. Graph Feature Preprocessor(GFP) 특징(feature)을 사용한 홀드아웃 연구에서, 한 부스팅 트리 계열이 구성당 500회 추출에 걸쳐 다른 부스팅 트리 계열을 평가하기 위한 층을 정의합니다. 공개된 크기에서 HT 가중치를 적용한 균일 샘플링의 F1 RMSE가 4.44~7.41%포인트인 것에 비해, 본 방식은 0.00~2.58%포인트였으며 보수적 구간은 여전히 넓게 유지됩니다. 평가된 그래프 프롬프트 하에서, 7개의 오픈 가중치 LLM은 모두 불법으로 예측하는 기준선(baseline)에 근접한 가중 정밀도를 보였습니다. 모델(model)당 1회 실행에서 추출한 1,000개의 HI-Small 퓨샷 출력에 대한 결과 층화 감사에서, 어휘 검사는 정답인 이진 판정의 84.5%와 오답인 이진 판정의 56.2%를 통과했으므로 이러한 표식이 정확성을 입증하지는 못합니다. 저자들은 평가 셋, 구축 코드 및 감사 도구를 https://huggingface.co/datasets/typhoon-ai/AMLworldCompactEval 및 https://github.com/nat-nischw/AMLworld-Compact 에 공개합니다.
ARC를 위한 사전학습과 테스트 시점 학습 예산의 중요성: VARC와 TRM에 대한 통제 연구
Pretraining and Test-Time Training Budgets Matter for ARC: A Controlled Study of VARC and TRM
추상화 및 추론 코퍼스(Abstraction and Reasoning Corpus, ARC)는 신경망이 적은 수의 시연(demonstration)으로부터 과제별 변환을 추론할 수 있는지를 평가하는 데 점점 더 많이 사용되고 있다. 최근의 ARC 모델들은 아키텍처뿐만 아니라 사전학습 데이터, 데이터 증강, 테스트 시점 설정, 최적화 예산을 포함한 더 넓은 학습 및 평가 프로토콜에서도 차이를 보이며, 이로 인해 아키텍처의 이점에 대한 결론이 논쟁의 여지가 있다. 본 연구에서는 ARC-AGI-1에 대한 공통된 귀납적 프로토콜 하에서, 비전에서 영감을 받은 VARC 모델과 재귀 기반 TRM 모델의 성능이 사전학습 및 테스트 시점 학습(test-time training, TTT) 예산에 의해 어떻게 영향을 받는지를 연구한다. 각 테스트 과제에 대해 다섯 가지 사전학습 예산과 네 가지 TTT 예산을 교차시킨다. 각 예산은 과제 변형 수와 총 샘플 제시 횟수를 지정하며, 이를 통해 통제된 학습 예산을 정의한다. TTT 샘플 제시 횟수를 늘리면 두 모델 모두에서 모든 설정에서 표준 ARC pass@2 지표가 향상되는 것을 관찰하였다. TTT 과제 변형 수를 늘리는 것은 TRM에만 일관되게 도움이 되는 반면, VARC는 변형 수가 더 적을 때 더 좋은 성능을 보이는 경우가 많다. 또한 VARC는 사전학습 없이도 경쟁력을 유지하는 반면, TRM은 사전학습으로부터 훨씬 더 많은 이점을 얻는다. 이러한 결과는 사전학습과 TTT 예산이 ARC 평가에 영향을 미친다는 것을 보여주며, 비교 가능한 예산 수준에서 결과를 보고할 필요성을 제기한다.
위성 영상을 활용한 건물 피해 평가 과제 재고
Revisiting the Task of Building Damage Assessment by Satellite Imaging
지진, 열대성 폭풍, 홍수와 같은 자연재해는 건물에 광범위한 피해를 입히며, 신속하고 신뢰할 수 있는 피해 지도는 긴급 대응을 안내하는 데 필수적입니다. 위성 영상으로부터 이 작업을 자동화하는 건물 피해 평가(BDA, building damage assessment)는 원격 탐사, 컴퓨터 비전(CV), 머신러닝의 교차점에서 활발한 연구 주제가 되었으며, 특히 지도 기반 심층 학습(deep learning) 방법이 기존의 수작업 특징 기반 접근법보다 우수한 성능을 보이는 것으로 입증된 이후 더욱 주목받고 있습니다. 그러나 10년간의 활발한 연구와 여러 대규모 데이터셋(dataset)의 공개에도 불구하고, 이 분야는 공통된 기반이 부족한 실정입니다. 본 챕터에서는 데이터, 평가(evaluation), 방법이라는 세 가지 축을 중심으로 BDA 과제를 근본적인 원리(first principles)에서 재고합니다. 먼저 후보 과제 정식화를 명확히 하고, 재난 전 영상의 누락을 허용하는 센서 불가지론적(sensor-agnostic) 인스턴스 기반 정의를 제안합니다. 그런 다음 센싱 양식(modality), 시간적 구성, 지리적 적용 범위라는 축을 따라 기존 데이터셋을 검토합니다. 평가 측면에서는 주로 단일 종합 점수에 의존하는 기존 관행이 이론적으로 취약함을 보이고, 더 유용한 정보를 제공하는 순위 기반 다중 점수 프로토콜의 기반을 마련합니다. 나아가 과제 특화 심층 신경망부터 최근의 지구 관측 파운데이션 모델에 이르는 방법론을 검토하며, 미확인 재난 및 지역에 대한 일반화가 여전히 미해결 과제로 남아 있음을 확인합니다. 마지막으로 교차 검증(cross-validation), 챌린지, 개발자와 사용자 간의 신뢰를 구축하도록 설계된 비공개 데이터 공유 설정을 포함하여, 이러한 요소들이 BDA 챌린지 조직에 어떻게 정보를 제공할 수 있는지 논의합니다.
GIFTBench: 이미지 위조 국소화에서의 일반화 진단 및 모델 설계 안내
GIFTBench: Diagnosing Generalization in Image Forgery Localization and Informing Model Design
이미지 위조 국소화(image forgery localization, IFL)에 대한 신뢰할 수 있는 평가(evaluation)는 다양한 분포 변화 하에서 모델(model)을 평가할 것을 요구하지만, 기존 벤치마크(benchmark)들은 제한된 조작 조건만을 다루거나 교차 데이터셋 평가에서 여러 요인을 뒤얽히게 만드는 경우가 많습니다. 결과적으로 종합적인 성능만으로는 국소화 일반화(generalization)에 대한 불완전한 시각만을 제공하게 됩니다. 본 연구에서는 조작 출처, 의미론적 대상, 편집 연산, 합성 복잡도에 걸쳐 픽셀 수준 주석이 포함된 115,013개의 조작 이미지로 구성된 다축 벤치마크인 GIFTBench를 소개합니다. GIFTBench는 축별 전이 분석과 12개의 외부 데이터셋(dataset)에 대한 평가를 지원합니다. 본 벤치마크의 진단 연구는 비대칭적 교차 출처 전이, 재현율(recall) 위주의 실패, 그리고 의미론적·연산적·합성적 변화에 걸친 이종적 성능 저하를 밝혀냅니다. 진단을 넘어, GIFTBench의 규모와 다양성은 기존 IFL 데이터셋보다 실질적으로 훨씬 더 넓은 학습(training) 분포를 제공합니다. GIFTBench에서 대표적인 국소화 모델들을 학습시키면 외부 데이터셋으로의 종합적인 전이 성능이 일관되게 향상되며, 이는 본 벤치마크가 평가 도구뿐만 아니라 도메인 간 국소화를 위한 효과적인 학습 자원으로도 기능함을 보여줍니다. 이러한 진단 결과를 바탕으로, 우리는 분류(classification)에 적응된 표현과 다중 심도·다중 스케일 공간 특징, 학습된 층(layer) 융합, 선택적 조대 스케일 조건화를 결합한 탐지 및 국소화 프레임워크인 ForenScope를 추가로 개발했습니다. 실험 결과, 이미지 수준의 탐지 능력을 유지하면서도 향상된 교차 데이터셋 국소화 성능을 보였습니다. GIFTBench 데이터셋 쇼케이스 페이지는 https://giftbench-preview.doudoudouya337.chatgpt.site 에서 확인할 수 있습니다.
MetaFormer and CNN Hybrid Model for Polyp Image Segmentation
토론
이 논문과 연결된 포럼 글이 아직 없습니다.