한국어 초록
본 논문에서는 손실(loss)이나 정확도(accuracy) 측정 측면에서 성능이 유사하지만 문맥 인지(context-aware) 특성이 현저히 다른 모델 집합을 찾기 위한 접근법을 제안합니다. METABRIC 데이터셋(dataset)에 대한 실험을 통해, 제안된 방법이 성능 저하 없이 대조 방법론이 찾아낸 모델들보다 유전자 발현(gene expression)이 현저히 다른 여러 모델을 찾아낼 수 있음을 보여줍니다. 우리는 연구 대상인 기저 현상에 대한 통찰을 얻기 위해 모델의 전역적 특성을 분석하려는 모든 상황에서 제안된 방법론이 중요하다고 주장합니다.
원문 초록
In this paper, we propose an approach to finding sets of similar-performing models (in terms of loss/accuracy measurements) with highly different context-aware characteristics. Through experiments on the METABRIC dataset, we show that the proposed method finds multiple models with highly different gene expressions than those found by the control methodology without performance penalties. We argue that the proposed methodology is important whenever one aims to analyze any global characteristic of a model to extract insight into the underlying phenomenon being studied.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.12277v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
조합 융합을 통한 양자-고전 모델의 다양성 인지 앙상블
Diversity-Aware Ensemble of Quantum-Classical Models via Combinatorial Fusion
변분 양자 회로(VQC)는 회로 구조에 매우 민감하지만, 대부분의 양자 머신러닝 파이프라인은 단 하나의 최적 설계를 선택하고 나머지 후보는 폐기합니다. 본 논문에서는 양자 회로 탐색 공간 전반의 구조적 다양성을 활용하여 모델 융합(model fusion)을 통해 더 강력한 예측을 생성할 수 있는지 다룹니다. 순위-점수 함수(RSF)와 인지적 다양성(CD)을 활용해 여러 점수 산정 시스템을 선택하고 결합하는 모델 융합 프레임워크인 조합 융합 분석(CFA)을 구조적으로 다양한 29개의 고전 모델 및 양자 회로 풀에 적용합니다. 다양성 인지 모델 선택 방법을 사용하여 최대의 다양성을 지닌 모델 서브셋을 식별하고, 이를 점수 및 순위 결합 방식 모두로 결합합니다. 서로 다른 도메인을 포괄하는 4개의 이진 분류 벤치마크에 대한 실험 결과, CFA 기반의 하이브리드 고전-양자 융합은 고려된 모든 데이터셋에서 최고 성능의 개별 모델보다 일관되게 우수한 성능을 보였으며 정확도가 최대 6.03% 향상되었습니다. 관련 문헌과의 비교에서도 CFA 프레임워크는 4개 데이터셋 전반에서 더욱 우수한 성능을 달성합니다.
DiVid: 비디오 생성 모델의 차원별 다양성 붕괴 진단
DiVid: Diagnosing Dimension-Specific Diversity Collapse in Video Generation Models
괄목할 만한 발전에도 불구하고, 비디오 생성 모델은 동일한 프롬프트에서 반복적으로 샘플링할 때 매우 유사한 결과물을 생성하는 경우가 많아 창의적인 탐험(exploration)을 위한 유용성이 제한됩니다. 기존의 다양성 평가는 주로 전역적 스칼라 지표에 의존하여 비디오의 시공간 영역에서 다양성이 어느 부분에서 붕괴하는지를 모호하게 만듭니다. 본 논문에서는 비디오 생성 다양성을 의미(Semantic), 스타일(Style), 피사체(Subject), 장면(Scene), 모션(Motion), 카메라(Camera)의 6가지 해석 가능한 차원으로 분해하는 차원 수준의 진단 프레임워크인 DiVid를 소개합니다. 각 차원은 재현 가능한 컴퓨터 비전(CV) 파이프라인을 통해 측정되며, 잠재적인 트레이드오프를 검토하기 위해 품질 및 지시 충실도와 함께 분석됩니다. 대표적인 비디오 생성 모델들에 대한 체계적인 평가는 다양성이 매우 차원 특정적임을 보여줍니다. 즉, 전역적 다양성 점수가 높은 모델이라도 특정 요인, 특히 모션과 카메라 차원에서 여전히 붕괴를 보입니다. 이러한 순위는 충실하지 않은 생성 결과를 필터링한 후에도 유지되므로, 프롬프트를 벗어난 출력이 아니라 실제 능력 차이를 나타냅니다. 측정 외에도, 통제된 프롬프트 개입 실험을 통해 두 가지 근본적인 병목 현상을 규명했습니다. 개방형 프롬프트에서 모델이 지배적인 패턴으로 회귀하는 '기본 모드 수렴(default mode convergence)'과, 특히 시간적 요인에 대해 명시적으로 요청된 다양한 대안을 충실하게 구현하지 못하는 '구현 격차(realization gap)'입니다. 시간적 요인에 대한 더 큰 충실도 손실은 텍스트만으로 모션 및 카메라 변화를 제어하는 것의 어려움을 강조합니다. 따라서 DiVid는 다양성 연구의 초점을 다양성의 존재 여부 측정에서 다양성이 어디서, 왜 붕괴하는지 진단하는 것으로 전환하며, 차원 인식 학습(training) 목표 및 제어 신호에 대한 실행 가능한 방향을 제공합니다. 다양하고 제어 가능한 비디오 생성에 관한 향후 연구를 촉진하기 위해 본 프레임워크는 공개될 예정입니다.
그래프 기반 모델 검증 실무 가이드
A Practical Guide on Graphical Model Validation
이 논문은 손해보험 계리 모델링에서 가장 널리 사용되는 모델 검증(validation) 도구들을 체계적으로 정리한다. 여기에는 보정 도표(calibration plot), 실제 대 기대(actual-vs-expected) 도표, 리프트 차트(lift chart), 머피 다이어그램(Murphy diagram)과 같은 그래프 도구뿐 아니라, 브레그만 손실(Bregman loss), 편차 손실(deviance loss), 기초 손실(elementary loss), 머피 분해(Murphy's decomposition), 지니 점수(Gini score)와 같은 고전적인 통계 도구가 포함된다. 특히 보정(calibration)과 판별(discrimination)을 계약 건수 가중(policy-weighted) 모집단 측도 하에서 연구하는지, 아니면 노출 가중(exposure-weighted) 모집단 측도 하에서 연구하는지에 중점을 둔다. 이 구분은 보험료 체계가 올바른 척도에서 보정되도록 하는 데 매우 중요하다.
AgentBetta: 선택적 확장과 검증 기반 수축을 통한 AI 나노-에이전트의 검증 주도 적응형 구성
AgentBetta: Verification-Driven Adaptive Configuration of an AI Nano-Agent through Selective Expansion and Verified Contraction
대규모 언어 모델 에이전트는 일반적으로 사전 정의된 구성으로 배포되지만, 작업마다 필요한 모델 역량, 컨텍스트, 도구, 권한, 메모리 및 연산 자원은 상당히 달라질 수 있다. 본 연구는 이러한 요인을 실행 가능한 구성으로 표현하고, 검증 주도 진단, 선택적 확장, 검증 기반 반사실적 수축을 통해 이를 갱신하는 적응형 AI 나노-에이전트 프레임워크인 AgentBetta를 개발하고 평가한다. 평가는 통제된 메커니즘 검증과 외부 에이전트 비교를 구분한다. AB-ConfigBench 벤치마크에서 AgentBetta는 완전히 제공된 구성과 비교하여 중앙값 컨텍스트 할당을 64,000자에서 8,000 컨텍스트 문자로, 중앙값 도구 노출을 5개 도구에서 0개로 줄이면서 91.38%의 검증된 성공률을 달성했다. 구성 결핍 진단은 평가된 차원 전반에서 정밀도 1.000으로 매크로-F1 점수 0.819를 달성했으며, 선택적 확장은 관련 없는 구성 차원에 대한 불필요한 변경을 피했다. 성공 후 수축은 평가된 단일 차원 수축 프로브의 56.41%에서 검증 결과를 유지했으며, 이는 일부 성공적인 구성이 시험 조건에서 제거 가능한 역량을 포함하고 있음을 나타낸다. 외부 평가는 적응형 구성이 검증된 작업 완료와 역량 노출 사이의 균형을 개선할 수 있음을 시사하지만, 결과는 벤치마크와 에이전트 계열에 따라 달라진다. 특히 계열 간 복제는 주 백본 정확도 순위를 재현하지 못했으며, 특화 시스템은 특정 작업 도메인에서 여전히 유리했다. 이 결과는 AgentBetta를 특화된 에이전트 아키텍처의 보편적 대체재보다는 역량 할당과 추론 비용을 조절하는 구성 적응 메커니즘으로 해석하는 것을 뒷받침한다.
DecoupleMix: 확장 가능한 VLM 데이터 레시피를 위한 분리형 비율 탐색 및 볼록 할당
DecoupleMix: Decoupled Ratio Search and Convex Allocation for Scalable VLM Data Recipes
비전-언어 모델(VLM)의 데이터 큐레이션(data curation)은 점점 활발해지고 있지만, 사전학습 혼합(mixture) 구성에 대한 공개된 관행은 여전히 대체로 휴리스틱(heuristic)에 의존한다. 실무자들은 품질 필터를 통과한 데이터셋을 쌓아 올리고, 도메인 간 비율은 직관에 따라 설정하며, 새로운 데이터를 편입할 원칙적이고 귀속 가능(attributable)한 기준을 갖추지 못한 채 최첨단 레시피는 공개되지 않은 상태로 남아 있다. 우리는 데이터 구성을 체계적인 혼합 최적화(mixture-optimization) 문제로 공식화하고, 혼합을 두 개의 직교(orthogonal) 하위 문제—역량(capability) 간 클래스 간(inter-class) 비율과 카테고리 내 클래스 내(intra-class) 비율—로 분리함으로써 이를 재현 가능한 엔지니어링 절차로 전환한다. 클래스 간 할당에는 단일 변수 반복 탐색을 사용하고, 클래스 내 구성에는 다차원의 데이터셋 수준 평가로 품질(Quality)과 난이도(Difficulty)를 점수화한 뒤, 다양성(diversity) 목표를 갖춘 제약 볼록 최적화(constrained convex optimization)로 선택 문제를 공식화한다. DecoupleMix 프레임워크는 두 가지 핵심 기능을 제공한다: 다음에 수집할 데이터를 안내하고, 데이터셋 검증을 통제 가능하고 귀속 가능한 실험으로 만든다. 실험 결과, 우리 접근법은 휴리스틱 기준선(baseline)을 일관되게 능가한다. 더 나아가, 소규모 프록시(proxy)에서 발견한 최적 비율은 재조정(retuning) 없이 더 큰 규모로 원활히 이전(transfer)된다. 800억(80B) 개의 추가 멀티모달 지속 사전학습(continue-pretraining) 토큰을 사용하여, 우리 VLM은 훨씬 더 큰 멀티모달 예산으로 학습된 강력한 오픈소스 모델과 경쟁력 있는 성능을 보인다.
RareLens: 분기하는 대규모 언어 모델 추론 정렬을 통한 종단 간 희귀질환 진료
RareLens: Towards End-to-End Rare Disease Care via Aligning Divergent Large Language Model Reasoning
희귀질환은 전체 인구의 추정 3.5%에서 5.9%에 영향을 미치지만, 70% 이상의 환자가 오진되며 많은 환자가 진단에 이르기까지 수년간 평가를 겪는다. 이는 초기 증상이 비특이적이고 관련 전문성이 부족하며 불균등하게 분포되어 있기 때문이다. 인공지능이 지원을 제공할 수 있지만, 기존 시스템은 진료의 고립된 단계, 주로 진단만 다룬다. 이들은 일반적으로 후속 검사 결과에 의존하며, 모델 간 변동성을 제거해야 할 노이즈로 취급한다. 여기서 우리는 이러한 변동성을 활용하여 희귀질환 전체 궤적에 걸친 임상 의사결정을 지원하는 시스템 RareLens를 제시한다. 이질적인 대규모 언어 모델들이 동일한 사례를 평가할 때, 분기하면서도 상호 보완적인 추론을 생성하며, RareLens는 이를 각 단계에서 단일한 수렴적이고 실행 가능한 결정으로 정렬하고 보정한다. 네 개의 조율된 모듈이 초진 위험 선별, 진단, 치료 계획 및 예후를 수행한다. 33개 Orphanet 카테고리 전체와 7,000개 이상의 질환에 걸친 157,525건의 실제 사례로 구성된 실세계 데이터셋 RareBench에서 개발 및 평가되었으며, RareLens는 GPT-5, DeepSeek-R1, Claude-3.7-Sonnet, Gemini-2.5-Pro를 포함한 테스트된 모든 최신 프론티어 모델을 각 단계에서 능가했다. 선별에서 0.917의 곡선 아래 면적(AUC)을, 진단과 치료에서 각각 65.5% 및 89.8%의 top-1 정확도를 달성했다. 1,287건의 사례와 23명의 의사에 걸친 외부 연구에서, 자율 RareLens와 RareLens 보조를 받은 의사 모두 무 보조 의사보다 상당히 우수한 성능을 보였다. 이러한 결과는 단일 모델의 스케일링보다 분기하는 모델 추론의 정렬이 고불확실성 임상 의사결정을 위한 일반화 가능한 전략을 제공함을 나타낸다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.