Flow 기반 생성 모델은 연속 및 이산 상태 공간 전반에서 빠르고 제어 가능한 생성의 놀라운 진전을 가능하게 해 왔지만, 기존 매개변수화는 고정 차원 또는 고정 시퀀스 길이로 제한된다. 본 연구에서는 조건부 노이즈로 상태를 보강하여 상태를 확장하는 확장 보간(expanding interpolant)을 따라 차원이 증가하는 분포들 사이의 flow를 정의하는 Expanding Generative Flows(EFlows)를 소개한다. 이 구성을 바탕으로, 확장 보간을 효율적인 소수 단계(few-step) 생성 모델로 증류(distillation)하는 flow map의 새로운 클래스인 Expanding Flow Maps(EFMs)를 제안한다. 각 EFM은 임의의 두 시간 단계 사이의 map을 두 가지 학습 가능한 연산으로 분해한다: 현재 상태를 조건으로 상태 공간에 새로운 좌표 또는 토큰(token)을 보강하는 확장 연산자(expand operator), 그리고 확장된 상태를 보간(interpolant)을 따라 앞으로 밀어주는 수송 map(transport map). 이 연산자들을 조합하면 상태를 동시에 확장하고 디노이징(denoise)하는 단일 map이 되며, 확장 연산자가 항등(identity)인 특수한 경우로 기존의 고정 캔버스(fixed-canvas) flow 및 flow map을 복원한다. 또한 프레임워크를 이산 심플렉스(discrete simplex)로 확장하여 가변 크기 그래프 생성과 가변 길이 시퀀스 생성을 가능하게 한다. 연속 및 이산 양식(modality) 모두에서, 출력 크기 자체가 학습 가능하고 제어 가능한 자유도인 설정을 위한 원칙적인 프레임워크로 EFlows와 EFMs를 확립한다.
대규모 오디오-언어 모델은 청각 인지에서 놀라운 진전을 이루었지만, 고품질 오디오 추론 데이터의 부족으로 인해 텍스트 기반 대규모 언어 모델(LLM)에 비해 깊은 논리적 추론에서는 여전히 뒤처진다. 이 격차를 메우기 위해, 우리는 강력한 텍스트 교사 모델로부터 오디오-언어 학생 모델로 추론 능력을 전달하는 교차 모달(cross-modal) 온-정책 지식 증류 프레임워크인 X$^3$-OPD를 제안한다. 학습 중 학생 모델은 자체 음향 인지에 조건화된 추론 궤적을 생성하고, 교사는 매칭된 텍스트 입력과 검증된 답변을 사용하여 토큰 수준의 지도를 제공한다. 또한 우리는 음성으로 변환된 텍스트 추론, 복잡한 음향 장면에 기반한 오디오 이벤트 추론, 그리고 초언어적(paralinguistic) 단서를 포함하는 구어 대화 추론을 포괯하는 3단계 대칭 코퍼스를 구축한다. 이 설계는 교차 모달 증류를 텍스트로 복원 가능한 콘텐츠를 넘어 비언어적 이벤트, 운율(prosody), 대화 맥락에 기반한 추론까지 확장한다. MMSU, MMAU, BIG Bench Audio, MMAR에서의 실험은 X$^3$-OPD가 도메인 이동(domain shift) 하에서 모델의 기존 능력을 대체로 유지하면서 오디오 기반 추론과 사고의 연쇄(Chain-of-Thought) 품질을 크게 향상시킴을 보여준다.
Text-to-SQL은 대규모 언어 모델(LLM)로 빠르게 발전했지만, 복잡한 데이터베이스 쿼리는 여전히 원샷(one-shot) 생성을 넘어서는 추론을 필요로 하며, 다단계 분해, 실행 기반 진단, 표적 수정 등을 포함한다. 본 연구는 생성기(generator)와 비판자(critic) 간의 반복적 상호작용으로 SQL 합성을 공식화하는 공진화(co-evolution) 프레임워크인 EvoSQL을 제안한다. EvoSQL은 맥락화된 후보 메모리를 유지하고, 실행 신호와 LLM 기반 비평을 모두 활용해 SQL 후보를 검증하며, 유틸리티 유도 집계를 통해 메모리를 갱신한다. 기본 생성기-비판자 쌍을 강화하기 위해, 현대적인 코딩 LLM 백본에 실행 인식 지도를 주입하는 자기 증류 정책 최적화(Self-Distillation Policy Optimization, SDPO) 미세조정 단계를 추가로 도입한다. Spider와 BIRD에서의 실험은 EvoSQL이 Maj@16 베이스라인 대비 오픈소스 모델을 일관되게 개선함을 보여주며, 특히 BIRD-Dev에서 Qwen3-4B의 +1.37%부터 Qwen2.5-Coder-3B의 +9.19%까지 큰 폭의 향상을 보인다. SDPO 초기화는 Spider-Test와 BIRD-Dev에서 선택된 백본을 추가로 개선한다. 이 결과는 메모리 그라운딩 공진화가 더 신뢰할 수 있고 일반화 가능한 Text-to-SQL 시스템을 향한 효과적인 경로임을 시사한다. 코드는 https://github.com/valleysprings/EvoSQL 에서 이용 가능하다.
자기회귀 대규모 언어 모델(LLM)의 생성을 제약하는 것은 언어 모델을 형식 시스템에 통합하는 데 있어 중요한 구성 요소이다. 프로그램 합성과 같은 작업을 위한 코드 및 데이터 생성에서, 언어 모델이 구문적으로 유효한 출력을 생성하도록 보장하는 것은 그러한 출력을 처리하기 위한 전제 조건이다. 이러한 언어(SQL이나 JSON 등)는 종종 $LR(k)$ 문맥 자유 문법으로 설계된다. LLM을 계산 가능한 확률 모델로 증류함으로써, 그 자기회귀 생성을 조향하고 마스킹하여 논리적 제약을 만족할 확률을 반영할 수 있으며, 유효성이 보장된 고품질 출력을 확보할 수 있다. 본 논문은 유한 지속을 갖는 임의의 $LR(k)$ 문법에 대한 만족을 다항 시간에 계산할 수 있음을 보여내며, 이는 이러한 문법에 기존 방법을 적용할 때의 지수 시간 대비 개선이다. 이 결과는 LLM 생성을 형식적 구문 제약을 더 잘 만족하는 출력을 향해 효율적으로 제약하고 조향하는 것을 가능하게 한다.
텍스트 속성 그래프(Text-Attributed Graphs, TAGs)는 그래프 토폴로지와 풍부한 텍스트 의미론을 통합하는 표현력 있는 데이터 모델로 부상했다. 기존 TAG 표현 학습 방법은, 특히 대규모 언어 모델(LLM)과 함께 사용할 때 심각한 확장성 병목을 겪는다. 데이터 증류가 유망한 데이터 중심 해결책을 제공하지만, 기존 방법은 그래프와 텍스트 모달리티 간의 복잡한 상호작용을 포착하지 못하고, 반지도 설정에 내재된 레이블 부족 문제에 어려움을 겪으며, LLM 기반 후속 작업에 필요한 사람이 읽을 수 있는 텍스트 속성을 생성할 능력이 부족하다. 이러한 과제를 해결하기 위해, 우리는 Wasserstein Distance(WSD)에 의해 안내되는 통합 반지도 프레임워크 \algo{}를 제안한다. 실제 TAG에 대한 우리의 경험적 발견에 기반하여, \algo{}는 협력적 자기학습(collaborative self-training) 방식 내에서 이중 경로 인코더(그래프 인식 및 그래프 비인식)를 활용하는 그래프-텍스트 협력 인코딩 모듈을 도입하여, 신뢰할 수 있는 의사 레이블(pseudo-label)을 수확하고 상보적인 그래프-텍스트 특징을 융합한다. 또한, 우리는 이론적으로 정당화된 WSD 기반 그래프 스케치(sketching) 알고리즘과 비용 효율적인 LLM 텍스트 합성 모듈을 개발하며, 이는 클러스터 기반 키워드 추출을 활용하여 응축된 노드에 대해 일관되고 사람이 읽을 수 있는 요약을 생성한다. 벤치마크 데이터셋에 대한 광범위한 실험은 \algo{}가 GNN 및 LLM 기반 후속 작업 모두에서 최첨단(state-of-the-art) 성능-압축 트레이드오프를 달성하여, 효과적이고 효율적인 TAG 학습 또는 분석을 가능하게 함을 보여준다.
장면 이해는 기하학, 외관, 의미론에 대한 동시 예측을 요구한다. 그러나 기존 태스크별 주석은 호환되지 않는 도메인별 데이터셋에 걸쳐 파편화되어 있다. 현재의 통합 시스템은 완전 공동 주석 데이터로만 학습을 제한하거나, 의사 라벨링(pseudo-labeling)의 큰 계산 비용을 감수함으로써 이를 우회한다. 이를 완화하기 위해, 우리는 깊이, 표면 법선, 의미 분할, 경계, 인체 부위, 알베도, 셰이딩, 재질이라는 여덟 가지 밀집 장면 속성을 분리된 도메인별 데이터셋에서 공동으로 예측하는 통합 비디오 모델 UniD를 제안한다. 우리는 태스크별 전문가가 경량 태스크 프로젝터를 통해 통합 백본을 지도하는 간단하면서도 효과적인 지식 증류(distillation) 단계를 제안하며, 이를 통해 주석 중복이나 의사 라벨링이 필요 없게 한다. 우리의 핵심 통찰은 사전학습된 diffusion 모델의 강력한 시각적 사전 지식(prior)이 분리된 학습 소스로 인해 발생하는 도메인 간격을 메우기에 충분하여, 학습 중 한 번도 보지 못한 장면-태스크 조합에 대한 강건한 일반화를 가능하게 한다는 것이다. UniD는 태스크별 전문가 및 멀티태스크 기준선 대비 경쟁력 있는 성능을 달성하며, 분포 외(out-of-distribution) 시나리오에 대한 강한 일반화와 향상된 시간적 및 교차 태스크 일관성을 보인다. 코드와 비디오 결과는 https://unid-video.github.io/ 에서 확인할 수 있다.
온-정책 자기 지식 증류(OPSD)는 온-정책 지식 증류(OPD)에 필요한 외부 교사를 제거하므로 유망하지만, 자기 교사가 학생보다 더 강한 학습 신호를 제공하도록 하려면 여전히 교사와 학생 사이의 비대칭 정보가 필요하다. 기존 방법들은 특권 답변(privileged answers) 또는 시각적 증거(visual evidence)를 통해 이러한 비대칭을 만든다. 우리는 둘 다 제거하여 순수하게 입력 조건화(input conditioning)에 의해 구동되는 더 단순한 형태의 OPSD를 얻을 수 있는지 묻는다. 이를 위해 우리는 Visual Contrastive Self-Distillation, 즉 VCSD를 제안하며, 이는 이미지 내용 제거를 온-정책 자기 지식 증류 신호로 변환한다. 각 학생 생성 응답 접두 문맥에서, EMA 교사는 동일한 프롬프트와 접두 문맥 하에서 두 개의 다음 토큰 분포를 생성한다 — 하나는 원본 이미지에 조건화되고 다른 하나는 내용이 지워진 대조(control)에 조건화된다. 토큰별 로그-가능도 차이는 인스턴스 수준의 시각적 내용에 의해 가능도가 구체적으로 증가한 후보를 강조한다. 우리는 이 대조를 사용하여 교사의 원본 이미지 분포를 그 타당한 지지(support) 내에서 날카롭게 하고, 그 결과로 얻은 전체 분포 타깃을 학생에게 증류한다. ViRL39K 데이터셋을 사용하여, VCSD는 Qwen3-VL 및 Qwen3.5 모델 전반에서 매칭된 OPSD를 일관되게 능가한다. 예를 들어 Qwen3-VL에서 2B에서 7개 벤치마크 종합이 $62.27\% \rightarrow 67.04\%$로, 4B에서 $71.30\% \rightarrow 73.16\%$로, 8B에서 $72.51\% \rightarrow 76.26\%$로 개선된다. 또한 VCSD는 외부 교사, 특권 답변, 시각적 증거 신호, 추론 trace, 또는 추가 추론 시 비용이 필요하지 않다.
다중 모달 기반 접근법은 서로 다른 모달리티가 상보적인 정보를 제공하기 때문에 다운스트림 태스크에서 단일 모달리티 접근법보다 종종 더 우수한 성능을 보이지만, 실제 시나리오에서는 쌍을 이룬 임상 데이터를 확보하는 것이 여전히 큰 과제로 남아 있다. 교차 모달 지식 증류가 이를 해결하지만, 기존 방법들은 큰 모달리티 간격과 불확실한 소스 도메인 예측으로부터 발생하는 노이즈 전파에 종종 어려움을 겪는다. 이러한 과제를 극복하기 위해, 우리는 비쌍 교차 모달 지식 증류를 위한 앵커 기반 프레임워크인 UnDA를 제안한다. 우리 접근법은 어텐션 기반 풀링 메커니즘을 통해 의미적으로 구조화된 클래스 토큰을 추출하는 백본 불문 정렬 모듈(Alignment Module)을 도입한다. 견고한 지식 전이를 보장하기 위해, 예측 신뢰도에 따라 특징 수준 정렬에 동적으로 가중치를 부여하여 노이즈가 많은 지도를 효과적으로 억제하는 불확실성 가중 최적 수송(Uncertainty-Weighted Optimal Transport, UCT-OT)을 제안한다. 또한, 클래스별 ProtoNCE 목적 함수는 안정적인 프로토타입 메모리를 유지하여 비쌍 배치 전반에 걸쳐 전역 판별력을 강화한다. 엄격한 비쌍 설정 하에서 대표적인 분할(segmentation) 태스크에 대한 평가는 대상 모달리티에서 정확도와 경계 정밀도의 일관된 향상을 보여 주며, 쌍을 이룬 데이터셋 없이도 이질적인 데이터 소스 간에 의미 있는 구조적 지식을 전이할 수 있음을 입증한다.
다양한 악천후 조건에서 센서 지각 성능 저하로 인해, 안전한 자율주행을 위한 자기지도 깊이 추정은 어려운 과제이다. 이러한 어려움은 두 가지 주요 측면에서 기인한다. 첫째, 악천후 조건은 픽셀 대응을 왜곡하고 자기지도 손실 함수에 내재된 가정을 위반하여 잘못된 깊이 예측을 초래할 수 있다. 둘째, 레이더는 악천후 조건에서 널리 채택되는 센서이지만, 시점(Point of View, POV)에서 레이더 포인트의 희소한 분포는 자기지도 융합에 어려움을 야기한다. 이러한 문제를 해결하기 위해, 우리는 다중 교사 증류와 견고한 레이더 융합을 통해 페어링되지 않은 실제 전천후 데이터를 활용하는 새로운 자기학습(self-training) 파이프라인을 제안한다. 우리는 서로 다른 악천후 조건 입력으로 다양한 교사 모델을 생성하는 불확실성 인식 다중 교사 증류(Uncertainty-Aware Multi-Teacher Distillation) 방법을 제안하고, 불확실성 모델링을 통해 지식 증류 손실의 가중치를 부여한다. 또한, 카메라 픽셀 광선 제약을 활용하여 카메라의 시점(POV)과 레이더의 조감도(Bird's-Eye View, BEV) 간의 연결을 수립하는 POV-BEV 레이더 융합 접근법을 설계한다. 이 접근법은 더 조밀한 레이더 포인트의 활용을 가능하게 하며, POV와 BEV의 상보적인 관점을 효과적으로 포착한다. 광범위한 정량적 및 정성적 실험은 전천후 데이터셋에서 제안 방법의 견고성을 보여주며, 최신(state-of-the-art) 성능을 달성한다. 코드와 모델은 https://github.com/MICLAB-BUPT/RobustDepth 에서 제공된다.
편광 단서는 재질 검출 및 반사 제거(de-reflection)와 같은 응용에 유용하지만, 이를 획득하려면 일반적으로 전용 하드웨어가 필요하다. 이에 따라 단일 RGB 이미지로부터 선형 편광을 추정하는 것을 목표로 한다. 그러나 이 과제는 본질적으로 ill-posed이며, 편광 신호가 약한 영역에서는 편광 측정(polarimetric) 신호가 노이즈에 압도되어 각도 추정이 불안정해지는 등 편광각(Angle of Polarization, AoP)이 특히 불안정해진다. 이러한 한계를 해결하기 위해, 강도 관측(intensity observation)으로부터 Mueller 형식론(Mueller formalism)에 기반한 Stokes 정보 기반 확산 프레임워크 GenPolar를 제안한다. 구체적으로 GenPolar는 강도 S0로부터 채널별 선형 Stokes 성분(S1, S2)을 예측하고, 이로부터 선형 편광도(degree of linear polarization, DoLP)와 AoP를 해석적으로 도출한다. AoP는 관측 가능성 인식(observability-aware) 손실로 추가로 감독한다. 또한 효율적이고 고충실도 추론을 위해 2단계 학습 전략을 채택한다. 먼저 물리 기반 손실로 다단계 조건부 확산 모델을 학습한다. 이후 이를 1단계 생성기로 지식 증류(distillation)하며, 이는 도메인 특화 자동인코딩 바이어스를 완화하기 위해 VAE 인코더의 저랭크 적응(Low-Rank Adaptation, LoRA)을 안정적으로 지원한다. 회전 편광기(rotating-polarizer), 초점면 분할(division-of-focal-plane), 하이브리드 데이터셋에 걸친 광범위한 실험을 통해 GenPolar가 DoLP 충실도와 AoP 안정성 모두에서 최첨단(state-of-the-art) 성능을 달성함을 보인다. 중요하게도, 이러한 개선은 재질 검출 및 반사 제거를 포함한 하위 응용에서 유의미하고 일관된 성능 향상으로 이어진다.
대규모 비전-언어 모델(LVLM)에 대한 적대적 공격은 교차 모달 의미 이해에서 모델의 견고성(robustness)을 평가하는 효과적인 수단이다. 기존 연구는 주로 시각 입력을 손상시켜 일반적인 비전-언어 과제에서 사전 정의된 오류 응답을 유도하는 데 초점을 맞추고 있으나, 원격 탐사 분야에 대한 해당 연구는 대부분 미탐색 상태로 남아 있다. 자연 영상 이해와 비교할 때, 원격 탐사 영상 해석은 국소적 판별 단서와 전역 장면 문맥에 대한 결합 추론을 요구한다. 이는 블랙박스(black-box) 설정에서 지정된 응답을 향한 전이 가능한 의미 조작을 달성하는 데 추가적인 과제를 제기한다. 이러한 과제를 해결하기 위해, 우리는 원격 탐사 영상 해석을 위한 LVLM에 대한 전이 가능한 표적 적대적 공격 방법인 GeoThreat를 제안한다. 구체적으로, GeoThreat는 개념적 수준과 지각적(perceptual) 수준 모두에서 목표 콘텐츠에 따라 적대적 표현을 조절한다. 대리(surrogate) 이미지 인코더의 클래스 토큰은 개념적 표현으로 사용되며, 지각적 표현은 협력적 중요도 추정을 통해 적대적 예제의 패치 토큰으로부터 증류(distilled)된다. 단순히 여러 레이어에 걸쳐 어텐션 점수를 전개(rolling out)하는 것을 넘어, 우리는 적대적 목표 유사도 그래디언트를 통합하여 의도된 의미 조작과 관련된 국소 시각 단서의 관련성을 더 충실하게 특성화한다. 그런 다음 지각적 표현을 교차-어텐션(cross-attentive) 방식으로 목표 패치 토큰과 동적으로 정렬하여, 국소 단서가 지정된 의미적 세부사항을 향해 적응되도록 한다. 마지막으로, 적대적 교란은 개념적 보정과 지각적 적응의 앙상블 기반 공동 최적화를 통해 반복적으로 갱신된다. 다양한 LVLM에 걸친 광범위한 실험은 전이성(transferability)과 제어 가능성(controllability) 모두에서 GeoThreat의 우수성을 입증한다.
Real-world video deblurring remains challenging due to diverse motion patterns, complex degradations, and the scarcity of realistic training data, yet robust restoration is critical for downstream pipelines such as mobile imaging and 3D reconstruction. This work presents \textbf{RealVDeblur}, an efficient generative framework designed to improve in-the-wild robustness under diverse real capture conditions. First, a large-scale, physically grounded blur synthesis pipeline is constructed from scene-level 3D Gaussian Splatting (3DGS) assets and high-frame-rate videos, providing realistic training data covering both camera-induced and object-motion blur. Second, a video diffusion prior is leveraged for restoration; to better accommodate frame-dependent blur variations, temporal compression in the VAE is disabled and a frame-wise encoding scheme is adopted. For practical deployment on long videos, multi-step diffusion sampling is distilled into an efficient one-step generator, and a training-free Temporal Window Mask stabilizes inference beyond the training horizon with constant memory usage. Extensive experiments on diverse real-world benchmarks demonstrate strong perceptual quality, semantic fidelity, and temporal consistency on unseen videos, as well as improved robustness in downstream 3D reconstruction under severe motion blur. Project page: https://rbjin.github.io/RealVDeblur
인과적 비전-언어 모델을 사용한 end-to-end 비전-언어 내비게이션(VLN)은 지시와 자기중심적(egocentric) 관측을 행동에 직접 매핑하지만, 표준 행동 복제(behavior cloning)는 다음 행동만 감독하고 정책 상태가 미래 시각적 결과를 예측하도록 명시적으로 유도하지 않아 장기 의사결정을 제한한다. 특권 입력(privileged-input) 진단은 전문가 궤적(expert-trajectory)의 미래 이미지에 접근하면 내비게이션이 상당히 개선될 수 있음을 보여주며, 이는 미래 관측에 풍부하고 실행 가능한 단서가 포함되어 있음을 시사하지만, 이러한 입력은 배포 시에는 사용할 수 없다. 이 신호에 동기를 부여받아, 우리는 Future-State-Conditioned VLN(FSC-VLN)을 제안한다. 이는 배포 가능한 모델로, 인과적 정책에 미래 쿼리(future-query) 토큰을 추가하고, 학습 전용 미래 상태 감독을 사용하여 미래 관측의 정보를 정책 상태로 증류한다. 구체적으로, 학습 중에는 미래 쿼리 표현을 $Δ$ 스텝 앞의 고정된 시각 임베딩에 정렬하고, 추론 시에는 과거 및 현재 관측만 필요하다. 이 설계는 기준선 추론 패턴을 유지하고 학습된 접두 문맥 토큰 2개만 추가하여 최소한의 오버헤드를 의미한다. R2R val-unseen에서 FSC-VLN은 두 가지 학습 데이터 체제에서 StreamVLN 스타일 기준선 대비 SR/OSR/SPL을 개선하며, 장기 에피소드에서 더 큰 향상을 보인다. ablation은 미래 쿼리와 행동 쿼리를 분리하는 이중 쿼리(dual-query) 설계를 추가로 뒷받침한다.
최근 음악 생성 파운데이션 모델(foundation model)이 산업계의 큰 관심을 받고 있다. 그러나 효율적인 생성과 높은 충실도의 장형(long-form) 오디오를 달성하면서 제어 가능성(controllability)을 지원하는 것은 여전히 어렵다. 이러한 요구를 충족하기 위해, 우리는 장형·상업급(commercial-grade) 곡 생성을 위한 단순하면서도 강력한 접근법인 \textbf{WanSong}을 제시한다. 자기회귀(autoregressive, AR) 및 캐스케이드 다단계 파이프라인(\eg, AR 뒤에 확산이 이어지는 방식)과 달리, \textbf{WanSong}은 순수 확산 기반 모델로, 최대 5분 길이의 고충실도 다국어 곡을 직접 생성하며 단일 실행(single run)으로 이중 스템(dual stems, 보컬과 배경 음악)을 출력한다. 또한 우리의 확산 프레임워크는 step-distillation을 통한 더 빠른 추론을 가능하게 하고, 하류 편집 작업을 지원하기 위한 미세조정 및 맞춤화를 위한 효율적인 경로를 제공한다.
In Vision-Language Models (VLMs), high-resolution images produce a large number of visual tokens, resulting in high computational costs and KV-cache overhead during inference. To address this problem, we propose an Extreme Token Compression (ETC) framework that minimizes task loss when reducing the number of input tokens based on the principle of variational information distillation. Specifically, from an information-theoretic perspective, we show that minimizing task loss requires the compact representation to preserve the instruction-aware sufficient statistic of the task-relevant visual information for prediction. In practice, ETC leverages text-to-image cross-attention to weight the original visual features to approximate the latent instruction-aware predictive statistic. Moreover, ETC introduces a variational information distillation, enabling the compact representation to preserve the essential information to recover this predictive statistic. Experiments on LLaVA-1.5-7B and Qwen3-VL-2B show that ETC remains effective even under single-token compression, substantially reducing KV-cache overhead while retaining strong task performance.
We introduce Elastic Looped Transformers (ELT), a highly parameter-efficient class of visual generative models based on a recurrent transformer architecture. While conventional generative models rely on deep stacks of unique transformer layers, our approach employs iterative, weight-shared transformer blocks to drastically reduce parameter counts while maintaining high synthesis quality. To effectively train these models for image and video generation, we propose the idea of Intra-Loop Self Distillation (ILSD), where student configurations (intermediate loops) are distilled from the teacher configuration (maximum training loops) to ensure consistency across the model's depth in a single training step. Our framework yields a family of elastic models from a single training run, enabling Any-Time inference capability with dynamic trade-offs between computational cost and generation quality, with the same parameter count. ELT significantly shifts the efficiency frontier for visual synthesis. With $4\times$ reduction in parameter count under iso-inference-compute settings, ELT achieves a competitive FID of $2.0$ on class-conditional ImageNet $256 \times 256$ and FVD of $72.8$ on class-conditional UCF-101.
Quantizing open-vocabulary object detection (OVOD) models reduces their memory and computational costs, but extremely low-bit quantization severely degrades both cross-modal (region-text) and intra-modal (region-region) alignments. This multimodal degradation is a unique challenge that prior quantization methods for closed-vocabulary detectors fail to resolve. To overcome this, we propose Quantization-Aware Training with Multimodal Alignment (QATMA), the first multimodal-aware and architecture-agnostic QAT framework tailored for OVOD. QATMA integrates two key components: (i) Curriculum QAT, which partitions the detector by functional roles and progressively expands the quantization scope to suppress error accumulation and ensure stable optimization; and (ii) Text-anchored Pairwise Similarity Distillation, which transfers both region-text and region-region alignments from a full-precision teacher model via pairwise cosine similarities in the joint embedding space. Experimental results on LVIS and COCO zero-shot benchmarks demonstrate that QATMA significantly outperforms existing QAT baselines under extremely low-bit settings, achieving gains of up to 4.3 and 7.6 AP, respectively.
The core challenge in Action Quality Assessment (AQA) lies in extracting fine-grained motion features from redundant and complex video backgrounds. Existing global feature learning methods are constrained by extremely low "signal-to-noise ratios", making it difficult to distinguish intrinsic actions from background clutter. To address this, we propose a Pose-Guided Intrinsic Motion Distillation Framework that explicitly enforces physical constraints to focus on motion subjects and decouple motion execution from environmental outcomes. First, we design an Action-Unit Parser that constructs dynamic regions of interest (ROIs) using human pose topology as prior knowledge. This functions as a spatial hard-attention filter that physically removes background noise at the input stage, forcing the model to learn appearance and geometric features only from pure body regions. Second, to resolve factor entanglement, we introduce a dual-stream decoupling mechanism: the Motion Parser focuses on capturing purified joint motion details, while the Condition Parser independently processes non-body-related environmental feedback (e.g., splash in diving) to create two orthogonal evaluation dimensions in feature space. Finally, adaptive weight modules integrate these decoupled features to generate final scores. Experimental results on large-scale datasets including FineDiving, FineDiving-HM, and MTL-AQA demonstrate that this method achieves state-of-the-art (SOTA) performance in both action segmentation and scoring accuracy, validating the effectiveness of "noise suppression focusing" and "motion disentanglement" strategies in fine-grained action evaluation.
설계 규칙 검사(DRC) 클로저는 첨단 노드 물리 설계에서 여전히 주요 병목이다. 상세 라우터가 규칙을 인식하더라도, 잔존 설계 규칙 위반(DRV)은 종종 수동 공정 변경 주문(ECO) 반복을 필요로 한다. 이 과정의 자동화는 어려운 이유는, 수정이 복잡한 기하학적 상호작용을 고려해야 하고, 회로 연결성을 유지해야 하며, 새로운 위반을 도입하지 않아야 하기 때문이다. 우리는 블록 수준 DRC 수정을 위한 스킬 진화 프레임워크인 EvoDRC를 제안한다. EvoDRC는 관련 없는 참조 설계에서 증류된 지식을 사용하여 층별 수정 스킬을 초기화하고, 대상 설계에서 수집된 추적 가능한 수정 경험을 사용하여 이러한 스킬을 지속적으로 진화시킨다. EvoDRC는 레이아웃을 경계가 있는 수정 영역으로 분해하고 각 영역에 LLM 수정 에이전트를 할당한다. 로컬 DRC 분석, 연결성 검사, 영향 미리보기 도구가 제안된 수정에 대한 피드백을 제공한다. 수정 작업과 그에 따른 DRV 변화는 지식 데이터베이스에 저장되고 수정 스킬 진화에 사용된다. DAC26 DRC 벤치마크의 7개 블록 수준 설계에 대한 실험에서 EvoDRC는 보고된 기준선 대비 전체 73.5% 감소를 달성함을 보여준다.
자기 개선(self-improvement) AI 시스템은 일반적으로 프롬프트, 워크플로, 하네스(harness), 또는 에이전트 자체의 코드를 최적화함으로써 에이전트를 개선 대상으로 취급한다. 이러한 에이전트 중심(agent-centric) 관점은 이득이 특정 에이전트 설계, 작업 분포, 또는 적응(adaptation) 실행에 묶이기 때문에 개선을 유지하기 비용이 많이 들고 전이하기 어렵게 만들 수 있다. 우리는 상호 보완적인 패러다임인 지식 중심(knowledge-centric) 자기 개선을 연구한다. 이 패러다임에서는 에이전트는 범용적이고 일회용으로 유지되는 반면, 지속적인 객체는 에이전트가 향후 작업에 활용할 수 있는 큐레이션된 지식 베이스(knowledge base)이다. 우리는 간단한 프로토콜을 통해 이 아이디어를 구체화하기 위해 통제된 사례 연구를 수행한다. 에이전트는 하나의 작업을 시도한 다음, 작업 수준 및 교차 작업 포럼을 통해 공유 지식 베이스에 증거 기반(evidence-grounded) 통찰을 기여하고, 이어서 지식 증류를 수행한다. 자기 개선이 에이전트가 아닌 지식에 담겨 있기 때문에, 개선은 더 검사 가능하고, 전이 가능하며, 이식 가능할 수 있다. 추상적 추론, 코딩, 터미널 벤치마크 전반에 걸쳐, 이 프로토콜은 에이전트 중심 기준선(baseline) 대비 달러 비용을 줄이면서 해결률(solve rate)을 향상시킨다. 그 결과로 얻어진 증류된 지식은 또한 홀드아웃(held-out) 작업 및 대규모 언어 모델(LLM) 계열 간에도 전이되어, 개선이 단순히 특정 LLM이나 실행(run)에 국한된 행동이 아님을 시사한다. 이 결과는 자기 개선 에이전트(agentic) 시스템에 대한 새로운 관점을 뒷받침한다: 진보는 주로 큐레이션된 지속적 지식에 의해 추동될 수 있다. 코드는 https://github.com/recursive-knowledge/KSI 에서 이용할 수 있다.