Dual Reinforcement-Based Specification Generation for Image De-Rendering
원문 초록
Advances in deep learning have led to promising progress in inferring graphics programs by de-rendering computer-generated images. However, current methods do not explore which decoding methods lead to better inductive bias for inferring graphics programs. In our work, we first explore the effectiveness of LSTM-RNN versus Transformer networks as decoders for order-independent graphics programs. Since these are sequence models, we must choose an ordering of the objects in the graphics programs for likelihood training. We found that the LSTM performance was highly sensitive to the sequence ordering (random order vs. pattern-based order), while Transformer performance was roughly independent of the sequence ordering. Further, we present a policy gradient based reinforcement learning approach for better inductive bias in the decoder via multiple diverse rewards based both on the graphics program specification and the rendered image. We also explore the combination of these complementary rewards. We achieve state-of-the-art results on two graphics program generation datasets.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
대규모 언어 모델에서의 계층적 등급화
Hierarchical Grading in Large Language Models
우리는 트랜스포머의 표현 공간에 등급(grading)을 부여하고, 그로 인해 유도된 가중 스칼라 작용을 임베딩, 셀프 어텐션, 그리고 학습 목표 함수 전반에 전파하는 대수적 프레임워크인 등급화 대규모 언어 모델(Graded Large Language Models, GLLM)을 제안한다. 이 구성은 등급화 신경망(graded neural networks) 및 등급화 트랜스포머(graded transformers) 이론을 자기회귀(autoregressive) 언어 모델로 확장하면서, 표현력, 점근적 계산 복잡도, 그리고 추론 비용을 보존한다. 지배적인 기하학적 그림은 기하 불변 이론(geometric invariant theory)에 해당한다. 등급화의 이점은 등급화 토러스(grading torus) 위의 Kempf-Ness 함수로 표현된다. 균일(uniform) 아키텍처보다 나은 등급(grades)들은 개방 볼록 원뿔(open convex cone)을 이루며, 그 소속 여부는 등급 방향을 목표(target)와 데이터의 두 가지 측정 가능한 프로파일(profile)과 짝지어 비교하는 Hilbert-Mumford형 기준에 의해 결정된다. 최적 등급은 두 moment map의 일치점이며, 폐형식(closed form)으로 주어진다. 그리고 일반적인 트랜스포머는 원뿔 경계 위의 반안정(semistable) 등방(isotropic) 점으로 나타난다. 즉, 두드러진 최적점이라기보다 더 큰 등급화 계열의 한 구성원이다. 별도로, 수준 계층화(level-stratified) 목표에 대해 등급화 사전분포(prior)와 그 부재 사이의 minimax 분리를 증명한다. 모든 추정량(estimator)에 걸쳐, 등급화된 목표 클래스와 균일 목표 클래스의 위험(risk)은 명시적인 표본 크기(sample size) 구간 전체에서 분리되며, 기하학적 계층화(geometric stratification) 하에서 수준(level) 수에 대해 지수적으로 감쇠하는 인자만큼 분리된다. 두 프로파일 모두 오프라인으로 추정 가능하므로, 최적 등급은 학습이 시작되기 전에 검증된 볼록 프로그램(convex program)을 풀어 구한다. 등급화는 학습 후 학습된 파라미터에 흡수되므로, 모든 GLLM은 동일한 아키텍처와 추론 복잡도를 갖는 표준 트랜스포머로 컴파일된다.
트랜스포머 추론에서 잠재 알고리즘 라우팅의 그라운딩
Grounding latent algorithm routing in transformer reasoning
문맥 내 학습(ICL) 문헌의 핵심 질문은 트랜스포머가 서로 다른 귀납적 바이어스(inductive-bias) 계열을 중심으로 에피소드 수준의 적응을 조직할 수 있는지 여부이다. 본 연구는 잠재 알고리즘 라우팅(latent algorithm routing)을 통해 이 질문을 통제된 설정에서 다룬다. 잠재 알고리즘 라우팅이란 프롬프트 형식은 고정된 채로 잠재 데이터 생성 체제에 따라 solver-family 선호가 변하고, 방해 요인(nuisance) perturbation 하에서 안정적으로 유지되며, 답변 품질의 큰 손실 없이 표적화된 activation 개입에 선택적으로 영향을 받는 route-like 행동을 말한다. 우리는 ROUTEBENCH라는 진단 벤치마크를 도입한다. 이 벤치마크의 각 체제는 전역 수축(global shrinkage), 희소성, 견고성(robustness), 국소성(locality)을 차등적으로 선호하며, ridge-like, lasso-like, Huber-like, kNN-like 계열 대표로 이를 구현한다. 44M–612M 파라미터 규모로 처음부터 학습된 dense decoder-only 트랜스포머 전반에서, 306M 모델은 oracle-routing gap의 80.9%를 메우고 route F1 84.1을 달성한다. 이 효과는 자연어 렌더링, 셔플된 support, 어휘적 paraphrase, 통합 4-way 라우팅 설정에서도 상당한 수준을 유지한다. 입력 조건부 soft mixture와 비지도 Gumbel router를 포함한 더 강한 적응적 대안들은 gap을 줄이지만 route F1과 OOD(out-of-distribution) 성능에서는 306M 및 612M 모델보다 낮다. Probe 대조군과 matched activation-patching 대조군은 route 관련 내부 방향이 디코딩 가능하고 solver-family 일관적 출력 행동에 기능적으로 관여함을 추가로 보여준다. 이러한 결과는 ROUTEBENCH에서 학습된 dense 트랜스포머가 route-like 내부 변수를 발달시킬 수 있다는 통제된 증거를 제공하지만, 사전학습(pre-training) 언어 모델이나 제한 없는 자연어 추론에서의 보편적 라우팅을 입증하지는 않는다.
데이터 부족 생물공정 모델링을 위한 생물동역학 지식 사전 활용
Leveraging Biokinetic Knowledge Priors for Data-Scarce Bioprocess Modeling
심층 학습은 신약 개발을 가속화했지만, 생물학적 제조(biomanufacturing)에 미친 영향은 훨씬 더 제한적이었다. 그 이유는 데이터 부족이다. 바이오리액터 실험은 비용이 높고 며칠에서 몇 주가 걸리며, 공개적으로 공유되는 경우가 드물어 각 연구는 소수의 실험만을 갖게 된다. 그러나 해당 도메인 자체는 풍부한 사전 지식을 갖고 있다. 생물동역학 상미분방정식(ODE) 모델은 수십 년간 미생물 성장을 기술해 왔지만, 이러한 지식을 신경망에 주입하는 방법은 체계적으로 연구된 적이 없다. 우리는 ODE 지식을 신경망에 주입하는 방법에 대한 최초의 체계적 연구를 제시하며, 시뮬레이션된 ODE 곡선으로 범용 디코더를 사전학습하는 데이터 수준 사전과 ODE를 디코더 내부에 내장하는 아키텍처 수준 사전을 비교한다. 두 방법 모두 11개 데이터셋과 7종의 미생물에 걸쳐 사전 없는 기준선을 지속적으로 능가한다. 우리의 핵심 발견은 두 방법이 상호 대체 가능하다는 것이다. 시뮬레이션으로 사전학습된 범용 디코더는 실제 데이터로 학습된 완전히 생물학적 구조를 갖춘 디코더와 동등한 성능을 보인다. 따라서 시뮬레이션 사전학습은 생물공정 데이터 부족 환경에서 심층 학습을 위한 간단하고 데이터 효율적인 방법을 제공한다.
희박한 제어 기하로부터 이슬람 기하 패턴의 대칭 구조 신경망 완성
Symmetry-Structured Neural Completion of Islamic Geometric Patterns from Sparse Control Geometry
이슬람 기하 패턴은 정확한 회전 대칭과 엄격한 작도 규칙에 의해 지배된다. 본 논문은 이러한 규칙을 형식적 기하 지식으로 간주하고, 이를 데이터로부터 통계적으로 학습하는 대신 신경망 완성 프레임워크에 내장한다. 희박한 제어 기하와 목표 대칭 차수가 주어지면, 시스템은 순환군 하의 회전 궤도(rotational orbit)로 구성된 에지를 가진 후보 격자(lattice) 위에서 에지와 유계 곡선의 정제를 예측함으로써 패턴을 벡터 그래프로 완성한다. 대칭은 예측을 이 궤도 내로 제한하거나 추론 시 궤도에 투영함으로써 강제된다. 궤도 연동(orbit-tied) 변형은 구성적 보장을 제공한다: 임의의 입력과 임의의 궤도 수준 선택 규칙에 대해 정확한 N겹 대칭을 생성하고, 앵커 포인트를 보존하며, 모든 정제를 규정된 범위 내에 유지한다. 이러한 속성들은 수치적으로 검증된다. 본 연구는 회전 대칭에 초점을 맞추며, 모든 정량적 결과는 역사적 코퍼스가 아닌 이슬람 기하 디자인에서 영감을 받아 절차적으로 생성된 그래프로부터 도출된다. 깨끗한 입력에서 정확한 유효성을 강제해도 충실도에 측정 가능한 손실이 발생하지 않는다. 제어 기하가 누락된 경우, 비구조적 디코더는 충실도가 저하되고 대칭이 깨지며, 손상된 입력으로 재학습하면 충실도는 상당 부분 회복되지만 정확한 유효성은 회복되지 않는다. 반면 대칭 구조 추론은 위반을 전반에 걸쳐 0으로 유지한다. 결과는 증강(augmentation)과 대칭 구조가 서로 다른 실패 모드를 해결함을 보여준다: 증강은 손상 하에서의 충실도를 개선하고, 대칭 구조는 유효성을 보장한다. 따라서 이 프레임워크는 정확한 기하 구조에 유효성이 의존하는 확장 가능한 벡터 장식물에 대한 신경망 완성의 지식 제약적이고 보장이 뒷받침된 접근법을 제공한다.
입력 경로는 소형 트랜스포머의 퓨샷 바인딩을 형성하지만 제로샷은 아니다: 완전 열거 가능한 연구
Input Pathways Shape Few-Shot, Not Zero-Shot, Binding in Tiny Transformers: A Fully-Enumerable Study
PACE-dLLM: 확산 언어 모델을 위한 신뢰도 절벽 추정 기반 탄력적 블록 디코딩
PACE-dLLM: Elastic Block Decoding via Confidence Cliff Estimation for Diffusion Language Models
토론
이 논문과 연결된 포럼 글이 아직 없습니다.