Edit-R2: 다중 턴 이미지 편집을 위한 문맥 인식 강화학습
Edit-R2: Context-Aware Reinforcement Learning for Multi-Turn Image Editing
한국어 초록
텍스트 기반 이미지 편집은 확산 모델(diffusion model)과 통합 멀티모달 기반 모델(unified multimodal foundation model)을 통해 빠르게 발전해 왔다. 그러나 기존 방법의 대부분은 단일 턴(single-turn) 설정에 국한되어, 사용자가 일련의 지시를 통해 이미지를 반복적으로 정제하는 보다 현실적인 시나리오인 다중 턴 문맥 내 편집(multi-turn in-context editing)을 간과하고 있다. 이 설정에서 모델은 누적된 세션 수준 제약을 유지하면서 각 새로운 지시를 따라야 하며, 두 가지 밀접히 연관된 실패 모드의 도전에 직면한다: 긴 문맥 희석(long-context dilution)—드문 텍스트 제약이 점점 늘어나는 교차 배치된 이미지-텍스트 이력에서 회복하기 어려워지는 현상—과 상태 오염(state contamination)—이전 편집 실수가 이후 생성 결과를 악화시키는 현상이다. Edit-R2를 소개한다. 이는 통합 멀티모달 모델을 위한 새로운 강화학습 사후 학습 프레임워크이다. Edit-R2는 각 편집 턴 전에 산발적인 과거 제약을 명시적 추론 추적으로 효과적으로 통합하는, 작동 중인 세션 의도(operative session intent)를 재구성한다. 또한 이산 텍스트 공간에서의 의도 재구성 생성과 연속 잠재 공간에서의 flow-matching 이미지 생성을 공동으로 최적화하는 통합 목적 함수를 통해 추론과 생성 모두에 걸친 다중 턴 RL을 가능하게 하며, 궤적 필터링(trajectory filtering) 메커니즘이 상태 오염 하에서 학습을 안정화하기 위해 손상된 rollout을 억제한다. 체계적인 평가를 위해 누적된 세션 제약에 대한 지시 따르기(IF), 콘텐츠 일관성(CC), 전역 인식(GA)에 대한 자동화된 지표를 갖춘 다중 턴 문맥 내 편집 대규모 벤치마크 MICE-Bench를 소개한다. 실험 결과 Edit-R2는 다중 턴 문맥 내 편집을 크게 개선하며, 강력한 베이스라인 대비 경쟁력 있는 성능을 달성한다.
원문 초록
Text-guided image editing has advanced rapidly with diffusion models and unified multimodal foundation models. However, most existing methods remain confined to single-turn settings, overlooking the more realistic scenario of multi-turn in-context editing, where users iteratively refine an image through a sequence of instructions. In this setting, a model must follow each new instruction while preserving accumulated session-level constraints, challenged by two coupled failure modes: long-context dilution, where sparse textual constraints become difficult to recover from growing interleaved image-text histories, and state contamination, where earlier editing mistakes degrade subsequent generations. We introduce Edit-R2, a novel reinforcement learning post-training framework for unified multimodal models. Edit-R2 reconstructs the operative session intent, which effectively consolidates scattered historical constraints into an explicit reasoning trace before each editing turn. It further enables multi-turn RL over both reasoning and generation through a unified objective that jointly optimizes intent reconstruction generation in discrete text space and flow-matching image generation in continuous latent space, while a trajectory filtering mechanism suppresses corrupted rollouts to stabilize training under state contamination. To support systematic evaluation, we introduce MICE-Bench, a large-scale benchmark for multi-turn in-context editing with automated metrics for instruction following (IF), content consistency (CC), and global awareness (GA) over accumulated session constraints. Experiments show that Edit-R2 substantially improves multi-turn in-context editing and achieves competitive performance compared against strong baselines.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.05950v2제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
BEANS-Next 및 ROOTS: 생체음향학을 위한 오디오-언어 기능의 확장
BEANS-Next and ROOTS: Broadening Audio-Language Capabilities for Bioacoustics
생체음향학(bioacoustics)과 행동학(ethology)은 광범위한 오디오 이해 과제를 포괄하며, 이들 중 다수는 대규모 오디오-언어 모델의 최근 발전으로부터 혜택을 받을 수 있습니다. 그러나 지금까지 이 분야의 발전은 종 및 울음소리 유형 분류와 같이 라벨 중심의 생물학적 범주 인식에 주로 초점을 맞춘 좁은 범위의 과제에서만 평가되어 왔습니다. 본 연구에서는 음향 인지, 생물학적 범주 인식, 장면 이해, 문맥 내 학습(ICL)에 걸친 생체음향학 과제 분류 체계에 기반한 벤치마크인 BEANS-Next를 소개합니다. BEANS-Next를 통해 기존 모델들이 기존 평가에서 강조된 과제군을 벗어나면 제한적인 성능을 보이며, 이로 인해 더 폭넓은 생체음향학 응용 분야에서의 유용성이 제약된다는 점을 보여줍니다. 이러한 더 넓은 과제 영역에서의 발전을 지원하기 위해, 확장 큐레이션된 실제 데이터와 이전에 충분히 활용되지 않았던 행동 및 음향 메타데이터를 기반으로 구축되고, 라벨링이 불충분한 경우 오디오 파생 정보 및 확장 가능한 합성 생성으로 보완된 대규모 학습(training) 자원인 ROOTS를 함께 소개합니다. 이 데이터셋(dataset)으로 학습하면 BEANS-Next의 모든 과제 그룹에 걸쳐 상당한 진전이 이루어져, 오디오-언어 모델이 생체음향학 및 행동학을 위한 범용 보조 도구로서의 잠재력에 한층 더 다가설 수 있음을 입증합니다. 해당 분야의 발전을 가속화하기 위해 벤치마크, 데이터셋, 데이터 파이프라인을 오픈 소스로 공개합니다.
RxnOptBench: 유기 합성 방법론에서의 반응 조건 최적화를 위한 LLM 벤치마킹
RxnOptBench: Benchmarking LLMs for Reaction-Condition Optimization in Organic Methodology
수율과 입체선택성을 동시에 극대화하는 촉매, 리간드, 용매, 시약, 온도, 시간 및 분위기를 선택하는 화학 반응 조건 최적화(chemical reaction-condition optimization)는 대규모 언어 모델(LLM)의 지원이 점차 기대되고 있는 유기 합성 방법론 연구의 핵심적이면서도 고도의 판단을 요하는 하위 작업입니다. 그러나 기존의 화학 벤치마크는 반응 분류 라벨링, 역합성, 또는 SMILES 조작 등을 평가할 뿐, 모델이 실제 조건 스크리닝 표를 읽고 최적의 조합을 선택하도록 요구하지는 않습니다. 본 연구에서는 2025년에 출판된 유기 방법론 논문의 최적화 표에서 추출한 실제 습식 실험(wet-lab) 항목으로 모든 선택지와 선례를 구성한 벤치마크인 RxnOptBench를 소개합니다. 이 벤치마크는 보고된 수율과 거울상이성질체 과잉률(ee), 부분입체이성질체 비율(dr), 위치이성질체 비율(rr)을 결합하여 명시된 대표 효용(headline utility)으로부터 도출된 연속 상대 점수로 채점되며, 문헌 증거의 문맥 내 활용과 파라메트릭 암기를 분리하는 선례 유무(precedents-vs-no-precedents) 쌍 설계를 갖추고 있습니다. 9개의 프론티어 LLM과 3개의 화학 특화 LLM을 평가한 결과, 가장 우수한 모델조차도 상당한 개선의 여지를 남겼습니다. 화학 특화 모델은 다축 선택에서 무작위 기준선(random baseline) 수준으로 떨어졌으나, 오픈 가중치(open-weight) 모델은 독점 프론티어 모델과의 격차를 대부분 좁혔습니다. 본 연구에서는 최종적으로 사람이 검수한 벤치마크 테스트 세트와 평가 코드를 공개합니다.
TerraVis: MLLM 워크플로우를 통한 텍스트-투-이미지 생성의 실세계 기반 시각적 일관성 평가를 향하여
TerraVis: Towards Evaluation of World-Grounded Visual Consistency in Text-to-Image Generation via MLLM Workflows
최근 텍스트-투-이미지(text-to-image) 모델은 사실성(photorealism), 심미성, 텍스트-이미지 정렬(alignment) 측면에서 상당한 발전을 이루었습니다. 그러나 시각적으로 매력적인 이미지라 하더라도 기형적인 객체 구조, 불가능한 해부학적 형태, 물리적으로 타당하지 않은 상호작용, 일관되지 않은 공간 관계를 보이며 실세계의 개연성(plausibility)을 위반할 수 있습니다. 이러한 오류는 기존의 충실도(fidelity), 심미성, 선호도 또는 정렬 지표로는 잘 포착되지 않습니다. 이러한 격차를 해결하기 위해, 본 연구에서는 생성된 이미지의 실세계 기반(world-grounded) 시각적 일관성을 평가하는 프레임워크인 TerraVis를 소개합니다. TerraVis는 객체, 상호작용 및 장면 수준의 오류를 포괄하는 실세계 일관성 위반에 대한 체계적인 분류 체계(taxonomy)를 정의하며, 이를 식별하고 정량화하기 위해 다단계 평가 프레임워크를 사용합니다. 이미지가 주어지면, TerraVis는 먼저 멀티모달 대규모 언어 모델(MLLM)을 사용하여 평가 적격성을 판단한 다음, 분류 체계에 정의된 18가지 유형에 걸쳐 위반 사항을 탐지하고 이를 경미(minor) 또는 중대(major)로 분류하여 전반적인 실세계 일관성 점수를 도출합니다. 널리 사용되는 두 가지 벤치마크에서 다양한 오픈소스 및 상용 텍스트-투-이미지 모델을 대상으로 평가한 결과, TerraVis는 기존 지표 중 실세계 일관성에 대한 인간의 판단과 가장 강력한 상관관계를 달성했습니다. 또한 벤치마크 결과는 기존 지표에서 우수한 성능을 보이는 모델이라도 상당한 실세계 일관성 오류를 나타낼 수 있음을 보여줍니다. 이러한 결과는 실세계 일관성이 상호보완적인 평가 차원임을 강조하며, TerraVis가 이러한 오류의 체계적인 정량화, 진단 및 비교를 가능하게 함을 입증합니다. 본 연구의 코드는 https://github.com/ShyFoo/TerraVis 에서 공개되어 있습니다.
MLLM 판별 모델은 편집 자체를 평가하는가? 검증된 품질 보존을 통한 이미지 편집 평가의 바이어스 감사
Do MLLM Judges Judge the Edit? Auditing Bias in Image Editing Evaluation with Verified Quality Preservation
멀티모달 대규모 언어 모델(MLLM)은 지시 기반 이미지 편집의 자동화된 판별 모델 및 모델 학습(training)을 위한 보상(reward) 신호로 점점 더 널리 사용되고 있습니다. 그러나 시각적 개입 자체가 평가 대상인 품질을 변화시킬 수 있기 때문에, 이러한 판별 모델들이 편집 품질과 무관한 단서에 영향을 받는지 체계적으로 감사하는 것은 어렵습니다. 따라서 판별의 변화는 개입이 근본적인 편집 품질을 보존하는 것으로 검증된 경우에만 바이어스(bias)에 기인한 것으로 볼 수 있습니다. 이러한 문제를 해결하기 위해, 검증된 품질 보존 기능을 갖춘 반사실적 벤치마크(benchmark)인 EditJudgeBias를 제안합니다. 이 벤치마크는 1,196개의 실제 편집 샘플과 4개의 평가 영역에 걸쳐 주입된 13개의 단서로 구성됩니다. 보정된 멀티모달 검증기, 대조군 및 인간 검수를 통해 요청된 편집에 대한 품질 보존을 검증합니다. 그런 다음 품질 보존 단서에 대한 불변성, 인간 판별과의 일치도, 쌍별 선호도의 안정성이라는 세 가지 상호보완적 차원에 걸쳐 5개의 MLLM 판별 모델을 감사합니다. 중요한 점은, 관찰된 변화를 0이 아닌 각 판별 모델 자체의 제로 도즈(zero-dose) 및 재질의 노이즈 플로어(noise floor)를 기준으로 평가한다는 것입니다. 실험 결과, 품질을 보존하는 단서가 모든 판별 모델을 자체 노이즈 수준 이상으로 변화시키는 것으로 나타났습니다. 조작된 다수 의견은 평가 점수를 높이고, 무관한 시각적 요소는 전체 이미지 조작보다 더 큰 변화를 유발하며, 후보 순서를 바꾸면 쌍별 결정의 최대 60.9%가 뒤바뀝니다. 또한 편집 영역 단서는 인간과의 일치도를 낮추는 경향이 있습니다. 이 세 가지 척도는 판별 모델의 특성을 서로 다르게 나타내며, 견고성이 단일 지표만으로는 포착될 수 없음을 보여줍니다.
텍스트-이미지 생성이 편집에 도움이 되는 순간: 디노이징 과정에서의 조건화 효과
When Text-to-Image Helps Editing: The Effects of Conditioning During Denoising
통합 모델(unified model)은 지시 기반(instruction-based) 이미지 편집과 텍스트-이미지(T2I) 생성을 모두 수행하도록 학습되지만, 표준 편집 파이프라인은 디노이징(denoising) 전 과정에 걸쳐 원본 이미지 조건화(conditioning)를 유지합니다. 본 논문에서는 편집이 T2I로부터 이점을 얻을 수 있는지 질문을 던지고, 조건화의 효과가 다양한 편집 유형 및 디노이징 단계에 따라 어떻게 달라지는지 연구합니다. 순수 편집(pure editing)에서는 샘플링 궤적을 거치는 동안 일부 편집에 대해 원본 어텐션(attention)이 감소합니다. 이러한 관찰을 바탕으로 모델이 자신의 T2I 역량을 활용할 수 있도록 하는 작업 전환(task switching) 방식을 제안합니다. 세 가지 통합 편집 모델과 네 가지 벤치마크에 걸친 실험 결과, 제한된 구간 동안 T2I 작업으로 전환하는 것이 편집 품질을 향상시키는 동시에 세 모델 모두에서 평균 지각적 보존(perceptual preservation) 수준이 순수 편집과 유사하게 유지됨을 확인했습니다. 따라서 통합 편집 모델은 학습된 두 가지 조건화 모드를 모두 활용함으로써 이점을 얻으며, 전환 시점을 통해 품질과 보존 사이의 균형을 조절할 수 있습니다.
보상 인플레이션: 강화학습을 위한 건강한 자극
Reward Inflation: A Healthy Stimulus for Reinforcement Learning
토론
이 논문과 연결된 포럼 글이 아직 없습니다.