PyTorchKR Papers

최신 논문

총 5편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.10628v1cs.SE

Agent4RE: 엔드투엔드 소프트웨어 요구공학 및 벤치마킹을 위한 자가 개선 다중 에이전트 프레임워크

Agent4RE: A Self-Refining Multi-agent Framework for End-to-End Software Requirements Engineering and Benchmarking

소프트웨어 요구공학(RE)을 위한 기존 대규모 언어 모델(LLM) 기반 접근 방식은 일반적으로 기본적인 프롬프팅 전략이나 초보적인 에이전트 협업에 의존하여 다중 에이전트 시스템의 잠재력을 온전히 활용하지 못하고 있습니다. 한편, 활용 가능한 데이터셋은 요구사항 추출, 분류, 완전성 탐지와 같은 개별적인 하위 작업에만 집중되어 있어, 요구사항 도출부터 생성까지 아우르는 엔드투엔드 RE 벤치마크가 부재한 상황입니다. 본 논문에서는 특화된 에이전트들을 조율하고 두 개의 반복적인 개선 루프를 통합한 자가 개선 다중 에이전트 RE 시스템인 Agent4RE를 제시합니다. 평가를 지원하기 위해 사람이 작성한 요구사항 명세서를 바탕으로 구축된 실제 데이터셋인 RE-E2E를 구성하여 RE 워크플로의 엔드투엔드 평가를 가능하게 했습니다. 이러한 토대 위에서, 자율적 자가 개선 또는 구조화된 인간 피드백을 통합한 두 가지 향상된 Agent4RE 버전을 추가로 제안하고, 다양한 시나리오에서 이들의 강점과 한계를 분석합니다. 8개의 LLM을 대상으로 한 평가에서 세 가지 Agent4RE 변형 모두 텍스트 기반 지표에서 도메인 컨텍스트 증강 프롬프팅 기준선(baseline)을 평균 8% 일관되게 능가하는 것으로 나타났습니다. 두 가지 향상된 변형은 LLM-as-a-judge 및 인간 평가에서 최고 평점을 기록하며 4점 척도 기준 두 개의 RE 기준선보다 약 0.8점 앞섰습니다. 이러한 일관된 성능을 통해 Agent4RE가 산업 환경을 위한 실용적인 엔드투엔드 RE 솔루션임을 입증합니다.

arXiv:2604.13491v4cs.CV

FiRe: 향상된 이미지 생성을 위한 세밀한 멀티모달 추론

FiRe: Fine-grained Multimodal Reasoning for Enhanced Image Generation

멀티모달 대규모 언어 모델(MLLM)의 급격한 발전과 함께 이미지 이해와 생성을 공동으로 수행하는 통합 MLLM이 크게 진보했습니다. 그러나 자기 반성(self-reflection) 및 자체 개선(self-refinement)을 위한 통합 MLLM 고유의 추론 능력에도 불구하고, 텍스트-투-이미지(text-to-image) 생성에서 이러한 능력을 활용하는 것은 여전히 거의 탐색되지 않은 상태로 남아 있습니다. 한편, 기존의 멀티모달 추론 기반 이미지 생성 방식은 대부분 프롬프트 증강이나 전체적인 이미지-텍스트 정렬(alignment) 판단에 의존할 뿐 세부 프롬프트 속성에 대한 세밀한 반성과 개선이 이루어지지 않아, 세밀한 제어에 한계를 보입니다. 이러한 한계를 해결하기 위해, 본 논문에서는 MLLM 기반의 향상된 이미지 생성을 위한 세밀한 멀티모달 추론(Fine-grained Multimodal Reasoning) 기법인 FiRe를 제안합니다. 구체적으로 FiRe는 먼저 프롬프트를 핵심 시각적 요구 조건으로 분해한 다음, 생성된 이미지에서 이들의 충족 여부를 스스로 판단하고, 자체 생성된 정밀한 피드백에 따라 국소적 개선을 수행하는 세밀한 다단계 추론을 진행합니다. 또한 MLLM의 멀티모달 추론 능력을 더욱 강화하기 위해 FiRe에 맞춤화된 강화학습 기법인 FiRe-GRPO를 도입합니다. 표준 그룹 상대 정책 최적화(GRPO)는 다단계 추론에서 희소한 결과 기반 보상 문제로 어려움을 겪으므로, 본 연구에서는 추론 과정을 단계별 의사결정 문제로 정식화하고, 단계별 보상을 설계하며, GRPO 내에서 세분화된 신뢰 할당(credit assignment)을 위한 단계별 어드밴티지를 계산합니다. 광범위한 실험을 통해 FiRe가 기존 추론 기반 방식을 포함한 경쟁력 있는 텍스트-투-이미지 베이스라인 모델들을 일관되게 능가하며, 특히 구성적(compositional) 텍스트-투-이미지 벤치마크에서 상당한 성능 향상을 달성함을 입증합니다. 프로젝트 페이지는 https://ku-agi.github.io/FiRe/ 에서 확인할 수 있습니다.

arXiv:2607.22653v1cs.AI

언어 모델은 자기 자신으로 수렴하는가? 텍스트 이완으로서의 재귀적 자기 정제

Do Language Models Converge to Themselves? Recursive Self-Refinement as Textual Relaxation

대규모 언어 모델(LLM)은 초안을 동일 모델이 반복적으로 수정하는 재귀적 정제 워크플로에서 점점 더 많이 사용되고 있다. 사용이 늘어나고 있음에도 이러한 워크플로의 장기 역학은 여전히 잘 이해되지 않는다. 반복적 정제는 출력을 무한히 개선해 나가는가, 아니면 안정적인 텍스트 형태로 수렴하는가? 본 연구는 반복적인 LLM 수정이 텍스트를 모델이 선호하는 소프트 고정점(soft fixed-point) 영역으로 이끄는 동역학적 과정으로서 재귀적 자기 정제를 분석한다. GPT-5.5를 사용해 기본 온도(default-temperature) 디코딩과 결정론적 디코딩 모두에서 ICML 2025 초록 50편에 대한 10단계 정제 궤적을 생성하고, 추가로 ICML 2020 초록 15편을 평가한다. 정규화된 편집 거리, 정확·근사 고정점, 단어 수 안정성, 지수적 이완(exponential relaxation), 외부 LLM-as-a-judge 평가를 분석한다. 모든 설정에서 정제 궤적은 빠르게 포화된다. 대부분의 편집은 처음 몇 번의 반복 안에서 이루어지며, 이후 궤적은 표면 수준의 미세한 변화만 남기는 소프트 고정점 영역에 진입한다. 결정론적 디코딩은 정확한 고정점에 더 일찍 도달하고 기본 온도 디코딩보다 잔여 변동이 더 작지만, 둘 다 보편적인 근사 수렴을 달성한다. 평균 편집 크기는 일관된 지수적 이완 패턴을 따르며, 이는 개방형 최적화가 아니라 모델이 선호하는 텍스트 평형으로의 수렴을 시사한다. 외부 평가에 따르면 수렴된 초록은 기술적 의미를 보존하면서 명확성, 간결성, 과학적 문체가 개선된다. 이러한 결과는 LLM 자기 정제에 대한 동역학 시스템 관점을 뒷받침하며, 편집 크기 포화에 기반한 실용적 중단 기준을 제시한다.

arXiv:2606.27757v1cs.AI

신뢰성과 견고성을 갖춘 LLM 계획을 향하여: 기호적 피드백 기반 반복적 자기 정제 프레임워크

Towards Reliable and Robust LLM Planning: Symbolic Feedback-Driven Iterative Self-Refinement Framework

대규모 언어 모델(LLM)은 학계와 산업계로부터 폭넓은 관심을 받고 있으나, 배포 과정에서 견고성과 신뢰성과 관련한 중대한 보안 우려가 제기된다. 계획(planning)은 지능적 행동의 핵심 구성 요소이지만 LLM에게는 여전히 어려운 과제이며, 고유한 복잡성으로 인해 장기(long-horizon) 의사결정 과제에서 실행 불가능하거나 잘못된 해를 종종 산출한다. 본 논문에서는 장기 계획에서 LLM의 견고성과 신뢰성을 향상시키기 위해 기호적 피드백 기반 반복적 자기 정제(self-refinement) 프레임워크를 제안한다. 구체적으로, 논리 기호를 자연어 설명으로 매핑하여 LLM이 과제 제약과 의미를 더 잘 파악할 수 있도록 하는 자연어 프롬프팅(prompting) 메커니즘을 도입한다. 또한 오류를 식별하고 이를 LLM이 해석 가능한 수정 지시로 변환하여 자기 정제를 이끄는 기호적 검증기(verifier)를 설계한다. 아울러 목표 도달 가능성(goal reachability)을 추론하는 계획 인식기(plan recognizer)를 활용하여 원하는 목표를 향한 더 효과적인 안내를 가능하게 한다. 실험 결과, 제안된 프레임워크가 장기 계획 과제에서 실행 가능성(feasibility)과 정확성(correctness) 모두를 일관되게 개선함을 보여준다. 이는 LLM 기반 계획의 신뢰성을 높이는 데 있어 그 효과를 부각하며, 더 신뢰할 수 있는 AI 시스템을 가능하게 할 잠재력을 시사한다.

arXiv:2508.17693v2cs.DB

이중 LLM 자기 정제를 통한 데이터베이스 정규화

Database Normalization via Dual-LLM Self-Refinement

데이터베이스 정규화는 데이터 무결성을 유지하는 데 필수적입니다. 그러나 이는 일반적으로 데이터 엔지니어가 수동으로 수행하기 때문에 시간이 많이 소요되고 오류가 발생하기 쉽습니다. 이를 위해 본 연구에서는 대규모 언어 모델(LLM)의 기능을 활용하는 데이터베이스 정규화 프레임워크인 Miffie를 제안합니다. Miffie는 높은 정확도를 유지하면서 인간의 개입 없이 자동화된 데이터 정규화를 가능하게 합니다. Miffie의 핵심은 정규화된 스키마 생성과 검증을 위해 각각 최고 성능의 모델을 결합하는 이중 모델 자기 정제 아키텍처입니다. 생성 모듈은 출력 스키마가 정규화 요구 사항을 만족할 때까지 검증 모듈의 피드백을 바탕으로 이상 현상을 제거합니다. 또한, 높은 정확도와 비용 효율성을 모두 달성하기 위해 모델을 안내하는 작업별 제로샷 프롬프트를 신중하게 설계했습니다. 실험 결과, Miffie는 높은 정확도를 유지하면서 복잡한 데이터베이스 스키마를 정규화할 수 있음을 보여줍니다.