PyTorchKR Papers

최신 논문

총 4,696편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.11648v1cs.CR

더미 백도어를 통한 방어: 공유 내부 메커니즘을 활용한 생성형 LLM의 알 수 없는 백도어 제거

Dummy Backdoor as a Defense: Removing Unknown Backdoors via Shared Internal Mechanisms for Generative LLMs

백도어 공격은 대규모 언어 모델(LLM)의 안전성과 신뢰성에 심각한 위협이 되는데, 이는 모델이 정상 입력에서는 정상적으로 동작하면서 숨겨진 트리거가 존재할 때 공격자가 지정한 응답을 생성하기 때문입니다. 방어자가 백도어 공격 유형이나 백도어 학습을 통해 형성된 내부 메커니즘을 알지 못할 때, 이러한 알 수 없는 백도어를 제거하는 것은 특히 어렵습니다. 본 연구에서는 서로 다른 백도어 간의 공유 내부 메커니즘을 기반으로 하는 간단하지만 효과적인 백도어 제거 방법을 제안합니다. 먼저, 동일한 작업(공격 목표)을 가진 서로 다른 백도어가 내부 활성화(internal activations)에서 유사한 트리거에 의한 활성화 변화를 유도함을 보여줍니다. 이 관찰에 착안하여, 우리의 방법은 알려진 트리거를 가진 백도어(\emph{더미 백도어})를 의도적으로 심고, 더미 트리거 입력과 깨끗한 응답을 쌍으로 하여 추가 미세조정(fine-tuning)을 통해 이를 제거합니다. 더미 백도어와 알 수 없는 백도어는 공유 내부 메커니즘에 의존할 수 있으므로, 더미 백도어를 제거하면 알 수 없는 백도어의 효과도 감소합니다. 우리는 여러 모델 계열에 걸쳐 세 가지 백도어 공격 유형에 대해 우리의 방법을 평가했습니다. 실험 결과, 우리의 방법은 모델의 유용성을 유지하면서 알 수 없는 백도어의 공격 성공률을 상당히 감소시키며, 백도어 제거 효과와 유용성 유지 측면에서 대표적인 기존 방어 방법보다 우수함을 보여줍니다. 이러한 발견은 방어자가 제어 가능한 백도어가 생성형 LLM에서 알 수 없는 백도어를 완화하는 데 유용한 대리 수단이 될 수 있음을 시사합니다.

arXiv:2606.11599v1cs.CL

LLM은 언제 조종 가능한가?

When is Your LLM Steerable?

활성화 스티어링(activation steering)은 추론 시점에 언어 모델의 동작을 제어할 수 있는 가벼운 접근 방식을 제공하지만, 그 성공 여부는 프롬프트, 개념, 모델, 스티어링 구성에 크게 의존합니다. 성공적인 스티어링의 영역(regime)과 경계를 찾는 것은 일반적으로 비용이 많이 드는 그리드 탐색(grid searches)과 전체 자기회귀 롤아웃(autoregressive rollouts)에 대한 사후 평가가 필요합니다. 본 연구에서는 생성 프로세스의 초기, 예를 들어 처음 몇 개의 토큰을 생성한 후 모델의 내부 상태에서 조종 가능성(steerability)을 예측할 수 있는지, 그리고 이러한 예측기를 활용하여 스티어링 성공률을 높이는 방법을 조사합니다. 이를 위해 먼저 150개의 개념을 아우르며 각 스티어링의 성공/실패가 라벨링된 140만 개의 스티어링 생성을 포함하는 테스트베드인 ASTEER를 소개합니다. 이 테스트베드를 활용하여, 레이어와 초기 디코딩 단계에 걸쳐 스티어링 전후의 은닉 상태를 비교하는 특징을 추출함으로써 모델의 초기 디코딩 역학을 분석합니다. 이러한 특징들은 스티어링의 효과가 레이어와 토큰 위치를 따라 어떻게 전파되는지 이해하는 데 도움을 주며, 이는 조종 가능성 예측을 위한 핵심 정보를 제공합니다. 그런 다음 이러한 특징에 대해 그래디언트 부스팅 결정 트리(GBDT) 분류기를 훈련하여, 전체 롤아웃 없이 개입이 과소 조종(under-steer), 성공, 또는 과도 조종(over-steer)될지 예측합니다. 우리의 예측기는 보이지 않는(unseen) 개념에 대해 약 0.7의 macro-F1 점수를 달성하여, 초기 은닉 상태가 궁극적인 스티어링 효능에 대한 상당하고 구조화된 정보를 인코딩함을 입증합니다. 또한 이 조종 가능성 예측기를 스티어링 강도 탐색을 위한 가이드로 활용하여, 디코딩 비용의 일부만으로 최적에 근접한 성능을 달성합니다.

arXiv:2606.11424v1cs.CL

SOMA-SQL: 합성 로그와 실행 프로빙을 통한 NL-to-SQL의 다중 소스 모호성 해소

SOMA-SQL: Resolving Multi-Source Ambiguity in NL-to-SQL via Synthetic Log and Execution Probing

데이터베이스 자연어 인터페이스는 사용자 질문을 실행 가능한 SQL로 변환하는 것을 목표로 하지만, 질문이 불충분하고 스키마가 크고 모호한 실제 환경에서는 여전히 취약합니다. 사용자 질문, 데이터베이스 스키마, 모델 해석에 걸친 모호성은 NL2SQL의 주요 실패 요인으로, 의도 불일치, 잘못된 스키마 그라운딩, 잘못된 SQL 생성으로 이어집니다. 기존 접근 방식은 인간의 명확화에 의존하거나 모호성을 스키마 표현 문제로 취급하지만, 이는 확장되지 않으며 모호성을 자율적으로 해결하지 못합니다. 우리는 타겟팅된 합성 쿼리 로그와 모호성 기반 프로빙을 통해 모호성을 자동으로 해결하는 SOMA-SQL을 제안합니다. SOMA-SQL은 스키마 해석을 그라운딩하고 후보 SQL 생성을 안내하기 위해 합성 쿼리 로그를 구축합니다. 그 후 구조화된 모호성 분류 체계와 후보 불일치에 의해 주도되는 타겟팅된 프로빙 쿼리를 실행하여, 최종 SQL 선택 및 수정을 위한 모호성 해소 증거를 생성합니다. 이러한 모호성 발견 및 해결에 대한 능동적인 접근 방식은 인간 개입 없이 보이지 않는 스키마와 쿼리 분포에 걸쳐 일반화됩니다. 6개의 공개 벤치마크에 대한 실험 결과, SOMA-SQL은 최첨단 기준 모델 대비 평균 13.0%의 실행 정확도를 향상시켰으며, 모호한 질문에서는 최대 16.7%의 향상을 보였습니다.

arXiv:2606.11371v1cs.CL

인간과 AI 생성 언어의 역학: 서로 다른 시간 척도에서의 의미 변동

The Dynamics of Human and AI-Generated Language: How Semantics Fluctuates across Different Timescales

구어는 인간이든 대규모 언어 모델(LLM)이든 시간에 따라 전개되며 의미 내용이 달라진다. 그러나 시간에 걸쳐 일반적인 내용과 구체적인 내용이 어떻게 분포하는지 포착하고, 인간과 AI 생성 음성을 비교하는 데 사용할 수 있는 간단하고 해석 가능한 시계열 특징은 아직 부족하다. 우리는 타임스탬프가 있는 단어 수준 전사본을 의미 시계열로 변환하는 의미-시간 척도 분석 파이프라인을 제안한다. 각 구어 서사에 대해 (i) WordNet 기반 단어 깊이를 이용한 의미적 구체성과 (ii) SBERT 임베딩을 이용한 문맥 유사도를 계산하고, 자기상관 윈도우(autocorrelation-window) 측정치(ACW-0 및 관련 지표)로 그들의 시간적 의존성을 정량화한다. 그런 다음 원본 음성을 어휘 동일성, 시간적 순서, 단어 지속 시간을 선택적으로 교란하는 여러 셔플 대조군과 비교한다. 인간이 읽은 자서전적 서사, TTS 읽기, TTS로 렌더링된 LLM 생성 텍스트 전반에 걸쳐, 의미 시계열에서 ACW-0가 더 긴 구간은 더 일반적인 어휘를 포함하는 경향이 있고, ACW-0가 더 짧은 구간은 더 구체적인 단어가 풍부함을 발견한다. 단어 순서와 타이밍이 무작위화되면 이러한 연관은 크게 약화되거나 사라지며, 이는 ACW 기반 측정치가 정적 어휘 분포를 넘어서는 의미 내용의 비자명한 시간적 조직을 포착함을 시사한다. 결과는 ACW 기반 의미 시간 척도가 인간과 AI 생성 음성의 시간적 구조를 분석하고 비교하는 데 유용한 특징군임을 시사한다.

arXiv:2606.11203v1cs.CL

LatticeBridge: 충실한 구조화된 시퀀스 합성을 위한 희귀 사건 순차 추론

LatticeBridge: Rare-Event Sequential Inference for Faithful Structured Sequence Synthesis

구조화된 시퀀스 생성에서 입력 파생 제약 조건을 충족하는 희귀 사건 순차 추론 문제를 해결하기 위해 LatticeBridge가 제안되었다. 이 방법은 접두사 언어 모델과 트위스트된 순차 몬테카를로(SMC) 디코더를 결합하여 기존 기준선 대비 정확한 앵커 만족도와 커버리지를 향상시킨다.

arXiv:2606.11196v1cs.CL

PoQ-Judge: 분산형 LLM 추론에서 비용 인지형 품질 증명(PoQ)을 위한 다중 아키텍처 평가 프레임워크

PoQ-Judge: A Multi-Architecture Evaluation Framework for Cost-Aware Proof-of-Quality in Decentralized LLM Inference

분산형 LLM 추론 환경에서 참조 없는 품질 증명(PoQ)을 위해, 쿼리-출력 쌍을 점수화하는 PoQ-Judge 프레임워크를 제안한다. TextCNN, MiniLM, DeBERTa를 포함한 다양한 아키텍처를 통해 학습된 이 모델들은 기존 참조 기반 평가 방식과 유사한 상관관계를 달성하면서도 캐스케이드 평가를 통해 비용을 72.7% 절감한다.

arXiv:2606.10820v2cs.LG

K-Forcing: 푸시-포워드 언어 모델링을 통한 다음 K 토큰 공동 디코딩

K-Forcing: Joint Next-K-Token Decoding via Push-Forward Language Modeling

자기회귀(AR) 언어 모델의 순차적 디코딩 비효율을 해결하기 위해 단일 순전파로 다음 K개 토큰을 공동 생성하는 K-Forcing 방법론을 제안한다. 이 방법은 기존 AR 모델을 지식 증류하여 배치 서빙 환경에서 최대 3.5배의 속도 향상을 달성하면서도 품질 저하를 최소화했다.

arXiv:2605.28882v2cs.CL

GrowLoop: 인간이 시드를 제공한 자가 진화 대화 평가

GrowLoop: Self-Evolving Conversation Evaluation Seeded by Human

인간의 암묵적이고 진화하는 기준을 반영하기 어려운 개방형 대화의 인간성 평가 문제를 해결하기 위해, 최소한의 인간 주석을 시드로 평가 루브릭과 사례를 공진화시키는 자가 진화 시스템 GrowLoop를 제안한다. 해당 시스템은 기존 방법보다 인간 판단과 높은 정렬을 보이며 모델의 발전과 새로운 시나리오에 지속적으로 적응할 수 있다.

arXiv:2509.25359v2cs.CL

기하학적 메트릭과 대규모 언어 모델: 무엇을 측정하며 언제 유효한가

Geometric Metrics and LLMs: What They Measure and When They Work

대규모 언어 모델(LLM) 평가를 위한 기하학적 메트릭의 신뢰성을 체계적으로 검증하여, 일부 메트릭은 출력 길이에 반응하거나 텍스트 품질과의 연관성이 약함을 확인했다. 반면 기하학적 메트릭은 텍스트 통계와 결합했을 때 생성 모델 식별 능력을 향상시키는 등 보완적인 역할을 수행한다.

arXiv:2408.02600v3cs.CL공식 코드 · Papers with Code

BioMamba: 도메인 적응 바이오의학 언어 모델

BioMamba: Domain-Adaptive Biomedical Language Models

Mamba2 모델에 PubMed, C4, Wikipedia의 균형 잡힌 데이터를 사용하여 지속 사전학습을 수행한 BioMamba는 바이오의학 문헌 및 임상 텍스트에서의 성능을 향상시키면서 일반 언어 모델링 유창성을 유지합니다. 파인튜닝 후 MIMIC-IV 및 PubMedQA 벤치마크에서 기존 모델과 동등하거나 우수한 성능을 달성했습니다.

arXiv:2606.12350v1cs.AI

Nonslop: 인간-AI 협업 글쓰기에 대한 게임화된 실험

Nonslop: A Gamified Experiment in Human-AI Collaborative Writing

대규모 언어 모델(LLM) 시대의 인간 창의성과 개성을 탐구하기 위해, AI 제안 사용을 오히려 방해하는 게임화된 글쓰기 실험을 통해 참가자들의 행동 패턴과 창작적 자율성 선택을 분석했다. 이 접근 방식은 AI 보조 창작 환경에서 효율성과 진정성 사이의 긴장을 이해하는 프레임워크를 제공한다.

arXiv:2606.12073v1cs.SI

"그건 AI 슬롭이야, 이 봇아!" LLM 생성 댓글에 대한 온라인 담론에서의 비난, 증거 및 신뢰성 연구

"That's AI Slop, You Bot!" Studying Accusations, Evidence, and Credibility in Online Discourse Towards LLM-Generated Comments

생성형 AI는 유창한 산문을 저렴하게 생산할 수 있게 만들어, 훌륭한 글쓰기는 진정한 사고를 의미한다는 독자들에 대한 오래된 약속을 깨뜨렸다. 독자들은 어떻게 반응했으며, 이는 변화하는 반(AI) 태도에 대해 무엇을 시사하는가? 우리는 Hacker News와 Reddit의 2,500만 개 댓글(2023-2026)을 분석했다. 여기에는 AI 사용에 대한 7,500개의 표본 추출된 비난에 대한 대규모 언어 모델(LLM) 판단, 감정 변화 추이, AI 사용으로 확인된 300개의 비난에 대한 화행 코딩, 그리고 비난받은 상위 댓글과 비난받지 않은 상위 댓글 간의 대조군 일치 테스트가 결합되었다. 우리는 두 플랫폼 모두에서 비난 중 비하적 명칭의 비중이 10배 이상 증가한 반면, 2022년 이전의 비진정성 용어(shill, astroturf)에 대한 플라시보 어휘는 증가하지 않았음을 발견했다. 이러한 변화는 의심스럽거나 비진정적인 것으로 보이는 모든 산문을 "AI 슬롭(AI slop)"으로 규정하는 빠르게 성장하는 추세를 반영한다. 슬롭 프레임은 현재 비하적 언급의 94%를 차지하며, 지배적인 댓글들의 어조가 조롱에서 게이트키퍼링(gatekeeping)과 구조적 항의로 변화하고 있다. 가장 큰 놀라움은 대조군 일치 테스트에서 나왔는데, AI 텍스트와 인간 텍스트를 통계적으로 구별하는 산문 특징들이 어떤 인간 텍스트가 AI로 비난받는지 예측하지 못한다는 것을 발견했다. 새로운 비난은 실제로 AI를 선별하지 않으면서도 인지된 진정성에 대한 사회적 게이트키퍼링으로 작용한다. 이 연구는 기본적인 탐지 문제가 비전문가 수준에서 해결될 수 없는 경우, 사회적으로 사용되는 대체 신호가 부정확하더라도 성장할 수 있음을 보여줌으로써 신호 이론을 확장한다. 이는 글쓰기에 대한 AI의 영향이 독자 측면과 생산(작성자) 측면에서 서로 다르다는 것을 보여준다. 탐지 기술은 이러한 역학 관계를 해결할 수 없는데, 그 이유는 비난의 사회적 기능이 AI 생성 글쓰기를 식별하는 것과 대조적으로 점차 사회적 게이트키퍼링과 집단 내 신호 전달(in-group signaling)을 수행하는 것이 되기 때문이다.

arXiv:2606.11635v1cs.CY

LLM은 도덕적 추론에 약한가?

Are LLMs Bad at Moral Reasoning?

기존 연구에서 대규모 언어 모델(LLM)의 도덕적 추론 능력이 부족하다고 평가되었으나, MoReBench 데이터셋을 활용해 모델이 채점 기준(rubric)을 생성하도록 하면 인간 기준과 더 잘 정렬됨을 보여줍니다. 이를 통해 LLM이 이전 믿음보다 훨씬 뛰어난 도덕적 추론 능력을 가지고 있음을 시사합니다.

arXiv:2606.07513v1cs.CL

Agentopia: 에이전트 사회에서의 장기 삶 시뮬레이션 및 학습

Agentopia: Long-Term Life Simulation and Learning in Agent Societies

인간은 사회적 삶을 통해 학습합니다. LLM(대규모 언어 모델) 기반 에이전트를 사용하여 이 과정을 시뮬레이션하는 것은 유망한 연구 방향이며, 다음과 같은 자연스러운 질문을 던집니다. 즉, LLM이 인간의 행동을 더 잘 이해하고 재현하기 위해 이러한 시뮬레이션된 사회적 경험으로부터 학습할 수 있는가 하는 것입니다. 그러나 기존 에이전트 사회 시뮬레이션은 대개 며칠 수준의 규모로 운영되어 사회적 상호작용의 깊이와 장기적 성장을 제한한다는 한계가 있습니다. 본 논문에서는 에이전트 사회 내에서 장기적인 삶 시뮬레이션과 LLM 학습을 연구하며, 두 가지 목표를 가집니다: (1) 평생에 걸친 시뮬레이션에서 발현되는 사회적 행동을 조사하고, (2) 수년간의 시뮬레이션된 사회적 경험을 통해 LLM의 인간 유사 능력, 특히 사회적 삶에서의 지능을 개발하는 것입니다. 구체적으로, 우리는 다중 에이전트 사회에서의 장기적인 삶 시뮬레이션을 위한 포괄적인 프레임워크인 Agentopia를 제시합니다. 여기서 100개의 에이전트는 10개의 시뮬레이션 연도에 걸쳐 자율적으로 개인의 성장을 추구하고, 사회적 관계를 형성하며, 자신의 욕구와 목표를 충족해 나갑니다. 우리는 인간의 웰빙(well-being)을 반영하는 생활 보상(life reward)을 정의하고, 이 보상을 활용하여 거부 샘플링(rejection sampling) 방식으로 LLM을 학습시킵니다. 광범위한 실험을 통해 에이전트들이 풍부한 창발적 사회적 행동을 보여줌을 확인했습니다. 또한, 생활 보상 학습은 기본 LLM을 효과적으로 향상시켜 시뮬레이션 내 에이전트의 웰빙을 개선할 뿐만 아니라, 하류 역할극 벤치마크에서도 +15.6%의 성능 향상을 보이며 일반화되었습니다.

arXiv:2606.07219v1cs.CL

AI 생성 소셜 봇 콘텐츠의 적대적 생성 및 탐지

Adversarial Creation and Detection of AI-Generated Social Bot Content

대규모 언어 모델(LLM)과 소셜 봇의 수렴으로 인해 악의적인 행위자가 사람과 유사한 콘텐츠를 대규모로 생성하여 정보 생태계를 조작할 수 있게 되었습니다. AI 생성 콘텐츠를 탐지하는 기존 모델들은 주로 정답 데이터(ground-truth data)의 부족으로 인해 실제 환경에서 자주 실패합니다. 우리는 악의적인 행위자에 의한 실제 소셜 미디어 사용자 사칭을 모델링하는 적대적 방법론을 통해 이 문제를 해결합니다. 이 방법론을 사용하여, 우리는 사람과 AI 생성 메시지의 쌍으로 구성된 다국어 및 크로스 플랫폼 데이터셋을 구축했습니다. 이러한 적대적 데이터에 대한 학습을 통해 AI 생성 텍스트를 정확하게 탐지할 수 있습니다. 우리의 접근 방식은 실제 환경의 분포 외 데이터(out-of-distribution data)에서 콘텐츠 기반 봇 탐지를 수행하는 기존 모델들보다 성능이 현저히 우수합니다.

arXiv:2606.07130v1cs.CL

구조화된 인라인 인용 생성을 통한 명시적 증거 그라운딩

Explicit Evidence Grounding via Structured Inline Citation Generation

AI 시스템이 더 널리 도입됨에 따라 사실적이고 충실한 생성에 대한 수요가 증가하고 있습니다. 따라서 인용을 통해 정보에 적절히 출처를 표시하는 것이 중요해집니다. 본 연구는 FullCite를 소개합니다. 이 프레임워크는 대부분의 이전 연구와 달리, 각 주장을 소스 문서와 뒷받침하는 증거 모두에 연결하는 구조화된 인라인 인용을 생성합니다. FullCite는 인라인 인용 생성을 위한 세 가지 전략을 제안합니다: 프롬프트 기반 생성, 인용 문법에 대한 제약 디코딩, 그리고 사후 스판 정렬입니다. ASQA, BioASQ, ExpertQA라는 세 가지 질의응답 벤치마크를 사용하여, 우리는 문서 수준 정확도, 증거 스판 식별, 주장-인용 충실도라는 세 가지 차원에서 인용 품질과 충실도를 평가합니다. 평가 결과, 대규모 언어 모델(LLM)이 관련 문서를 식별하는 데는 일반적으로 효과적이지만, 문서 내 정확한 뒷받침 스판을 식별하는 데는 어려움을 겪는 것으로 나타났습니다. 이러한 격차는 충실한 속성 QA를 달성하기 위해서는 정확한 증거 스판 식별에 더 큰 비중을 두는 연구가 필요함을 시사합니다.

arXiv:2606.06959v1cs.CL

OpenHalDet: 다양한 생성 시나리오에서의 환각 감지를 위한 통합 벤치마크

OpenHalDet: A Unified Benchmark for Hallucination Detection across Diverse Generation Scenarios

환각(hallucination) 감지는 대규모 언어 모델(LLM)의 신뢰할 수 있는 배포에 필수적입니다. 그러나 기존 평가는 불일치하는 추론(inference) 구성 및 평가, 그리고 하류(downstream) 도메인 및 작업에 대한 제한된 범위라는 두 가지 핵심 과제에 직면해 있습니다. 결과적으로, 보고된 감지기(detector) 성능은 특정 실험 설정을 넘어 비교, 재현 및 일반화하기가 어려운 경우가 많습니다. 우리는 다양한 생성 시나리오에 걸친 환각 감지를 위한 통합 벤치마크인 OpenHalDet을 소개합니다. OpenHalDet은 프롬프트(prompt) 구성 및 응답 생성부터 사실성(truthfulness) 주석, 감지기 점수 매기기, 지표(metric) 계산에 이르기까지 평가 파이프라인을 표준화합니다. 이는 생성된 출력만을 사용하는 블랙박스(black-box) 방법, 확률 기반 신호에 의존하는 그레이박스(gray-box) 방법, 내부 모델 신호를 활용하는 화이트박스(white-box) 방법을 포함하여 다양한 접근 설정 하에서 이질적인 감지기 계열을 지원합니다. 다양한 작업, 모델, 감지기를 공유 프레임워크로 통합함으로써, OpenHalDet은 통제된 비교를 가능하게 하고 LLM 애플리케이션에서 서로 다른 감지 패러다임이 어떻게 동작하는지에 대한 체계적인 관점을 제공합니다. 우리는 재현 가능한 평가와 환각 감지 방법의 미래 개발을 촉진하기 위해 OpenHalDet을 개방형이며 확장 가능한 코드베이스로 공개합니다. 코드와 데이터셋은 https://github.com/Nellie179/Hallucination-Detection에서 확인할 수 있습니다.

arXiv:2606.06794v1cs.CL

TA-RAG: 동료 지원 건강 커뮤니케이션을 위한 어조 인식 검색 증강 생성

TA-RAG: Tone-Aware Retrieval-Augmented Generation for Peer-Support Health Communication

검색 증강 생성(RAG)은 대규모 언어 모델(LLM)의 출력을 신뢰할 수 있는 문서에 기반하여 성공적으로 생성하지만, 사실적 그라운딩만으로는 민감한 동료 지원 건강 커뮤니케이션에는 불충분합니다. HIV 동료 지원과 같은 도메인에서는 응답이 이해하기 쉽고, 낙인이 없으며, 공감을 담고, 수신자에게 맞춰져야 합니다. 본 논문은 모델 미세조정(fine-tuning) 없이 RAG 파이프라인에 명시적인 어조 제어를 통합하는 가볍고 프롬프트 기반의 어조 인식 RAG 프레임워크인 TA-RAG를 제시합니다. 우리는 낙인 제거 재작성, 가독성 조정, 수신자 적응, 공감 표현 재구성이라는 4가지 핵심 구성 요소를 통해 어조를 구체화하여 적용합니다. 우리는 HIV 온라인 러닝 오스트레일리아(HOLA), UNAIDS 용어 지침, 가독성 지표, 호주 HIV 감염인 협회(NAPWHA)의 동료 지원 표준, 공개 공감 데이터셋에서 파생된 질문들을 사용하여 구성 요소 수준의 테스트로 TA-RAG를 평가합니다. 결과에 따르면 TA-RAG의 구성 요소들은 핵심 내용을 유지하면서 목표로 하는 커뮤니케이션 품질을 향상시키는 것으로 나타났습니다. 이러한 발견들은 프롬프트 기반 어조 제어가 민감한 동료 지원 건강 커뮤니케이션에 적합한 RAG 출력을 생성하는 데 있어 잠재적인 방향임을 강조합니다.

arXiv:2606.06712v1cs.CL

온-정책 증류를 통한 데이터 효율적인 자기회귀-디퓨전 언어 모델

Data-Efficient Autoregressive-to-Diffusion Language Models via On-Policy Distillation

우리는 자기회귀 모델(ARLM)을 디퓨전 언어 모델(DLM)로 변환하는 것을 연구합니다. 처음부터 사전 학습하는 대신, 기존 연구는 ARLM의 인과적 어텐션(causal attention)을 양방향 어텐션(bidirectional attention)으로 대체한 다음 DLM 목적 함수(objective)를 사용하여 결과 모델을 학습합니다. 그러나 이러한 접근 방식들은 두 가지 분포 변이(distribution shift)를 초래합니다. 첫째, 다음 토큰 예측(next-token prediction) 목적에서 DLM 목적으로 전환하는 것은 학습 과정에서 ARLM이 습득한 지식을 잃을 수 있습니다. 둘째, 표준 DLM은 학습-추론 불일치(train-inference mismatch) 문제를 겪는데, 이는 학습 손실이 신뢰도 기반 디코딩(confidence-based decoding)에 의해 생성된 추론 시점의 궤적(trajectories)이 아닌 무작위로 마스킹된 시퀀스에서 정의되기 때문입니다. 이러한 두 가지 과제를 해결하기 위해, 우리는 ARLM에서 DLM으로의 변환을 위해 온-정책 증류(On-Policy Distillation, OPD)가 사용되는 온-정책 디퓨전 언어 모델(On-Policy Diffusion Language Model, OPDLM)을 제안합니다. 구체적으로, OPDLM은 셀프-OPD(self-OPD)를 통해 학습되는데, 여기서 학생(student)인 양방향 어텐션을 가진 ARLM은 자신만의 궤적을 생성하고, 교사(teacher)인 원본 동결된 ARLM은 이 궤적에 대한 타겟 로짓(target logits)을 제공함으로써 지식을 증류합니다. 온-정책 방식으로 직접 학습함으로써 OPDLM은 DLM의 학습-추론 불일치를 제거하고, 원본 모델로부터의 증류는 ARLM으로부터의 지식 보존을 향상시킵니다. 실험 결과는 OPDLM이 다양한 작업에서 강력한 성능을 유지하면서 15배에서 7,000배 더 적은 학습 토큰을 필요로 함을 보여줍니다. OPDLM은 DLM 사전 학습의 과도한 비용을 피하고, DLM 변환을 ARLM 사후 학습(post-training)의 한 형태로 자리매김합니다.

arXiv:2606.06646v1cs.CL

CAF-Gen: 논증 구조 보강을 위한 다중 에이전트 시스템

CAF-Gen: A Multi-Agent System for Enriching Argumentation Structures

자연어 텍스트에서 복잡한 추론을 형식화하는 것은 계산 언어학의 중심 과제 중 하나입니다. 이는 시스템이 단순한 키워드뿐만 아니라 텍스트에 내재된 맥락과 복잡한 추론을 이해해야 함을 요구합니다. 현재의 논증 마이닝(Argument Mining, AM) 기법은 기본적인 주장과 전제를 식별하지만, 전제 유형, 증명 기준, 논증 스킴과 같은 특징을 포함하는 고급 스키마인 Carneades Argumentation Framework(CAF)에서 요구하는 더 풍부한 구조적 정보를 포착하는 데 어려움을 겪는 경우가 많습니다. 우리는 얕은 논증 구조를 CAF를 준수하는 논증 모델로 보강하도록 설계된 자동화된 다중 에이전트 프레임워크인 CAF-Gen을 도입하여 이러한 한계를 해결합니다. 반복적인 Creator-Reviewer 파이프라인을 사용하여, 생성자 에이전트(creator agent)의 출력은 구조적 무결성을 보장하기 위해 비평자 에이전트(critical agent)에 의해 검증됩니다. 이러한 다중 에이전트 협업은 단일 패스 생성 모델(single-pass generative models)에서 전형적인 구조적 불안정성을 완화하는 데 중요합니다. 우리의 실험은 반복적인 피드백 루프가 결과 데이터의 품질을 향상시키고 구조적으로 더 풍부한 모델을 생성하는 동시에 원본 주석(original annotations)과 강력한 정렬을 달성함을 보여줍니다. 우리의 연구 결과는 다중 에이전트 시스템이 단일 패스 생성의 한계를 극복할 수 있으며, 형식적 논증의 자동화된 모델링을 위한 강건한 방법론을 제공함을 보여줍니다.