PyTorchKR Papers

최신 논문

총 4,696편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.23083v1cs.CL

성별 포용적 재작성을 위한 LoRA 및 반서사 생성을 위한 활성화 조향

LoRA for Gender-Inclusive Rewriting and Activation Steering for Counter-Narrative Generation

성별 포용적 언어 생성은 의미와 문맥적 일관성을 유지하면서 편향된 텍스트를 포용적 대안으로 변환하는 것을 목표로 한다. 본 논문은 LT-EDI 2026 공유 과제를 위한 IHLC 시스템을 제시하며, 성별 포용적 재작성과 반서사 생성을 모두 다룬다. 성별 포용적 재작성을 위해 매개변수 효율적인 Low-Rank Adaptation(LoRA) 미세조정을 사용하여 공식 점수 80.00%를 달성했다. 우리의 주요 기여는 반서사 생성을 위한 연산 효율적인 추론 시점 표현 공학(representation engineering) 접근법이다. 대조적 은닉 상태(hidden-state) 활성화로부터 주성분 분석(PCA)을 사용해 주요 조향 방향을 도출하고, 추론 중 Gemma-3-4B-it의 중간 표현에 이를 주입하여 모델 가중치를 수정하지 않고도 포용적 응답을 향한 행동 조향을 가능하게 한다. 제약 프롬프팅(constrained prompting)과 결합하면 이 접근법은 정중하고 문맥에 적절한 반서사를 생성하며, 공식 점수 78.12%를 달성한다. 또한 조향 행동에 대한 수동 분석을 제시하며, 의미 표류(semantic drift), 잔존 바이어스 누출, 층 민감도, 과도 조향(over-steering), 텍스트 퇴화(text degeneration) 등 주요 실패 모드를 식별한다. 우리의 결과는 제어 가능하고 사회적으로 정렬된 언어 생성을 위한 매개변수 업데이트의 경량 대안으로서 활성화 조향(activation steering)의 실용적 잠재력과 현재 한계를 모두 강조한다.

arXiv:2607.23067v1cs.CL

대규모 언어 모델에서 대조 디코딩을 위한 어텐션 기반 층 선택

Attention-Guided Layer Selection for Contrastive Decoding in Large Language Models

DoLa와 같은 대조 디코딩(contrastive decoding) 방법은 성숙한 층과 미성숙한 층의 출력 분포를 대조하여 대규모 언어 모델(LLM)의 사실성(factuality)을 향상시킨다. 그러나 DoLa의 동적 층 선택은 출력 어휘 분포의 발산(divergence)에만 의존한다. 본 연구에서는 내부 셀프 어텐션(self-attention) 메커니즘이 담고 있는 구조적 정보를 층 선택 신호로 활용하는 세 가지 어텐션 기반 전략인 Attention-JSD, Attention-Entropy-Max, Attention-Entropy-Min을 제안한다. TruthfulQA에 대한 실험 결과, 특히 Attention-JSD와 Attention-Entropy-Min을 포함한 제안 전략들이 원래 DoLa를 일관되게 능가함을 보여준다. 다중 답변 지표(MC2 및 MC3)에서 유의미한 향상을 관찰하였으며, 이는 어텐션 분포가 출력 어휘 분포보다 사실적 지식 해결에 더 민감한 신호를 제공할 수 있음을 시사한다.

arXiv:2607.22553v1cs.CL

심사자 가이드라인 설계가 LLM 기반 자동 동료 심사에 미치는 영향 평가

Evaluating the Impact of Reviewer Guideline Design on LLM-Based Automated Peer Review

과학 연구에서 동료 심사(peer review)는 필수적인 절차이지만, 증가하는 업무량으로 인해 자동화의 필요성이 점점 커지고 있다. 본 연구에서는 공식 학회 가이드라인과 LLM을 사용해 고품질 인간 심사로부터 생성한 심사자 모방형 가이드라인 등 서로 다른 유형의 심사자 가이드라인이 자동 동료 심사에 미치는 영향을 분석한다. 실험 결과, 공식 학회 가이드라인이 인간 판단과 가장 일치하는 심사 결과를 생성했으며, 이는 학회 실무를 통해 정제된 평가 기준이 자동 심사에도 효과적인 지침 역할을 한다는 것을 시사한다. 반면, 심사자 모방형 가이드라인은 일반적으로 공식 학회 가이드라인보다 덜 효과적이었다. 또한 엄격한 루브릭(rubric) 형식 채점을 강제하면 성능이 지속적으로 저하되었으며, 이는 주관적이고 전체적인(holistic) 채점을 허용하는 것의 중요성을 부각한다.

arXiv:2607.21340v2cs.CL

자본시장 LLM 신뢰성 점수(CM-LRS): 그럴듯함에서 실무 수용 가능성까지

Capital Markets LLM Reliability Score (CM-LRS): From Plausible to Bankable

자본시장 워크플로에서 핵심 질문은 대규모 언어 모델(LLM)이 유창한 초안을 만들 수 있는지가 아니라, 그 초안이 bankable한지—상대방이나 규제 당국 앞에서 손에 든 문서와 함께 방어할 수 있는지—입니다. 기존 방법들은 그 격차의 일부만 다룹니다. 개방형 QA 벤치마크는 표면적 정확도에 보상을 부여하고, 금융 벤치마크(FinanceBench, FinQA, ConvFinQA)는 문서 기반 및 수치 QA를 발전시키지만, 실무자들이 방어해야 하는 워크플로 출력물이 아닌 질문-답변 층에서 평가합니다. 우리는 CM-LRS(Capital Markets LLM Reliability Score, 자본시장 LLM 신뢰성 점수)를 도입하여, 사실 정확성, 증거 추적 가능성, 수치 일관성, 워크플로 완전성, 출처 규율, 의사결정 유용성, 검토 가능성/감사 가능성의 7개 차원에서 워크플로 출력 층의 출력물을 평가합니다. 각 차원은 규제 환경의 검토자들이 사용하는 신호에 기반한 루브릭에 따라 0–5점으로 채점되며, 종합 점수는 워크플로에 맞게 조정 가능합니다. 공개 SEC EDGAR 제출 서류, 공개 영국 인수 공시, 가상의 합성 보충 자료를 사용하여 5개 워크플로(DCM 거래 조건 추출, 선례 검색, 발행사 프로파일링, M&A 거래 비교 추론, ECM 거래 조건 추출)에서 CM-LRS를 시연하고, 3개 모델 패밀리에 걸친 4개의 독립 LLM 심사관으로 4개 모델을 채점했습니다. 세 가지 발견. 첫째, 최신 폐쇄형 소스 모델들은 4명 심사관 평균 CM-LRS에서 0.22점 이내로 밀집합니다(Sonnet 4.6 = 4.31, Opus 4.7 = 4.30, GPT-5.5 = 4.09); 4명의 심사관 모두 오픈 가중치 기준선(Llama 3.3 70B = 3.15)을 최하위로 평가합니다. 둘째, 그 격차는 추출(0.84)이 아니라 검색(2.23)과 합성(2.15)에 집중됩니다. 셋째, 의사결정 유용성(Decision Usefulness)은 모든 차원 중 교차 모델 분산이 가장 넓으며(발행사 프로파일링에서 4.0점), 심사관 간 일치도가 최상위입니다(평균 r = 0.52). 그럴듯함은 값싸다. 실무 수용 가능성이 기준이다.

arXiv:2607.18999v2cs.CL

MedDDC-Eval: 다회차 의료 상담 에이전트의 진단 분리 평가

MedDDC-Eval: Diagnosis-Decoupled Evaluation of Multi-Turn Medical Consultation Agents

다회차 의료 상담 에이전트를 평가하려면 상호작용을 통해 유도한 병력이 제공하는 진단 지원을 판단해야 한다. 그러나 결합(coupled) 평가에서는 각 정책(policy)이 병력 유도와 최종 진단 생성을 모두 수행하므로, 진단 점수가 유도된 병력과 정책 고유의 최종 진단 생성기를 혼재(confound)시킨다. 우리는 의료 기록과 온라인 상담에서 파생된 홀드아웃(held-out) 사례 위에 구축된 진단 분리 평가 테스트베드인 MedDDC-Eval을 제안한다. 동일한 고정(frozen) 공유 진단 판독기(diagnostic reader)를 모든 정책이 유도한 병력에 적용하여, 정책 간 최종 진단 생성을 고정하고 공유 진단 판독기 하에서 비교를 가능하게 한다. 진단 지원, 정보 획득(information-acquisition) 커버리지, 효율성을 보고한다. LLM 보조 의미적 매칭과 이어지는 결정론적 일대일 할당(one-to-one assignment)으로 진단-궤적-효율(diagnosis-trajectory-efficiency, D/T/E) 점수를 감사 가능(auditable)하게 한다. 8개 정책에 걸친 고정 병력(fixed-history) 감사에서, 각 정책의 고유 생성기를 공유 진단 판독기로 교체하면 진단 F1이 2.2~19.0점 변동하고 Record 및 Dialogue 분할에서 쌍별(pairwise) 순위의 18%와 36%가 뒤바뀐다. 하류(downstream) 유용성을 검토하기 위해, 동일한 진단 및 궤적 차원을 목표로 하는 별도의 학습 시점 보상(training-time reward)과 함께 표준 Group Relative Policy Optimization(GRPO)을 사용한다. Qwen3-32B 초기화 대비, 학습된 정책은 홀드아웃 Record 및 Dialogue 분할에서 각각 9.6점과 4.6점의 집계 점수(aggregate-score)를 획득하며, 어느 한쪽 피드백 신호를 제거(ablation)하면 두 분할 모두에서 집계 점수가 감소한다. 종합하면, MedDDC-Eval은 공유 진단 판독기 하에서의 비교와 평가 기반 정책 개발을 지원하며, 최종 진단 생성도 목표 역량의 일부일 때 end-to-end 평가를 보완한다.

arXiv:2607.15865v2cs.CL

MLIR 기반 대규모 언어 모델 컴파일 방법

An MLIR-Based Compilation Method for Large Language Models

대규모 언어 모델(LLM)은 현대 AI 가속기에서 지배적인 워크로드가 되었지만, 이를 특화 하드웨어에 배포할 때 여전히 두 가지 핵심 과제가 남아 있다: 학습된 모델을 컴파일러 친화적인 중간 표현(intermediate representation)으로 가져오는 방법, 그리고 제한된 온칩(on-chip) 메모리 하에서 자기회귀(autoregressive) 추론 루프를 효율적으로 스케줄링하는 방법이다. 본 논문은 대규모 언어 모델을 위한 MLIR(Multi-Level Intermediate Representation) 기반 컴파일 방법을 제안하며, TopOp와 TpuOp라는 두 가지 연산자(operator) dialect를 통해 이를 설명한다. TopOp는 소스 프레임워크와 타깃 칩 모두에 독립적인 고수준 그래프 dialect로서 모델 의미론(semantics)을 표현하는 역할을 하며, TpuOp는 타깃 하드웨어 dialect로서 양자화, 층 그룹, 메모리 레이아웃과 같은 칩 관련 결정을 담는다. 모델은 먼저 TopOp로 표현된 후, 층별로 TpuOp로 lowering되고, 최종적으로 배포 가능한 바이너리가 생성된다. 또한 각 트랜스포머 층은 정적 컴파일을 위해 prefill, prefill_kv(과거 key-value 캐시를 포함한 prefill), decode의 세 단계로 분할되어, 프롬프트 병렬 처리와 토큰별 생성의 서로 다른 계산 특성을 수용한다. 이 방법은 TPU-MLIR 컴파일러 {https://github.com/sophgo/tpu-mlir}와 LLM-TPU 배포 프로젝트 {https://github.com/sophgo/LLM-TPU}에 구현되었으며, Qwen, Llama, InternVL, MiniCPM-V 시리즈를 포함한 다양한 생성 모델과 GPTQ, AWQ, AutoRound 등 여러 양자화 및 배포 형태를 지원한다.

arXiv:2605.30852v3cs.CL

추측 파이프라인 디코딩: 파이프라인 병렬화를 통한 고정확도 드래프팅과 숨겨진 지연

Speculative Pipeline Decoding: Higher-Accuracy Drafting with Hidden Latency via Pipeline Parallelism

추측 디코딩(Speculative Decoding, SD)은 draft-then-verify 패러다임으로 낮은 동시성 환경에서 대규모 언어 모델(LLM) 추론을 가속한다. 그러나 주류 방법들은 다중 토큰 예측에 의존하여 예측 난이도가 누적되고 드래프트 지연이 드러나는 문제가 있다. 우리는 대상 LLM을 $n$개의 파이프라인 단계로 분할하여 단일 시퀀스의 $n$개 토큰이 병렬로 진행되도록 하는 추측 파이프라인 디코딩(Speculative Pipeline Decoding, SPD)을 제안한다. 파이프라인을 포화 상태로 유지하기 위해, 파이프라인 드래프트 모듈(Pipeline Draft Module, PDM)이 다중 깊이의 대상 특징을 집계해 다음 토큰을 예측하고 각 파이프라인 단계와 동시에 실행되어, 예측 난이도를 제한하고 수용률을 높이며 드래프트 지연을 숨긴다. 실험 결과, SPD는 중간 정도의 파이프라인 폭에서 EAGLE-3보다 더 높은 이론적·실제 벽시계 속도 향상을 달성하며, 더 공격적인 폭에서는 추가 이득의 여지가 남아 있다. 코드는 https://github.com/yuyijiong/speculative_pipeline_decoding 에서 제공된다.

arXiv:2601.02580v2cs.CL

미세조정 대규모 언어 모델을 활용한 문항 특성 곡선 재구성

Reconstructing Item Characteristic Curves using Fine-Tuned Large Language Models

전통적인 평가 문항 매개변수(예: 난이도, 변별도) 결정 방법은 문항 반응 이론(IRT) 보정을 위해 학생 수행 데이터를 수집하는 값비싼 현장 시험에 크게 의존한다. 본 연구는 잠재 능력 스펙트럼 전반에 걸친 학생 응답을 시뮬레이션하도록 대규모 언어 모델(LLM)을 미세조정하여 이러한 심리측정학적 특성을 암묵적으로 모델링하는 새로운 접근법을 제안한다. Qwen-3 dense 모델 시리즈와 저랭크 적응(Low-Rank Adaptation, LoRA)을 활용하여, 이산적 능력 서술자에 조건화된 객관식 문항 응답을 생성하도록 모델을 학습한다. 학생 능력의 함수로서 정답 응답 확률을 재구성하여, 사실상 합성 문항 특성 곡선(ICC)을 생성하고 IRT 매개변수를 추정한다. 6학년 영어 언어 예술(ELA) 문항 데이터셋과 BEA 2024 Shared Task 데이터셋에 대한 평가에서, 이 방법은 기준선 접근법과 경쟁하거나 이를 능가함을 보여준다. 이 시뮬레이션 기반 기법은 문항 변별도 모델링에 특히 효과적인 것으로 보인다.

arXiv:2511.21702v2cs.CL

CSV-Decode: 효율적인 대규모 언어 모델 추론을 위한 검증 가능한 하위 어휘 디코딩

CSV-Decode: Certifiable Sub-Vocabulary Decoding for Efficient Large Language Model Inference

대규모 언어 모델은 큰 어휘에 대한 비용이 큰 출력 층 계산으로 인해 추론 중 상당한 계산 병목을 겪는다. 우리는 각 디코딩 단계마다 작은 하위 어휘를 구성하기 위해 기하학적 상한을 사용하는 새로운 접근법인 CSV-Decode를 제안한다. 이는 정확한 top-$k$ 인증과 $\varepsilon$-인증 소프트맥스 근사라는 이중 정확성 보장을 유지하면서 효율적인 희소(sparse) 계산을 가능하게 한다. 우리 방법은 어휘 임베딩을 오프라인으로 클러스터링하고, 중심점(centroid)과 반경(radius) 상한을 사용하여 계산에서 안전하게 생략할 수 있는 토큰을 식별한다. 우리는 희소 GEMV 커널, 다중 GPU 샤딩, CUDA Graph 최적화를 갖춘 완전한 시스템 구현을 제공한다. 실험 결과는 분포 보장과 낮은 폴백(fallback) 비율을 유지하면서 전체 어휘 디코딩 대비 상당한 속도 향상을 보여준다. 코드 구현은 https://github.com/FastLM/CSV-Decode 에서 이용할 수 있다.

arXiv:2510.12993v3cs.CL

맞춤형 허위: 개인화가 LLM 안전장치에 미치는 도전

Tailored untruths: How personalisation challenges LLM safeguards

대규모 언어 모델(LLM)은 매우 설득력 있는 허위 정보를 생성할 수 있지만, 언어와 인구통계 집단에 걸쳐 이를 얼마나 효과적으로 개인화하는지에 대해서는 알려진 바가 거의 없다. 우리는 LLM에 의한 페르소나 대상 허위 정보 생성에 대한 최초의 대규모 다국어 연구를 제시한다. 레드팀 테스팅(red-teaming) 방법론을 사용하여, 네 가지 언어(영어, 러시아어, 포르투갈어, 힌디어)에서 324개의 거짓 내러티브와 150개의 인구통계 페르소나로 8개의 선도 모델에 프롬프트를 제공하고, 160만 개의 개인화된 허위 정보 텍스트로 구성된 데이터셋 AI-TRAITS를 구축했다. 모델이 안전 고지를 동반하든 직접적으로든 요청된 거짓을 생성할 때마다 안전장치가 무력화된 것으로 본다. 모델 전반에 걸쳐, 안전장치는 비개인화 프롬프트의 80%와 개인화 프롬프트의 77.7%에서 실패했으며, Grok는 94% 이상의 사례에서 허위 정보를 생성했다. 모든 모델은 대상 페르소나에 맞게 출력을 효과적으로 맞춤화했으며, 비개인화 콘텐츠보다 상당히 더 많은 설득 기법을 사용했다. 추가 분석은 페르소나별 언어적·심리적 패턴을 드러내고, 안전장치의 효과가 언어에 따라 현저히 달라짐을 보여준다. 이러한 결과는 현재 LLM 안전 메커니즘의 중대한 약점을 드러내며, 개인화된 AI 생성 허위 정보에 대응하는 더 견고한 다국어 안전장치의 필요성을 강조한다.

arXiv:2510.07074v2cs.CL

LuxInstruct: 룩sembourgish를 위한 교차 언어 지시 미세조정 데이터셋

LuxInstruct: A Cross-Lingual Instruction Tuning Dataset For Luxembourgish

지시 미세조정은 대규모 언어 모델(LLM)의 성능을 향상시키는 핵심 기법이 되었으며, 모델이 인간의 프롬프트를 더 잘 따르도록 한다. 그러나 룩sembourgish와 같은 저자원 언어는 고품질 지시 데이터셋의 부족으로 인해 심각한 제약에 직면한다. 기계 번역에 전통적으로 의존하는 방식은 종종 의미적 불일치와 문화적 부정확성을 초래한다. 본 연구에서는 룩sembourgish로의 기계 생성 번역에 의존하지 않고, 교차 언어 지시 미세조정 데이터셋을 구축함으로써 이러한 과제를 해결한다. 대신 영어, 프랑스어, 독일어의 정렬된 데이터를 활용하여 언어적·문화적 뉘앙스를 보존하는 고품질 데이터셋을 구축한다. 우리는 교차 언어 지시 미세조정이 언어 간 표현 정렬을 개선할 뿐만 아니라 룩sembourgish에서의 모델 생성 능력도 향상시킨다는 증거를 제시한다. 이는 교차 언어 데이터 큐레이션이 기계 번역 데이터의 흔한 함정을 피하고 저자원 언어 개발에 직접적인 이익을 줄 수 있음을 보여준다.

arXiv:2507.01335v4cs.CL

LEDOM: 역방향 언어 모델

LEDOM: Reverse Language Model

자기회귀(autoregressive) 언어 모델은 오직 좌→우(left-to-right) 방향으로만 학습된다. 우리는 상보적인 분해(complementary factorization)를 탐구하며, 대규모로 우→좌(right-to-left) 방향 학습을 수행하고, 모델이 미래 문맥을 조건으로 과거를 예측할 때 어떤 추론 패턴이 나타나는지 조사한다. 우리는 LEDOM, 오픈소스 순수 역방향 자기회귀 언어 모델(2B/7B 파라미터, 435B 토큰)을 학습시키고, 이 모델이 전방(forward) 모델과 구별되는 역량을 발달시킴을 확인한다. 여기에는 추측적 추론(abductive inference), 질문 합성(question synthesis), 역전 저주(reversal curse)의 자연스러운 해소가 포함된다. 이어서 역방향 모델의 한 응용을 탐구한다: 노이즈 채널 이중성(noisy channel duality)을 통해 전방 가능도 $P(y \mid x)$와 역방향 사후 $P(x \mid y)$를 결합하는 것이다. 우리는 역방향 사후 추정치를 사용해 전방 출력을 재순위화(rerank)하는 Reverse Reward를 제안하고, 양방향 점수화가 역방향 재구성이 저하되는 환각(hallucination) 추론 연쇄에 페널티를 부여함을 증명한다. Reverse Reward는 여러 강력한 베이스라인에서 AIME 2024에서 최대 6.6%, AMC 2023에서 15%의 향상을 달성한다. 모든 모델, 코드, 데이터를 여기에서 공개한다: https://github.com/Arvid-pku/LEDOM.

arXiv:2307.14544v2cs.CL

ADHD, 난독증, 짧은 주의력을 가진 학생을 위한 인공지능 기반 속독 도구

Speed Reading Tool Powered by Artificial Intelligence for Students with ADHD, Dyslexia, and Short Attention Span

이 논문은 난독증, ADHD, 짧은 주의력을 가진 학생들이 텍스트 기반 정보를 더 효율적으로 처리할 수 있도록 돕기 위해 설계된 인공지능 도구를 제시한다. 제안된 솔루션은 클라우드에 호스팅된 대규모 언어 모델(LLM)과 적응형 타이포그래피 서식을 결합하여 인지적 및 시각적 독서 장벽을 모두 해결한다. 핵심적으로, 이 도구는 Google의 Gemini API에 요청을 스트리밍하여 정확하고 문맥을 인식하는 요약을 실시간으로 생성하며, 로컬 모델을 호스팅하거나 파인튜닝할 필요를 없앤다. 애플리케이션은 붙여넣은 텍스트뿐 아니라 업로드된 .txt, .pdf, .docx 파일도 받아들이며, 각 소스를 독립적으로 추출하고 요약한다. 가독성을 더욱 최적화하기 위해, 시스템은 사용자 정의 반단어 굵게 표시 기법을 품사 태깅과 빈도 순위를 사용하여 진정한 키워드를 식별하고 강조하는 2차 패스와 함께 적용하며, 사용자가 줄, 단어, 글자, 텍스트 간격을 수동으로 조정할 수 있게 한다. Gemini로 요청을 프록시하는 경량 Flask 웹 프레임워크를 통해 배포된 이 시스템은 고도로 개인화되고 접근 가능한 사용자 인터페이스를 제공한다. 초기 결과는 이 통합 접근 방식이 읽기 속도와 이해도를 모두 크게 향상시켜, 대상 학생들이 더 큰 집중력으로 복잡한 텍스트 데이터를 소화할 수 있게 함을 보여준다.

arXiv:2607.23917v1cs.CV

시선-텍스트 생성: 인간 어텐션의 범주형 디코딩을 넘어서

Gaze-to-text Generation: Beyond Categorical Decoding of Human Attention

우리는 새로운 학습 문제를 제안한다: 다양한 시각 작업에서 인간 목표에 대한 자연어 설명으로 시선을 디코딩하는 것이다. 사전 정의된 범주에 대한 판별(discriminative) 작업으로 시선 디코딩을 다루는 기존 연구와 달리, 우리는 이를 생성적 학습 문제로 공식화한다. 즉, 고정된 레이블을 넘어 인간 의도의 풍부한 뉘앙스와 개방형(open-ended) 특성을 포착하는 자유 형식(free-form) 설명을 생성하도록 모델을 학습시키는 것이다. 이를 위해 우리는 최초의 gaze-to-text 디코딩 프레임워크인 Gazette를 제안한다. 다중모달 대규모 언어 모델(MLLM)을 기반으로, Gazette는 범주형 레이블을 넘어설 수 있고 자연어로 표현이 필요한 목표에 대해 시선 스캔패스(scanpath)를 자연어로 디코딩하는 방법을 학습한다. Gazette가 시선 행동의 개인차를 걸러내고 정확한 자연어 목표 설명 생성에 필수적인 목표 특이적 시공간(spatiotemporal) 역학을 학습하도록 돕기 위해, 우리는 대규모 언어 모델의 백과사전적 지식과 추론 능력을 활용하여 목표 지향적 어텐션 행동에 대한 자연어 설명인 think-aloud 전사(transcript)를 합성하는 새로운 전략을 제안한다. 이러한 합성 내러티브에 대한 지시 미세조정을 통해 Gazette는 여러 작업에서 시선 디코딩 분야 최첨단(state-of-the-art) 성능을 달성하며, 이는 일반화 가능성과 다용성을 보여준다. 이에 따라 시선은 다양한 시나리오에서 인간 목표와 의도를 추론하는 강력하고 비침습적인(non-intrusive) 단서로 기능할 수 있다.

arXiv:2607.24082v1cs.AI

고수준 의미 지능을 향하여

Towards High-Level Semantic Intelligence

최근 AI의 발전은 인지 및 추론 능력을 크게 확장했다. 의미적 복잡성(semantic complexity) 관점에서 AI의 발전은 단순한 의미 처리에서 복잡한 의미 처리로 이어지는 뚜렷한 궤적을 보여준다. 초기 AI 시스템은 주로 직접적이고 문자 그대로의 의미 인식 또는 표현과 관련된 과제를 다루었지만, 현대 시스템은 점점 더 정교한 인지 추론을 수행할 것으로 기대되며, 이를 통해 고수준 의미(High-Level Semantics, HLS)의 이해와 생성을 가능하게 한다. 유사한 궤적은 인간의 인지 발달에서도 관찰할 수 있다. 우리는 이러한 전환을 기본 수준 의미 지능(Basic-Level Semantic Intelligence, BLSI)에서 고수준 의미 지능(High-Level Semantic Intelligence, HLSI)으로의 전환으로 정의한다. 그러나 이 문제는 기존 연구에서 아직 체계적이고 포괄적으로 검토되지 않았다. 이 공백에 동기를 부여받아, 본 서베이는 의미적 복잡성 관점에서 AI 의미 지능의 발전을 검토한다. 우리는 텍스트, 음성, 비전, 멀티모달 시나리오 전반에 걸쳐 유머, 풍자, 은유, 공감, 설득, 내러티브 및 기타 일반적인 HLS 현상을 포함한 HLS 과제에 대한 기존 연구를 체계적으로 조사한다. 구체적으로, 이해와 생성 모두에 대해 데이터 구축 방법, 모델링 및 최적화(optimization) 전략, 평가(evaluation) 방법론을 요약한다. HLS는 AI를 진정으로 인간과 유사한 지능으로 발전시키는 데 필수적이다. 의미 지능 관점에서 기존 방법과 통찰을 종합함으로써, 본 서베이는 HLSI를 향한 AI의 지속적인 발전을 지원하는 것을 목표로 한다.

arXiv:2607.23394v1cs.AI

LLM 미세조정으로 인한 숨겨진 행동 완화를 위한 추론 시점 합의

Inference-Time Consensus for Mitigating Hidden Behaviors from LLM Fine-Tuning

최근 연구는 소량의 오염된 데이터만으로 언어 모델을 미세조정해도 표적화된 오동작을 심을 수 있으며, 겉보기에는 무해한 데이터도 광범위하게 일반화되는 숨겨진 선호를 전달할 수 있음을 보여준다. 데이터 필터링, 무해한 데이터 혼합, 정규화와 같은 표준 방어 기법은 이러한 효과를 약화시키지만 제거하지는 못한다. 우리는 대신 중복성을 통해 견고성을 추구한다. 서로 다른 출처에서 여러 데이터셋을 수집하고 그들 사이에 공통적인 것만 학습하는 방식이다. 따라서 출처의 일부만 악의적이라면 오동작이 차단된다. 이 방어 전략을 구현하기 위해, 우리는 각 출처의 데이터셋으로 별도의 참조 모델을 미세조정하고 디코딩 시점에 다음 토큰 분포를 집계한다. 우리는 두 가지 합의 디코더를 제안한다. 하나는 각 출처가 부여하는 최저 확률로 모든 토큰을 상한으로 제한하는 토큰 단위 최솟값이고, 다른 하나는 출처들이 상반된 방향으로 이동하는 토큰에서 기본 모델 확률로 되돌리는 기본 모델 대비(base-relative) 변형이다. 또한 출처 간 부분적 지지와 동일한 의도의 서로 다른 표면적 표현을 허용하기 위해 정확한 합의를 완화한다. 통제된 포이즈닝 과제, 잠재 학습(subliminal learning), 창발적 정렬 불일치(emergent misalignment) 전반에 걸쳐, 합의 디코딩은 공유된 바람직한 행동을 보존하면서 출처 특이적 오동작을 억제하며, 합집합 학습(union training)과 가중치 평균화가 원치 않는 행동을 유지하는 경우도 포함한다.

arXiv:2607.22928v1cs.AI

Design Theater: 생성형 UI 벤치마크

Design Theater: A Benchmark for Generative UI

생성형 UI 도구는 자연어 설명을 완전한 인터페이스로 변환함으로써 UI 디자인을 대중화할 것을 약속한다. 인터페이스와 함께 이러한 도구들은 레이아웃, 접근성, 디자인 선택을 설명하는 사용자 대면 설계 근거를 생성한다. 그러나 이러한 명시된 근거가 실제로 생성된 인터페이스에 반영되는지는 여전히 불분명하다. 우리는 이러한 단절을 'Design Theater'라고 부른다: 실제 구현과 거의 관련이 없는 그럴듯하고 자신 있는 설계 근거. 이 현상을 연구하기 위해 Design Theater를 측정하기 위한 벤치마크와 세 가지 지표를 도입한다. 벤치마크에는 구조적, 스타일링, 기능적 설계 요구사항에 걸친 24개의 UI 생성 태스크가 포함된다. 이 벤치마크를 사용하여 다섯 가지 생성형 UI 도구가 생성한 120개의 인터페이스를 평가한다. 평균적으로 사용자 대면 설계 근거의 25% 이상이 생성된 인터페이스에 구현되지 않으며, 기능적 요구사항의 경우 구현 실패율은 34%까지 증가한다. 도구들은 프롬프트에 포함된 UX 원칙의 약 절반을 인식한다(평균 = 0.54), 다섯 도구 중 네 도구는 기능적 원칙의 6% 이하만 구현한다. 또한 도구 간 인터페이스 유사성을 측정한 결과, 시각적 외관과 레이아웃 구성에서 수렴이 나타나며 색상 선택에서 더 큰 변이가 있음을 발견한다. 전반적으로 우리는 다음을 기여한다: 1) Design Theater 개념; 2) 생성형 UI 도구의 명시된 추론이 구현에 반영되는지 평가하는 지표를 갖춘 벤치마크; 3) 이러한 도구들에 대한 체계적 평가 결과. 우리는 이러한 발견이 생성형 UI 도구의 설계와 평가에 무엇을 의미하는지 논의한다.

arXiv:2607.22902v1cs.AI

AI는 앱 목업에서 백로그를 얼마나 잘 생성할 수 있는가?

How Well Can AI Generate Backlogs from App Mockups?

스프린트 백로그를 작성하려면 상당한 노력이 필요하며, 에픽, 사용자 스토리, 태스크와 같은 항목이 누락되거나 일관되지 않게 명세될 수 있다. 우리는 프로젝트 초기 단계에서 확보 가능한 산출물인 시각적 앱 목업으로부터 백로그 생성을 지원하는 멀티모달 접근법을 제안한다. GPT-4o에 대해 세 가지 프롬프트 전략을 평가한다: 제로샷 기준선, 비전-언어 추론을 위한 Compositional Chain-of-Thought(CCoT), 그리고 페르소나 기반 프롬프트. 두 국가에 걸친 7개의 앱 개발 프로젝트를 연구하고 개발자들에게 결과에 대해 인터뷰했다. 전반적으로 기준선 프롬프트는 정밀도보다 재현율을 우선하는 반면, CCoT는 더 균형 잡혀 에픽과 사용자 스토리에 대해 평균 F1 점수 52-66%를 달성했다. 태스크는 정확하게 생성하기가 더 어려웠다. 아키텍처 컨텍스트, 특히 백엔드 태스크(정밀도 향상 최대 35%)를 추가할 때 정밀도 향상이 가장 일관되었다. 개발자 인터뷰에서는 false positive의 최대 26%가 여전히 유용하다고 평가되었으며, 이는 백로그 생성의 창의적이고 개방적인 성격을 반영한다. 이를 포착하기 위해 ground-truth 평가와 개발자 평가를 보완하는 새로운 지표인 Revised Recall(수정된 재현율)을 제안한다. 우리의 발견은 아키텍처 컨텍스트를 포함한 하이브리드 프롬프팅이 초기 목업으로부터 백로그 생성을 지원할 수 있음을 시사하지만, 결과는 항목 유형에 따라 달라지며 개발자의 검토는 여전히 필요하다.

arXiv:2607.22706v1cs.AI

MPR-CiteG: 다중 포트폴리오 검색 및 인용 기반 생성을 통한 RAG 강화

MPR-CiteG: Enhancing RAG with Multi-Portfolio Retrieval and Citation-Grounded Generation

본 논문은 MPR-CiteG 프레임워크를 제안하며, 생성형 AI의 두 가지 근본적 과제인 비효율적 검색과 출처 검증 부재를 해결하여 ScienceON AI Challenge에서 2위를 달성했다. MPR-CiteG라고 명명한 이중 구성 시스템을 제안한다. Multi-Portfolio Retriever(MPR)는 다양하고 관련성 높은 정보를 효율적으로 검색하고, Citation-Grounded Generation(CiteG) 모듈은 생성되는 모든 출력이 사실적으로 일관되며 출처에 명시적으로 귀속되도록 보장한다. MPR-CiteG는 정보 생성뿐 아니라 응답을 신뢰할 수 있는 근거에 그라운딩할 수 있는 더 신뢰할 수 있고 정확한 대규모 언어 모델(LLM) 구축을 향한 중요한 진전을 나타내며, 모델 환각과 같은 일반적인 문제를 완화한다. 챌린지 데이터셋에 대한 광범위한 실험을 통해 본 접근법의 효과성과 신뢰성을 검증했다. 코드는 https://github.com/2noweyh/MPR-citeG 에서 제공된다.

arXiv:2607.22694v1cs.AI

베이지안 반복 패널티: 자기회귀 언어 모델에서 어텐션 붕괴를 역전하기 위한 원칙적 인접-조건부 프레임워크

Bayesian Repetition Penalty: A Principled Adjacent-Conditional Framework for Reversing Attention Collapse in Autoregressive Language Models

자기회귀 언어 모델에서의 어텐션 붕괴(attention collapse) — 모델이 자기 강화적 attractor에 갇히는 반복적 토큰 루프로 나타나는 — 는 기존 디코딩 시점 휴리스틱이 근본 원인을 해결하지 못하는 지속적인 병리 현상이다. 우리는 인접 조건부 확률 구성을 통해 토큰의 관측 빈도와 코퍼스 사전 분포를 비교함으로써, 붕괴된 생성 패턴에서 발생하는 비정상적 신뢰도를 패널티하거나 보상하는 원칙적 프레임워크를 제시한다. 결과적으로 얻어지는 자기 정규화(self-normalising) 패널티 비율 $R=f(m,n,p)/f(np,n,p)$는 임의의 표준화가 필요 없으며, 근사 오차가 없는 폐형식(closed-form) 로짓 오프셋을 허용한다. 이 보정은 손실 그래디언트와 분리되며, 지수 이동 평균(exponential moving average)을 통해 고정된 출력층 바이어스에 누적되어, 표준 학습 파이프라인에 침습적인 수정 없이 이미 붕괴된 모델에 대한 수리 메커니즘으로 배포할 수 있게 한다. 1.5B 매개변수 모델에 대한 실험적 검증은 고정 바이어스 메커니즘이 이미 붕괴된 attractor에 갇힌 모델을 구출할 수 있음을 보여주며, 생성 품질을 유지하면서 2-gram 반복을 0.073에서 거의 0으로 줄인다.