PyTorchKR Papers

최신 논문

총 2,120편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2107.08146공식 코드 · Papers with Code

Picard understanding Darmok: A Dataset and Model for Metaphor-Rich Translation in a Constructed Language

Tamarian, a fictional language introduced in the Star Trek episode Darmok, communicates meaning through utterances of metaphorical references, such as "Darmok and Jalad at Tanagra" instead of "We should work together." This work assembles a Tamarian-English dictionary of utterances from the original episode and several follow-on novels, and uses this to construct a parallel corpus of 456 English-Tamarian utterances. A machine translation system based on a large language model (T5) is trained using this parallel corpus, and is shown to produce an accuracy of 76% when translating from English to Tamarian on known utterances.

arXiv:2106.10619공식 코드 · Papers with Code

A Brief Study on the Effects of Training Generative Dialogue Models with a Semantic loss

Neural models trained for next utterance generation in dialogue task learn to mimic the n-gram sequences in the training set with training objectives like negative log-likelihood (NLL) or cross-entropy. Such commonly used training objectives do not foster generating alternate responses to a context. But, the effects of minimizing an alternate training objective that fosters a model to generate alternate response and score it on semantic similarity has not been well studied. We hypothesize that a language generation model can improve on its diversity by learning to generate alternate text during training and minimizing a semantic loss as an auxiliary objective. We explore this idea on two different sized data sets on the task of next utterance generation in goal oriented dialogues. We make two observations (1) minimizing a semantic objective improved diversity in responses in the smaller data set (Frames) but only as-good-as minimizing the NLL in the larger data set (MultiWoZ) (2) large language model embeddings can be more useful as a semantic loss objective than as initialization for token embeddings.

arXiv:2101.00419공식 코드 · Papers with Code

KM-BART: Knowledge Enhanced Multimodal BART for Visual Commonsense Generation

We present Knowledge Enhanced Multimodal BART (KM-BART), which is a Transformer-based sequence-to-sequence model capable of reasoning about commonsense knowledge from multimodal inputs of images and texts. We adapt the generative BART architecture to a multimodal model with visual and textual inputs. We further develop novel pretraining tasks to improve the model performance on the Visual Commonsense Generation (VCG) task. In particular, our pretraining task of Knowledge-based Commonsense Generation (KCG) boosts model performance on the VCG task by leveraging commonsense knowledge from a large language model pretrained on external commonsense knowledge graphs. To the best of our knowledge, we are the first to propose a dedicated task for improving model performance on the VCG task. Experimental results show that our model reaches state-of-the-art performance on the VCG task by applying these novel pretraining tasks.

arXiv:2010.04344공식 코드 · Papers with Code

Plug-and-Play Conversational Models

There has been considerable progress made towards conversational models that generate coherent and fluent responses; however, this often involves training large language models on large dialogue datasets, such as Reddit. These large conversational models provide little control over the generated responses, and this control is further limited in the absence of annotated conversational datasets for attribute specific generation that can be used for fine-tuning the model. In this paper, we first propose and evaluate plug-and-play methods for controllable response generation, which does not require dialogue specific datasets and does not rely on fine-tuning a large model. While effective, the decoding procedure induces considerable computational overhead, rendering the conversational model unsuitable for interactive usage. To overcome this, we introduce an approach that does not require further computation at decoding time, while also does not require any fine-tuning of a large language model. We demonstrate, through extensive automatic and human evaluation, a high degree of control over the generated conversational responses with regard to multiple desired attributes, while being fluent.

arXiv:2002.00317공식 코드 · Papers with Code

Explaining Relationships Between Scientific Documents

We address the task of explaining relationships between two scientific documents using natural language text. This task requires modeling the complex content of long technical documents, deducing a relationship between these documents, and expressing the details of that relationship in text. In addition to the theoretical interest of this task, successful solutions can help improve researcher efficiency in search and review. In this paper we establish a dataset of 622K examples from 154K documents. We pretrain a large language model to serve as the foundation for autoregressive approaches to the task. We explore the impact of taking different views on the two documents, including the use of dense representations extracted with scientific IE systems. We provide extensive automatic and human evaluations which show the promise of such models, but make clear challenges for future work.

arXiv:2505.13878v4cs.LG공식 코드 · Papers with Code

InfiFPO: 대규모 언어 모델에서 선호 최적화를 통한 암시적 모델 융합

InfiFPO: Implicit Model Fusion via Preference Optimization in Large Language Models

모델 융합은 경량 학습(training) 방법을 통해 서로 다른 강점을 지닌 여러 대규모 언어 모델(LLM)을 더욱 강력한 하나의 통합 모델로 결합합니다. 모델 융합에 관한 기존 연구들은 주로 지도 미세조정(SFT)에 집중되어 있으며, LLM 성능 향상의 중요한 단계인 선호 정렬(PA)은 대체로 탐구되지 않은 상태로 남아 있습니다. WRPO와 같은 PA 단계의 소수 기존 융합 방법들은 소스 모델의 확률 정보를 버리고 응답 출력만을 활용하여 과정을 단순화합니다. 이러한 한계를 해결하기 위해, 본 논문에서는 암시적 모델 융합을 위한 선호 최적화 방법인 InfiFPO를 제안합니다. InfiFPO는 직접 선호 최적화(DPO)의 참조 모델을 시퀀스 수준에서 다중 소스 확률을 종합하는 융합 소스 모델로 대체하여, 기존 연구의 복잡한 어휘 정렬 문제를 우회하는 동시에 확률 정보를 유지합니다. 또한 확률 클리핑과 최대 마진(max-margin) 융합 전략을 도입함으로써, 피벗 모델이 소스 모델로부터 지식을 효과적으로 증류하는 동시에 인간 선호에 정렬할 수 있도록 합니다. 널리 사용되는 11개 벤치마크(benchmark)에 대한 종합적인 실험 결과, InfiFPO가 기존의 모델 융합 및 선호 최적화 방법들을 지속적으로 능가함을 입증했습니다. Phi-4를 피벗 모델로 사용했을 때, InfiFPO는 11개 벤치마크에서의 평균 성능을 79.95에서 83.33으로 향상시켜 수학, 코딩 및 추론 작업에서의 역량을 크게 개선했습니다.

arXiv:2501.09223v4cs.CL공식 코드 · Papers with Code

대규모 언어 모델의 기초

Foundations of Large Language Models

본서는 대규모 언어 모델(LLM)에 관한 책입니다. 제목에서 알 수 있듯이, 모든 최첨단 기술을 포괄적으로 다루기보다는 기초적인 개념에 주로 초점을 맞춥니다. 이 책은 사전학습, 생성 모델, 프롬프팅, 정렬, 추론, 추론(reasoning)이라는 핵심 영역을 각각 탐구하는 6개의 주요 장으로 구성되어 있습니다. 자연어 처리(NLP) 및 관련 분야의 대학생, 전문가, 실무자를 대상으로 하며, 대규모 언어 모델에 관심이 있는 모든 이를 위한 참고서로 활용될 수 있습니다.

arXiv:2407.00079v5cs.DC공식 코드 · Papers with Code

Mooncake: LLM 서빙을 위한 KVCache 중심의 분리형 아키텍처

Mooncake: A KVCache-centric Disaggregated Architecture for LLM Serving

Mooncake은 Moonshot AI가 제공하는 주요 대규모 언어 모델(LLM) 서비스인 Kimi의 서빙 플랫폼입니다. Mooncake은 prefill 클러스터와 디코딩(decoding) 클러스터를 분리하는 KVCache 중심의 분리형(disaggregated) 아키텍처를 특징으로 합니다. 또한 GPU 클러스터에서 충분히 활용되지 않는 CPU, DRAM, SSD 자원을 활용하여 KVCache의 분리형 캐시를 구현합니다. Mooncake의 핵심은 KVCache 중심 스케줄러로, 지연 시간(latency) 관련 서비스 수준 목표(Service Level Objective, SLO)를 충족하면서 전체 유효 처리량(throughput)을 최대화하는 균형을 맞춥니다. 모든 요청이 처리될 것이라고 가정하는 기존 연구들과 달리, Mooncake은 과부하가 매우 심한 상황으로 인한 문제에 직면합니다. 이를 완화하기 위해 우리는 예측 기반 조기 거부(early rejection) 정책을 개발했습니다. 실험 결과 Mooncake은 긴 컨텍스트(long-context) 상황에서 뛰어난 성능을 보입니다. 기준선(baseline) 방법과 비교하여, Mooncake은 특정 시뮬레이션 상황에서 SLO를 준수하면서도 처리량을 최대 525%까지 증가시킬 수 있습니다. 실제 워크로드에서 Mooncake의 혁신적인 아키텍처는 Kimi가 75% 더 많은 요청을 처리할 수 있게 합니다.

arXiv:2505.06592v2cs.CV공식 코드 · Papers with Code

대규모 언어 모델의 멀티모달 융합을 위한 단일모달 미세조정 기반 배치 증강

Batch Augmentation with Unimodal Fine-tuning for Multimodal Fusion of Large Language Models

본 논문에서는 멀티모달(multimodal) 학습을 위한 단일모달 미세조정(unimodal fine-tuning) 기반 배치 증강(batch augmentation) 기법을 제안합니다. 먼저 사전학습된 단일모달 모델에서 출발하여 응용 데이터로 해당 단일모달 모델들을 미세조정합니다. 그 후, 단일모달 모델들의 정보를 입력받아 출력을 제공하는 다층 퍼셉트론(MLP) 헤드를 구성합니다. 마지막으로 배치 증강을 적용하여 MLP 층과 단일모달 부분을 함께 학습합니다. 데이터에 따라 일부 단일모달 모델은 하드코딩된 스크립트나 AI 에이전트로 대체될 수 있습니다. 또한 데이터 증강이 가능한 경우 단일모달 학습 과정에서도 배치 증강을 따를 수 있습니다. 우리는 멀티모달 데이터에 대한 배치 증강을 구현하는 멀티모달 배치 증강 데이터로더 스크립트를 작성했습니다. 제안하는 방법은 FPU23 초음파 및 UPMC Food-101 멀티모달 데이터셋에서 검증되었습니다. 제안된 학습법을 적용한 멀티모달 대규모 언어 모델(LLM)은 두 데이터셋 전반에 걸쳐 조사된 기법들 중 가장 우수한 평균 결과를 달성했습니다. 문헌 조사에 따르면, 비전용으로 ViT-L/16 모델을, 텍스트용으로 GPT-2 모델을 적용했을 때 제안하는 방법은 UPMC Food-101 데이터셋에서 93.29%의 최고 수준(SOTA) 정확도를 달성했습니다. 우리는 제안하는 방법과 기존 대응 방식들의 스크립트를 github.com/dipuk0506/multimodal 저장소에 공개합니다.

arXiv:2503.22764v3cs.CL공식 코드 · Papers with Code

마스크 미세조정을 통한 대규모 언어 모델 성능 향상

Boosting Large Language Models with Mask Fine-Tuning

대규모 언어 모델(LLM)은 일반적으로 주류 최적화 프로토콜에 통합됩니다. 그러나 모델의 무결성을 유지하는 것이 유의미한 성능을 위해 \textit{필수적}인지는 아직 충분히 탐구되지 않았습니다. 본 연구에서는 모델 가중치를 업데이트하지 않고도 모델의 구조적 무결성을 정교하게 깨뜨림으로써 놀랍게도 성능을 향상시킬 수 있음을 입증하는 새로운 LLM 미세조정 패러다임인 마스크 미세조정(Mask Fine-Tuning, MFT)을 소개합니다. MFT는 표준 LLM 미세조정 목적 함수를 감독 신호로 사용하여, 잘 최적화된 모델에 적용할 이진 마스크를 학습하고 적용합니다. 완전히 미세조정된 모델을 기반으로, MFT는 동일한 미세조정 데이터셋을 활용하여 여러 도메인 및 백본 전반에서 일관된 성능 향상을 달성합니다(예: LLaMA2-7B/3.1-8B 기반 IFEval에서 평균 2.70/4.15 향상). 상세한 절제 연구(ablation study) 및 분석을 통해 희소 비율(sparse ratio)과 손실 표면(loss surface)을 포함한 다양한 관점에서 제안된 MFT를 검토합니다. 또한 잘 훈련된 모델에 적용할 경우, MFT는 다른 LLM 최적화 절차와도 호환되어 전반적인 모델 성능을 향상시킵니다. 나아가 본 연구는 모델 압축을 위한 네트워크 가지치기에서의 전통적 용도를 넘어 마스킹 연산을 확장하여 더 광범위한 모델 역량을 아우르도록 합니다.

arXiv:2409.19979v4cs.IR공식 코드 · Papers with Code

LLM 기반 추천 모델에서 고차 상호작용 인식 향상

Enhancing High-order Interaction Awareness in LLM-based Recommender Model

대규모 언어 모델(LLM)은 추천 태스크를 텍스트 생성 태스크로 변환함으로써 추천 분야에서 뛰어난 추론 능력을 입증해 왔습니다. 그러나 기존 접근 방식들은 사용자-아이템 간의 고차 상호작용을 무시하거나 비효율적으로 모델링합니다. 이를 위해 본 논문에서는 향상된 LLM 기반 추천기인 ELMRec을 제시합니다. 본 연구는 그래프 사전학습(pre-training) 없이도 추천을 위한 그래프 기반 상호작용에 대한 LLM의 해석 능력을 대폭 개선하기 위해 온단어 임베딩(whole-word embedding)을 강화합니다. 이러한 발견은 온단어 임베딩을 통해 풍부한 지식 그래프를 LLM 기반 추천 모델에 통합하려는 연구에 영감을 줄 수 있습니다. 또한 LLM이 최근의 상호작용보다 사용자의 초기 상호작용에 기반하여 아이템을 추천하는 경향이 있음을 발견하고, 이에 대한 재순위화(reranking) 솔루션을 제시합니다. 제안된 ELMRec은 직접 추천 및 순차적 추천 모두에서 최신(SOTA) 방법들보다 우수한 성능을 보입니다.

arXiv:2503.15242v3cs.CL공식 코드 · Papers with Code

BigO(Bench): 대규모 언어 모델(LLM)은 시간 및 공간 복잡도를 제어하여 코드를 생성할 수 있는가?

BigO(Bench): Can LLMs Generate Code with Controlled Time and Space Complexity?

우리는 지정된 시간 및 공간 복잡도를 가진 코드를 이해하고 생성하는 생성형 언어 모델의 역량을 평가하기 위해 설계된 새로운 코딩 벤치마크(benchmark)인 BigO(Bench)를 소개한다. 이 벤치마크는 계산 복잡도(computational complexity)에 제약을 받는 코드를 이해하고 작성하는 모델의 능력을 간과해 온 기존 평가의 한계를 해결한다. BigO(Bench)는 인간 또는 LLM이 생성한 솔루션을 포함하여 모든 Python 함수의 알고리즘 복잡도를 프로파일링(profiling) 측정값으로부터 추론하는 도구를 포함한다. 또한 BigO(Bench)는 복잡도 프레임워크를 통해 추론된 (합성) 시간 및 공간 복잡도 레이블이 주석으로 추가된 Code Contests 기반의 3,105개 코딩 문제와 1,190,250개 솔루션 세트를 포함하며, 광범위한 입력 크기 집합에 대한 해당 실행 시간 및 메모리 사용량 값도 제공한다. 우리는 이 벤치마크에서 여러 최신 언어 모델을 평가한 결과를 제시하고, 복잡도 요구사항을 처리하는 데 있어 이들 모델의 강점과 약점을 조명한다. 특히 토큰(token) 공간 추론 모델은 코드 생성에서는 독보적이지만 복잡도 이해에서는 그렇지 못하며, 이는 학습(training) 시점에 보상(reward)이 주어지지 않은 작업에는 잘 일반화되지 않을 수 있음을 시사한다.

arXiv:2312.06632v2cs.AI공식 코드 · Papers with Code

에이전트를 활용한 화학 과학 분야 AI 위험 통제

Controlling risks of AI in chemical science with agents

인공지능은 과학적 발견을 빠르게 진전시키고 있지만, 이러한 발전은 유해 물질 생성이나 기존 규제 우회와 같은 남용 위험을 수반한다. 본 논문에서는 화학 과학 분야에서 AI 남용의 실제 사례를 강조하여 위험을 먼저 입증하고, 이는 해당 AI 모델에 대한 효과적인 안전성 정렬(alignment)의 필요성을 부각한다. 이에 대응하여, 과학 AI 상호작용에서 위험을 평가하고 통제하기 위해 대규모 언어 모델, 도구 및 외부 지식을 활용하는 에이전트 기반 가드레일인 SciGuard를 제안한다. 공정한 비교를 위해, 서로 다른 AI 시스템의 안전성과 유용성을 모두 평가하는 벤치마크 SciMT(Scientific Multi-Task)를 도입한다. SciGuard는 레드팀 테스팅(red-teaming) 쿼리에서 최첨단 무해성 점수를 달성하면서, 과학 지식을 희생하지 않고 무해한 작업에서 높은 성능을 유지한다. 마지막으로, 과학 분야에서 AI의 안전한 배포를 보장하기 위한 지속적인 연구와 대화를 촉구한다.

arXiv:2408.06849v3cs.AI공식 코드 · Papers with Code

대규모 언어 모델 기반의 인과 에이전트

Causal Agent based on Large Language Model

대규모 언어 모델(LLM)은 다양한 영역에서 상당한 성공을 거두었습니다. 그러나 인과 문제와 인과 이론의 본질적인 복잡성으로 인해 이를 자연어로 정확하게 기술하기 어렵고, 이로 인해 LLM이 이를 효과적으로 이해하고 활용하는 데 어려움이 있습니다. 인과적 방법은 자연어를 통해 쉽게 전달되지 않으며, 이는 LLM이 이를 정확하게 적용하는 능력을 저해합니다. 또한 인과 데이터셋은 일반적으로 표(tabular) 형태인 반면, LLM은 자연어 데이터 처리에 뛰어나므로 표 형식 데이터에 대한 효과적인 추론을 방해하는 구조적 불일치가 발생합니다. 이러한 문제를 해결하기 위해, 본 연구에서는 LLM에 에이전트 프레임워크 내에서 인과 도구를 탑재한 Causal Agent를 개발하여 인과 문제를 해결할 수 있도록 했습니다. Causal Agent는 도구, 메모리, 추론 모듈로 구성됩니다. 도구 모듈에서 Causal Agent는 Python 코드를 호출하고 캡슐화된 인과 함수 모듈을 사용하여 표 형식 데이터를 자연어와 정렬합니다. 추론 모듈에서 Causal Agent는 도구와의 다중 반복 과정을 통해 추론을 수행합니다. 메모리 모듈에서 Causal Agent는 고유한 이름을 키로 하고 인과 그래프를 값으로 하는 딕셔너리 인스턴스를 유지합니다. Causal Agent의 인과 능력을 검증하기 위해, 변수 수준, 엣지 수준, 인과 그래프 수준, 인과 효과 수준의 4개 수준 인과 문제로 구성된 Causal Tabular Question Answer(CausalTQA) 벤치마크를 구축했습니다. CausalTQA는 이 4개 수준에 걸쳐 약 1.4K개의 질문으로 구성됩니다. Causal Agent는 4개 수준의 인과 문제에서 모두 80% 이상의 정확도를 기록하며 뛰어난 효능을 입증했습니다. 실제 데이터셋인 QRData를 통한 검증에서 Causal Agent는 기존 최고 성능(SOTA)보다 6% 더 높은 결과를 달성했습니다. 추가적인 통찰과 구현 세부 사항을 위한 코드는 GitHub 저장소(https://github.com/kairong-han/causal_agent)에서 확인할 수 있습니다.

arXiv:2411.04440v1q-bio.QM공식 코드 · Papers with Code

AutoProteinEngine: A Large Language Model Driven Agent Framework for Multimodal AutoML in Protein Engineering

Protein engineering is important for biomedical applications, but conventional approaches are often inefficient and resource-intensive. While deep learning (DL) models have shown promise, their training or implementation into protein engineering remains challenging for biologists without specialized computational expertise. To address this gap, we propose AutoProteinEngine (AutoPE), an agent framework that leverages large language models (LLMs) for multimodal automated machine learning (AutoML) for protein engineering. AutoPE innovatively allows biologists without DL backgrounds to interact with DL models using natural language, lowering the entry barrier for protein engineering tasks. Our AutoPE uniquely integrates LLMs with AutoML to handle model selection for both protein sequence and graph modalities, automatic hyperparameter optimization, and automated data retrieval from protein databases. We evaluated AutoPE through two real-world protein engineering tasks, demonstrating substantial performance improvements compared to traditional zero-shot and manual fine-tuning approaches. By bridging the gap between DL and biologists' domain expertise, AutoPE empowers researchers to leverage DL without extensive programming knowledge. Our code is available at https://github.com/tsynbio/AutoPE.

arXiv:2505.07889v4cs.CL공식 코드 · Papers with Code

BioProBench: 자율 과학에서 생물학적 프로토콜 추론을 위한 코퍼스 및 벤치마크

BioProBench: A Corpus and Benchmark for Biological Protocol Reasoning in Autonomous Science

자율적 과학 실험의 실현은 현재 LLM이 생물학적 프로토콜이 요구하는 엄격한 절차적 논리와 정확성을 파악하는 데 어려움을 겪는다는 점에 의해 제한되고 있다. 이 근본적인 과제를 해결하기 위해, 우리는 생물학에서의 절차적 추론을 위한 포괄적 자원인 \textbf{BioProBench}를 제시한다. BioProBench는 22,413개의 사람이 작성한 프로토콜로 구성된 기초 컬렉션인 \textbf{BioProCorpus}에 기반한다. 이 코퍼스로부터, 우리는 체계적으로 523,784개의 태스크 인스턴스로 구성된 데이터셋을 구축하였으며, 이는 대규모 학습 자원과 새로운 지표를 갖춘 엄격한 벤치마크를 모두 제공한다. 10개의 주류 LLM을 평가한 결과, 일반적인 이해도는 높지만 깊은 추론, 정량적 정밀도, 그리고 안전성 인식을 요구하는 태스크에서 성능이 크게 하락함을 확인하였다. BioProCorpus가 이러한 문제를 완화하는 데 갖는 가치를 입증하기 위해, 우리는 코퍼스에 기반한 \textbf{ProAgent}를 개발하였으며, ProAgent는 최신 기술 수준을 상당히 앞당긴다. https://github.com/YuyangSunshine/bioprobench and https://huggingface.co/BioProBench.

arXiv:2411.00918v5cs.CL공식 코드 · Papers with Code

LIBMoE: 대규모 언어 모델에서 전문가 혼합(MoE) 종합 벤치마킹을 위한 라이브러리

LIBMoE: A Library for comprehensive benchmarking Mixture of Experts in Large Language Models

전문가 혼합(MoE) 아키텍처는 스케일링의 핵심 기반이 되었으며, GPT-OSS, DeepSeek-V3, Llama-4, Gemini-2.5 등 대부분의 대규모 언어 모델(LLM)에서 핵심 구성 요소이다. 그러나 MoE에 대한 체계적 연구는 학습과 평가에 드는 막대한 계산 비용으로 인해 여전히 심각하게 제약되어, 대부분의 연구자가 접근할 수 있는 대규모 연구를 제한하고 있다. 우리는 재현 가능하고 효율적이며 확장 가능한 MoE 연구를 위한 통합 프레임워크인 LibMoE를 제안한다. 이는 사전학습(pre-training)과 sparse upcycling 체제를 모두 지원한다. 통합 구현을 넘어, 이 프레임워크는 라우팅과 전문가 동역학을 탐색하기 위한 투명한 분석 도구를 제공한다. 이 기반을 활용하여, 우리는 세 가지 차원에서 종합 분석을 수행한다: (i) 라우팅 동역학—전문가 선택 패턴, 라우팅 안정성과 최적성, 라우팅 엔트로피가 과제 특화와 전문가 다양성을 어떻게 드러내는지를 포함한다; (ii) 부하 균형에 대한 경량 초기화의 영향—라우터 초기화의 미세한 변화가 초기 전문가 활용을 어떻게 형성하는지를 보여준다; (iii) 학습 체제 차이—sparse upcycling과 전체 사전학습이 서로 다른 라우팅 패턴과 안정성 프로파일을 보인다는 점을 밝힌다. 진입 장벽을 낮추고 평가를 표준화함으로써, 그리고 종합 분석과 함께, LibMoE는 MoE 연구 접근성을 넓히고 향후 혁신을 이끌 신뢰할 수 있는 벤치마크를 확립한다. GitHub: \href{https://github.com/Fsoft-AIC/LibMoE}{https://github.com/Fsoft-AIC/LibMoE}.

arXiv:2505.19212v2cs.CL공식 코드 · Papers with Code

윤리와 보상이 갈라질 때: 도덕적으로 민감한 사회적 딜레마에서의 LLM 에이전트

When Ethics and Payoffs Diverge: LLM Agents in Morally Charged Social Dilemmas

최근 LLM의 발전으로 인간이나 다른 에이전트와의 의사결정을 포함하는 복잡한 에이전트 역할에 LLM을 활용할 수 있게 되면서, 윤리적 정렬(alignment)이 중요한 관심사가 되었다. 기존 연구는 LLM의 도덕적 판단과 전략적 행동을 각각 따로 다루어 왔지만, 도덕적 명령이 이익 추구와 직접 충돌할 때 LLM이 어떻게 행동하는지에 대한 이해는 제한적이다. 우리는 \msimfull (\msim)을 도입하여, 9개 모델에 걸쳐 도덕적 프레이밍, 상대 행동, 생존 압력을 변화시키며 도덕적으로 민감한 맥락에 내재된 죄수의 딜레마(prisoner's dilemma)와 공공재 게임(public goods game)에서 LLM이 어떻게 행동하는지 평가한다. 행동 측정을 넘어, 평균 처리 효과(ATE)를 통해 각 요인의 인과 효과를 추정하고, 에이전트 자체의 추론 trace를 분석하여 선택 뒤에 있는 동기를 특성화한다. 어떤 모델도 일관되게 도덕적이지 않으며, 협력률은 7.9\%에서 76.3\%까지 분포한다는 것을 발견했다. 게임 구조와 도덕적 프레이밍이 도덕적 행동의 가장 강한 인과적 동인이며, 추론 trace 분석은 모델마다 뚜렷한 동기 프로필을 드러낸다. 이는 주로 보상 최대화(payoff-maximizing)부터 도덕적·평판 지향적 성향까지 다양하다. 이 결과들은 현재 LLM의 도덕적 행동이 상황에 따라 쉽게 흔들린다는 점과, 이익 추구가 윤리적 지침과 충돌하는 환경에 LLM을 배치할 때의 위험을 드러낸다.

arXiv:2506.07673v2cs.LG공식 코드 · Papers with Code

적은 데이터로 벤치마크를 예측할 때 목표를 놓치는 이유

How Benchmark Prediction from Fewer Data Misses the Mark

대규모 언어 모델(LLM) 평가 비용이 점점 커지면서, 벤치마크 데이터셋을 축소하여 평가를 가속하는 방법에 대한 관심이 높아지고 있다. 벤치마크 예측(효율적 LLM 평가라고도 함)은 소규모 평가 지점 부분집합을 선택하고, 그 부분집합으로부터 전체 벤치마크 성능을 예측하는 것을 목표로 한다. 본 논문에서는 19개의 다양한 벤치마크에 걸쳐 11가지 벤치마크 예측 방법의 강점과 한계를 체계적으로 평가한다. 먼저, 매우 경쟁력 있는 기준선을 확인한다: 무작위 표본을 추출하고 표본에 회귀 모델을 적합시켜 누락된 항목을 예측하는 방법이다. 대부분의 기존 방법을 능가하는 이 기준선은 벤치마크 예측을 위해 신중한 부분집합 선택이 필요하다는 가정에 도전한다. 둘째, 모든 기존 방법이 모델 유사성에 결정적으로 의존한다는 것을 발견한다. 이들은 유사한 모델들 사이에서 점수를 보간할 때 가장 잘 작동한다. 새로운 모델의 정확도가 이전에 관찰된 모델보다 높을 때 벤치마크 예측의 효과는 급격히 감소한다. 외삽(extrapolation) 상황에서는 이전 방법 중 어느 것도 무작위 표본의 단순 평균을 일관되게 능가하지 못한다. 표본 평균을 개선하기 위해 증강 역성향 가중(augmented inverse propensity weighting)에서 영감을 받은 새로운 방법을 제안한다. 이 방법은 외삽 상황에서도 무작위 표본 평균을 일관되게 능가한다. 그러나 그 성능은 여전히 모델 유사성에 의존하며, 전반적으로 개선 폭은 미미하다. 이는 벤치마크 예측이 가장 필요할 때—미지의 능력을 가진 새로운 모델을 평가하려는 평가 최전선에서—바로 실패한다는 것을 보여준다.

arXiv:2201.04868v3cs.HC공식 코드 · Papers with Code

흥미로움을 넘어서: 시각적 데이터 분석을 위한 의미·맥락 인식 자연어 쿼리 추천

Beyond Interestingness: Semantic and Context-Aware Natural Language Query Recommendations for Visual Data Analysis

최근 대규모 언어 모델(LLM)의 발전으로 자연어 인터페이스(NLI)가 데이터 탐험에 널리 접근 가능해졌지만, 광범위한 분석 목표를 가진 분석가들은 특히 낯선 다중 테이블 관계형 데이터베이스에서 이를 효과적인 단계별 쿼리로 분해하는 데 여전히 어려움을 겪는다. 고수준 분석 의제를 생성하는 대신, 관계형 데이터베이스 탐험을 위한 분석적 보조 구조로 작동하는 의미·맥락 인식 다음 단계 쿼리 추천으로 NLI를 보강하는 방법을 조사한다. 본 접근법은 의미적 관련성, 데이터 흥미로움, 맥락 일관성을 공동으로 통합하여 탐험을 일관되고 주제 중심적인 분석 및 잠재적으로 통찰력 있는 부분집합으로 이끄는 방식으로 흥미로움만을 사용하는 방법을 넘어선다. NL2SQL 벤치마킹, LLM 강화 설명 검증, 흥미로움만 사용하는 기준선 및 LLM 기반 프롬프팅 기준선에 대한 에이전틱 비교, 12명 참가자 사용자 연구로 QRec-NLI를 평가한다. 에이전틱 비교에서 QRec-NLI는 두 기준선 모두보다 주제적으로 더 관련성 있고 국소적으로 더 일관된 쿼리 시퀀스를 생성한다. 흥미로움만 사용하는 기준선과의 사용자 연구에서, 통찰 생성 지원 및 의사결정 지원에 대해 더 높은 평가를 받는다.