PyTorchKR Papers

업데이트된 논문

총 27편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 카테고리 구독

arXiv:2410.23160v3cs.LG공식 코드 · Papers with Code

FlexTSF: A Flexible Forecasting Model for Time Series with Variable Regularities

Generalizing across time series with irregular temporal structures poses a persistent challenge for universal time series forecasting models. Existing approaches often assume regular sampling or depend heavily on imputation, which limits their applicability in real-world scenarios where irregularities are prevalent due to diverse sensing devices and recording practices. To address this gap, we propose FlexTSF, a flexible and domain-adaptive forecasting model specifically designed for time series with variable temporal regularities. At its foundation lies the IVP Patcher, a continuous-time patching module leveraging Initial Value Problems (IVPs) to inherently handle uneven sampling intervals, variable sequence lengths, and missing values. Built upon a decoder-only Transformer architecture, FlexTSF integrates normalized timestamp inputs and domain-specific statistical descriptors through a specialized causal self-attention mechanism, enabling adaptability across domains. Extensive experiments on 16 datasets demonstrate FlexTSF's effectiveness, significantly outperforming existing models in classic forecasting scenarios, zero-shot generalization, and low-resource fine-tuning conditions.

arXiv:2503.01935v2cs.MA공식 코드 · Papers with Code

MultiAgentBench: LLM 에이전트의 협업과 경쟁 평가

MultiAgentBench: Evaluating the Collaboration and Competition of LLM agents

대규모 언어 모델(LLM)은 자율 에이전트로서 뛰어난 능력을 보였지만, 기존 벤치마크는 단일 에이전트 과업에 초점을 맞추거나 좁은 영역에 국한되어 다중 에이전트 조율과 경쟁의 역학을 포착하지 못한다. 본 논문에서는 다양한 상호작용 시나리오에 걸쳐 LLM 기반 다중 에이전트 시스템을 평가하도록 설계된 포괄적 벤치마크인 MultiAgentBench를 소개한다. 우리의 프레임워크는 과업 완수뿐 아니라 협업과 경쟁의 질도 새로운 마일스톤 기반 핵심 성과 지표로 측정한다. 또한 스타, 체인, 트리, 그래프 토폴로지를 포함한 다양한 조율 프로토콜과 그룹 토론, 인지적 계획과 같은 혁신적인 전략을 평가한다. 특히 gpt-4o-mini가 평균 최고 과업 점수에 도달하고, 연구 시나리오에서 조율 프로토콜 중 그래프 구조가 가장 우수한 성능을 보였으며, 인지적 계획은 마일스톤 달성률을 3% 향상시킨다. 코드와 데이터셋은 https://github.com/MultiagentBench/MARBLE 에서 공개되어 있다.

arXiv:2409.08231v2physics.plasm-ph공식 코드 · Papers with Code

심층 강화학습을 통한 핵융합로 설계 최적화

Design Optimization of Nuclear Fusion Reactor through Deep Reinforcement Learning

본 연구에서는 토카막 핵융합로 설계의 제약 조건이 있는 다목적 최적화를 위한 실용적 도구로서 심층 강화학습(DRL)을 조사한다. 과제는 안정적인 운전에 필요한 네 가지 운전 한계를 만족하면서, 높은 에너지 이득과 긴 에너지 가둠 시간을 달성하는 동시에 건설 비용을 최소화하는 설계 구성을 최적화하는 것이다. 물리와 공학이 결합된 평가로 인해 목적 함수와 제약 조건이 블랙박스이므로, 기존 탐색 전략으로는 최적해를 찾기 어렵다. 이를 해결하기 위해 토카막 핵융합로 설계에 보상 제약 정책 최적화(RCPO)를 구현한다. 이 방법은 여러 제약 조건을 보상 함수에 통합하여 정책을 실현 가능한 해로 유도하고 설계 최적화 과정을 단순화한다. 수치 결과에 따르면 제안한 DRL 기반 접근법은 다른 데이터 기반 최적화 방법보다 운전 제약을 만족하는 실현 가능한 설계를 더 많이, 더 효율적으로 찾아내며, 이는 향후 효율적인 원자로 설계에 대한 DRL의 잠재력을 보여준다.

arXiv:2501.09646v2cs.AI공식 코드 · Papers with Code

NS-Gym: 비정상 마르코프 결정 과정을 위한 포괄적인 오픈소스 시뮬레이션 프레임워크

NS-Gym: A Comprehensive and Open-Source Simulation Framework for Non-Stationary Markov Decision Processes

많은 실제 응용은 환경 동역학이 시간에 따라 변화하는 상황에서의 의사결정을 요구한다. 이러한 비정상 환경은 일반적으로 정상 동역학을 가정하는 전통적 의사결정 모델에 상당한 어려움을 야기한다. 비정상 마르코프 결정 과정(NS-MDP)은 이처럼 변화하는 조건에서의 의사결정 문제를 모델링하고 해결하기 위한 틀을 제공한다. 그러나 정상 문제를 위한 널리 알려진 프레임워크와 달리, NS-MDP를 위한 표준화된 시뮬레이션 프레임워크는 존재하지 않는다. 우리는 널리 쓰이는 Gymnasium 프레임워크에 통합된, NS-MDP를 위해 명시적으로 설계된 최초의 시뮬레이션 툴킷인 NS-Gym을 제시한다. NS-Gym에서는 비정상성을 특징짓는 환경 매개변수의 변화를 에이전트의 의사결정 모듈로부터 분리하여, 동적 환경에 대한 모듈식이고 유연한 적응을 가능하게 한다. 우리는 이 분야의 선행 연구를 검토하고, NS-MDP의 핵심 문제 특성과 유형을 담은 툴킷을 제시한다. 이 툴킷은 비정상 조건에서 알고리즘을 일관되고 재현 가능하게 평가할 수 있도록 표준화된 인터페이스와 벤치마크 문제 집합을 개발하려는 최초의 시도이다. 또한 NS-Gym을 사용하여 NS-MDP에 관한 선행 연구의 여러 알고리즘적 접근법을 벤치마크한다. 우리는 NS-Gym이 표준화된 인터페이스, 시뮬레이션 프레임워크 및 벤치마크 문제를 제공함으로써 연구자들이 비정상성 하의 의사결정을 연구할 수 있게 할 것으로 기대한다. 프로젝트 문서, 웹페이지, 코드는 https://nsgym.io 및 https://github.com/scope-lab-vu/ns_gym 에서 확인할 수 있다.

arXiv:2505.07675v4cs.LG공식 코드 · Papers with Code

이중 헤드 최적화를 통한 비전-언어 모델로부터의 단순하면서도 효과적인 준지도 지식 증류

Simple yet Effective Semi-supervised Knowledge Distillation from Vision-Language Models via Dual-Head Optimization

준지도 학습(SSL)은 레이블이 없는 데이터를 활용하여 데이터 부족 문제를 해결하는 실용적 방안으로 부상했다. 최근 방대한 이미지-텍스트 쌍으로 사전 훈련된 비전-언어 모델(VLM)은 뛰어난 일반화 능력 덕분에 SSL 접근법을 능가하는 놀라운 제로샷/퓨샷 성능을 보여 왔다. 이러한 격차는 VLM의 강력한 일반화 능력을 과제별 모델에 어떻게 효과적으로 활용할 수 있는가라는 의문을 제기하게 한다. 지식 증류(KD)는 VLM의 능력을 전달하는 자연스러운 프레임워크를 제공하지만, 지도 손실과 증류 손실 사이에 기울기 충돌이 발생함을 확인하였다. 이 문제를 해결하기 위해, 각각의 신호에 대해 별도의 예측 헤드를 두는 이중 헤드 최적화(Dual-Head Optimization, DHO)를 제안한다. DHO는 기울기 충돌을 완화하여 단일 헤드 KD 기준 모델보다 향상된 특징 학습을 가능하게 하며, 계산 오버헤드가 최소이고 재훈련 없이 테스트 시점에 하이퍼파라미터를 조정할 수 있다는 실용적 이점이 있음을 관찰하였다. 15개 데이터셋에 걸친 광범위한 실험은 DHO가 KD 기준 모델을 일관되게 능가하며, 더 작은 학생 모델로도 교사 모델을 능가하는 경우가 많음을 보여 준다. 또한 DHO는 분포 내 ImageNet 준지도 학습과 ImageNet 변형 전반의 분포 외 일반화 모두에서 새로운 최고 성능을 달성한다. 코드와 모델 체크포인트는 https://github.com/erjui/DHO/tree/main 에 공개되어 있다.

arXiv:2501.13946v2cs.CL공식 코드 · Papers with Code

에이전트 기반 AI 자연어 프레임워크를 활용한 환각 완화

Hallucination Mitigation using Agentic AI Natural Language-Based Frameworks

환각은 생성형 AI의 중대한 과제로 남아 있으며, AI 시스템에 대한 신뢰와 신뢰성을 훼손한다. 본 연구는 여러 전문 AI 에이전트를 조율하는 방식이 환각을 어떻게 완화할 수 있는지를 조사하며, 에이전트 간 상호작용에 자연어 처리(NLP)를 사용하는 시스템에 초점을 둔다. 우리는 환각을 유도하도록 의도적으로 설계된 310개의 프롬프트를 프런트엔드 에이전트에 입력하고, 그 출력을 검증되지 않은 주장을 탐지하고 명시적 면책 문구를 추가하며 추측성 내용을 명확히 하는 2단계 및 3단계 에이전트가 검토하고 개선하는 파이프라인을 설계한다. 우리는 사실 주장 밀도, 사실 근거 참조, 허구 면책 문구 빈도, 명시적 맥락화 점수라는 네 가지 새로운 핵심 성과 지표(KPI)를 도입하며, 이를 종합하여 총 환각 점수(THS)로 산출하고 전담 4단계 평가자 에이전트가 평가한다. 에이전트 간 맥락은 Open Floor Protocol(OFP, 구 OVON, Open Voice Network)이 전달하며, 그 구조화된 JSON 메시지를 통해 각 검토자는 환각 가능성에 대한 평가와 그 근거를 다음 단계로 전달한다. 310개 프롬프트 전체에서 THS는 프런트엔드 에이전트에서 최종 검토자까지 프롬프트당 평균 -0.131 개선되었으며(Cohen's d = 2.38), 310개 중 302개의 프롬프트에서 점수가 낮아졌다. 이러한 개선은 주로 명시적 면책 문구와 맥락화에서 비롯되며, 추측성 내용을 더 투명하게 하고 사실 주장과 명확히 구분되게 한다. 결과는 구조화된 NLP 기반 메타 정보 교환을 활용한 다중 에이전트 조율이 AI 생성 응답의 인식론적 틀을 크게 강화하고 설명 가능성을 향상시킬 수 있음을 보여준다.

arXiv:2410.07158v3cs.LG공식 코드 · Papers with Code

quanda: 학습 데이터 기여도 평가를 위한 해석 가능성 툴킷

quanda: An Interpretability Toolkit for Training Data Attribution Evaluation

학습 데이터 기여도(TDA) 방법은 개별 학습 샘플이 모델의 예측에 미치는 영향을 추정하여 신경망을 해석하기 위한 원칙적인 관점을 제공한다. 방법론이 빠르게 발전했음에도 불구하고 TDA 평가는 여러 논문에 흩어져 있고 재현이 거의 이루어지지 않아 방법 간 공정한 비교가 어렵다. 우리는 TDA 평가를 표준화하는 Python 툴킷인 quanda를 소개한다. quanda는 이미지 분류, 텍스트 분류, 언어 모델링을 아우르는 포괄적인 평가 지표 모음과 바로 사용할 수 있는 벤치마크, 그리고 다양한 TDA 구현을 통합하기 위한 균일한 인터페이스를 제공한다. 기존 TDA 방법에 대한 비교 연구를 통해 quanda를 시연하며, 모든 지표에서 일관되게 우수한 접근법은 없고 실제 정답에 대한 충실도와 하위 과제 성능 사이에 뚜렷한 상충 관계가 있음을 확인한다. quanda는 TDA 관련 도구를 통합함으로써 커뮤니티가 기여도 방법을 엄밀하고 재현 가능하게 평가할 수 있도록 한다. 이 툴킷은 철저히 테스트되고 문서화되어 있으며 PyPI와 https://github.com/dilyabareeva/quanda 에서 오픈소스 라이브러리로 제공된다.

arXiv:2304.04308v2cs.LG공식 코드 · Papers with Code

시계열 예측을 위한 앙상블 모델링: 적응적 강건 최적화 접근

Ensemble Modeling for Time Series Forecasting: an Adaptive Robust Optimization Approach

정확한 시계열 예측은 시간적 데이터를 다루는 많은 문제에서 매우 중요하다. 앙상블 모델링은 여러 예측 모형을 활용하여 정확도와 강건성을 높이는 확립된 기법이며, 이는 기저 데이터 분포의 변화로 인해 단일 예측기의 성능이 크게 달라질 수 있기 때문이다. 본 논문은 시계열 예측 모형의 강건한 앙상블을 구축하는 새로운 방법론을 제안한다. 우리의 접근법은 적응적 강건 최적화(Adaptive Robust Optimization, ARO)를 사용하여 모형 가중치가 시간에 따라 적응하는 선형 회귀 앙상블을 구성한다. 드리프트가 없는 경우부터 급격한 체제 전환까지 여덟 가지 교란 시나리오를 다루는 합성 실험과, 대기 오염 관리, 에너지 소비 예측, 열대 저기압 강도 예측을 포함한 실제 응용을 통해 제안 방법의 효과를 입증한다. 실제 응용에서 우리의 적응적 앙상블은 사후적으로 최선인 앙상블 구성원보다 평균 제곱근 오차(RMSE)에서 16-26%, 15% 수준의 조건부 위험가치(CVaR)에서 14-28% 더 우수하며, 비교한 다른 앙상블 방법들에 비해 대부분의 지표에서 개선된다. 합성 실험에서는 여덟 개 시나리오 중 일곱 개에서 롤링 릿지(rolling-ridge) 비교 모형보다 평균 RMSE가 낮고 그중 네 개에서는 유의하게 낮은 반면, 모형 선택 이후에 처음 나타나는 급격한 체제 전환은 여전히 한계로 남는다.

arXiv:2505.18934v3cs.LG공식 코드 · Papers with Code

이종 그래프 이상 탐지를 위한 카이제곱 웨이블릿 그래프 신경망

Chi-Square Wavelet Graph Neural Networks for Heterogeneous Graph Anomaly Detection

이종 네트워크에서의 그래프 이상 탐지(GAD)는 노드 및 엣지 이종성으로 인해 고유한 과제를 제시한다. 기존 그래프 신경망(GNN) 방법은 주로 동종 GAD에 초점을 맞추므로 다음 세 가지 핵심 문제를 해결하지 못한다: (C1) 다양한 메타패스(meta-path) 전반에 걸친 비정상 신호와 풍부한 의미론 포착; (C2) 이종 정보 네트워크(HIN) 차원 정렬에서 고주파(high-frequency) 내용 보존; (C3) 클래스 불균형(class imbalance) 하에서 어려운 이상 샘플로부터 효과적으로 학습. 이를 극복하기 위해, 우리는 다양한 도메인에서 웨이블릿의 효과에서 영감을 받은 새로운 카이제곱 필터를 기반으로 한 스펙트럴 GNN 프레임워크인 ChiGAD를 제안한다. 구체적으로 ChiGAD는 (1) 다중 그래프 카이제곱 필터(Multi-Graph Chi-Square Filter)로, 각 메타패스 그래프에 전용 카이제곱 필터를 적용하여 이상 정보를 포착하고; (2) 상호작용형 메타-그래프 합성곱(Interactive Meta-Graph Convolution)으로, 고주파 정보를 보존하면서 특징을 정렬하고 통합 카이제곱 필터로 이종 메시지를 통합하며; (3) 기여도 기반 교차 엔트로피 손실(Contribution-Informed Cross-Entropy Loss)로, 클래스 불균형을 해결하기 위해 어려운 이상을 우선시한다. 공개 및 산업 데이터셋에 대한 광범위한 실험 결과, ChiGAD는 여러 지표에서 최신(state-of-the-art) 모델을 능가한다. 또한 동종 변형인 ChiGNN은 7개 GAD 데이터셋에서 우수한 성능을 보여 카이제곱 필터의 효과를 검증한다. 코드는 https://github.com/HsipingLi/ChiGAD 에서 이용할 수 있다.

arXiv:2410.13013v2cs.CL공식 코드 · Papers with Code

LEGAL-UQA: 영어-우르두어 병렬 벤치마크로 우르두어 화자를 위한 헌법 질의응답 시스템 시험하기

LEGAL-UQA: Testing Constitutional Question-Answering Systems for Urdu Speakers with a Parallel English-Urdu Benchmark

법률 정보 어시스턴트는 우르두어 화자가 자신의 헌법적 권리를 이해하도록 도울 수 있으나, 신뢰할 수 있는 시스템을 구축하려면 해당 언어에 적합한 시험 데이터와 평가 방법이 필요하다. 우리는 파키스탄 헌법의 구절과 연결된 619개의 질문-답변 쌍으로 구성된 영어-우르두어 병렬 벤치마크인 LEGAL-UQA를 제시한다. 각 예시는 질문, 참조 답변, 출처 구절을 두 언어로 모두 포함한다. 우리는 두 가지 구성요소를 별도로 평가한다. 하나는 출처 구절이 주어졌을 때 우르두어 질문에 답하는 것이고, 다른 하나는 각 질문이 생성된 출처 구절을 검색하는 것이다. 또한 자동 판정자로 사용되는 의사결정 모델인 JEV를 사람의 채점과 비교한다. 연구 결과, 모델 순위는 답변 유사도를 측정하는 방식에 따라 달라지며, 단순한 단어 매칭 방법이 시험한 임베딩 방법보다 출처 구절을 더 효과적으로 검색한다. 평가된 임계값에서 JEV는 모든 답변에 만점을 부여하는 기준선보다 사람의 채점과 덜 자주 일치한다. 또한 감사를 통해 생성된 참조 답변이 출처가 뒷받침하는 정보를 누락한 사례도 확인된다. 종합하면 이러한 결과는 우르두어 화자를 위한 법률 QA 소프트웨어를 설계할 때 검색과 답변을 별도로 시험하고, 단순한 검색 기준선을 포함하며, 자동 판정자와 참조 답변을 사람의 검토로 검증할 필요가 있음을 강조한다.

arXiv:2406.15877v5cs.SE공식 코드 · Papers with Code

BigCodeBench: 다양한 함수 호출과 복잡한 지시를 통한 코드 생성 벤치마킹

BigCodeBench: Benchmarking Code Generation with Diverse Function Calls and Complex Instructions

과업 자동화는 소프트웨어 공학 개발부터 범용 추론에 이르는 과업에서 Python 코드를 통한 대규모 언어 모델(LLM)의 최근 발전으로 크게 강화되었다. 현재의 벤치마크는 LLM이 인간 개발자처럼 프로그램을 이용하여 과업을 해결할 수 있음을 보여 주었으나, 대부분의 평가는 짧고 독립적인 알고리즘 과업이나 단독 함수 호출에 한정된다. 어렵고 실용적인 과업을 해결하려면 데이터 분석과 웹 개발 같은 기능을 효율적으로 구현하기 위해 다양한 함수 호출을 도구로 활용하는 능력이 필요하다. 또한 여러 도구를 사용하여 하나의 과업을 해결하려면 복잡한 지시를 정확히 이해하는 조합적 추론이 필요하다. 이 두 가지 특성을 모두 충족하는 것은 LLM에게 큰 도전이 될 수 있다. LLM이 프로그램을 통해 어렵고 실용적인 과업을 얼마나 잘 해결할 수 있는지 평가하기 위해, 우리는 7개 도메인의 139개 라이브러리에서 여러 함수 호출을 도구로 호출하도록 LLM에 요구하는 1,140개의 세분화된 과업으로 구성된 벤치마크 BigCodeBench를 소개한다. LLM을 엄밀하게 평가하기 위해 각 과업은 평균 분기 커버리지 99%의 테스트 케이스 5.6개를 포함한다. 또한 원래의 docstring을 필수 정보만 담은 짧은 지시문으로 자동 변환하는, 자연어 중심의 BigCodeBench 변형인 BigCodeBench-Instruct를 제안한다. 60개 LLM에 대한 광범위한 평가 결과, LLM은 아직 복잡한 지시를 따라 함수 호출을 정확하게 사용하지 못하며, 최대 60%의 점수로 97%의 인간 성능보다 크게 낮다. 이 결과는 이 분야의 추가적인 발전이 필요함을 강조한다.

arXiv:2401.00788v2cs.CL공식 코드 · Papers with Code

Astraios: 코드 대규모 언어 모델의 매개변수 효율적 지시 튜닝

Astraios: Parameter-Efficient Instruction Tuning Code Large Language Models

대규모 언어 모델(LLM)의 전체 매개변수 미세조정(FFT)에 드는 높은 비용으로 인해 일련의 매개변수 효율적 미세조정(PEFT) 방법이 등장하였다. 그러나 모델 규모별로 어떤 방법이 최선의 비용 대비 성능 균형을 제공하는지는 여전히 불분명하다. 본 논문에서는 7가지 튜닝 방법과 최대 160억 매개변수에 이르는 4가지 모델 크기를 사용한 28개의 지시 튜닝 OctoCoder 모델 모음인 Astraios를 소개한다. 코드 이해와 코드 생성 과제를 모두 포괄하는 5개 과제와 8개의 서로 다른 데이터셋에 걸친 조사를 통해, FFT가 모든 규모에서 대체로 최고의 다운스트림 성능을 보이며 PEFT 방법들은 모델 규모에 따라 효과가 크게 다르다는 것을 확인하였다. LoRA는 대체로 비용과 성능 간 가장 유리한 균형을 제공한다. 이러한 방법들이 모델의 견고성과 코드 보안에 미치는 영향을 추가로 조사한 결과, 더 큰 모델일수록 견고성이 낮아지고 보안성도 떨어지는 경향이 있음이 드러났다. 마지막으로 갱신된 매개변수, 교차 엔트로피 손실, 과제 성능 간의 관계를 탐구한다. 작은 모델에서 관찰된 튜닝 효과가 더 큰 모델로 잘 일반화되며, 지시 튜닝의 검증 손실이 전반적인 다운스트림 성능의 신뢰할 만한 지표가 될 수 있음을 확인하였다.

arXiv:2506.15253v3cs.CR공식 코드 · Papers with Code

Specification-based Security Evaluation of Real-World Agents Tool-Calling under Long-Horizon Context Tasks

As large language model (LLM) agents are increasingly deployed in long-horizon unattended scenarios, security evaluation of them before deployment becomes increasingly essential and challenging. Existing evaluation methods mainly follow the paradigms of LLM-as-a-Judge or Agent-as-a-Judge. However, such judges are themselves often vulnerable to hallucination and can even be affected by perturbations. Furthermore, because capturing full environment states at every step is often prohibitively expensive in open-ended environments, existing evaluations typically rely on textual logs and the final environment state. As a result, they may miss transient violations that are overwritten before the trajectory ends or never reflected in textual logs. We present RAS-Eval, a specification-based security evaluation framework for LLM agents. RAS-Eval uniformly expresses utility and security objectives as Linear Temporal Logic (LTL) specifications over tool-call trajectories and dynamic environment observations, and verifies them with an off-the-shelf model checker. This design addresses both limitations above. First, unlike LLM-as-a-Judge and Agent-as-a-Judge, RAS-Eval derives deterministic verdicts from formally defined properties, eliminating evaluator-side uncertainty and remaining reliable even for long-horizon trajectories. Second, RAS-Eval observes exactly the states on which the verdict depends, making it affordable to monitor the environment throughout execution and detect transient violations that leave little trace in the logs or final environment state. Moreover, we design a multi-agent-based dataset construction pipeline. Using it, we construct a benchmark (https://github.com/lanzer-tree/RAS-Eval) of 200 normal tasks and 800 attack tasks spanning four attack surfaces: indirect prompt injection, tool poisoning, skill code injection, and tool code injection.

arXiv:2406.04428v3cs.CL공식 코드 · Papers with Code

MoralBench: 대규모 언어 모델의 도덕성 평가

MoralBench: Moral Evaluation of LLMs

빠르게 발전하는 인공지능 분야에서 대규모 언어 모델(LLM)은 자연어 처리부터 의사결정 지원 시스템에 이르기까지 수많은 응용을 위한 강력한 도구로 부상하였다. 그러나 이러한 모델이 사회 구조에 점점 더 통합됨에 따라, 모델이 윤리적·도덕적 경계 내에서 작동하도록 보장해야 할 필요성은 그 어느 때보다 중요해졌다. 본 논문은 LLM의 도덕적 추론 능력을 측정하고 비교하기 위해 설계된 새로운 벤치마크를 소개한다. 우리는 LLM 출력의 도덕적 차원을 탐구하기 위해 특별히 구성된 최초의 포괄적 데이터셋을 제시하며, 이는 현실 세계의 복잡성을 반영하는 폭넓은 윤리적 딜레마와 시나리오를 다룬다. 본 연구의 주된 기여는 LLM의 도덕적 정체성을 평가하기 위한 벤치마크 데이터셋과 지표를 개발한 데 있으며, 이는 미묘한 뉘앙스, 맥락 민감성, 인간의 윤리 기준과의 정렬을 고려한다. 우리의 방법론은 정량적 분석과 윤리학자의 정성적 통찰을 결합한 다각적 접근으로 모델 성능을 철저히 평가한다. 여러 선도적 LLM에 벤치마크를 적용한 결과, 모델에 따라 도덕적 추론 능력에 상당한 차이가 있음을 확인하였다. 이러한 결과는 LLM의 개발과 평가에서 도덕적 추론을 고려하는 것이 중요함을 보여 주며, 본 연구에서 드러난 편향과 한계를 해결하기 위한 지속적인 연구가 필요함을 시사한다. 벤치마크는 https://drive.google.com/drive/u/0/folders/1k93YZJserYc2CkqP8d4B3M3sgd3kA8W7 에서 공개하며, 프로젝트 코드도 https://github.com/agiresearch/MoralBench 에서 오픈소스로 공개한다.

arXiv:2502.13297v2cs.CL공식 코드 · Papers with Code

개인 수준 자연어 이해에서의 레이블 오류 이해와 해결

Understanding and Tackling Label Errors in Individual-Level Nature Language Understanding

자연어 이해(NLU)는 기계가 인간의 언어를 이해하도록 하는 과제이다. 입장 탐지와 감성 분석 같은 일부 과제는 개인의 주관적 관점과 밀접하게 관련되어 있어 개인 수준 NLU라고 불린다. 기존에는 이러한 과제가 개인적 요인을 무시한 채 텍스트 수준 NLU 과제로 단순화되는 경우가 많았다. 이는 추론을 어렵고 설명 불가능하게 만들 뿐 아니라, 데이터셋을 구축할 때 다수의 레이블 오류를 초래하는 경우가 많다. 위의 한계를 해결하기 위해 본 논문은 개인 수준 요인에 기반한 새로운 NLU 주석 지침을 제안한다. 구체적으로, 동일한 개인의 다른 게시물을 함께 반영하고, 해당 개인의 모든 게시물을 고려한 후 개인의 주관적 관점을 주석한다. 이 지침을 사용하여 입장 탐지 및 주제 기반 감성 분석 데이터셋을 확장하고 재주석하였다. 그 결과 표본의 오류율이 각각 $31.7\%$와 $23.3\%$에 달하는 것을 확인하였다. 나아가 재주석된 데이터셋에서 대규모 언어 모델로 실험을 수행한 결과, 개인적 요인을 추가한 후 두 데이터셋 모두에서 대규모 언어 모델이 우수한 성능을 보였다. GPT-4o와 Llama3-70B는 재주석 데이터셋에서 모두 87\%를 넘는 정확도를 달성할 수 있다. 또한 절제 연구를 통해 개인적 요인의 효과를 검증하였다. 향후 연구자들이 이러한 데이터셋을 구축할 때 개인적 요인을 추가할 것을 촉구한다. 재주석 데이터셋은 https://github.com/24yearsoldstudent/Individual-NLU 에서 확인할 수 있다.

arXiv:2505.23277v4cs.CL공식 코드 · Papers with Code

Sentinel: 효율적인 LLM 컨텍스트 압축을 위한 어텐션 프로빙 기반 컨텍스트 활용 해독

Sentinel: Decoding Context Utilization via Attention Probing for Efficient LLM Context Compression

검색된 컨텍스트는 길고 잡음이 많으며 중복되는 경우가 많아, 답변 생성에 앞서 질의 인식 압축이 필요하다. 네이티브 어텐션은 컨텍스트 선택을 위한 신호를 제공하지만, 헤드마다 동작이 이질적이어서 이를 문장 유용도 점수로 직접 집계하기가 복잡하다. 본 논문은 층과 헤드에 걸친 부호 있는 선형 리드아웃을 통해 이러한 신호를 결합하도록 학습하는 문장 수준 압축기 Sentinel을 제안한다. 기존 QA 근거 주석을 사용하여 리드아웃만 학습하며, 백본은 고정된 상태로 유지되고 문장 점수 산정에는 자기회귀 생성이 필요하지 않다. 12개의 LongBench 과제 전반에서, 0.5B 백본을 사용하는 Sentinel은 2,000 토큰 예산 조건에서 Qwen2.5-7B-Instruct, Llama-3.1-8B-Instruct, DeepSeek V4.1 Flash의 세 리더 각각에 대해 여러 과제에서 전체 컨텍스트(Full Context)보다 우수한 성능을 보인다. 영어 전용 QA 지도만 사용했음에도 동일한 리드아웃이 과제별 재학습 없이 중국어 과제로 전이된다. 길이별 계층화 프로파일링에서도 LLMLingua-2 및 CPC보다 압축 지연 시간과 GPU 메모리 사용량이 더 낮음을 확인했다.

arXiv:2505.19912v4cs.CL공식 코드 · Papers with Code

APE: 언어 모델 적응을 위한 수락 기준 기반 선택적 미세조정

APE: Selective Fine-tuning with Acceptance Criteria for Language Model Adaptation

본 논문에서는 모델의 안정성을 유지하면서 매개변수(parameter) 수정을 체계적으로 탐색하는 대규모 언어 모델(LLM) 적응용 선택적 미세조정(fine-tuning) 방법인 APE(Adjacent Possible Exploration)를 제시합니다. 진화적 최적화 원리에서 영감을 얻은 APE는 소규모 데이터 하위 집합에 대한 미세조정을 통해 여러 후보 매개변수 업데이트를 평가하고 성능 임계값을 초과하는 업데이트만을 수락합니다. 단일 그래디언트(gradient) 방향을 따르는 표준 미세조정과 달리, APE는 체계적인 개선을 가능하게 하면서도 모델을 불안정하게 만드는 매개변수 변화를 방지하는 필터링된 선택 프로세스를 구현합니다. 우리 방법은 최소한의 계산 자원만을 사용하면서도 뉴스 요약 태스크에서 33.9%의 BLEU 향상과 36.2%의 퍼플렉서티(perplexity) 감소를 달성합니다. 이 접근법은 성능 향상과 표현 안정성 사이의 균형을 맞추는 제어된 모델 적응을 위한 실용적인 프레임워크를 제공합니다.

arXiv:2505.01353v3math.OC공식 코드 · Papers with Code

미분 가능한 비선형 모델 예측 제어

Differentiable Nonlinear Model Predictive Control

매개변수적 해 민감도의 효율적인 계산은 학습 강화 방법을 비선형 모델 예측 제어와 통합하는 데 있어 핵심 과제이며, 이는 많은 학습 알고리즘에서 민감도의 가용성이 필수적이기 때문이다. 본 논문은 음함수 정리와 내점법(IPM)에서 다루는 평활화된 최적성 조건을 이용하여 일반 비선형 계획법의 해 민감도를 계산하는 방법을 논한다. 장벽 매개변수가 지정된 비음수 목표값에 접근하도록 허용하여 SQP와 IPM 이차계획법(QP) 풀이기를 일반화하고, 이 목표값이 0일 때 고전적 SQP를 복원하는 순차 장벽 이차계획법(sequential barrier quadratic programming, SBQP)을 도입한다. 기존 연구는 볼록 또는 제약 없는 정식화에 한정되거나 효율적인 민감도 평가를 위한 구현이 부족하다. 본 발표는 `acados` 프레임워크 내의 효율적인 오픈소스 구현을 동반하며, 일반 최적 제어 문제에 대해 순방향 및 수반(adjoint) 민감도를 모두 제공하고 최신 풀이기인 `mpc.pytorch` 및 `cvxpygen` 대비 3배를 넘는 속도 향상을 달성한다.

arXiv:2407.04259v4math.OC공식 코드 · Papers with Code

유한 모델 불확실성 하의 Q-러닝

Q-Learning under Finite Model Uncertainty

각 상태–행동 쌍이 후보 전이 커널의 유한한 모호성 집합과 연관된 경우, 모델 불확실성 하의 마르코프 결정 과정을 위한 강건 Q-러닝 알고리즘을 제안한다. 이러한 유한 측도 프레임워크는 경쟁하는 적합 모델과 스트레스 시나리오를 포함하여 사용자가 설계한 불확실성 모델을 가능하게 한다. {학습자는 전이 확률이나 보상 함수에 대한 명시적 지식 없이, 모든 후보 시뮬레이터로부터 후속 상태와 그에 대한 결정론적 보상을 관측한다.} 학습된 Q-함수가 강건 최적해로 거의 확실하게 수렴함을 증명하고, 관측 가능한 경험적 벨만 잔차와 전이 커널 추정 오차를 분리하는 시간 균등 고확률 오차 보증을 도출한다. 또한 유한 상태 공간에서 바서슈타인 및 모수적 불확실성 모델에 대한 정량적 유한 모호성 근사 결과를 제시한다. 수치 예제를 통해 시나리오 선택의 효과를 보이고, 표 형태 알고리즘을 강건 가치 반복법과 비교한다.

arXiv:2503.17894v5astro-ph.SR공식 코드 · Papers with Code

분포적 인과 효과를 위한 생성 학습기

Generative Learner for Distributional Causal Effects

우리는 조건부 평균 처치 효과를 추정하고 이러한 효과의 전체 분포를 규명하기 위한 생성 학습기를 제안한다. 이 학습기는 성향 점수, 기준 결과의 조건부 분위수 함수, 조건부 분위수 처치 효과라는 세 개의 공동 추정되는 하위 신경망을 가진 다중 헤드 순전파 신경망의 형태를 띤다. 분위수로 색인되는 각 하위 신경망은 공변량 표현과 코사인 분위수 임베딩을 원소별 곱셈으로 결합한다. 이후 조건부 평균 처치 효과를 조건부 분위수 처치 효과에 대한 적분으로 복원한다. Neyman--Rubin 잠재 결과 틀 내의 고전적 인과 가정 하에서, 제안한 생성 학습기는 일반화 랜덤 포레스트, 이중 기계학습, 생성적 적대 신경망에 비해 표본 외 평균 제곱 오차를 줄이며, 그 향상 폭은 실험 설계 전반에 걸쳐 평균 5.4%에서 93.5%에 이른다. 실증 응용에서는 단방향 인과 모형 내에서 Stefan--Boltzmann 법칙을 정식화하고 공개된 항성 데이터에 이 방법을 적용한다. 추정된 효과는 이 법칙이 함의하는 제약을 만족한다.