PyTorchKR Papers

최신 논문

총 11,108편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.22699v2cs.AI

유사성은 끝까지: LLM의 다국어 일반화는 언어 수준 유사성 구조에 의존한다

Similarity All The Way Up: Multilingual Generalization in LLMs Relies on Language-Level Similarity Structures

대규모 언어 모델(LLM)이 다양한 작업에서 더욱 유능해질수록, 그들의 일반화 (불)능력은 여전히 정량화하기 어렵고 제한된 영역을 넘어서는 이해가 부족하다. 특히 LLM은 다국어적으로 일반화하는 데 어려움을 겪는 것으로 알려져 있으며, 영어 외의 언어, 그리고 학습 데이터에서 충분히 드러나지 않은 언어로의 일반화에서 특히 그렇다. 이 원인과 어떤 모델이 다른 모델보다 더 잘 수행하는지를 이해하기 위해, 우리는 인지과학 전반에 걸친 오랜 연구에 주목하며, 성공적인 일반화는 유사성 공간(similarity space)에서의 적절한 표현(representation)에서 비롯된다고 주장한다. 우리는 LLM의 표현이 서로 다른 언어 간의 계층적 유사성 구조를 얼마나 잘 포착하는지 살펴본다. 놀랍게도, 우리는 LLM의 잠재 표현(latent representations)이 인도-유럽어족 언어 계통수의 계층적 구조를 대체로 복원함을 보인다 — 같은 하위어족(subfamily)에 속하는 언어들을 표현 공간에서 밀접하게 묶는다. 또한 모델이 언어의 유사성 구조를 반영하는 정도가 XNLI(다국어 자연어 추론 벤치마크)에서의 성능과 상관관계가 있음을 보인다. 이는 유사성 기반 일반화에 관한 고전적 연구를 대규모로 확장하며, 유사한 언어를 유사하게 표현하는 모델이 한 언어에서 다른 언어로 더 잘 일반화함을 보여준다.

arXiv:2505.09662v4cs.CL

대규모 언어 모델이 인센티브를 받는 인간보다 더 설득력 있는 경우와 그 이유

When Large Language Models are More PersuasiveThan Incentivized Humans, and Why

대규모 언어 모델(LLM)은 뛰어난 설득력을 지닌 것으로 입각되었으나, 언제 그리고 왜 인간보다 뛰어난 성능을 보이는지는 여전히 미해결 과제로 남아 있습니다. 본 연구에서는 대화형 실시간 대화 환경을 활용하여 설득에 대한 인센티브를 부여받은 인간과 두 가지 LLM(Claude 3.5 Sonnet 및 DeepSeek v3)의 설득력을 비교합니다. 연구 결과, LLM의 설득 우위는 맥락에 따라 달라진다는 점을 확인했습니다. 즉, 설득 시도가 진실(정답 유도)인지 기만(오답 유도)인지 여부와 LLM 모델에 따라 달라지며, 인간의 설득력과 달리 상호작용이 반복될수록 감소합니다. 첫 번째 대규모 실험에서는 인간과 LLM(Claude 3.5 Sonnet)이 보상을 위해 온라인 퀴즈를 풀고 있는 다른 인간 참가자들과 상호작용하며 주어진 정답 또는 오답으로 상대를 설득하도록 했습니다. Claude는 진실 및 기만 맥락 모두에서 인센티브를 받은 인간 설득자보다 더 높은 설득력을 보였으며, 진실한 설득일 때는 정확도를 유의미하게 높였으나 기만적 설득일 때는 정확도를 떨어뜨렸습니다. DeepSeek v3를 사용한 후속 실험에서도 정확도에 대한 결과는 재현되었으나, LLM의 더 높은 설득력은 기만적 설득일 때만 관찰되었습니다. 설득자들의 텍스트에 대한 언어학적 분석 결과, 이러한 효과는 LLM이 인간보다 더 높은 확신을 표현하기 때문일 수 있음을 시사합니다.

arXiv:2411.16818v2cs.CL

LLM 생성 전문가 요약을 활용한 다중 표현 학습 기반 원내 사망률 예측 향상

Enhancing In-Hospital Mortality Prediction Using Multi-Representational Learning with LLM-Generated Expert Summaries

중환자실(ICU) 노트에 대해 대규모 언어 모델(LLM)이 생성한 전문가 요약을 생리학적 데이터와 융합하여 원내 사망률(IHM)을 예측하는 다중 표현(multi-representational) 프레임워크를 평가하고, 그로 인한 성능 향상 중 노트 자체와 중복되지 않는 부분이 얼마나 되는지 규명하고자 하였다. MIMIC-III(첫 ICU 입실 19,211건, 사망률 12.83%)를 사용하여 48시간의 생리학적 데이터, 임상 노트, 그리고 예후 예측을 금지하는 프롬프트 하에서 생성된 LLM 요약을 각각 인코딩한 뒤 이를 융합하였다. 중복성은 릿지 복원 가능성(ridge recoverability), 선형 프로브(linear probe), 그리고 노트와 직교하는 잔차(residual) 또는 환자 간 무작위로 섞은 요약 임베딩으로 대체하여 재학습한 제거 실험(ablation)을 통해 평가하였다. 보류된 3,843건의 입실 데이터에서 융합 모델은 AUPRC 0.4977/AUROC 0.8429를 기록하였으며, 생리학적 데이터만 사용한 경우는 0.3625/0.7770이었다. 노트 임베딩으로부터의 릿지 회귀는 요약 임베딩 분산의 40.8%를 설명하였다. 노트와 직교하는 잔차는 성능 향상의 소수 부분만을 유지하였으며(AUPRC +0.0258, 95% CI 0.005–0.047; 28%), 환자 간 섞은 요약은 기준 모델보다 낮은 성능을 보였다. 요약은 환자별 특성에 맞게 예측을 개선하지만, 주로 노트에 이미 담긴 정보를 재구성함으로써 개선하는 것으로 나타났다.

arXiv:2408.06849v3cs.AI공식 코드 · Papers with Code

대규모 언어 모델 기반의 인과 에이전트

Causal Agent based on Large Language Model

대규모 언어 모델(LLM)은 다양한 영역에서 상당한 성공을 거두었습니다. 그러나 인과 문제와 인과 이론의 본질적인 복잡성으로 인해 이를 자연어로 정확하게 기술하기 어렵고, 이로 인해 LLM이 이를 효과적으로 이해하고 활용하는 데 어려움이 있습니다. 인과적 방법은 자연어를 통해 쉽게 전달되지 않으며, 이는 LLM이 이를 정확하게 적용하는 능력을 저해합니다. 또한 인과 데이터셋은 일반적으로 표(tabular) 형태인 반면, LLM은 자연어 데이터 처리에 뛰어나므로 표 형식 데이터에 대한 효과적인 추론을 방해하는 구조적 불일치가 발생합니다. 이러한 문제를 해결하기 위해, 본 연구에서는 LLM에 에이전트 프레임워크 내에서 인과 도구를 탑재한 Causal Agent를 개발하여 인과 문제를 해결할 수 있도록 했습니다. Causal Agent는 도구, 메모리, 추론 모듈로 구성됩니다. 도구 모듈에서 Causal Agent는 Python 코드를 호출하고 캡슐화된 인과 함수 모듈을 사용하여 표 형식 데이터를 자연어와 정렬합니다. 추론 모듈에서 Causal Agent는 도구와의 다중 반복 과정을 통해 추론을 수행합니다. 메모리 모듈에서 Causal Agent는 고유한 이름을 키로 하고 인과 그래프를 값으로 하는 딕셔너리 인스턴스를 유지합니다. Causal Agent의 인과 능력을 검증하기 위해, 변수 수준, 엣지 수준, 인과 그래프 수준, 인과 효과 수준의 4개 수준 인과 문제로 구성된 Causal Tabular Question Answer(CausalTQA) 벤치마크를 구축했습니다. CausalTQA는 이 4개 수준에 걸쳐 약 1.4K개의 질문으로 구성됩니다. Causal Agent는 4개 수준의 인과 문제에서 모두 80% 이상의 정확도를 기록하며 뛰어난 효능을 입증했습니다. 실제 데이터셋인 QRData를 통한 검증에서 Causal Agent는 기존 최고 성능(SOTA)보다 6% 더 높은 결과를 달성했습니다. 추가적인 통찰과 구현 세부 사항을 위한 코드는 GitHub 저장소(https://github.com/kairong-han/causal_agent)에서 확인할 수 있습니다.

arXiv:2602.14419v2cs.CL

WavePhaseNet: DFT 기반 의미 개념 계층 구조(SCHS) 구축 방법

WavePhaseNet: A DFT-Based Method for Constructing Semantic Conceptual Hierarchy Structures (SCHS)

본 논문은 측도 이론과 주파수 분석을 통해 대규모 언어 모델(LLM)의 트랜스포머/어텐션 메커니즘을 재공식화하고, 환각(hallucination)이 불가피한 구조적 한계임을 이론적으로 보였다. 임베딩 공간은 σ-대수 위의 조건부 기댓값으로 기능하며, 의미적 진실 집합과 동형(isomorphic)이 되지 못하는 것이 논리적 일관성 붕괴의 근본 원인이다. 저자들은 이산 푸리에 변환(DFT)을 사용해 의미 개념 계층 구조(SCHS)를 명시적으로 구축하는 WavePhaseNet을 제안한다. 시퀀스 차원을 따라 DFT를 적용하면 의미 정보가 주파수 대역으로 분해된다. 저주파 성분은 전역적 의미와 의도를 포착하고, 고주파 성분은 국소적 구문과 표현을 나타낸다. 이러한 단계적 분리는 대각화 공간에서 정밀한 의미 조작을 가능하게 한다. GPT-4의 24,576차원 임베딩 공간은 언어 자기유사성과 Zipf 법칙에 기반한 1/f 스펙트럼 구조를 보인다. 누적 에너지 분석을 통해 저자들은 약 3,000차원이 "완전한 표현(complete representation)"의 하한을 구성함을 도출했다. 이는 24,576차원에서 3,000차원으로의 축소가 의미와 의도를 보존하면서 엄밀한 추론을 가능하게 하고 환각을 억제함을 보여준다. 중첩되는 국소 윈도우에 대한 코호몰로지적 정규화를 통해 구축된 축소 임베딩 공간은 그래프 구조와 cochain complex를 정의할 수 있게 한다. 이는 국소 추론 간 불일치를 coboundary 기반 손실로 정량화한다. Hodge 이론에 기반한 harmonic projection을 적용하면 cohomology를 의미적 일관성을 제어하고 최대한 일관적인 전역 표현을 추출하는 계산 가능한 정규화 원리로 위치시킬 수 있다.

arXiv:2605.00155v4cs.LG

인간 피드백 강화학습을 위한 바서슈타인 분포적 강건 후회 최적화

Wasserstein Distributionally Robust Regret Optimization for Reinforcement Learning from Human Feedback

RLHF에서 프록시 보상 모델의 오지정(misspecification)으로 인한 보상 과최적화 문제를 해결하기 위해, 보상 법칙에 대한 Wasserstein 모호성 집합과 프롬프트별 ℓp 거리를 활용한 분포적 강건 후회 최적화(DRRO)를 제안한다. 표준 DRO와 달리 최악의 경우 가치 대신 최악의 경우 후회(regret)를 최소화하는 이 방법은 프롬프트별 워터필링(water-filling) 구조로 분해되며, GRPO 학습에 샘플링 기반 보너스를 추가하는 방식으로 구현되어 기존 기준선 대비 과최적화를 더 효과적으로 완화함을 이론과 실험으로 검증하였다.

arXiv:2506.01952v2cs.CL

WebChoreArena: 현실적이고 지루한 웹 작업에서 웹 browsing 에이전트 평가

WebChoreArena: Evaluating Web Browsing Agents on Realistic Tedious Web Tasks

대규모 언어 모델(LLM)을 기반으로 한 웹 browsing 에이전트는 사람과 유사한 방식으로 그래픽 사용자 인터페이스(GUI)를 조작하며, 웹 기반 작업 자동화를 위한 투명하고 범용적인 프레임워크를 제공한다. 이러한 에이전트가 빠르게 개선되어 WebArena와 같은 기존 벤치마크에서 강한 성능을 달성함에 따라, 핵심 질문이 제기된다: $\textit{점점 더 강력해지는 에이전트의 능력, 특히 더 지루하고 인지적으로 부담이 큰 작업에 대해, 현재 벤치마크가 여전히 정확하게 평가할 수 있는가?}$ 본 논문에서는 일반적인 browsing 시나리오를 넘어서도록 설계된 WebArena의 대규모 확장인 $\textbf{WebChoreArena}$를 제시한다. WebChoreArena는 300시간 이상에 걸쳐 개발된 532개의 엄선된 과제를 도입하며, 더 노동 집약적이고 복잡한 웹 잡무를 명시적으로 겨냥한다. 이는 세 가지 핵심 차원을 따라 평가 공간을 체계적으로 확장한다: (i) $\textbf{Massive Memory}$—에이전트가 관찰에서 대량의 정보를 정확히 유지하고 검색할 것을 요구; (ii) $\textbf{Calculation}$—수집한 정보에 대한 정밀한 수학적 추론을 요구; (iii) $\textbf{Long-Term Memory}$—여러 웹페이지에 걸친 일관된 정보 추적을 필요로 한다. 재현 가능한 네 가지 WebArena 환경 위에 직접 구축된 WebChoreArena는 엄격한 호환성을 보장하고 선행 연구와 공정하고 통제된 비교를 가능하게 한다. 실험 결과, LLM이 발전함에 따라 WebChoreArena에서 상당한 성능 향상이 관찰됨을 보여 준다. 이러한 결과는 WebChoreArena가 최신 LLM의 발전을 더 명확하게 측정하는 데 적합함을 시사한다. 그럼에도 불구하고, 결과는 GPT-5를 사용하더라도 WebArena에 비해 상당한 개선 여지가 남아 있음을 나타내며, WebChoreArena가 제기하는 난이도 증가를 부각한다.

arXiv:2505.15062v5cs.CL

SAKE: 강화학습을 통한 복잡한 대규모 언어 모델(LLM) 추론을 위한 구조화된 에이전트 기반 지식 외삽

SAKE: Structured Agentic Knowledge Extrapolation for Complex LLM Reasoning via Reinforcement Learning

지식 외삽(knowledge extrapolation)은 명시적으로 사용 가능한 기존 지식을 결합하고 확장하여 새로운 정보를 추론하는 과정입니다. 이는 포괄적인 외부 지식을 검색하기 어려운 전문 도메인에서 복잡한 질문을 해결하는 데 필수적입니다. 본 논문에서는 도구 증강 강화학습(RL)을 통해 LLM이 구조화된 지식을 자율적으로 검색하고 외삽하도록 학습시키는 에이전트 기반 프레임워크인 SAKE(Structured Agentic Knowledge Extrapolation)를 제안합니다. SAKE는 엔티티 그룹 구축과 그룹 간 트리플 검색이라는 두 가지 외부 지식 그래프(KG) 도구를 정의합니다. 모델은 3턴 롤아웃(rollout) 동안 이 두 가지 검색 도구를 번갈아 사용하는 방법을 학습합니다: 주요 엔티티 추출, 관련 개념 그룹 필터링, 그리고 유추를 통해 새로운 트리플을 구축함으로써 수행하는 연상 추론입니다. 전체 파이프라인은 출력 형식과 답변 정확도를 결합한 보상을 사용하는 GRPO로 엔드투엔드 최적화되어, 모델에게 무엇을 검색하고 그에 대해 어떻게 추론할지를 가르칩니다. 실험 결과, SAKE로 파인튜닝된 Qwen2.5-7B 모델은 생명의학(75.4% 대 70.1%) 및 상식(81.3% 대 74.7%) 벤치마크 모두에서 최첨단 에이전트 기반 KG 추론을 갖춘 GPT-3.5-Turbo를 능가하는 동시에 토큰 사용량을 90% 이상 절감함을 입증했습니다. 이러한 결과는 불완전한 구조화 지식에 대한 연상 추론이 복잡한 다단계 프롬프팅을 갖춘 대형 모델을 필요로 하지 않으며, 적절한 도구와 학습 신호를 갖춘 강화학습을 통해 소형 오픈 가중치 모델로도 엔드투엔드 학습될 수 있음을 보여줍니다. 코드는 https://github.com/jxfan99/SAKE 에서 제공됩니다.

arXiv:2607.24653v2cs.CL

Kimi K3: 오픈 프론티어 인텔리전스

Kimi K3: Open Frontier Intelligence

Kimi K3를 소개한다. Kimi K3는 2.8T 매개변수 전문가 혼합(MoE) 모델로, 1040억 개의 활성화 매개변수, 네이티브 비전 기능, 100만 토큰 컨텍스트 윈도우를 갖춘다. Kimi K3는 Kimi Delta Attention과 Attention Residuals 위에 구축되었으며, 이는 시퀀스 길이와 모델 깊이에 걸친 정보 흐름을 개선한다. Stable LatentMoE—토큰당 896개의 라우팅된 전문가 중 16개를 효과적으로 활성화—와 정제된 학습 및 데이터 레시피와 함께, 이러한 발전은 Kimi K2 대비 전체 스케일링 효율을 약 2.5배 개선한다. 사후 학습에서는 일반, 에이전트(agentic), 코딩 영역과 다양한 추론 노력 수준에 걸친 강화학습을 강조하며, 이를 통해 조합적 일반화와 견고한 장기 실행을 가능하게 한다. 2.8T 규모에서 Kimi K3는 여러 영역의 인프라 발전을 통해 뒷받침된다: KDA를 위한 알고리즘-시스템 공동 설계, 효율적인 메모리 관리를 갖춘 완벽하게 균형 잡힌 전문가 병렬 학습, 지속적인 롤아웃과 샌드박스 상태를 갖춘 100만 토큰 에이전트 강화학습(RL), 그리고 배포 혁신. 광범위한 평가에서 Kimi K3는 장기 코딩, 에이전트, 지식, 추론, 비전 과제 전반에서 프론티어 수준의 성능을 달성함을 보여준다. 전체 성능은 여전히 Claude Fable 5와 GPT-5.6 Sol 등 가장 강력한 독점 모델에 미치지 못하지만, Kimi K3는 우리 평가 스위트에서 평가한 다른 오픈 및 독점 모델을 일관되게 능가한다. 향후 연구를 촉진하고 프론티어 인텔리전스의 더 넓은 배포와 채택을 가속하기 위해 Kimi K3 모델의 전체 가중치를 공개한다.

arXiv:2607.04029v2cs.CL

CrossHallu: 대규모 언어 모델의 내부 표현에서 환각 신호는 언어와 도메인을 넘어 일반화되는가?

CrossHallu: Do Hallucination Signals Generalize Across Languages and Domains in Large Language Model's Internals?

대규모 언어 모델(LLM)에서의 최근 환각 탐지 기법들은 모델의 내부 표현에서 직접 특징을 추출하고 이 특징으로 분류기를 학습시켜 환각을 탐지하는 방식에 집중하며 유망한 결과를 보여주고 있다. 이러한 발전에도 불구하고, 내부 상태 기반 환각 탐지 기법의 대부분은 영어를 중심으로 탐구되어 왔으며, 이러한 내부 신호가 서로 다른 언어와 도메인에 걸쳐 일반화될 수 있는지에 대한 의문이 제기된다. 이 공백을 해소하기 위해 우리는 CrossHallu를 제시한다. 이는 생성적 질의응답 태스크에서 여섯 개의 LLM의 내부 표현을 활용한 환각 탐지의 교차 언어 및 교차 도메인 일반화를 평가하는 최초의 연구이다. 우리는 TruthfulQA, 아랍어로 번역된 TruthfulQA, 그리고 HalluScore를 사용하여 아랍어와 영어 간 체계적인 양방향 평가를 수행한다. 이 평가는 단일 언어 학습 및 테스트, 교차 언어 전이, 교차 도메인 전이, 그리고 교차 언어와 교차 도메인을 결합한 전이를 포함한다. 결과에 따르면, LLM 내부 상태의 환각 신호는 대부분의 모델에서 언어와 도메인에 걸쳐 전이되며, 교차 언어 성능은 특징 공간에서의 클래스 분리 가능성과 언어 정렬 모두에 크게 의존하는 반면, 아랍어 내 교차 도메인 전이는 환각 탐지기에 사용된 학습 및 테스트 데이터셋에 따라 달라진다. 코드는 https://github.com/aishaalansari57/CrossHal 에서 공개적으로 이용 가능하다.

arXiv:2606.27237v2cs.CL

태스크 특화 지식 베이스로서의 언어 모델: 해석 가능성 분석

LMs as Task-Specific Knowledge Bases: An Interpretability Analysis

행동·기계론적 분석을 통해 언어 모델(LM)이 사실적 지식을 태스크 불변 저장소가 아닌 태스크 특화 방식으로 인코딩함을 보였으며, 한 태스크에서 획득한 사실이 다른 태스크로 공동 출현하지 못하는 경우가 빈번하고 동일 사실마다 태스크별로 구분되는 매개변수 부분집합이 존재한다. 사고의 연쇄(Chain-of-Thought) 추론은 평가 태스크와 다른 태스크 특화 매개변수를 활용하는 경향이 있어, 모델이 아는 것과 질문 방식이 매개변수 공간에서 얽혀 있다는 점에서 지식 베이스(knowledge base) 유추를 약화시키고 사실적 지식의 신뢰성·제어 가능성에 시사점을 준다.

arXiv:2606.13227v2cs.CL

PolyAlign: 조건부 인간 분포 정렬

PolyAlign: Conditional Human-Distribution Alignment

기존 사후학습(post-training)이 단일 전역 동작에 맞춰 인간 응답의 다양성을 억제하는 문제를 해결하기 위해, PolyAlign 프레임워크가 언어 및 대화 맥락에 따른 버킷별 인간 분포를 기반으로 제안되었다. 이는 Bucket-Aware SFT와 HDPO를 결합하여 조건부 자연스러움과 분포 충실도를 향상시키면서도 작업 유용성을 유지한다.

arXiv:2606.21138v2cs.CV

SEED: 설명 가능한 텍스트 위조 탐지를 위한 Simple ViT와 Evolving Harness

SEED: Simple ViT and Evolving Harness for Explainable Text Forgery Detection

AI 보조 이미지 편집은 금융, 법률, 신원 기록에 대한 신뢰를 위협한다. ACM MM 2026 GenText-Forensics Challenge는 다국어 텍스트 중심 위조 이미지에 대해 탐지, 픽셀 수준 위치 특정, 자연어 설명을 통합한 구조화된 포렌식 보고서를 요구함으로써 이 문제를 다룬다. 본 논문은 세 가지 구성 요소로 이루어진 모듈형 시스템 SEED를 제안한다. 첫째, 유사도 유도(similarity-guided) 파이프라인이 다양한 합성 위조로 학습을 증강한다. 둘째, LoRA 적응을 적용한 DINOv3 기반의 단일 ViT가 최소한의 학습 가능 파라미터로 사전학습 prior를 보존하면서 탐지와 픽셀 수준 위치 특정을 공동으로 수행한다. 셋째, evolving harness는 탐지기의 예측을 입력으로 받아 다중모달 LLM(MLLM)을 통해 완전한 포렌식 보고서를 생성하며, 보고서 품질을 최적화하는 제안자-평가자(proposer-evaluator) 루프를 통해 반복적으로 개선된다. SEED는 GenText-Forensics Challenge에서 3위를 기록했다. 코드와 데이터는 https://github.com/KahimWong/GenText-Forensics-3rd-Place 에서 제공된다.

arXiv:2607.06420v1cs.CV

HoloCount: 멀티모달 대규모 언어 모델을 위한 총체적 시각 계수 벤치마크

HoloCount: A Holistic Visual Counting Benchmark for MLLMs

MLLM의 시각적 객체 수 세기(visual counting) 능력을 종합적으로 평가하기 위해, 의미적 계수·분석적 계수·강건성 테스트의 3단계 계층적 분류 체계로 구성된 HoloCount 벤치마크를 제안한다. 20개 이상의 최신 MLLM 평가 결과, 단순 지각 과제에서 논리적 추론 및 적대적 시나리오로 전환될수록 최상위 모델조차 수치 환각(hallucination) 등 성능이 크게 저하되는 한계가 확인되었다.

arXiv:2602.05547v3cs.CL

멀티태스크 GRPO: 다양한 태스크에서 신뢰할 수 있는 LLM 추론

Multi-Task GRPO: Reliable LLM Reasoning Across Tasks

GRPO를 이용한 RL 기반 사후 학습은 개별 추론 태스크에서 대규모 언어 모델(LLM)을 개선하는 데 널리 사용된다. 그러나 실제 배포 환경에서는 다양한 태스크 전반에 걸쳐 신뢰할 수 있는 성능이 요구된다. GRPO의 단순한 멀티태스크 적용은 종종 불균형한 결과를 초래하며, 일부 태스크가 최적화를 지배하고 다른 태스크는 정체된다. 또한 태스크마다 프롬프트가 zero advantage(따라서 zero gradient)를 산출하는 빈도가 크게 달라, 이는 최적화 신호에 대한 각 태스크의 유효 기여도를 더 왜곡한다. 이러한 문제를 해결하기 위해, 우리는 (i) 최악 태스크 성능을 명시적으로 최적화하고 태스크 간 균형 잡힌 진행을 촉진하도록 태스크 가중치를 동적으로 조정하고, (ii) 태스크별 정책 그래디언트가 조정된 가중치를 반영하도록 ratio-preserving sampler를 도입하는 새로운 Multi-Task GRPO(MT-GRPO) 알고리즘을 제안한다. 3-태스크 및 9-태스크 설정 모두에서의 실험은 MT-GRPO가 최악 태스크 정확도에서 베이스라인을 일관되게 능가함을 보여준다. 특히 MT-GRPO는 평균 정확도를 경쟁력 있게 유지하면서, 최악 태스크 성능에서 표준 GRPO 및 DAPO 대비 각각 16-28% 및 6%의 절대 개선을 달성한다. 또한 MT-GRPO는 3-태스크 설정에서 50% 최악 태스크 정확도에 도달하는 데 필요한 학습 단계를 50% 줄여, 태스크 전반에 걸친 신뢰할 수 있는 성능 달성에서 실질적으로 향상된 효율성을 보여준다.

arXiv:2507.10599v3cs.CL

대규모 언어 모델에서 계층적 감정 조직의 창발

Emergence of Hierarchical Emotion Organization in Large Language Models

대규모 언어 모델(LLM)의 출력에서 감정 상태 간의 확률적 의존성을 분석한 결과, 모델들은 인간의 심리적 모델과 일치하는 계층적 감정 트리를 자연스럽게 형성하며 규모가 클수록 더 복잡한 구조를 발전시킨다. 또한 사회경제적 페르소나에 따른 체계적인 감정 인식 편향이 발견되었으며, 이는 인간의 사회적 인식과 유사한 패턴을 보인다.

arXiv:2607.21597v2cs.AI

위험도가 목표가 아니다: 산불 운영 위험 신호 평가를 위한 단조적 프레임워크

Risk Is Not the Target: A Monotonic Framework for Evaluating Wildfire Operational Risk Signals

F1-score나 IoU 같은 표준 머신러닝 지표로 산불 위험 시스템을 평가하는 것은 근본적으로 결함이 있다. 이러한 지표는 연속적인 위험 신호의 운영적 일관성이 아니라 사건 예측 정확도를 평가하기 때문이다. 본 연구는 예측 위험 점수의 증가가 화재 수, 개입 시간, 투입 자원과 같은 관측된 운영 부하의 증가와 일관되게 대응하는지를 측정하는 새로운 단조적(monotonic) 평가 프레임워크를 제안한다. 또한 프랑스 알프마리팀(Alpes-Maritimes) 주에서 구조적으로 서로 다른 세 가지 접근법을 비교한다: 전문가 기반 DFE 지수, GRU 기반 예측 모델, 그리고 예측 AI와 LLM 기반 추론을 결합한 하이브리드 다중 에이전트(multi-agent) 시스템인 FARS. 실험 결과, DFE는 분류(classification) 지표가 낮음에도 불구하고 전체 위험 척도에 걸쳐 가장 균형 잡힌 단조적 동작을 보인다. GRU 모델은 강한 국소 단조성(local monotonicity)을 달성하지만 잘 분포된 위험 수준을 생성하지 못한다. FARS는 이를 보정하기보다 상류(upstream) 신호의 구조적 한계를 계승하고 드러낸다. 핵심 발견은 패러다임 전환이다: 좋은 위험 모델은 화재를 정확히 예측하는 모델이 아니라, 본 논문에서 입증된 바와 같이 서열(ordinal) 척도가 운영 역학을 의미 있게 설명하는 모델이다. 단조적 프레임워크의 코드는 GitHub에서 이용할 수 있다.

arXiv:2411.06024v1q-bio.QM

TourSynbio-Search: A Large Language Model Driven Agent Framework for Unified Search Method for Protein Engineering

The exponential growth in protein-related databases and scientific literature, combined with increasing demands for efficient biological information retrieval, has created an urgent need for unified and accessible search methods in protein engineering research. We present TourSynbio-Search, a novel bioinformatics search agent framework powered by the TourSynbio-7B protein multimodal large language model (LLM), designed to address the growing challenges of information retrieval across rapidly expanding protein databases and corresponding online research literature. The agent's dual-module architecture consists of PaperSearch and ProteinSearch components, enabling comprehensive exploration of both scientific literature and protein data across multiple biological databases. At its core, TourSynbio-Search employs an intelligent agent system that interprets natural language queries, optimizes search parameters, and executes search operations across major platforms including UniProt, PDB, ArXiv, and BioRxiv. The agent's ability to process intuitive natural language queries reduces technical barriers, allowing researchers to efficiently access and analyze complex biological data without requiring extensive bioinformatics expertise. Through detailed case studies in literature retrieval and protein structure visualization, we demonstrate TourSynbio-Search's effectiveness in streamlining biological information retrieval and enhancing research productivity. This framework represents an advancement in bridging the accessibility gap between complex biological databases and researchers, potentially accelerating progress in protein engineering applications. Our codes are available at: https://github.com/tsynbio/Toursynbio-Search

arXiv:2411.04440v1q-bio.QM공식 코드 · Papers with Code

AutoProteinEngine: A Large Language Model Driven Agent Framework for Multimodal AutoML in Protein Engineering

Protein engineering is important for biomedical applications, but conventional approaches are often inefficient and resource-intensive. While deep learning (DL) models have shown promise, their training or implementation into protein engineering remains challenging for biologists without specialized computational expertise. To address this gap, we propose AutoProteinEngine (AutoPE), an agent framework that leverages large language models (LLMs) for multimodal automated machine learning (AutoML) for protein engineering. AutoPE innovatively allows biologists without DL backgrounds to interact with DL models using natural language, lowering the entry barrier for protein engineering tasks. Our AutoPE uniquely integrates LLMs with AutoML to handle model selection for both protein sequence and graph modalities, automatic hyperparameter optimization, and automated data retrieval from protein databases. We evaluated AutoPE through two real-world protein engineering tasks, demonstrating substantial performance improvements compared to traditional zero-shot and manual fine-tuning approaches. By bridging the gap between DL and biologists' domain expertise, AutoPE empowers researchers to leverage DL without extensive programming knowledge. Our code is available at https://github.com/tsynbio/AutoPE.

arXiv:2607.20482v2cs.AI

PersonaTrail: 브라우징 궤적 기반 개인화 웹 에이전트 벤치마킹

PersonaTrail: Benchmarking Personalized Web Agents through Browsing Trails

대규모 언어 모델(LLM)의 최근 발전으로 웹 에이전트가 복잡한 작업을 자율적으로 수행할 수 있게 되었다. 실제로 사용자는 종종 불완전하게 명시된 지시를 제공하며, 이 경우 에이전트는 원시 브라우징 기록에서 누락된 문맥을 추론해야 한다. 기존 벤치마크는 작업을 완전히 명시적인 프롬프트로 제한하거나 웹 상호작용 기록을 단순화된 형태로 추상화하기 때문에, 이러한 형태의 개인화를 포착하지 못한다. 이 격차를 메우기 위해, 관리형 개방 웹 환경에서 동작하는 개인화 웹 에이전트를 위한 벤치마크인 PersonaTrail을 제안한다. 현실적인 브라우징 궤적을 사용자 기록으로 활용함으로써, PersonaTrail은 에이전트가 사용자 선호를 추론하고 과거 브라우징 세션에서 정보를 회상하는 능력을 평가한다. 또한 원시 브라우징 기록을 두 유형의 구조화된 메모리로 분해하는 프레임워크인 Preference-Aware Contextual Memory(PACMem)를 제안한다: 개별 세션을 요약하는 사실적 메모리와 반복되는 행동 패턴을 정제하는 선호 메모리. 추론 시점에 에이전트는 이러한 메모리에서 가장 관련성 높은 항목을 검색하여 개인화된 탐색을 안내한다. 광범위한 실험 결과, PACMem은 두 작업 모두에서 기존 메모리 기반 베이스라인을 일관되게 능가한다.