PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.13304v2cs.IR

Query Language Sensitivity in Automated Sentiment Scores of LLM Responses

Automated scores are often used to summarize how large language models describe brands across prompts, providers, and languages. Such scores can vary because the answers differ, because the scoring instrument behaves differently across texts or languages, or for both reasons. We examine this measurement problem in 12,933 responses from a design crossing 20 stored brand labels, eight query languages, three provider aliases, and 15 prompt identifiers. The outcome is the signed winning-class confidence from a multilingual sentiment classifier: neutral winners are coded zero, while positive and negative winners receive signed confidence. A crossed linear mixed model fitted to all responses assigns 26.49% of fitted variance to query language and 1.46% to brand. An exploratory refit after excluding English assigns 5.07% to language and 2.23% to brand. These percentages have different denominators: total fitted variance falls by 65.08%, and absolute brand variance falls by 46.65%. English contains 591 negative classifier scores among 1,620 answers, compared with 77 among 11,313 answers in the other seven languages. The result shows that the original variance decomposition is highly sensitive to English inclusion. It does not identify a causal English effect or establish that English answers are more negative toward the brands. The classifier was trained for tweet sentiment, receives no separate target-brand condition, and English is the only study language represented in its documented sentiment fine-tuning set. Automated score differences should therefore be checked as properties of both the answers and the measurement instrument before they guide substantive conclusions.

arXiv:2610.00651v1cs.AI

에이전트 평가 신뢰성: 더 많은 태스크가 (항상) 에이전트 리더보드를 해결해 주지는 않는다

Agent Evaluation Reliability: More Tasks Won't (Always) Fix An Agent Leaderboard

에이전트(agent) 평가는 대규모 언어 모델(LLM)을 비교하고 배포 결정을 내리는 데 점점 더 많이 사용되고 있지만, 순위는 모델뿐만 아니라 스캐폴드(scaffold)나 태스크와 같은 평가 조건의 영향도 반영할 수 있습니다. 이로 인해 신뢰성은 평가하려는 주장(claim)에 따라 달라집니다. 즉, 배포된 시스템의 순위를 안정적으로 매기는 평가가 그 기반이 되는 모델의 순위까지 안정적으로 매기지는 못할 수 있습니다. 본 연구에서는 현재의 에이전트 평가가 어떤 결론을 안정적으로 뒷받침하는지, 그리고 어떤 추가 평가가 이를 개선할 수 있는지 질문을 던집니다. 이를 위해 희소하고 불균형한 에이전트 리더보드를 위한 베이지안 분산 분해 프레임워크를 개발하고, 이를 Holistic Agent Leaderboard 및 Harbor Index의 22개 벤치마크에 적용합니다. 이 프레임워크는 의도한 주장과 관련된 성능 차이인 '신호'와 순위를 바꿀 수 있는 무관한 변동인 '노이즈'를 분리합니다. 연구 결과는 다음과 같습니다: (1) 신뢰성은 측정 목표에 따라 달라집니다. 고정된 모델-스캐폴드 시스템은 안정적으로 순위가 매겨지지만(0.935–0.994), 기반 모델의 신뢰성은 상당히 낮습니다(0.148–0.841). (2) 스캐폴드 선택이 결론을 바꿀 수 있습니다. 스캐폴드 간 신뢰성은 스캐폴드가 모델 순위를 보존하는지 여부를 측정하며, 스캐폴드 효과가 평가 전반에 걸쳐 크게 달라짐을 보여줍니다. (3) 더 많은 태스크가 모든 불확실성을 해결할 수는 없습니다. 제한된 스캐폴드 커버리지가 불확실성을 지배하는 경우, 유사하게 구성된 태스크를 무한히 많이 추가하더라도 벤치마크의 모델 순위 신뢰성은 기껏해야 0.097만 향상됩니다. (4) 다양한 벤치마크를 풀링(pooling)하면 더 적은 비용으로 교차 태스크 순위를 개선할 수 있습니다. 다양한 에이전트 태스크 전반의 순위 평가에서 벤치마크를 풀링하면 동일한 태스크 예산에서 예상 신뢰성이 0.44에서 0.75로 상승하며, 예상 비용을 최대 83%까지 줄일 수 있습니다. 평가 설계는 의도한 주장을 따라야 합니다. 즉, 점수나 순위가 무엇을 의미해야 하는지 식별하고, 신뢰성을 제한하는 요인을 진단하며, 중요한 불확실성의 원인에 평가 예산을 투입해야 합니다.

arXiv:2607.04627v1cs.LG

페르소나 학습 몬테카를로의 신뢰성과 식별 가능성: 분산 분해, 안정성 경계, 이질적 뉴스 반응의 식별 가능성

Reliability and Identifiability in Persona-Trained Monte Carlo: Variance Decomposition, Stability Bounds, and the Identifiability of Heterogeneous News Reaction

PTMC(Persona-Trained Monte Carlo) 추정량의 신뢰성을 위한 통계 이론을 전개하여, 추정량 분산을 페르소나 추출 성분과 실행 내 성분으로 분해하고, 고정 계산 예산의 최적 배분을 도출한다. 이질적 뉴스 반응에 대한 식별 이론을 통해 집계 충격 곡선이 Jensen 격차로 이질성을 탐지함을 증명하고, 동질 모집단 시뮬레이터 및 축약형 예측기 대비 PTMC의 우월성을 분리 정리로 형식화한다.