PyTorchKR Papers

최신 논문

총 5편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2603.25015v2cs.CL

명령형 간섭: 사회적 레지스터가 대규모 언어 모델의 지시 토폴로지를 형성한다

Imperative Interference: Social Register Shapes Instruction Topology in Large Language Models

영어에서는 협력적으로 작동하는 시스템 프롬프트(prompt) 지시가 스페인어에서는 동일한 의미 내용을 가지고도 경쟁적으로 작동하며, 상호작용 토폴로지(topology)가 반대로 나타난다. 우리는 네 가지 언어와 네 가지 모델에 걸친 지시 수준(instruction-level) 제거(ablation) 실험을 제시하며, 이러한 토폴로지 반전이 사회적 레지스터(social register)에 의해 매개됨을 보인다: 명령형 어법(imperative mood)이 언어 공동체마다 서로 다른 강제력을 가지며, 다국어 데이터로 학습(training)된 모델들이 이러한 관습을 학습했다는 것이다. 단일 지시 블록을 평서형(declarative)으로 다시 작성하면 언어 간 분산이 81% 감소한다(p = 0.029, 순열 검정). 11개의 명령형 블록 중 3개를 다시 작성하면 스페인어 지시 토폴로지가 경쟁적에서 협력적으로 전환되며, 다시 작성하지 않은 블록에도 파급 효과(spillover effect)가 나타난다. 이러한 결과는 모델이 지시를 기술적 명세가 아니라 사회적 행위로 처리함을 시사한다: "절대 X를 하지 마라"는 그 강제력이 언어에 따라 달라지는 권위의 행사이지만, "X: 비활성화"는 언어 간에 그대로 전달되는 사실적 기술이다. 레지스터가 추론(inference) 시점의 지시 따르기(instruction-following)를 매개한다면, 학습(training) 중에도 그렇게 작용할 가능성이 있다. 우리는 이를 검증 가능한 예측으로 제시한다: 명령형 어법으로 작성된 헌법적 AI(constitutional AI) 원칙은 언어에 따라 달라지는 정렬(alignment)을 만들어낼 수 있다. 말뭉치(corpus): 56개 블록으로 분해된 실제 운영 시스템 프롬프트에 대해 수작업으로 작성한 22개의 프로브(probe).

arXiv:2601.14295v5cs.AI

인식론적 헌정주의, 또는 일관성 바이어스를 방지하는 방법

Epistemic Constitutionalism Or: how to avoid coherence bias

대규모 언어 모델(LLM)은 논증을 평가하고, 신뢰성을 부여하며, 확신도를 표현하는 인공적 추론자로서의 기능을 점점 더 많이 수행하고 있습니다. 그러나 이들의 응답은 이러한 평가를 관장하는 인식론적 정책을 암묵적인 상태로 남겨두곤 합니다. 본 논문에서는 AI를 위한 인식론적 헌법, 즉 시스템이 믿음을 형성하고 표현하는 방식을 규율하는 명시적이고 이의 제기가 가능한 메타 규범의 필요성을 주장합니다. 출처 귀속(source attribution)이 그 동기 부여 사례를 제공합니다. 예비 감사에서는 출처의 입장에 대한 기대가 논증 평가에 개입한다는 점이 시사되었습니다. 이후 사전 등록된 연구(arXiv:2609.35286)에서는 출처 귀속의 내용 의존적 효과를 확인했으며, 선별된 서면 평가들은 출처-입장 부합성을 이에 대한 설명으로 뒷받침했습니다. 또한 이 감사는 출처에 주목하는 것에 대한 상충되는 정당화 논거들을 드러냈습니다. 그러나 출처 독립성이 중립적인 기본값은 아닙니다. 증언적 맥락에서는 출처의 입장과 이해관계에 반하여 발언하는 데 따르는 비용이 관련 증거를 제공할 수 있습니다. 본 연구는 인식론적 헌법 설계를 위한 두 가지 접근 방식을 구별합니다. 특권적 관점에서 형식적 정확성과 기본적 출처 독립성을 요구하는 플라톤적 접근 방식과, 그러한 특권을 거부하고 인식론적 경계에 기반한 원칙적 출처 주목을 허용하면서 집단적 탐구 조건을 보호하는 자유주의적 접근 방식입니다. 본 논문은 자유주의적 접근 방식을 옹호하고, 8가지 원칙과 4가지 지향점으로 구성된 헌법적 핵심을 개괄하며, AI 인식론적 거버넌스에는 증언 평가, 증거 대응, 판단 수정을 위한 명시적이고 이의 제기가 가능한 규범이 필요하다고 주장합니다.

arXiv:2606.30116v1cs.AI

Open Problems in Constitutional Preference Reconstruction

Pairwise preference data is widely used for training and evaluating language models (e.g., RLHF), but each datapoint records a \emph{choice}, not the rationale behind it. Methods such as Inverse Constitutional AI (ICAI) attempt to improve interpretability by compressing datasets into short ``constitutions'' of natural-language principles. We argue this framing is under-specified: a flat list of principles is not yet an executable decision rule because it leaves principle composition implicit. We use the pairwise setting as a testbed to empirically characterize three open problems in constitutional methods. First, principle quality is hard to measure: coverage and accuracy are useful but incomplete proxies for end-to-end reconstruction. Second, \emph{composition is ambiguous}: holding principles fixed, different executors (LLM judge versus majority vote) agree only $73\%$ of the time. Third, \emph{constitutions differ between LLMs}: cross-model vote agreement is $73\%$, whereas intra-model agreement is $81\%$. Across PRISM, AlpacaEval, and Chatbot Arena, we show that principle refinement (ICAI+) may be a first step towards ameliorating these problems: inter-executor agreement rises to $78\%$, and transparent executors match LLM judge accuracy ($66\%$ vs.\ $67\%$). Our results highlight that constitutions should be evaluated as \emph{constitution--executor systems}, with implications for LLMs-as-a-judge broadly.

arXiv:2606.28294v1cs.LG

Democratic ICAI: 토론을 통해 선호에서 스티어링 원칙 도출

Democratic ICAI: Debating Our Way to Steering Principles from Preferences

선호 기반 정렬(alignment)은 종종 인간 판단의 근거가 되는 추론을 포착하는 데 어려움을 겪는다. 많은 평가는 여러 상호작용하는 기준에 의존하지만, 쌍별(pairwise) 레이블은 선호를 형성하는 고려 사항보다는 최종 선택만을 드러낸다. 역헌법 AI(Inverse Constitutional AI, ICAI)는 선호를 자연어 원칙으로 요약함으로써 의사결정에서 해석 가능성을 높이지만, 단일 패스(single-pass) 설명은 복잡한 결정에 수반되는 많은 미묘한 차이를 놓친다. 우리는 구조화된 페르소나(persona) 토론을 통해 여러 경쟁적 근거를 수집하는 새로운 접근법인 Democratic ICAI를 제안하며, 이는 각 비교에 영향을 미치는 요인에 대한 더 넓고 표현력 있는 설명을 제공한다. 이러한 더 풍부한 신호로부터 더 명확하고 포괄적인 스티어링 원칙을 도출하고, 이를 대규모 언어 모델(LLM) 기반 및 의사결정 트리(decision-tree) 심판을 모두 통해 의사결정 모델링을 안내하는 데 사용한다. MuCE-Pref 및 LiTBench라는 창작 선호 벤치마크에서 여러 창작 작업 범주에 걸친 실험 결과, Democratic ICAI가 더 충실한 선호 구조를 산출함을 보여준다. 토론적(deliberative) 프롬프팅 및 원칙 기반 기준선 대비 작업 전반의 평균 선호 예측을 개선하며, LLM 주석자들이 더 선호하는 헌법(constitution)을 생성한다.

arXiv:2606.18327v1cs.LG

Self-CTRL: 강화학습을 통한 자기 일관성 학습

Self-CTRL: Self-Consistency Training with Reinforcement Learning

Self-CTRL은 강화학습(RL)으로 언어 모델(LM)의 자기 설명과 관련 입력에서의 행동 간 일관성을 최적화하며, 설명을 행동에 맞게 갱신하거나 행동을 설명에 맞게 갱신할 수 있다. 확률적 추론에서는 자가 보고 편향과 행동 측정 잠재 편향 간 상관을 R² 0.24에서 0.64로 높였고, 헌법적 AI(constitutional AI)에서는 제3자 감사 모델의 거부 예측을 36%에서 92%로 향상시키며 HarmBench 실패율을 15.0%에서 0.5%로 낮췄다.