arXiv:2606.21557v1 cs.CL

PeerMathDial: 학생 협력 수학 문제 해결을 위한 중학교 대화 데이터셋

PeerMathDial: A Middle School Dialogue Dataset for Student Collaborative Math Problem Solving

Murong Yue, Desmond Alexander Mcglone, Emily Slutz, Wenhan Lyu, Yixuan Zhang, Jennifer Suh, Ziyu Yao

제출 2026-06-19

한국어 초록

협력적 문제 해결(CPS)은 교육에서 핵심 역량이며, 동료 간 상호작용 과정이 매우 중요하다. 그러나 기존 교육 대화 데이터셋은 대부분 수업 또는 과외(즉, 교사/튜터-학생 상호작용)에 초점을 맞추고 있으며, 소집단 학생-학생 상호작용을 중심으로 한 데이터셋은 제한적이다. 따라서 실제 교육 환경에서 학생들이 어떻게 상호작용하고, 조율하며, 함께 문제를 해결하는지 연구할 수 있는 자원이 제한적이다. 이를 해결하기 위해 우리는 실제 중학교 수학 교실에서 수집한 동료 CPS 대화의 최초 데이터셋인 PeerMathDial을 소개한다. 이는 27명의 학생으로부터 55개의 대화를 포함하며, 총 6,406턴으로 구성된다. CPS 담화 분석 연구를 촉진하기 위해, 우리는 LLM의 지원을 받아 코퍼스 기반 대화 행위 분류체계를 추가로 구축한다. 데이터셋과 대화 행위 분류체계를 활용하여, 우리는 세 가지 사용 사례에서 PeerMathDial의 실용적 적용을 보여준다. 첫째, 대화가 시간에 따라 어떻게 변화하는지 추적하고 교사 개입의 영향을 측정한다. 둘째, 대화 행동을 학생 설문과 정렬하여 학생의 특성(예: 자신감, 리더십)과 실제 행동 간의 연관성을 밝힌다. 셋째, 대화 행위 예측에서 LLM을 평가함으로써 교육 응용에서 학생 시뮬레이션을 위한 LLM의 잠재력을 엿본다. 우리의 데이터셋과 소스 코드는 커뮤니티에 공개될 예정이다.

원문 초록

Collaborative Problem Solving (CPS) is a core skill in education, where the process of peer interaction is highly important. However, existing educational dialogue datasets mostly focus on classroom instruction or tutoring (i.e., teacher/tutor-student interaction), yet datasets centering small-group, student-student interaction are limited. This thus leaves research with limited resources for studying how students interact, coordinate, and solve problems together in real educational settings. To address this, we introduce PeerMathDial, the first dataset of peer CPS dialogues collected from authentic middle school math classrooms. It contains 55 dialogues from 27 students, totaling 6,406 turns. To facilitate research on CPS discourse analysis, we further build a corpus-grounded dialogue act taxonomy assisted by LLMs. Using the dataset and the dialogue act taxonomy, we demonstrate the practical applications of PeerMathDial across three use cases. First, we track how dialogues evolve over time and measure the impact of teacher interventions. Second, we align dialogue actions with student surveys to reveal the connection between students' traits (e.g., confidence, leadership) and their actual behaviors. Third, by evaluating LLMs on dialogue act prediction, we glimpse at the potential of LLMs for student simulation in educational applications. Our dataset and source code will be released to the community.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.21557v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.13672v2cs.CL공통 태그 Math, Large Language Model

토큰이 아닌 턴 주입하기: 자기 수정을 위해 LLM 추론을 리디렉션할 위치 학습

Inject a Turn, Not a Token: Learning Where to Redirect LLM Reasoning for Self-Correction

대규모 언어 모델(LLM)은 자신의 추론 과정에서 발생한 오류를 안정적으로 식별하고 수정하는 데 어려움을 겪는다. 수정이나 피드백을 생성하도록 LLM을 미세조정하는 기존의 학습 기반 접근법과 달리, 우리는 실패한 롤아웃에서 어디에 개입할지를 학습하고 이를 어떻게 리디렉션할지를 결정한다. 개입 위치를 선택하기 위해, 우리는 최종 답안의 정답 여부만을 이용해 고정된 인코더 위에 130K개의 매개변수를 가진 MLP 헤드를 학습시킨다. 리디렉션의 경우, 고정된 생성 예산 하에서 테스트한 인라인 주입(inline injection)은 추론을 안정적으로 리디렉션하지 못하는 반면, 동일한 지시문을 새로운 사용자 턴(user turn)으로 제시하면 모델의 진행 방향이 바뀐다는 것을 발견했다. 그 결과로 만들어진 수정 프레임워크인 UPTURN(User-Prompt TURN injection at a learned position)은 LLM의 미세조정을 전혀 요구하지 않는다: 선택된 접두 문맥(prefix)을 유지하고, 지시문을 새로운 사용자 턴으로 주입한 뒤, 나머지 부분을 재생성한다. 네 가지 추론 모델과 여섯 가지 수학 벤치마크 전반에서, UPTURN은 32회 롤아웃 기준선(baseline) 대비 모든 설정에서 평균 정확도를 향상시킨다. 동일한 수정 예산 하에서 자기 수정(self-correction) 및 리플렉션 토큰(reflection-token) 주입 기준선을 능가하며, 재학습 없이도 다른 추론 모델과 GPQA-Diamond로 전이되고, GRPO 및 자기 수정 기법과도 상호보완적이다.

arXiv:2610.15732v1cs.CL공통 태그 Text Classification, Natural Language Understanding

NepPlural: 네팔 이주 담론의 페르소나 주석을 위한 인간 기반 벤치마크

NepPlural: A Human-Anchored Benchmark for Persona Annotation in Nepali Migration Discourse

다원주의적 정렬(Pluralistic alignment)은 언어 모델이 사회의 다양하고 대립하는 가치들을 하나의 지배적인 관점으로 축소하기보다 충실하게 표현할 것을 요구하지만, 대표적인 다원주의적 정렬 데이터셋들은 여전히 서구권 응답자에게 크게 치우쳐 있습니다. 본 연구에서는 청년층 이주 및 두뇌 유출에 관한 네팔의 공론장에서 나타나는 대립적인 사회문화적 페르소나를 모델링하기 위한 인간 기반 벤치마크인 NepPlural을 소개합니다. 우리는 2,148개의 코드 혼용(데바나가리 문자, 로마자 표기 네팔어, 영어) 유튜브 댓글을 수집하고, 4개 축으로 구성된 페르소나 분류 체계(의도, 주요 동인, 가치 지향, 정서)와 명시적인 '페르소나 없음(No-Persona)' 클래스에 따라 주석을 달았으며, 세 명의 네팔어 원어민 화자가 독립적으로 레이블을 지정한 300개 댓글 규모의 골드 세트(평균 Fleiss' $κ\approx 0.55$)를 구축했습니다. 이 골드 세트를 활용해 자동 주석의 신뢰도를 검증한 결과, 대규모 언어 모델(LLM) 주석의 신뢰도는 프로토콜에 따라 결정된다는 점을 발견했습니다. 채팅 인터페이스를 통해 일괄(batch) 수집된 레이블은 모델 간 일치도가 무작위 수준에 불과했습니다($κ\approx 0.17$). 한 번에 하나의 댓글씩 주석을 달 경우 일치도가 원어민 화자 수준 이상으로 증가했으나($κ\approx 0.72$), 일관성이 곧 타당성을 의미하지는 않았습니다. 강제 선택 방식(forced-choice schema)에서는 원어민 화자가 페르소나가 없다고 판단한 댓글의 39%에 대해서도 모델들이 페르소나가 존재한다고 합의하여, 인간 골드 기준 매크로 F1 점수가 0.50 수준에 머물렀습니다. 기권(abstention)을 허용하자 이 문제가 해결되었습니다. 모델은 0.79에서 0.87의 F1 점수로 '페르소나 없음' 댓글을 복원했으며, 1인 배제(leave-one-annotator-out) 참조 기준에 대해 개별 원어민 화자와 일치하거나 이를 능가했습니다(매크로 F1 0.75~0.86 대 0.75). 일괄 처리된 레이블로 파인튜닝(fine-tuning)한 인코더는 0.34에 불과했습니다. 마지막으로, 인간 평가 기반의 제어 가능성(steerability) 검증 결과 프론티어 모델 3종은 단일 페르소나 축을 59~77%의 충실도로 채택했으나 전체 페르소나를 완벽히 구성한 비율은 33%에 불과했으며, 이 규모에서는 서구 친화적 페르소나와 네팔 집단주의적 페르소나 간의 일치도 격차가 감지되지 않았습니다.

arXiv:2610.13594v1cs.AI공통 태그 Math, Large Language Model

MENTOR: 온-정책 교육적 개입을 통한 실패로부터의 학습

MENTOR: Learning from Failure with On-Policy Pedagogical Intervention

검증 가능한 보상을 활용한 강화학습(RLVR)은 대형 추론 모델의 핵심 동력이지만, 과제 난이도가 갑자기 높아지면서 학습 신호가 사라지는 훈련 실패 현상인 "제로 보상 붕괴(zero-reward collapse)"에 취약하다. 우리는 이러한 실패한 궤적을 폐기하는 기존 방식이 낭비적이라고 주장한다. 이 궤적들은 모델의 인지적 공백에 대한 귀중한 진단 정보를 담고 있으며, 이는 회복을 위해 활용될 수 있는 긍정적인 측면이기 때문이다. 그러나 기존 해결책들은 사전 정의된 힌트 라이브러리와 같은 정적인 "오프-정책(off-policy) 방식"의 개입으로 퇴행하거나 사후적(post-hoc) 보정을 수행하는 경우가 많아, 붕괴에서 벗어나는 데 필요한 적응적이고 미래지향적인 안내를 제공하지 못한다. 이를 해결하기 위해, 우리는 온-정책(on-policy) 교육적 개입으로의 패러다임 전환을 제안하고, 실시간 멘토 역할을 하는 다중 에이전트 프레임워크인 MENTOR를 소개한다. MENTOR는 실패의 근본 원인을 실시간으로 진단하고, 학습 에이전트의 다음 시도를 안내하기 위해 목표가 명확한 교육적 프롬프트를 동적으로 생성한다. 플러그 앤 플레이 모듈로서, MENTOR는 훈련 인프라를 수정하지 않고도 GRPO와 같은 기존 정책 최적화 파이프라인에 매끄럽게 통합된다. 수학 및 코드 생성에 대한 광범위한 실험 결과, MENTOR는 제로 보상 붕괴를 효과적으로 완화하며 최신 베이스라인들을 능가하는 것으로 나타났다. 특히, Llama-3.2-3B-Instruct에서는 기본 모델 대비 평균 최대 78.3%의 상대적 성능 향상이라는 큰 폭의 개선을 달성했다.

arXiv:2609.37807v2cs.CL공통 태그 Text Classification, Large Language Model

CompOrca: 인스트럭션 튜닝 데이터의 말뭉치 규모 순응도 라벨링

CompOrca: Corpus-Scale Compliance Labelling of Instruction-Tuning Data

미세조정(fine-tuning)이 거부 및 불순응(noncompliance) 행동을 어떻게 형성하는지 연구하려면 어떤 학습(training) 예제가 요청을 거부하거나 제대로 이행하지 못하는지 파악해야 합니다. 기존의 어노테이션은 학습 말뭉치보다 훨씬 규모가 작은 평가 세트만을 다룹니다. 본 연구에서는 OpenOrca 말뭉치의 전체 4,233,923개 예제에 대한 순응도(compliance) 라벨인 CompOrca를 제시합니다. 모든 예제는 오픈 가중치(open-weight) 대규모 언어 모델(LLM) 심판(LongCat-2.0, 1.6T 파라미터)의 5회 패스를 통해 순응 또는 불순응으로 분류되었습니다. 이 말뭉치는 원시 투표 수와 함께 만장일치 순응(94.75%), 만장일치 불순응(1.28%), 만장일치가 아닌 행(3.97%)으로 공개됩니다. 단일 패스는 말뭉치의 2.7~3.2%를 불순응으로 표시하는 반면 5회 패스 모두에서 표시된 것은 1.28%에 불과하므로, 가장 모호한 행들을 필터링해 제외할 수 있습니다. 450개의 인간 어노테이션 예제(150개는 중복 어노테이션됨, 인간 간 $κ=0.93$)를 대상으로 평가했을 때, 만장일치 순응 및 불순응 라벨은 각각 97.3%와 86.7%의 정밀도(precision)를 보입니다. 불순응 라벨은 말뭉치 전체 불순응 중 높은 정밀도를 갖는 부분집합입니다. 기존에 발표된 거부 탐지 방법들은 인간이 라벨링한 불순응의 0.4%에서 94.1% 사이의 재현율(recall)을 보입니다. 본 연구에서는 행별 라벨 및 투표 수가 포함된 전체 말뭉치를 https://huggingface.co/datasets/cemiu/CompOrca 에 공개합니다.

arXiv:2610.10758v1cs.CL공통 태그 Text Classification, Natural Language Understanding

명확화 후 집중: 대규모 대화 분석을 위한 진술 정규화

Clarify, Then Focus: Statement Normalization for Conversation Analytics at Scale

기업의 대화 분석에서는 수백만 건의 대화 상호작용을 대상으로 다양한 질문을 던집니다. 각 질문마다 발화자의 의도를 재구성하고 중요한 정보를 식별해야 하므로, 동일한 대화 기록에 대해 비용이 큰 해석 작업이 반복될 수 있습니다. 본 연구에서는 '텍스트를 먼저 명확히 한 후, 독자가 집중하도록 만든다'는 간단한 원칙을 제안합니다. 진술 정규화(statement normalization)는 대화를 출처 참조 및 의미론적 태그가 포함된 화자별 짧은 진술로 변환합니다. 이러한 진술은 의미를 더욱 명확하게 만들며, 태그는 특정 질문에 필요한 근거 선택을 지원합니다. 다운스트림 모델은 의사결정에 도움이 되는 바에 따라 전체 표현을 사용하거나 관련 하위 집합을 선택적으로 활용할 수 있습니다. 고객 서비스 통화 데이터 기반의 제안 억제(offer-suppression) 작업에서, 정규화는 선택 과정 없이도 지도학습 분류기의 성능을 개선했으며 상대적으로 약한 프롬프트 기반 독자 모델은 정규화와 근거 선택 모두에서 이점을 얻었습니다. 소형 모델로도 정규화 규칙을 학습할 수 있으며, 경량 인코더가 태깅과 다운스트림 의사결정을 처리합니다. 여러 질문에 걸쳐 이러한 사전 가공 결과를 공유함으로써 소형 모델만으로 구성된 추론 파이프라인을 구축할 수 있어, 수백만 건의 대화에 대한 분석 비용을 크게 절감할 수 있습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.