PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.27590v1cs.CL

MWE-ECL: 복원 가능한 장거리 문맥이 국소적 어휘 사전확률을 항상 무시하지는 않는다

MWE-ECL: Recoverable Long-Range Context Does Not Always Override Local Lexical Priors

장문맥(long-context) 평가는 흔히 모델이 원거리 증거를 복원할 수 있는지를 테스트하지만, 복원 가능성이 행동적 영향을 보장하지는 않습니다. 본 연구에서는 원거리 담화 앵커가 명시적으로 복원 가능하더라도 익숙한 다의어 표현(multiword expression)의 국소적으로 선호되는 해석을 변경하는 데 실패할 수 있다는 예측을 검증합니다. 이러한 실패는 모델의 앵커 없는 기본값(no-anchor default)이 앵커와 충돌할 때 집중적으로 나타나는 반면, 사전확률에 부합하는 올바른(prior-correct) 결정은 대체로 유지되어야 합니다. 우리는 짝지어진 앵커 검색, 앵커 없는 사전확률, 해석 프롬프트가 각각 명시적 복원 가능성, 모델 관측 기본값, 앵커 조건부 결정을 측정하는 이중언어 진단 도구인 MWE-ECL(Multiword Expression Effective Context Length)을 제안합니다. 공유된 0-128K 그리드 상의 8개 영어 배포 패널 전반에서, 사전확률 충돌 항목에 대한 검색 통제 정확도는 0.989-1.000, 사전확률 충돌 재정의(override)는 0.806-1.000(올바른 검색을 조건부로 한 경우 0.809-1.000), 사전확률 부합 결정의 보존율은 0.977-1.000으로 유지됩니다. 단일 프롬프트에서 검색과 해석을 질의하는 단일 호출(same-call) 대조군은 DeepSeek V4 Pro에 대해 격차(1.000 검색 대비 0.900-0.920 해석)를 재현하여, 개별 호출이 이러한 격차의 유일한 설명이 아님을 보여주며, 다른 두 모델에서 나타난 더 작거나 없는 격차는 그 일반성의 범위를 한정합니다. DeepSeek V4 Flash의 경우, 개별 프롬프트 적합도 테스트에서 512K 및 1M에서 완벽한 검색 능력을 유지하면서도 낮은 해석 능력을 보인 반면, 오답 유도 단서(foil-consistent cues)는 검색보다 앵커 없는 사전확률을 훨씬 더 크게 변화시켰으며, 모델 간 단서 효과는 이질적이었습니다. 별도로 보고된 10개 계열의 중국어 하위 집합도 유사한 기술적 격차를 보이지만, 일부 모델의 불완전한 검색 능력으로 인해 이를 오로지 통합(integration) 문제만으로 귀인하는 것은 어렵습니다. 따라서 MWE-ECL은 명시적으로 복원 가능한 원거리 문맥이 경쟁적인 국소 의미 결정을 변화시키는지 여부를 평가합니다.

arXiv:2606.07479v1cs.CL

다중어 표현 분류를 위한 지도 학습 대 데모 기반 문맥 내 학습

Supervision versus Demonstration-Based In-Context Learning for Multiword Expression Classification

터키어 관용적 경동사 구조(LVCs)는 완전히 문자적 동사-목적어 조합과 동일한 표면 형식을 공유하면서도 단일의 부분적으로 관용적인 술어로 기능하는 경우가 많아 다중어 표현 처리에 있어 어려운 과제입니다. 우리는 터키어 LVC 탐지를 이진 분류 작업(문자적 의미 vs 관용적 의미)으로 구성하고, LVC 긍정 예제와 함께 일치하는 부정 예제(도메인 외 무작위 문장 및 도메인 내 문자적 통제군(NLVC))를 포함하는 수동으로 생성된 통제 세트(N=147)에서 평가를 수행했습니다. 우리는 지도 학습 터키어 인코더 기준선(BERTurk with a classifier head)과 서로 다른 계열의 3가지 인스트럭션 튜닝된 대규모 언어 모델(LLM)을 제로샷, 원샷, 퓨샷 프롬프팅 조건 하에서 비교하고, 데모가 오류 프로필을 어떻게 변화시키는지 분석했습니다. 제로샷에서는 LLM이 부정 예제에 대해서는 우수한 성능을 보이지만 LVC 재현율(recall)은 매우 낮게 나타났습니다. 원샷 프롬프팅은 LVC 탐지를 급격히 향상시키지만 강력한 모델 특정 편향을 유발할 수 있어, 모델이 LVC를 과대 예측하거나 과소 예측하는 결과로 이어질 수 있습니다. 더 풍부한 퓨샷 프롬프트는 보정(calibration)을 개선하고 GPT-OSS-20B 및 Qwen 2.5-14B에 대해 견고한 전반적인 성능을 산출했습니다. 전반적으로, 결과는 터키어 메타언어적 분류에서 상당한 프롬프트 민감도를 강조합니다. 지도 학습 기준선은 여전히 경쟁력을 유지하는 반면, 프롬프트가 적용된 LLM은 신중하게 구성된 데모를 통해 LVC에서 기준선과 대등하거나 이를 능가할 수 있습니다.