Thinking Tokens for Language Modeling
원문 초록
How much is 56 times 37? Language models often make mistakes in these types of difficult calculations. This is usually explained by their inability to perform complex reasoning. Since language models rely on large training sets and great memorization capability, naturally they are not equipped to run complex calculations. However, one can argue that humans also cannot perform this calculation immediately and require a considerable amount of time to construct the solution. In order to enhance the generalization capability of language models, and as a parallel to human behavior, we propose to use special 'thinking tokens' which allow the model to perform much more calculations whenever a complex problem is encountered.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
제1원리로부터의 추출 가능한 암기
Extractable Memorization From First Principles
대규모 언어 모델(LLM)에서 추출 가능한 암기에 대한 최근 연구는 상반되는 두 가지 타당성 문제를 겪고 있다. 일부 연구는 추출을 과장하는데, 예를 들어 암기와 예측 가능성을 구분하기에 너무 짧은 시퀀스에 의존한다. 다른 연구들은 모델이 명시적으로 학습하지 않은 실세계 텍스트도 재생산할 수 있기 때문에, 추출이 암기의 신뢰할 수 있는 증거가 아니라고 암시한다. 서로 다른 방식으로, 둘 다 유효한 추출 주장을 만드는 요건을 간과한다: 모델은 암기를 나타낼 만큼 충분히 높은 확률로 학습 시퀀스를 생성해야 한다. 무엇이 충분히 높은지 판단하려면 대응 비교(matched comparison)를 수행해야 한다. 즉 관심 있는 학습 시퀀스와 비교 가능한 비학습 시퀀스 모두의 생성 확률을 측정하는 것이다. 비학습 시퀀스는 암기될 수 없으므로, 이들의 확률은 예측 가능성에 대한 기준선을 제공한다. 이 기준선을 초과하는 학습 시퀀스는 암기의 증거를 제공한다. 우리는 대응 비교를 두 가지 방식으로 형식화한다: (1) 학습 및 비학습 시퀀스가 모집단에서 샘플링될 때 임계값을 선택한 거짓 양성 비율(FPR)에 맞게 보정하는 컨포멀(conformal) 검정, (2) 대상이 단일 문서(예: 책)일 때 대응하는 비학습 문서에 대해 보정하는 센서스(census). 대응 비교가 엄밀하고 보정된 암기 주장을 가능하게 하며, 이전 설정들이 타당성 문제를 갖는 지점을 밝혀준다는 것을 보인다. 예를 들어 Wikipedia에서 OLMo 2 32B는 비학습 10-토큰 접미사를 학습 접미사의 대략 24% 빈도로 재생산한다. 학습 생성률 대비 그 비율은 암기가 아니라 거짓 양성을 반영한다. 책에 대한 Llama 3.1 70B의 경우, 우리가 보정한 임계값은 1e-27까지 낮아, 실행 가능한 샘플링 예산으로는 추출할 수 없는 시퀀스에 대해서도 암기 주장을 뒷받침한다. 이 결과를 바탕으로, 우리는 "추출 가능한 암기"를 유효한 암기 주장과 현실적인 예산 내에서 거의 확실한 생성을 요구하도록 정제한다.
언어 재생성: 재구성에 대한 정보 국소성 효과 탐구
Language Re-generation: An investigation into information locality effects on reconstruction
정보 국소성(information locality)은 구문적으로 관련된 단어들이 서로 가까이 나타나는 경향으로, 인간의 언어 처리와 언어 모델 학습 모두에 영향을 미친다. 언어 모델이 불가능한 언어(impossible language)를 습득할 수 있는지에 대한 선행 연구가 있었지만, 언어 모델이 그러한 입력으로부터 자연어를 복원할 수 있는지, 그리고 이것이 언어 모델의 귀납적 바이어스에 대해 무엇을 드러내는지는 아직 불분명하다. 우리는 학습 가능성 기반 접근법을 재구성 프레임워크로 보완함으로써 이 문제를 다룬다: 불가능한 언어로 사전학습된 GPT-2 모델을 미세조정하여 세 가지 유형의 교란(perturbation)으로부터 자연스러운 영어를 재구성한다. 우리의 결과에 따르면, 복원된 구조는 원본 텍스트보다 짧은 의존성 길이(dependency length)를 나타내며, 이는 제약 없는 언어 모델 생성에서 관찰되는 국소성 선호를 반영하고 학습 가능성 실험만으로는 드러나지 않는 아키텍처 바이어스의 정량적 특징을 제공한다. 복원 난이도는 국소성 교란의 정도에 따라 증가한다. 구조적 복원(의존성 Triple F1)은 표면적 복원(정확 일치)과 분리되며, 전역 셔플링(global shuffling) 하에서 유창성은 충실한 재구성과 분리된다. 문장 길이는 성능을 추가로 조절하는데, 긴 문장은 지역 구조가 보존될 때 복원을 촉진하지만 전역 셔플링 하에서는 완전한 붕괴를 초래한다. 마지막으로, 복원 난이도는 교란 유형 전반에 걸쳐 학습 가능성 난이도를 추적하며, 이는 정보 국소성이 두 현상 모두를 지배하는 공통 제약임을 시사한다.
종카어 다음 단어 예측 시스템
Dzongkha Next Word Prediction System
종카어(Dzongkha)는 부탄의 국가 언어로서 국내에서 광범위하게 사용되는 언어이다. 공식 문서, 경전, 기타 문학 작품은 문화적 가치를 보존하기 위해 종카어로 작성된다. 그러나 종카어 문서화는 스크립트의 복잡성, 음절당 다수의 키 입력 필요성, 효율적인 입력 도구의 부족으로 인해 어렵고 시간이 많이 소요되는 과정이다. 종카어에 대해 가능한 단어 목록을 예측하고 표시하는 즉각적인 시스템이 이 문제의 해결책이다. 본 프로젝트는 키 입력 횟수를 줄여 종카어 타이핑을 최대한 편리하게 만드는 것을 주요 목표로 한다. 데이터셋은 DCDD에서 수집하였으며 총 100,000개의 문장, 1,331,282개의 단어, 28,344개의 고유 단어로 구성된다. 데이터 전처리는 모든 영숫자 문자 제거, 토큰화, N-gram 시퀀스 생성 및 패딩을 통해 수행되었다. 학습에 선택된 세 가지 모델은 LSTM, Bi-LSTM, GRU이다. 학습 과정에는 모델의 하이퍼파라미터 미세조정이 포함되었다. GRU는 경량이면서 대규모 데이터셋을 처리할 수 있어 74.03%의 정확도로 가장 우수한 성능을 보였으며 과적합 문제도 해결하였다.
대규모 언어 모델에서의 생성과 지각: 토큰 확률 접근법
Production and Perception in LLMs: A Token Probability Approach
언어 생성과 지각 간의 비대칭성은 심리언어학에서 잘 문서화되어 있다. 대규모 언어 모델(LLM)이 기능적으로 유사한 구분을 나타내는지는 여전히 열린 질문으로 남아 있으며, 특히 LLM이 입력 및 출력 처리 모두에 동일한 기저 메커니즘(다음 토큰 예측)을 사용한다는 점에서 더욱 그러하다. 이 탐색적 연구에서 우리는 메타언어적 프롬프팅 대신 직접적인 토큰 확률 측정을 통해 생성-지각 구분을 조작화한다. 기본 Llama-3.1-8B 모델을 사용하여 생성 프롬프트로 시를 생성한 후, 동일한 토큰들을 재구성된 생성 프롬프트와 지각 지향 프롬프트로 재점수화하였다. 네 가지 생성 프롬프트와 세 가지 지각 프롬프트를 사용한 확장 실험에서, 생성-지각 거리는 생성-생성 거리를 일관되고 실질적으로 초과하였으며, 조건 간 범위가 겹치지 않았고 전체 평균 비율은 약 1.8이었다. 생성-생성 통제 조건에서의 거의 천장에 달하는 상관관계는 이 효과가 프롬프트 표면 변이가 아닌 의사소통적 프레이밍에 특이적임을 확인해 주며, 해당 효과가 기본 및 인스트럭션 튜닝 변형 모두를 포함하는 다섯 가지 오픈-가중치 모델(Llama-3.1-8B, EuroLLM-9B, gemma-2-9b-it, Mistral-7B-Instruct-v0.3, Qwen2.5-7B-Instruct)에서 재현됨을 보였다. 시간적 분석에서는 지각 프롬프트가 시퀀스 초반에 가장 강한 영향을 미치며, 생성된 컨텍스트가 축적됨에 따라 발산이 감소하지만 이 감소의 구체적인 형태는 프롬프트 쌍마다 다양한 것으로 나타났다. 이러한 결과들은 디코더 전용 아키텍처 내에서도 프롬프트 프레이밍만으로 LLM 확률 분포에 생성-지각 구분이 유도됨을 시사한다.
Parameter Efficient Fine Tuning Llama 3.1 for Answering Arabic Legal Questions: A Case Study on Jordanian Laws
Induced Model Matching: Restricted Models Help Train Full-Featured Models
토론
이 논문과 연결된 포럼 글이 아직 없습니다.