arXiv:2309.10359

Prompt, Condition, and Generate: Classification of Unsupported Claims with In-Context Learning

Peter Ebert Christensen, Srishti Yadav, Serge Belongie

제출 2023-09-19

원문 초록

Unsupported and unfalsifiable claims we encounter in our daily lives can influence our view of the world. Characterizing, summarizing, and -- more generally -- making sense of such claims, however, can be challenging. In this work, we focus on fine-grained debate topics and formulate a new task of distilling, from such claims, a countable set of narratives. We present a crowdsourced dataset of 12 controversial topics, comprising more than 120k arguments, claims, and comments from heterogeneous sources, each annotated with a narrative label. We further investigate how large language models (LLMs) can be used to synthesise claims using In-Context Learning. We find that generated claims with supported evidence can be used to improve the performance of narrative classification models and, additionally, that the same model can infer the stance and aspect using a few training examples. Such a model can be useful in applications which rely on narratives , e.g. fact-checking.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2606.20937v2cs.LG공통 태그 In-Context Learning

내재화를 통한 학습

Learning through Internalization

우리는 신경망 기반 시스템이 명시적 계산 절차를 자체 가중치에 흡수하는 내재화(internalization) 과정과, 이것이 학습을 어떻게 촉진하는지 연구한다. 구체적으로, 트랜스포머가 사고의 연쇄(CoT) 토큰을 내재화함으로써 반자동자(semiautomata) 시뮬레이션을 내재화하는 방식, 어떤 종류의 반자동자가 내재화하기 더 어려운지를 조사하고, 내재화의 이면—즉 분포 외(out-of-distribution) 성능의 점진적 저하—을 드러낸다. 이어서 성공적인 내재화에 대한 최초의 증명 가능한 분석을 제시한다: 패리티(parity) 학습 과제에서, 단순화된 단층 트랜스포머가 명시적 CoT 지도 하에 목표를 먼저 학습한 뒤, CoT 토큰이 점진적으로 제거됨에 따라 자기회귀적 생성을 내재화하여 패리티를 직접 계산하도록 학습함을 증명 가능하게 보인다. 이 과제는 CoT 지도 없이 데이터만으로는 계산적으로 학습하기 어렵다. 마지막으로, 내재화를 통한 학습이 \citet{Med+26}이 최근 도입한 \textit{긍정적 분포 이동(Positive Distribution Shift)} 현상과 어떻게 관련되는지 논의한다.

arXiv:2610.00224v2cs.AI공통 태그 In-Context Learning

Build2SPARQL: 빌딩 지식 그래프 쿼리를 위한 대규모 Text-to-SPARQL 벤치마크 데이터셋

Build2SPARQL: A Large-Scale Text-to-SPARQL Benchmark Dataset for Building Knowledge Graph Querying

빌딩 자동화 시스템은 Brick 및 ASHRAE 223P와 같은 온톨로지를 사용하는 시맨틱 지식 그래프(KG)로 점점 더 많이 표현되고 있으며, 이는 인공지능 응용을 위한 기계 판독 가능한 기반을 형성합니다. 유망한 응용 분야 중 하나는 자연어 질문을 SPARQL로 변환하는 Text-to-SPARQL로, 빌딩 관리자가 언어 에이전트를 통해 이러한 그래프를 쿼리할 수 있게 해주지만 대규모 자연어/SPARQL 벤치마크의 부족으로 발전이 제한되고 있습니다. 본 논문에서는 지식 그래프 기반(KG-grounded) 파이프라인으로 생성된 빌딩 지식 그래프용 대규모 벤치마크인 Build2SPARQL을 제시합니다. 이 파이프라인은 SPARQL 쿼리를 전적으로 그래프 순회 코드로 생성 및 검증하는 반면, 대규모 언어 모델(LLM)은 자연어 질문만을 생성하도록 하여 쿼리의 정확성을 모델의 동작과 독립적으로 유지합니다. 해당 파이프라인은 선형 체인, 분기, UNION, 집계, OPTIONAL, 속성 필터링의 6가지 쿼리 패턴 패밀리를 추출하며, 각 쿼리를 5가지 어휘 레지스터에 걸쳐 표현합니다. 201개의 빌딩 지식 그래프(Brick 180개, ASHRAE 223P 21개)에 적용하여 6,136개의 실행 가능한 SPARQL 쿼리와 30,680개의 질문을 도출했습니다. 300개 질문에 대한 2인 평가자 인적 검증 결과 98.8%의 시맨틱 충실도, 98.8%의 자연스러움, 84.0%의 운영 타당성을 확인했습니다. 3개의 공개 가중치(open-weight) 언어 모델에 걸친 검색-증강 평가에서는 완전 일치(exact-match) 정확도가 0.2~20%(제로샷)에서 56~65%(3샷 검색)로 향상되었습니다.

arXiv:2607.04926v2cs.LG공통 태그 In-Context Learning

입력 경로는 소형 트랜스포머의 퓨샷 바인딩을 형성하지만 제로샷은 아니다: 완전 열거 가능한 연구

Input Pathways Shape Few-Shot, Not Zero-Shot, Binding in Tiny Transformers: A Fully-Enumerable Study

정보가 트랜스포머에 도달하는 방식, 즉 기호 토큰, 요인별로 깔끔한 "오라클" 코드, 또는 얽힌 지각 벡터 중 어느 방식인지가 트랜스포머가 그 정보를 조합적으로 결합(binding)하는지 여부를 어떻게 좌우하는가? 본 연구는 전수 열거된 유한 요인 세계에서 약 6~10K 파라미터의 트랜스포머를 연구하며, 따라서 모든 측정이 입력 공간 전체를 포괄하고 정보를 담은 경로들은 정보량이 일치한다(정확한 베이즈 상한 1.0). 네 가지 발견이 있다. (1) 종점 불변성: 보류된 결합 질의에서 어떤 정보 경로도 수렴된 제로샷 합성에 도달하지 못하며, 각 경로는 우연 수준 이하에서 끝난다. 따라서 이 실패는 정보 부족이 아니라 룩업만으로 충분한 목적함수 하에서의 귀납 편향을 반영한다. 이는 상태를 모든 토큰에 더하지 않고 고유한 시퀀스 위치에 두어도 마찬가지이다. (2) 가독성이 퓨샷 결합을 좌우한다: 보류된 유형의 작은 일부를 학습에 유출시키면 표본 효율이 코드의 가독성을 따른다. 가독성이 가장 낮은 얽힌 코드가 가장 나쁘며(통합 -0.147, 두 방식 모두), 차원을 맞춘 대조군과 단계적 가독성 스윕으로 가독성을 입력 차원과 분리하였다. (3) 경로가 아니라 주입 위치가 결정한다: v1은 가독성이 있는 경로들 사이에 남은 순서를 경로 파라미터 공유로 해석하였으나, 이는 철회한다. 비교된 경로들은 블록 분해가 가능하여 하나의 함수 클래스에 속하므로 공유는 애초에 조작된 적이 없으며, 이 순서는 브로드캐스트로 더해지는 상태의 초기화 스케일에서 비롯되고 상태에 고유한 위치를 부여하면 사라진다(+0.057 -> -0.006, 셀당 20개 쌍체 시드). (4) 실패의 해부: 기호 경로는 읽어내는 단계에서 답을 잃고, 인덱스 경로는 잘못 결합한다. 즉 답은 여전히 디코딩 가능하지만 입력 개입을 통해 보면 출력이 엉뚱한 슬롯을 따라간다. 핵심적인 긍정적 주장은 가독성이며, 나머지는 경로 비교로 확립할 수 있는 범위를 한정한다. 코드, 매니페스트, 시드별 로그를 공개한다.

arXiv:2607.04096v2cs.AI공통 태그 In-Context Learning

Forethought: 신경기호 프리미티브 프로그래밍을 통한 검증 가능한 추론

Forethought: Verifiable Reasoning from Neurosymbolic Primitive Programming

현대의 에이전트 워크플로는 사용자 요청을 올바르게 해석된 매개변수를 갖는 일련의 도구 호출로 분해하고, 그 결과를 언어 모델의 컨텍스트 창 안에서 추론 흔적을 통해 처리한다. 이러한 추론을 개선하는 지배적인 방법은 긴 사고 사슬을 탐색하도록 모델을 학습시키는 테스트 시점 스케일링이지만, 그 결과로 얻어지는 능력은 모델 가중치에 얽혀 있어 단계별로 검증할 수 없고 추론 비용도 크다. 본 논문은 타입이 지정된 도메인 특화 언어를 통해 조합되는 기호적 및 신경망 기본 요소 라이브러리로 구성된 신경기호 추론 시스템 Forethought를 제시한다. 그 결과물은 추론 프로그램, 즉 모델의 작업을 구체적으로 표현한 것으로, 모든 단계가 설계 시점에 검사되고 실행 시점에 강제되는 출력 계약을 갖는다. 기호적 단계는 구성상 성립하며, 학습된 단계는 계약 검사와 경험적 검증을 거쳐, 보장되는 것과 측정되는 것 사이의 명시적 경계를 제공한다. 도구 호출 실행 커널로 구현하여 네 가지 표준 도구 호출 벤치마크 모음에서 평가한 결과, Forethought는 동일한 기반 모델을 직접 프롬프팅한 경우에 비해 종단 간 정확도를 중앙값 기준 32% 상대적으로 향상시켰으며, 평가한 구성 중 가장 높은 종합 정확도에 도달하였다. 다만 프런티어 모델과의 차이는 단일 실행 잡음 범위 내이다. 소형 오픈 모델과 Forethought의 고정된 소형 모델 계층을 결합한 시스템은 해당 프런티어 모델과 대등한 성능을 보이며, 비추론 응답기를 사용하는 파이프라인은 추론 기반 대응 파이프라인보다 우수하면서도 단 한 번의 미세조정 단계만 요구한다. 계약 및 제어 계층을 제거하면 이러한 이득의 대부분이 사라지며, 이는 분해만이 아니라 검사된 구조가 향상을 이끈다는 것을 보여준다. 본 결과는 더 정확하고 신뢰할 수 있으며 감사 가능한 언어 모델 에이전트를 구축하는 데 풍부한 기호적 오케스트레이터가 가진 잠재력을 보여준다.

arXiv:2606.28733v3cs.AI공통 태그 In-Context Learning

에이전트의 기권: 에이전트는 행동하는 대신 멈춰야 할 때를 아는가?

Agentic Abstention: Do Agents Know When to Stop Instead of Act?

LLM 에이전트는 검색, 브라우징 인터페이스, 도구를 사용하여 여러 턴에 걸쳐 행동하며 사용자의 목표를 완수할 것으로 기대된다. 그러나 모든 목표가 명확하게 정의되어 있거나 주어진 환경에서 달성 가능한 것은 아니다. 이러한 경우 신뢰할 수 있는 에이전트는 추가적인 상호작용이 도움이 될 가능성이 낮다는 점을 인식하고 추가 도구 호출을 중단(기권)해야 한다. 본 논문은 불확실성 하에서 에이전트가 언제 행동을 멈춰야 하는지를 결정하는 문제인 에이전트 기권(Agentic Abstention)을 정의한다. 일반적으로 단일 턴의 응답 또는 기권 결정으로 평가되는 표준 LLM 기권과 달리, 에이전트 기권은 순차적 의사결정 문제이다. 에이전트는 매 턴마다 응답하거나, 기권하거나, 더 많은 정보를 수집할 수 있으며, 기권의 필요성은 환경과 상호작용한 이후에야 비로소 분명해질 수 있다. 우리는 웹 쇼핑, 터미널 환경, 질의응답에 걸쳐 이 문제를 연구하며, 28,000개가 넘는 과업 지시문에 대해 13개의 LLM 에이전트 시스템과 2개의 에이전트 스캐폴드를 평가한다. 결과는 핵심 과제가 에이전트가 기권할 수 있는지 여부만이 아니라 언제 기권하는지에도 있음을 보여준다. 일부 에이전트는 기권해야 할 때 전혀 기권하지 않으며, 다른 에이전트는 불필요한 상호작용을 많이 거친 후에야 기권한다. 이러한 격차는 환경이 달리 드러내기 전까지는 지시문이 실행 가능해 보이는 과업(예: 지시문과 일치하는 유효한 결과가 없는 경우)에서 특히 크다. 또한 모델 규모, 추론, 에이전트 스캐폴딩이 기권에 서로 다른 방식으로 영향을 미치며, 더 크거나 더 유능한 모델이 시의적절한 기권에서는 오히려 성능이 떨어지는 경우도 있음을 발견하였다. 마지막으로, 상호작용 궤적을 재사용 가능한 중단 규칙으로 증류하여 에이전트 기권을 개선하는 컨텍스트 엔지니어링 방법인 CONVOLVE를 제안한다. 보류된 WebShop 과업에서 CONVOLVE는 모델 매개변수를 갱신하지 않고도 시의적절한 기권을 크게 개선하여, Llama-3.3-70B의 시의적절 재현율을 26.7에서 57.4로 높였다. 데이터셋과 코드는 https://agentic-abstention.github.io 에서 확인할 수 있다.

arXiv:2608.13545v3cs.CL공통 태그 In-Context Learning

LittleLearner: 교육학적으로 제어된 지식 노출 환경에서의 언어 모델

LittleLearner: Language Models Under Pedagogically Controlled Knowledge Exposure

현대 언어 모델은 이종의 웹 규모 텍스트 말뭉치로 학습됩니다. 결과적으로 관련 콘텐츠에 대한 사전 노출을 명확히 규정하기 어렵기 때문에, 지식 및 기술 습득을 연구하는 데 한계가 있습니다. 이러한 문제를 해결하기 위해, 본 연구에서는 미국 초등학교 교육 자료에 맞추어 5학년을 초과하는 학년에서 가르치는 개념, 사실 및 어휘를 명시적으로 제외하고 구축한 880억(88B) 토큰 규모의 사전학습 말뭉치인 LittleCurriculum을 소개합니다. LittleCurriculum을 기반으로 50억(5B) 매개변수 대규모 언어 모델(LLM)을 처음부터 학습(scratch)시켜, 개방형 평가를 수행하기에 충분한 언어 능력을 갖추면서도 해석 가능한 교육과정 지침에 부합하는 명확한 지식 및 능력 경계를 지닌 모델인 LittleLearner를 도출했습니다. 잘 정의된 학습 범위 내에서 모델이 데이터를 어떻게 습득하고, 표현하며, 활용하는지 연구할 수 있도록 발달적으로 제한된 샌드박스로 LittleCurriculum과 LittleLearner를 공개합니다. 또한 사후 학습(post-training)과 문맥 내 학습(ICL)을 통해 새로운 지식을 주입하는 첫 번째 일련의 실험을 통해 이 샌드박스의 유용성을 입증합니다. 이러한 방식은 LittleLearner가 기존 지식을 더 잘 활용할 수 있도록 돕지만, 범위를 벗어난 능력을 향상시키지는 못합니다. 본 연구 결과는 향후 연구를 위한 이러한 통제된 환경의 가치를 강조합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.