arXiv:2606.19700v1 cs.CL

TerraMARS: 화성 테라포밍 문헌을 위한 도메인 적응 소형 언어 모델 파이프라인

TerraMARS: A Domain-Adapted Small-Language-Model Pipeline for Mars Terraforming Literature

Jyotsna Singh, Ash Black, Jeff Larsen, Scott R. Saleska

제출 2026-06-18

한국어 초록

연구자들은 화성이 장차 인간이 거주할 수 있는 환경이 되기를 희망하며 화성에 대해 학습하고자 합니다. 이를 달성하기 위해서는 과학 문헌을 통해 행성의 대기, 수문, 표면 화학, 방사선 환경, 그리고 공간적 특성에 대한 포괄적인 지식이 필요합니다. 이러한 문헌들은 거주 가능성 평가와 미래의 테라포밍 연구와 같은 다른 모델과 연구에서 사용될 수 있는 가치 있는 정보와 의미 있는 정량적 제약 조건들을 포함하고 있습니다. 본 연구에서는 화성 테라포밍 관련 질문에 답변하고 구조화되지 않은 화성 과학 텍스트를 JavaScript Object Notation(JSON) 형식의 기계가 읽을 수 있는 구조화된 출력으로 변환하기 위해 도메인 적응 소형 언어 모델(Small Language Model)을 결합한 엔드 투 엔드 정보 추출 파이프라인인 TerraMARS를 제시합니다. 오픈 액세스 논문의 말뭉치를 수집하고 다단계 검색 및 청킹(chunking) 프레임워크를 사용하여 처리했습니다. Google Gemma 3 1B는 화성 특화 질의응답 및 정보 추출 데이터셋에 대해 양자화된 저순위 적응(QLoRA) 미세조정(fine-tuning)을 사용하여 도메인에 적응되었습니다. 결과적으로 생성된 파이프라인은 두 가지 유형의 출력을 모두 생성하며, 화성을 위한 디지털 트윈(digital twins) 및 거주 가능성 모델링과 같은 다운스트림 애플리케이션에 과학 문헌의 지식을 통합하기 위한 기반을 제공합니다. 이 파이프라인의 출력은 유망해 보이지만, 추출 정확도와 사실적 일관성을 높이기 위해서는 추가적인 개선이 필요합니다.

원문 초록

Researchers are interested in learning about Mars so that it may eventually become habitable for humans. To achieve this, there is a need for comprehensive knowledge of the planet's atmosphere, hydrology, surface chemistry, radiation environment, and spatial features through the scientific literature. These contain valuable information and meaningful quantitative constraints that can be used in other models and studies, such as habitability assessment and future terraforming studies. We present TerraMARS, an end-to-end information extraction pipeline that combines a domain-adapted Small Language Model to answer Mars terraforming-related questions and convert unstructured Mars science text into machine-readable structured outputs in JavaScript Object Notation (JSON) format. A corpus of open-access papers is collected and processed using a multistage retrieval and chunking framework. Google Gemma 3 1B was adapted to the domain using Quantized Low-Rank Adaptation (QLoRA) fine-tuning on Mars-specific question-answering and information extraction datasets. The resulting pipeline generates both types of output and provides a foundation for integrating knowledge from scientific literature into downstream applications like digital twins and habitability modeling for Mars. The output from this pipeline looks promising, but further improvements are needed to increase extraction accuracy and factual consistency.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2606.19700v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.27257v2cs.CL공통 태그 Question Answering, Information Retrieval

UniDataAgent: 기업 질문-보고서 자동화를 위한 온톨로지 그라운딩 에이전트

UniDataAgent: An Ontology-Grounded Agent for Enterprise Question-to-Report Automation

기업 데이터 에이전트(agent)는 단순히 질문을 쿼리로 변환하는 것을 넘어 조직 고유의 의미 체계(semantics)를 보존해야 합니다. 본 논문에서는 의미 체계 획득과 온라인 실행을 분리하여 재사용 가능한 질문-보고서 분석을 수행하는 온톨로지 그라운딩(ontology-grounded) 시스템인 ChinaUnicom DataAgent(UniDataAgent)를 소개합니다. 온톨로지 획득 및 검증(OAV) 단계에서는 전문가가 작성한 비즈니스 스킬, 제약된 생성, 질문 검증, 선별된 전문가 검토를 통해 메타데이터, 비즈니스 지식, 지원 자료로부터 버전 관리되는 기업 온톨로지를 구축합니다. 질문-보고서 실행(QRE) 단계에서는 각 질문에 대한 의미적 계약(semantic contracts)을 검색하고, 스킬과 데이터 툴을 조율하며, 결과를 검증하고 근거가 연결된 보고서를 생성합니다. 27개 기업 테이블과 대략 수천 가지 지표 유형에 걸쳐, 온톨로지 구축에는 수작업으로 약 1주일이 걸리던 작업이 불과 몇 시간밖에 걸리지 않았습니다. 보고서 생성에는 며칠의 근무일 대신 단 몇 분밖에 걸리지 않았습니다. 온톨로지 그라운딩은 실제 비즈니스 질문에 대해 95.0%의 엄격한 정확도(strict accuracy)를 달성하여 문서 기반 검색-증강 생성(RAG)의 72.5%와 대조를 보였으며, 특히 정형 및 조합형(compositional) 태스크에서 두드러졌습니다. 이 시스템은 이미 배포되어 비용 절감 효과를 창출하고 있으며 다른 기업으로 복제될 수 있는 잠재력을 지니고 있습니다.

arXiv:2610.10650v1cs.CL공통 태그 Question Answering, Domain Adaptation

대규모 언어 모델(LLM)을 활용한 교통 관리 계획서 작성 지원: WisDOT WisTMP 시스템 사례 연구

Large Language Model-Assisted Preparation of Transportation Management Plans: A Case Study with WisDOT WisTMP System

공사 구간은 교통 인프라에서 매우 중요하면서도 위험한 요소로, 안전성과 이동성을 보장하기 위해 세심하게 설계된 교통 관리 계획서(TMP)가 필수적입니다. 그러나 TMP 작성은 여전히 많은 노동력이 소요되며 실무자의 전문성에 크게 의존하고 있습니다. 본 논문에서는 WisDOT WisTMP 시스템을 적용 환경으로 삼아 TMP 내용 생성을 자동화하는 대규모 언어 모델(LLM) 기반 프레임워크를 제안합니다. 이 프레임워크는 다양한 모델 규모에 걸쳐 여러 오픈소스 LLM을 미세조정(fine-tuning)하고, 데이터 보안을 보장하기 위해 이를 로컬 환경에 배포합니다. 모델 학습을 지원하기 위해, 과거 WisTMP 문서의 PDF 파일을 JSON 형식의 구조화된 질문-답변 쌍으로 변환하여 도메인 특화 데이터셋을 구축합니다. 실험 결과에 따르면 미세조정은 표준 텍스트 생성 지표 전반에서 성능을 크게 향상시키는 것으로 나타났습니다. 추가적인 섹션별 및 전략 수준 분석 결과, LLM이 전반적으로 우수한 성능을 달성함에도 불구하고 전략을 과도하게 생성하는 경향이 있으며, 프로젝트별 타당성 근거 및 정확한 비용 추정치를 생성하는 데 어려움을 겪는 것으로 드러났습니다. 또한, 모델 규모를 7B/8B에서 14B로 확장해도 성능 향상은 제한적이었습니다. 이러한 결과는 TMP 작성 효율성을 개선할 수 있는 LLM의 잠재력을 보여주는 동시에, LLM 지원 기반 TMP 개발에 남아 있는 과제들을 강조합니다. 소스 코드와 데모 영상은 https://zihaosheng.github.io/TMP-LLM/ 에서 공개될 예정입니다.

arXiv:2610.02695v1cs.LG공통 태그 Question Answering, Domain Adaptation

대규모 언어 모델(LLM) 추론을 위한 테스트 시점 캘리브레이션 학습

Test-time Calibration Learning for Large Language Model Reasoning

신뢰할 수 있는 대규모 언어 모델(LLM)은 정확한 답변을 생성하는 것뿐만 아니라, 정답일 확률을 충실히 반영하는 신뢰도(confidence)를 표현해야 한다. 이러한 캘리브레이션(calibration)은 불확실한 예측을 식별하고 실제 배포 환경에서의 신뢰할 수 있는 의사결정을 지원하는 데 필수적이다. 최근 연구들은 캘리브레이션 학습을 강화학습에 결합하여, 정답 여부에 대한 정답(ground-truth) 정확성 감독(supervision)을 이용해 답변 정확성과 언어로 표현된 신뢰도(verbalized confidence)를 공동으로 최적화한다. 그러나 이러한 접근법은 레이블이 있는 데이터에 의존하기 때문에, 정답 레이블을 사용할 수 없고 캘리브레이션이 새롭게 접하는 목표 과제(target task)에 적응해야 하는 실제 테스트 시점(test-time) 환경에서의 적용 가능성이 제한된다. 이러한 문제를 해결하기 위해, 우리는 레이블이 없는 목표 과제 데이터에서 직접 추론 정확도와 언어로 표현된 신뢰도를 공동으로 적응시키는 레이블-프리(label-free) 프레임워크인 테스트 시점 캘리브레이션 학습(Test-Time Calibration Learning, TTCL)을 제안한다. 구체적으로, TTCL은 다수의 모델 생성 응답으로부터 정답 여부와 캘리브레이션 모두에 대한 자기 감독(self-supervision) 신호를 도출하여, 정답 레이블 없이도 테스트 시점에서의 캘리브레이션 학습을 가능하게 한다. 이론적 분석을 통해 TTCL이 이상적인 캘리브레이션 목적함수에 대한 경계가 있는(bounded) 대체 목표(surrogate)임을 추가로 입증한다. 수학적 추론과 사실 기반 질의응답(factual question answering)에 대한 광범위한 실험을 통해, TTCL이 다양한 모델과 과제에서 정확도와 캘리브레이션을 일관되게 향상시킨다는 것을 보인다. 기본 모델(base model)에서 TTCL은 8개의 벤치마크에서 평균 상대 정확도 개선 +40.13%와 ECE(Expected Calibration Error) 감소 +70.80%를 달성한다. 더불어 TTCL은 이미 캘리브레이션된 모델에 대해서도 도메인 변화(domain shift) 상황에서 정확도와 캘리브레이션을 더욱 개선할 수 있으며, 특히 소스 도메인(source-domain)의 캘리브레이션이 목표 과제로 잘 전이되지 않는 경우에 효과적이다. 수학-사실 기반 질의응답(math-to-factQA) 설정에서 TTCL은 평균 상대 정확도 향상 +20.35%를 달성하고 ECE를 +53.83% 감소시킨다. 소스 코드는 https://github.com/tmlr-group/TTCL 에서 공개되어 있다.

arXiv:2610.03574v1cs.AI공통 태그 Question Answering, Information Retrieval

HyperBrowseComp: 웹 브라우징 에이전트를 위한 다국어 및 멀티모달 스트레스 테스트

HyperBrowseComp: A Multilingual and Multimodal Stress Test for Web-Browsing Agents

본 논문에서는 모국어 화자 또는 높은 숙련도를 갖춘 화자가 작성하고 사람이 검증한 13개 언어에 걸친 423개의 수작업 질문으로 구성된 다국어 및 멀티모달 브라우징 벤치마크인 HyperBrowseComp를 소개합니다. 질문들은 극도로 어렵게 설계되었습니다. 각 질문은 모호한 증거 탐색, 다단계 단서 추적, 또는 비디오, 스캔 문서, 이미지, 지도와 같은 이종 출처 조사를 거쳐야만 발견할 수 있는 간결하고 공개적으로 검증 가능한 정답을 목표로 합니다. 파라메트릭 지식(parametric knowledge)만으로 답변될 가능도를 낮추기 위해, 인터넷 접속이 불가능한 모델로 평가하여 더 쉬운 질문들을 걸러냈습니다. 저자들은 공통 에이전트 프로토콜 하에서 제공자 네이티브 검색 및 공유된 외부 검색 하네스를 사용하여 여러 모델을 평가합니다. 모델의 성능과 노력을 맥락화하기 위해 질문 표본에 대한 인간 평가도 수행합니다. HyperBrowseComp는 개방형 웹에서 증거를 발견하고 연결하는 과정에서 발생하는 난이도를 바탕으로, 언어와 증거 양식 전반에 걸친 지속적인 정보 탐색을 위한 도전적인 테스트베드를 제공합니다.

arXiv:2609.30205v2cs.AI공통 태그 Question Answering, Information Retrieval

전자의무기록(EHR) 정보 검색을 위한 지속 갱신형 벤치마크

A Living Benchmark for Information Retrieval from Electronic Health Records

대규모 언어 모델(LLM) 기반의 임상 어시스턴트가 전자의무기록(EHR) 시스템에 점차 통합되면서, 임상의가 환자 기록에서 정보를 검색하고 종합하는 방식을 변화시키고 있습니다. 이러한 시스템의 안전성과 유용성은 엄격한 평가에 달려 있지만, 기존 벤치마크는 수작업으로 큐레이션되어 업데이트 비용이 많이 들고 기술 발전에 따라 빠르게 구식화됩니다. 본 논문에서는 종단적 EHR 임상 기록으로부터 질의응답 쌍을 자동으로 생성하는 확장 가능한 프레임워크를 제시합니다. 19명의 임상의가 벤치마크 생성기를 검증하여 지속적으로 유지 관리할 수 있는 평가 데이터셋인 BRIE(Benchmark for Retrieving Information in EHRs)를 구축했습니다. 9개의 LLM과 5개의 추론(inference) 전략에 걸친 평가 결과, 최신 시스템들은 특히 여러 문서와 진료 기록 전반에 걸친 종합이 필요한 질문에서 임상적으로 중요한 정보를 빈번하게 누락하는 것으로 나타났습니다. 생성기 자체가 검증되었기 때문에, BRIE는 정적 벤치마크가 지원할 수 없는 평가를 가능하게 합니다. 여기에는 강건한 성능 평가를 위해 임상의의 추론 변동성을 반영하는 다중 답변 생성과, 데이터 유출(leakage)을 방지하기 위한 벤치마크 콘텐츠의 지속적인 갱신이 포함됩니다. 본 연구 결과는 확장 가능한 벤치마크 생성을 통해 빠르게 진화하는 의료 환경에 배포되는 임상 LLM에 대한 엄격하고 최신화된 평가가 가능함을 입증합니다.

arXiv:2610.00025v1cs.AI공통 태그 Information Retrieval, Small Language Model

마이크로태스크 적격성 격차 측정: 상용 SLM은 언제 에이전트 하네스에 충분한가?

Measuring the Microtask Eligibility Gap: When Is an Off-the-Shelf SLM Enough for an Agent Harness?

에이전트(agent) 하네스는 프론티어 대규모 언어 모델(LLM) 플래너 주변의 마이크로태스크(셸 명령어 자동 승인, 메모리 작성, 도구 선택, 이전 턴 순위화)에 소형 언어 모델(SLM)을 실행하고자 하는 경향이 커지고 있습니다. 본 논문에서는 상용 SLM이 실무자가 정의한 임계값을 충족하는지, 실패한다면 그 이유는 무엇인지, 그리고 양자화(quantization)가 그 결과를 바꾸는지 질문합니다. 이를 위해 고정된 프롬프트(prompt)와 자동 평가 지표를 갖춘 4개의 마이크로태스크로 구성된 벤치마크를 구축했습니다. 각 태스크는 저렴한 비-LLM 기준선(baseline)에 고정된 사전 지정 임계값 $τ$와 신뢰구간(CI) 인식 적격성 규칙(신뢰 한계가 $τ$를 넘어야만 구성이 통과됨)을 가집니다. 최상의 조건(FP16, 그리디, 단일 고정 프롬프트, 튜닝 없음)에서 Qwen3 0.6/1.7/4/8B 모델들을 전수 조사한 결과, 적격성 격차(eligibility gap)를 발견했습니다. 16개 구성(4개 태스크 $\times$ 4개 모델) 중 통과한 구성은 0개였습니다(원시 출력과 파서 동작 검증 완료). 로그 확률(logprob) 결정 임계값 진단(T1/T3/T4; T2는 컨텍스트 길이/캐스케이드 프로브를 통해 수행)을 통해 실패 원인을 역량 부족과 디코딩 임계값 변경으로 해결 가능한 실패(4가지 영역)로 분류했습니다. 4비트 양자화(RTN/GPTQ/AWQ)는 모델 크기에 따라 손상을 입히며 어떤 구성도 적격 상태로 전환하지 못했으므로(재구성 가능한 하드 라벨 태스크 T1/T3에서 검증, T2/T4에서 진단/윈도우 강건성 확인), 격차는 정밀도(precision)보다 모델 크기에 더 크게 좌우됩니다. 이 결과는 Llama-3.x에서도 재현되었으며(12/12 부적격), 앵커 선택($τ$ 탐색) 및 프롬프트 문구(원문 및 셀당 3개의 중립적 패러프레이징에 걸쳐 0/112 적격)에 대해서도 강건했습니다. 실질적인 시사점은 다음과 같습니다. CI 기반 임계값을 충족하는 기준선 뒤에 SLM을 배치하고, 기준선이 임계값을 충족하지 못하는 경우에만 SLM을 사용하는 것입니다. 예를 들어 BM25 후보군에 대한 4B 재순위화 모델은 자체적으로 적격성을 입증하지 못하더라도 BM25보다 우수한 성능을 보였습니다($+0.047$ [0.020, 0.073]).

토론

이 논문과 연결된 포럼 글이 아직 없습니다.