희소 MoE 언어 모델에서 같은 토큰 id라도 라우터 상태와 생성 전문가는 과제 맥락, 궤적 이력, 추론 노력 모드를 여전히 구분하며, 이 잔여 라우팅 구조를 활용한 RAD(Routing Agreement Decoding)는 답 문자열 파싱·투표 없이 앵커 구간 MoE 라우팅 밀도로 다중 롤아웃을 선택한다. 10개 희소 MoE 구성과 수학·GPQA·코드 6개 데이터셋에서 Majority 투표와 대등하거나 소폭 우세하고, 정확한 문자열 투표가 어려운 코드 pass@1과 SWE-bench Verified 패치 선택에도 동일한 원리로 적용된다.
환각 위험이 주장마다 다른데도 기존 검증은 동일한 정책을 적용하는 한계를 FACTOR(FACTuality-Oriented Risk-aware Verification)가 주장 수준 불확실성에 따라 검증 강도를 조절하는 추론 시점 프레임워크로 해결한다. 불확실성 추정, 적응형 NLI 검증, 후보 재순위화를 결합해 FactScore 벤치마크에서 사실성을 높이면서 검증 비용을 줄였다.
ORBIT는 SVD로 속성별 스티어링 평면을 결합 부분공간으로 묶고, 그 안에서 단일 노름 보존 회전과 토큰별 적응형 게이팅으로 여러 행동 속성을 학습 없이 동시에 제어하는 추론 시점 활성화 스티어링(activation steering) 방법이다. TraitFactory와 ToneBank에서 Llama-3.2-3B, Qwen-2.5-7B, Llama-3.1-8B에 대한 실험 결과, 기존 학습 없는 베이스라인보다 더 강하고 균형 잡힌 다중 속성 스티어링을 달성하면서 출력 일관성도 더 잘 유지한다.
BioMatrix를 제시한다. 이는 단일 디코더 전용(decoder-only) 아키텍처 내에서 분자와 단백질 모두에 대해 서열, 구조, 자연어를 네이티브로 통합하는 최초의 멀티모달 기반 모델이다. 기존 생물학적 기반 모델들은 네이티브 멀티모달리티와 넓은 개체(entity) 범위를 각각 따로 추구한다. 공유 목표 하에 여러 모달리티를 융합하는 모델들은 단일 개체 유형에 국한되는 반면, 여러 개체 유형을 아우르는 모델들은 명시적 구조 모델링을 생략하거나, 모델이 읽을 수 있는 모달리티를 네이티브로 생성하지 못하는 어댑터 기반(adapter-based) 설계에 의존한다. BioMatrix는 분자 서열(SMILES 및 SELFIES 표기법 모두 지원), 분자 구조, 단백질 서열, 단백질 구조, 자연어를 통합 토큰화 방식을 통해 공유 이산 토큰 공간으로 매핑함으로써 이 격차를 메운다. 이를 통해 외부 인코더, 투영 어댑터, 모달리티별 출력 헤드 없이 단일 다음 토큰 예측(next-token prediction) 목표 하에서 모든 모달리티를 균일하게 입력하고 생성한다. Qwen3 언어 모델(1.7B 및 4B)을 기반으로 BioMatrix는 일반 및 도메인 특화 텍스트, 분자와 단백질의 서열 및 구조 뷰, 생물분자 개체와 과학 텍스트를 교차 배치하고 분자-단백질 및 단백질-단백질 상호작용 데이터를 통해 서로 다른 개체를 연결하는 교차 모달 코퍼스를 아우르는 3044억 토큰에 대해 지속적 사전학습(continual pre-training)을 수행한다. 6개 범주에 걸친 80개 과제를 포괄하는 포괄적 다운스트림 응용 분야에 대해 튜닝한 후, 모달리티 간 및 모달리티 내 단일·다중 개체 이해 및 생성 과제를 포함하는 BioMatrix는 80개 과제 중 77개에서 최첨단(state-of-the-art) 또는 경쟁력 있는 성능을 달성한다. 이는 단일의 네이티브 멀티모달 범용(generalist) 모델이 광범위한 생물학적 과제 전반에 걸쳐 특화 접근법과 효과적으로 동등하거나 이를 능가할 수 있음을 보여준다.
대규모 언어 모델(LLM)은 유창한 아랍어 텍스트를 생성할 수 있지만, 가독성 수준을 안정적으로 제어하는 능력은 여전히 불분명하다. 우리는 CEFR(Common European Framework of Reference for Language) 제어 아랍어 텍스트 생성을 위한 다차원 평가 프레임워크를 제안하며, 지시 따르기(instruction-following) LLM이 적응형 언어 학습을 위한 신뢰할 수 있는 생성기로 기능할 수 있는지 평가한다. 우리 프레임워크는 제어된 프롬프팅, 검증된 Taha-19 모델을 이용한 자동 가독성 예측, 어휘 제약 검증, 및 구문 복잡성 프로파일링을 통합한다. 결과는 구조화된 프롬프팅이 CEFR 정렬(alignment)을 크게 향상시킨다는 것을 보여준다. 특히, 어휘 제약을 동반한 CEFR 안내 프롬프팅은 기준 언어학적 프로파일과의 최고 수준의 부합(코사인 유사도 0.91) 및 예측된 가독성 수준과의 거의 완벽한 일치(0.99)를 달성하는 반면, 제약 없는 프롬프팅은 약한 제어를 보인다. 이러한 발견은 적응형 교육 시스템에 가독성 인식 아랍어 텍스트 생성을 통합하기 위한 실증적 기초를 마련한다.
MindTailor는 구희자의 게시 이력으로 사례 개념화를 만들고, 서로 다른 상담 전략에 기반한 상담사 에이전트들의 협력적 비평으로 정서적 지원 응답을 반복 정제하는 프레임워크이며, 이를 위해 798개 Reddit 게시물과 이전 게시 이력을 쌍으로 묶은 ReddiSupp 데이터셋을 구축했다. LLM-as-a-Judge 평가, 전문가 평가, 구희자 대상 사용자 연구에서 베이스라인을 능가해 공감, 개인화, 이해를 높이고 전반적 선호도에서 가장 높은 성능을 보였다.
대규모 언어 모델(LLM)의 생성 전 환각(hallucination) 탐지를 단일 출력 이진 분류가 아닌 위험 추정 문제로 공식화하고, 확률적 샘플링 답변의 경험적 오류율을 소프트 타깃 지도로 쓰며 어텐션 프로빙으로 프롬프트 표현을 선택 집계한다. 세 개 질의응답 벤치마크와 다섯 모델에서 단답형 과제는 어텐션 프로빙이 선형 프로빙보다 우수하고, 소프트 타깃 지도가 이진 레이블보다 탐지 품질을 일관되게 높인다.
LLM의 최종 층 디코딩이 추론-정렬(alignment) 트레이드오프로 정제된 예측을 일반적·정렬 선호 토큰으로 교란할 수 있음을 보이고, 엔트로피 기반 역방향 탐색으로 신뢰도가 가장 높은 최종 근접 층을 동적으로 선택하는 학습 없는 Confident Decoding을 제안한다. dense·MoE 모델에서 GPQA-Diamond, Omni-MATH, HLE 등 어려운 추론 벤치마크 성능을 메모리 오버헤드 없이 지연 2% 미만으로 일관되게 향상시킨다.
고위험 직장 협상 준비를 위한 이론 기반 AI 코칭 시스템 Trucey에서 명료화·개인화·분할 전달·구조화 스캐폴딩 네 가지 가정을 검증했으나, 사전 등록 실험(N=267)과 인터뷰(N=15)에서 정적 핸드북이 두 AI 조건보다 역량 강화와 사용성에서 더 나은 결과를 보였다. 연구는 대화형 AI가 본질적으로 재귀적인 준비 과업에 선형 실행 모델을 부과한다는 점을 밝히고, 향후 AI 코칭 설계를 위한 지도→경로→시뮬레이션 순서 원칙을 제안한다.
FluPaths 종단 설문에서 예방접종 태도 집단을 클러스터링한 뒤, 클러스터 정보 기반 프롬프팅(cluster-informed prompting)으로 여러 대규모 언어 모델(LLM)의 합성 설문 응답 생성을 여러 유행 파동에 걸쳐 평가했다. 합성 데이터는 인구통계·예방접종 신념·위험 인식·건강 행동의 분포는 대체로 재현했으나 응답자 내 요인 간 공변은 덜 포착했고 분류기로도 합성 여부가 구별되어, 탐색적 데이터 증강과 에이전트 기반 역학 모델 보조에는 쓸 수 있으나 방법론 개선·검증 없이는 실제 설문의 대체재로 삼기 어렵다.
표준 토큰 단위 디퓨전 언어 모델은 높은 노이즈 구간에서 흩어진 국소 단편만 남겨 초기 거친 구조 형성을 어렵게 만든다. 노이즈 수준을 세분성 단서로 쓰는 NDGC(Noise Dependent Granularity Control)는 고노이즈에서 일관된 토큰 그룹으로 의미를 먼저 확정하고 저노이즈에서 토큰 수준으로 정교화해, 별도 플래너 없이 거친-세밀(coarse-to-fine) 디노이징을 구현하며 더 이른 골격 형성과 순서 회복, 더 건전한 출력을 보였다.
정확하고 정보가 풍부한 컬럼 설명(예: 컬럼명 "cust_mem"에 대한 "고객의 멤버십 상태") 생성은 NL2SQL, 테이블 질의응답(table question answering), 엔티티 연결(entity linking) 등 표 형식 데이터에 대한 다양한 하위 자연어 처리(NLP) 작업에 필수적이다. 이 문제는 기업, 도메인 과학, 정부 데이터 포털 등에서 발생한다. 중요성에도 불구하고, 대부분의 실제 데이터셋은 축약된 컬럼명이나 도메인 특화 전문 용어로 인해 문서화가 누락되거나 알기 어려운 경우가 많다. 기존 접근법은 대부분 단일 프롬프트 대규모 언어 모델(LLM)에 의존하며, (i) 약어 처리의 불일치 또는 오류, (ii) 환각(hallucination) 또는 불완전한 설명, (iii) 하위 작업 성능을 저해하는 중복성 또는 모호함의 세 가지 핵심 문제에 어려움을 겪는다. 우리는 LLM을 활용한 자동 컬럼 설명 생성을 위한 작업 인식(task-aware) 프레임워크 TACO를 제안한다. TACO는 3단계 파이프라인을 도입한다: (1) 컬럼명을 표준화하는 약어 확장(abbreviation expansion), (2) 동의어 및 검색 지향 키워드가 풍부한 초기 의미적 설명을 생성하는 설명 생성(description generation), (3) 시뮬레이션된 하위 작업을 활용해 이러한 출력을 정제하는 설명 수정(description revision). 또한, 사람 개입(human-in-the-loop) 확장을 탐구하고 엔티티 연결 및 스키마 보강(schema enrichment)을 위한 새로운 평가 데이터셋을 공개한다. 공개 및 독점 데이터셋에 대한 광범위한 실험 결과, TACO는 기존 방법을 지속적으로 능가하며 하위 작업 성능을 최대 32% 향상시킨다.
데이터 큐레이션은 대규모 언어 모델(LLM)의 사후 학습 파이프라인에서 핵심적인 부분이지만, 기존 도구들은 대개 수집(ingestion), 중복 제거(deduplication), 합성 생성, 품질 필터링을 별도의 단계로 취급한다. 이러한 분절화는 파이프라인 결정을 감사하거나 개별 샘플이 거부된 이유를 이해하기 어렵게 만든다. CuratorKIT은 단일의 구성 가능한 파이프라인으로 이 전체 수명 주기를 포괄하는 오픈소스 Python 라이브러리이다. 이 프레임워크는 여섯 가지 소스 형식 리더와 자동 스키마 감지, 자격 증명·PII·유해 콘텐츠를 위한 생성 전 데이터 위생 층, 여덟 가지 LLM 기반 생성 작업, 출처 추적(provenance) 기반 정확한 환각(hallucination) 검증을 갖춘 세 가지 보완적 품질 게이트, 구조화된 적응형 복구, TRL·Unsloth·AlignTune과 호환되는 다섯 가지 학습 준비 내보내기 형식으로 구성된다. 모든 파이프라인 결정은 샘플별 부가 전용(append-only) 출처 추적 체인에 기록되며, 거부된 샘플은 조용히 폐기되지 않고 구조화된 실패 사유를 함께 남긴다. CuratorKIT은 LiteLLM을 통해 100개 이상의 LLM 제공자를 지원하며, Python API와 YAML 기반 CLI를 모두 제공하고, 대규모로 재현 가능하고 감사 가능한 데이터 파이프라인이 필요한 실무자를 위해 설계되었다.
임상 텍스트에서의 환각(hallucination) 탐지는 점점 설명가능성(explainability) 문제로 프레이밍되고 있다. 시스템은 단순히 신뢰할 수 없는 응답을 표시하는 것에 그치지 않고 문제가 되는 구간(span)을 가리켜야 한다. 지식 그래프(KG) 삼원조(triple) 분해를 중심으로 한 아키텍처는 바로 이러한 감사 가능성(auditability)을 위해 내세워지지만, 그들의 국소화(localization) 능력은 일반적으로 측정되기보다 가정되는 경우가 많다. 우리는 국소화 충실성(localization faithfulness)—탐지기의 최상위 순위 오류 단위가 실제로 오류 구간과 겹치는지 여부—에 대한 벤치마크 및 지표인 MedHal-Loc를 제안한다. 통제된 하위집합은 네 가지 국소화 가능 유형(개체 치환, 관계 오류, 기전 오귀속, 날조)에 걸쳐 단일 span 수준의 오류가 주입된 PubMedQA 유래 300개 진술로 구성되며, 구조적으로 gold span을 생성한다. 보완적인 자연 하위집합은 실제 환각이 span 국소화에 저항하는 확산적인 결론 뒤집기(conclusion-flip)에 지배됨을 보여준다(인간 전문가가 18개 후보 span 중 1개만 수용). 네 가지 세분화된 패러다임을 평가한 결과, 절별 NLI, 문장별 일관성, 그리고 전용 span 탐지기 FAVA는 모두 우연 수준을 훨씬 상회하는 국소화 성능을 보이는 반면, 정교한 KG-삼원조 파이프라인은 우연 수준과 통계적으로 유의미한 차이가 없을 정도(+3.3pp, n.s.)로만 국소화하며, 이는 경쟁력 있는 탐지 F1(0.609)에도 불구하고 ~59%의 개체 추출(entity-extraction) 커버리지에 병목을 받는다. 탐지 역량이 충실한 국소화를 의미하지는 않는다. 아키텍처적 설명가능성은 가정되어서는 안 되며 검증되어야 한다.
대규모 언어 모델(LLM)은 지능형 튜터링 시스템에 활용될 강한 잠재력을 지니지만, 최종 답을 공개하지 않고 학생을 안내하는 것과 같은 효과적인 교육학적 전략을 따르는 데 종종 실패한다. 본 연구는 튜터링 대화에 대한 지도 미세조정과 합성 선호 쌍에 대한 직접 선호 최적화(Direct Preference Optimization)를 결합한, 수학 오류 교정을 위한 2단계 정렬 파이프라인의 적용을 다룬다. 우리는 기존 튜터링 코퍼스와 스캐폴딩(scaffolding) 및 사실성(factuality)과 같은 교육학적 차원을 따라 생성된 합성 데이터를 통합한 데이터셋을 구축하고, 해법 정확성과 정답(gold answers)을 포함하는 다양한 입력 구성을 연구한다. 실험 결과, 이 접근법은 기본 모델 및 기존 튜터링 모델 대비 사실적 정확도와 교육학적 품질 모두를 향상시킨다. 인간 평가는 우리의 최고 모델이 강력한 독점 기준선과 경쟁력 있는 수준이며, 공개성, 투명성, 재현성 측면에서 추가적인 이점을 제공함을 추가로 보여준다. 우리 결과는 선호 기반 교육학적 정렬의 효과를 강조하는 동시에, 튜터링 품질을 신뢰성 있게 평가하는 데 따른 과제도 드러낸다.
본 논문은 아랍어 자연어 처리(NLP) 작업에서 12개의 소형 언어 모델(SLM)의 성능을 평가한다. 연구는 8개 도메인과 10개 언어 능력에 걸쳐 분포된 240개의 아랍어 테스트 항목으로 구성된 벤치마크를 도입하며, 이는 이해 중심 작업과 생성 중심 작업을 모두 포함한다. 모든 모델은 표준화된 아랍어 전용 프롬프트 템플릿을 사용한 통제된 제로샷(zero-shot) 설정에서 평가되었다. 모델 응답은 GPT-4.1 Mini, Claude Haiku 4.5, DeepSeek-Chat을 포함하는 다중 모델 LLM-as-a-judge 프레임워크를 통해 평가되었으며, 점수는 심사자 간에 집계되고 작업, 능력, 모델 계열(model family)별로 분석되었다. 결과에 따르면 Gemma 3 (12B)가 전체 최고 점수(4.548/5)를 달성했으며, 그다음은 Aya와 C4AI Command Arabic이었다. 관측된 결과는 모델 크기만으로는 아랍어 SLM 성능을 설명할 수 없음을 시사한다. 아랍어 정렬(alignment)이 더 강하고 인스트럭션 준수(instruction-following) 행동이 더 안정적인 모델이 작업 전반에 걸쳐 더 나은 성능을 보이는 경향이 있었다. 성능이 낮은 모델에서 공통적인 실패 패턴으로는 프롬프트 유출(prompt leakage), 환각(hallucination), 언어 표류(language drift), 불완전한 생성, 약한 작업 준수가 포함된다. 전반적으로 이 벤치마크는 간결한(compact) 아랍어 언어 모델을 평가하기 위한 구조화된 기준점을 제공하며, 효율적이고 신뢰 가능하며 문화적으로 적절한 아랍어 AI 시스템에 대한 향후 연구를 지원한다.
자연어로 기술된 3D 장면에서 개체의 위치를 특정하는 3D 시각적 그라운딩(3DVG, 3D visual grounding)을 위한 견고한 모델 개발은, 에이전트가 공간적 언어를 물리 세계의 객체와 대응시키도록 하는 데 중요하다. 그러나 대규모의 다양한 설명 부족은 모델이 단순한 언어적 패턴을 넘어 일반화하는 것을 막는다. 최근의 이러한 시도들은 객체를 그라운딩하는 데 사용되는 제약 유형과 언어의 다양성이 부족하다. 캡셔닝(captioning) 방법은 시각적 그라운딩에 중요한 객체 간 정밀한 대조를 수행할 수 없다. 따라서 우리는 장면 그래프(scene graph)에서의 제약 샘플링과 대규모 언어 모델(LLM)의 언어 생성을 결합하여 다양한 시각적 그라운딩 쿼리를 생성하는 확장 가능하고 장면에 무관한(scene-agnostic) 방법인 ViGiL3D++를 제안한다. 이를 통해 기존의 대규모 데이터셋보다 더 큰 다양성을 보이며, 여러 3DVG 벤치마크에서 모델 성능을 향상시키지만, 비전-언어 모델(VLM)의 미해결 한계를 드러내기도 함을 보인다.
학술 논문 제출이 증가함에 따라 전통적인 동료 검토(peer review) 과정은 따라잡기 어려워져 품질과 공정성에 대한 우려가 제기되고 있다. 대규모 언어 모델(LLM)을 보조 수단으로 활용하는 추세가 나타났다. 본 연구에서는 LLM이 생성한 리뷰의 품질을 개선하기 위한 중요한 한 걸음을 내딛는다. 우리는 LLM과 인간 리뷰의 차이(RQ1)를 조사하고 LLM 생성 리뷰 품질을 개선하는 방법(RQ2)을 탐구하는 PeerCheck 프레임워크를 제안한다. 우선 다양한 LLM이 생성한 리뷰와 인간이 작성한 리뷰를 분석한 결과, LLM과 인간은 서로 다른 용어에 집중함을 발견했다. 예를 들어 LLM은 이론을 우선시하는 반면 인간은 방법론과 실험을 강조한다. 또한 사고의 연쇄(Chain-of-Thought, CoT)와 같은 프롬프트 엔지니어링을 적용하고, 검색-증강 생성(RAG)을 활용하여 LLM 생성 리뷰를 인간 수준 품질로 향상시키려 하였다. CoT가 LLM 리뷰의 품질을 유의미하게 개선함을 확인했으나, 예상치 못한 "RAG 역설"을 발견하였다. 즉, RAG 실험은 LLM마다 서로 다른 결과를 내고, 경우에 따라서는 오히려 리뷰 품질을 저하시키기도 한다. LLM 생성 학술 리뷰에 대한 종합 분석은 가능성과 한계를 모두 보여주며, 더 효과적이고 인간과 정렬(alignment)된 리뷰 시스템 구축에 기여한다. 데이터셋은 https://github.com/TrustAIRLab/PeerCheck 에서 이용할 수 있다.
동료 심사(peer review)를 위한 AI 시스템은 세 가지 측면에서 실패한다. 컴퓨터 과학(Computer Science) 및 기계 학습(Machine Learning) 학회 데이터만으로 학습하고, 과학을 검증하는 반복적 대화를 무시하며, 실제 편집 판단이 아닌 문체 모방을 평가한다. 우리는 이 세 가지를 모두 해결하는 데이터셋이자 파인튜닝(fine-tuning)된 모델인 FirstPass를 제안한다. 생물학, 화학, 신경과학, 물리학, 지구과학 등 다섯 과학 분야에 걸친 Nature Communications에서 3,668건의 완전한 다회차 동료 심사 대화를 큐레이션했으며, 2022년 11월에 도입된 의무적 투명 동료 심사를 활용하고 자동 감사를 통해 100% 콘텐츠 무결성을 검증했다. 리뷰 생성, 리뷰어 갱신, 수정 주기 예측의 세 가지 과제에 대해 Low-Rank Adaptation(LoRA)으로 Qwen2.5-7B-Instruct를 파인튜닝했다. 핵심 발견은 response-only 손실(loss) 마스킹이 최적화가 아니라 전제조건이라는 점이다. 이를 사용하지 않으면 정확도는 62.0%로 다수 클래스 기준선(majority baseline) 미만이며, 사용하면 FirstPass는 편집 결과(Standard vs. Extended revision cycles) 예측에서 80.5% 정확도와 F1-macro 78.2%를 달성해 Gemini-3.1-flash-lite-preview 제로샷(zero-shot)보다 10.4%p 높고 모든 기준선을 통계적으로 유의미하게(McNemar p < 0.001) 능가한다. 생성 측면에서 FirstPass는 평균 1,187단어의 리뷰를 생성해 어느 기준선보다 인간 참조(2,155단어)에 훨씬 가깝고, ROUGE-L 0.154를 달성하며 Qwen 및 DeepSeek 제로샷 대비 유의미한 향상(p < 0.001)을 보인다. 제출 전 루프에서 예측적 과학 공동 저자로 배치되면 FirstPass는 전문가 비평을 시뮬레이션하고 제출 전 수정 주기 결과를 예측하여, 저자에게 신뢰할 수 있는 동료가 제공할 판단을 제공하며, 다섯 학문 분야에서 일관된 교차 분야 성능을 보인다.
비침습적 뇌 신호로부터 내면 언어를 디코딩하는 것은 명시적 언어 출력의 부재, 제한된 학습 데이터, 그리고 피험자 간 큰 변동성으로 인해 근본적인 난제로 남아 있다. 기존 뇌-텍스트 접근법은 종종 과제별 디코더 미세조정에 의존하며, 이는 확장성을 제한하고 새로운 참가자에 대한 적응을 복잡하게 만든다. 우리는 fMRI 신호로부터 기본 언어 모델을 수정하지 않고 개방형 텍스트 생성을 가능하게 하는 분리된 2단계 뇌-언어 프레임워크인 MindAlign을 제안한다. 1단계에서는 fMRI 활동을 공유 다중모달 의미 공간으로 매핑하는 피험자별 신경-의미 정렬을 학습하여, 내부적으로 생성된 문장의 잠재 의미 스케치를 추출한다. 2단계에서는 이 스케치를 시각적 맥락과 통합하여 동결된 다중모달 언어 모델에 프롬프트를 제공하고 자유 형식 생성을 수행한다. 무성 이미지 묘사 중 수집된 fMRI 데이터에 대한 실험은 제안된 접근법이 fMRI 전용 및 무작위 기준선을 일관되게 능가함을 보여준다. 우리는 또한 학습된 의미-언어 투영이 피험자 간 일반화될 수 있음을 보여주며, 피험자별 신경 정렬과 결합할 때 효과적인 디코딩을 가능하게 한다. 이 결과는 신경 신호가 이미지 기반 사전분포를 넘어 의미 내용을 변조한다는 것을 나타내며, 뇌-텍스트 디코딩을 위한 확장 가능하고 모듈화된 방향을 뒷받침한다.