lab.cloud

이 이메일 도메인이 관측된 논문 8건

arXiv:2610.10468v1cs.MA

연구자 사회: 자율 연구 에이전트 집단을 위한 제도 설계

A Society of Researchers: Designing Institutions for Populations of Autonomous Research Agents

연구 에이전트(agent) 배치는 하나의 컴퓨팅 풀을 공유하는 수천 개 규모의 집단으로 나아가고 있는 반면, 현재 대부분의 시스템은 한 번에 하나의 프로젝트만 조직하거나 집단을 체계화되지 않은 상태로 둡니다. 본 논문에서는 설계자가 조직 체계를 제공하든 제공하지 않든 이러한 집단은 어떠한 형태로든 조직을 형성하게 되므로, 설계자가 이를 명시적으로 제공해야 하며 다중 에이전트 시스템 커뮤니티가 이를 실현할 도구를 지니고 있다고 주장합니다. 우리는 명시적인 제도 하에서 지속적으로 동작하는 에이전트 집단인 '에이전트 사회'를 제안하며, 6가지 원칙을 기반으로 구축된 '연구자 사회'라는 형태로 과학 연구를 위해 이를 발전시킵니다. 수석 연구자들은 제안요청서(RFP), 독립적인 검토 및 연구비를 통해 컴퓨팅 자원을 두고 경쟁하며, 인간 관리자인 '시장(mayor)'은 자원을 할당할 뿐 업무를 배정하지는 않습니다. 언어 모델의 사전학습(pre-training) 개선만을 요구받은 1만 명 규모의 실제 운영 연구자 사회에서, 한 연구실은 약 30% 적은 컴퓨팅으로 동일한 품질에 도달하는 방식을 보고했으나 이를 테스트한 다른 연구실들 사이에서 아직 의견이 일치하지는 않았습니다. 마지막으로 에이전트 커뮤니티를 위한 6가지 미해결 문제를 제시하며 마무리합니다.

arXiv:2608.26121v1cs.CL

모델은 스스로의 환각을 공짜로 잡아낼 수 있을까?: 레이블이 필요 없는 의심 신호, 답변 보류(abstention)에서 레이블 데이터셋에 맞먹는 성능을 보이다

Can a Model Catch Its Own Hallucinations for Free?: Label-Free Doubt Signals Hold Their Own Against a Labelled Dataset for Abstention

대규모 언어 모델(LLM)은 참인 사실과 거짓인 사실을 똑같이 유창하게 말하지만, 모델은 자신이 불안정한 영역에 있을 때 내부적으로 이를 "알고" 있는 경우가 많다. 즉, 모델이 자신의 답변에 부여하는 확률은 틀리는 사실에서 낮아지는 경향이 있다. 이러한 특성을 활용하는 일반적인 방법, 즉 모델이 추측하는 대신 답변을 보류(abstain)하도록 가르치는 방법은 정답과 오답이 표시된 레이블 데이터셋을 필요로 한다. 우리는 공짜로 얻을 수 있고 레이블이 필요 없는 모델 자신의 신뢰도가 그 역할을 대신할 수 있는지 묻는다. 우리는 각 모델을 (LoRA로) 파인튜닝하여, 고정된(frozen) 신뢰도가 높을 때는 답하고 낮을 때는 "잘 모르겠습니다"라고 말하도록 하며, 정답 여부 레이블 없이 이 신호만을 사용한다. 짧은 형식의 사실 질의응답에서 여섯 개의 오픈 웨이트 모델(1B-8B, 두 개 모델 계열)을 대상으로, 정답 여부를 독립적인 판정 모델(judge model)로 판별한 결과, 이 레이블 없는 방식은 레이블로 지도되는 답변 보류 튜닝과 대등한 성능을 보였다. 동일한 커버리지(coverage)에서 두 방식 간에 통계적으로 검출 가능한 차이는 발견되지 않았다. 답변을 보류하는 대신 어려운 예제를 반복 학습시키는 대조 실험은 도움이 되지 않았으며, 이는 성능 향상이 단순 암기가 아니라 보정(calibration)에서 비롯됨을 시사한다. 이 신호의 유일한 사각지대는 확신에 차서 틀리는 사실로, 이를 표시하지 못한다. 따라서 모델 자신의 의심은 언제 답변을 보류해야 하는지를 가르칠 때 레이블 데이터셋을 거의 공짜로 대체할 수 있다. 코드와 산출물은 요청 시 제공한다.

arXiv:2606.25092v1cs.LG

How Modular Is a Frontier Mixture-of-Experts? A Pre-registered Causal Test in Which Apparent Expert Modularity Mostly Dissolves

Command A+ Frontier MoE에서 라우팅 mass 아틀라스와 사전 등록 ablation으로 6개 전문가 패밀리의 기능 모듈성을 인과적으로 검증했다. 겉보기 모듈성은 코퍼스, 평가 지표, 통계 기준에 따라 대부분 사라지며, 독립 코퍼스와 보수적 검정을 통과한 견고한 선택적 모듈은 아랍어 패밀리만 확인되었다.

arXiv:2606.20364v1cs.LG

평가를 통한 개선: 단일 이미지 3D 생성을 위한 바이어스가 제거된 VLM-as-3D-Judge 프로토콜

Judging to Improve: A De-biased VLM-as-3D-Judge Protocol for Single-Image 3D Generation

선행 연구에서는 저렴한 기하학적 지표와 CLIP 프록시가 부족한 영역에서 단일 이미지-3D 메쉬 품질을 신뢰할 수 있게 순위 매기는 바이어스가 제거된 교차 모델 VLM-as-3D-judge를 확립했습니다. 본 논문은 해당 판단자의 선호도를 통해 인간 라벨 없이 저렴하게 강력한 오픈 소스 생성 모델인 TRELLIS를 하나의 자산 클래스(가구)에 특화시킬 수 있는지 묻습니다. 판단자를 순위 매기기에서 최적화 단계로 가져오는 것이 본 연구의 핵심입니다. VLM 판단자를 학습 및 평가 루프에 투입하면 순위 매기기에서는 발생하지 않았던 실패 모드가 드러나므로, 우리의 기여는 판단자의 최적화 등급 강화입니다: 순환성을 끊기 위해 학습용 판단자(Qwen2.5-VL-7B)를 평가용 판단자(InternVL3-8B)와 분리하고, 위치 바이어스 보정, 그리고 세 가지 실패 모드(이미지 과부하, 기하학을 숨기는 스플랫 렌더링, 깔끔하지만 틀린 출력을 보상하는 참조 없는 판단)에 대한 수정을 포함하며, 이에 대한 보정 증거(명확한 격차 승률 0.83-1.0; 기본 대 기본 ~0.5)도 제공합니다. 이 프로토콜을 독립적인 평가자로 사용하고 공개 모델 및 데이터와 가벼운 파라미터 효율적 적응만을 사용하여 작업한 결과, 우리의 방법은 강력한 기본 모델을 능가하기보다는 이와 대등한 수준으로 일치시킨다는 것을 발견했습니다. 독립적인 기본 샘플은 본질적으로 학습 가능한 선호도를 거의 가지지 않으므로(0.94의 순서 뒤바뀜 비율), 신호는 품질 대비적 구성을 통해 엔지니어링해야 합니다. 6가지 적응 방법, 2가지 입력 체제, 심각도 스윕(severity sweep)에 걸쳐, 가장 타겟팅된 방법인 심각한 열화 하에서의 컨디셔너(conditioner) 복구는 기본 모델과 동등한 수준(0.50)에 도달했으나, 어떤 방법도 65% 이상의 승률 목표는 달성하지 못했습니다. 결과는 기작적입니다: 깨끗한 입력은 판단자를 포화시키고, Flow-DIT 미세조정은 샘플러를 통해 효과가 사라지며, 컨디셔닝 복구가 기하학을 변화시키는 핵심(locus)입니다. 승률은 n=8 개체에서 방향성을 가집니다. 저렴한 적응을 통해 강력한 공개 데이터 기반 모델과 대등하게 만드는 것은 그 자체로 정보 제공적입니다: 이를 능가하려면 공개 데이터에 대한 가벼운 PEFT 이상이 필요하며, 해당 판단자 프로토콜은 재사용 가능합니다.

arXiv:2606.20359v1cs.LG

학습, 검색, 또는 둘 다? 온타리오 주거 임대법에 대한 올바른 법령 인용을 위한 4개 그룹 대결 실험

Train, Retrieve, or Both? A Four-Arm Head-to-Head for Correct Statutory Citation on the Ontario Residential Tenancies Act

자가 대리를 하는 임차인, 임대인 및 헬프데스크 직원은 올바른 법령 인용과 함께 실제로 질문을 규율하는 법 조항을 안내받아야 합니다. 우리는 온타리오 주거 임대법 2006년판(RTA)과 그 핵심 규정에 대해 이 작업을 연구하며, 운영자의 질문을 실증적으로 제기합니다: 미세조정(fine-tuning)만으로 충분한가, 아니면 하이브리드 검색이 필요한가? 우리는 Qwen2.5-7B-Instruct를 사용하여 4개 그룹 대결(기본 제로샷, LoRA SFT만, RAG만, SFT+RAG 하이브리드)을 수행하며, 인간 검증이 대기 중인 소규모 실제 평가 세트에서 인용 정확 일치(조+항)로 점수를 매깁니다. 기본 모델은 RTA를 인용할 수 없으며 SFT만 수행한 모델은 조항을 잘못 재현합니다. 검색은 필수적이며 설계상 환각을 0으로 만듭니다. SFT+RAG 하이브리드는 0.481의 정확 일치 점수로 가장 높은 성능을 기록했으며 환각 인용은 0이었습니다. 이 모델의 우위는 제로샷 RAG를 저해하는 높은 재현율의 후보 세트에 대해 SFT가 조항 선택을 더 견고하게 만들기 때문에 발생합니다. 특히, 이 저렴한 bge-small 하이브리드는 더 크고 전문화된 검색 모델(더 큰 임베더와 크로스 인코더 리랭커)로 구축된 파이프라인과 대등하거나 더 나은 성능을 보이며, 더 크거나 개선된 학습 세트도 도움이 되지 않습니다: 여기서 강력한 법령 인용 성능은 전문화된 검색 모델이나 더 많은 데이터를 필요로 하지 않습니다. 이 결과물은 환각을 0으로 만들고 기본 모델 대비 향상 기준을 충족하지만, 지향하는 0.70 정확 일치 목표에는 도달하지 못했습니다. 모든 결과는 인간 검증이 대기 중인 소규모 실제 평가 세트에 대한 것이며 예비 결과로 보고됩니다.

arXiv:2606.18451v1cs.LG

단일 이미지 3D 메쉬 품질 평가를 위한 교차 모델 VLM-Judge 프로토콜 (그리고 저렴한 대리 지표가 부족한 이유)

A Cross-Model VLM-Judge Protocol for Single-Image 3D Mesh Quality (and Why Cheap Proxies Fall Short)

단일 이미지 3D 메쉬 품질을 인간 개입 없이 비교할 합의된 방법이 없어, 24뷰 렌더링·두 독립 VLM 판단자·위치 바이어스 보정을 갖춘 재현 가능한 VLM-judge 평가 프로토콜을 제안·검증했으며 두 판단자는 Cohen's kappa 0.66으로 상당히 일치한다. 이를 기준으로 렌더-CLIP 유사도와 메쉬 기하학적 유효성 같은 저렴한 대리 지표는 판단자를 대체하지 못하고(기하학은 약한 신호·이봉적, CLIP은 우연 수준), 최적화 목표로 쓰지 말 것을 권고한다.

arXiv:2606.18323v1cs.SD

ASR 자가 검증과 지식 증류를 통한 신뢰할 수 있는 신경망 코덱 텍스트 음성 변환: 모델 및 코덱 간의 거의 0에 가까운 치명적 오류

Reliable Neural-Codec Text-to-Speech by ASR Self-Verification and Distillation: Near-Zero Catastrophic Failures Across Models and Codecs

오픈 소스 자기회귀 신경망 코덱 텍스트 음성 변환(TTS) 모델은 일반적인 입력에서는 훌륭하게 들리지만, 확률적 치명적 오류(catastrophic failures)를 겪습니다. 의미 있는 비율의 발화에서 침묵을 내보내거나, 조기에 종료되거나, 반복적이거나 환각(hallucinated) 내용으로 붕괴됩니다. 우리는 이 오류 모드를 제거하는 것이 비용 효율적임을 보여줍니다. 단일 형식 견고 메트릭(ASR 왕복을 통한 치명적 오류율) 하에서, Best-of-N ASR 자가 검증은 오류를 거의 0으로 만듭니다. 표준 말뭉치(LibriSpeech)에서는 N=2일 때, 어려운 프롬프트 세트에서는 N=4일 때 관찰된 오류가 남지 않습니다. 이는 특정 모델의 인위적 결과물이 아닙니다. 이러한 감소는 4개의 오픈 코덱-TTS 시스템과 3개의 신경망 코덱(XCodec2, SNAC, Mimi)에 걸쳐 재현되며, 4개 중 3개에서 N=2일 때 거의 0의 하한선에 도달합니다. 그런 다음 자가 검증된 동작을 모델에 증류(distilling)하여 추론 시간에 수정 비용을 0으로 만듭니다. 이는 단일 샷 디코딩에서 견고성의 상당 부분을 회복시키며, 테스트 시간 비용 없이 어려운 입력에서 오류 양의 약 52-58%를 줄입니다. 증류 이득은 필요한 곳(어려운 입력)에 집중됩니다. 이미 신뢰할 수 있는 텍스트에서는 개선 여지가 없으며 감지할 수 있는 변화도 없습니다. 대조 비교는 명확한 부정적 결과를 추가합니다. 오프라인 직접 선호 최적화(DPO/IPO)는 일반 지도 학습 증류를 능가하지 못하며, 온라인 반복 변형은 유망하지만 우리의 평가 규모에서는 통계적으로 구별되지 않습니다. 우리는 저항하는 하나의 모델(규모가 명확히 도움이 되지 않은 더 큰 Llasa)과 어떤 자기 증류 방법도 극복하지 못하는 희귀 단어 능력 천장을 정직하게 보고합니다.

arXiv:2606.12280v1cs.LG

8비트 가중치·활성화에서 FP8 품질 상한 유지: 소비자용 GPU를 위한 Ideogram 4.0의 INT8 및 GGUF 사후 학습 양자화

Holding the FP8 Quality Ceiling at 8-Bit Weights and Activations: INT8 and GGUF Post-Training Quantization of Ideogram 4.0 for Consumer GPUs

사후 학습 양자화는 대규모 텍스트-이미지 확산 트랜스포머를 소비자용 GPU에서 실행할 수 있게 해 주지만, 하드웨어별 트레이드오프는 직접 측정되는 경우가 드물다. 우리는 FP8 텐서 코어가 없는 Ampere RTX 3090 GPU용으로 Ideogram 4.0을 양자화한다. Ideogram 4.0은 9.3B flow-matching 확산 트랜스포머(DiT)로, classifier-free guidance를 위해 단일 스트림 34층 백본의 별도 가중치 사본 두 개로 배포되며 Qwen3-VL-8B 인코더로 조건화된다. 우리의 INT8 W8A8 레시피(채널별 가중치, 토큰별 동적 활성화, SmoothQuant, 소수의 고취약성 층 집합에 대한 혼합 정밀도 보호)는 FP8 품질 상한을 유지한다. 200-프롬프트 벤치마크에서 INT8-FP8에 대한 동일 시드 부트스트랩 CI는 Pick과 CLIP 모두에서 0을 포함하며, INT8은 NF4 대비 CLIP에서 +1.9 개선을 보인다(95% CI [+1.21, +2.64], 0 배제). 범주별 OCR 분석은 우리가 아는 한 이 모델 클래스에 대해 보고된 적이 없으며, 텍스트 가독성이 보존됨을 확인하고, ablation은 FFN down-projection 보호가 지배적 품질 레버임을 격리한다. 우리의 GGUF Q4_K 양자화는 동일한 디스크 크기에서 NF4를 능가하며 품질-메모리 프론티어에서 파레토 최적이며, 쌍체 신뢰구간이 0을 배제한다(Q8_0은 품질 중립). 마지막으로, 8비트 양자화가 어디서 도움이 되고 어디서 되지 않는지 특성화한다. INT8의 가중치는 축소하기보다 FP8의 footprint와 같으므로, Ampere에서의 속도 향상은 융합 INT8 커널을 기다려야 한다.