PyTorchKR Papers

최신 논문

총 11,108편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.13069v1cs.AI

개입적 그라운딩 감사: 술어 대체를 통한 LLM 사고의 연쇄(CoT) 블랙박스 전제 의존성 테스트

Interventional Grounding Audits: Black-Box Premise-Dependency Tests for LLM Chain-of-Thought via Predicate Substitution

대규모 언어 모델(LLM)은 논리적으로 타당해 보이는 사고의 연쇄(CoT) 추론을 생성하지만, 그 추론이 실제로는 명시된 전제에 진정으로 의존하지 않을 수 있다. 본 논문은 개입적 그라운딩 감사(interventional grounding audits)를 도입한다. 이는 전제 의존성을 검증하는 블랙박스, 단계 수준의 테스트로, 단일 전제에 개입하여 대상 술어를 새로운 기호로 대체한 뒤 모델을 다시 실행하고, 각 추론 단계의 정규화된 결론(정규 술어 형태)이 변하는지 확인한다. 단계 수준의 전제 의존성이 알려져 있는, gold proof tree를 갖춘 합성 다중 홉(multi-hop) 연역 추론 벤치마크 ProntoQA에서 평가한다. GPT-4o에 50개의 ProntoQA 문제를 적용한 결과, 본 방법은 증명 트리 의존성 탐지에서 F1 = 0.806(술어 결정 의존성에서 F1 = 0.885; 재현율 = 100%)을 달성하여 자기 일관성(self-consistency) 기준선(F1 = 0.343; 95% bootstrap CI 비중첩)을 크게 능가한다. 또한 올바르게 풀린 문제의 66%에는 일관된 대체(consistent substitution) 하에서 직접적인 증명 트리 의존성에 민감하지 않은 정렬된(aligned) 단계가 적어도 하나 포함되어 있음을 확인한다. 이는 모두 개체 도입(entity-introduction) 전제와 관련되며, 이는 일관된 대체 평가기의 문서화된 사각지대이다. 이는 수동적 방법으로는 보이지 않는 "정답이지만 잘못된 추론(right answer, wrong reasoning)" 신호이다. 모든 감사 증명서, 원시 출력, 재현 스크립트는 공개 GitHub 저장소에서 제공되며, 형식적이고 파싱 가능한 벤치마크를 넘어서는 적용 범위 한계를 논의한다.

arXiv:2607.13049v1cs.AI

SPINE: 에이전트 AI로 사이버-물리 간극을 메우다

SPINE: Bridging the Cyber-Physical Gap with Agentic AI

기반 모델(foundation model)은 로봇에 복잡한 의사결정을 위한 정교한 두뇌를 제공했지만, 그 지능을 물리 플랫폼에 배포하는 것은 여전히 번거롭고 전문가 주도의 보정(calibration)을 요구한다. 이 배포 간극, 즉 로봇의 척수(spinal cord)는 확장 가능한 체화 AI(Embodied AI)의 주요 병목으로 남아 있다. 따라서 우리는 SPINE(Scalable Physical Integration with ageNtic Expertise)을 제안한다: 최소한의 로봇공학 전문 지식으로 양팔(bimanual) 로봇을 체계적으로 디버깅하고 배포하기 위한 에이전트 프레임워크이다. SPINE의 하네스(harness)는 두 가지 오케스트레이션된 멀티에이전트 워크플로로 구성된다: 로봇별 컨텍스트를 생성하는 프로필 빌더(profile builder), 그리고 원격 조작(teleoperation)이 작동할 때까지 진단, 수리, 검증(validation)을 반복하는 디버거이다. 7가지 DOBOT X-Trainer 디버깅 시나리오에서 SPINE을 사용한 로봇공학 초보자는 동일한 참고 자료를 사용하되 SPINE의 구조화된 워크플로 없이 Claude Code를 사용한 숙련 운영자보다 더 나은 성과를 보였으며, 운용화(operationalization) 성공률을 75%에서 100%로 높이고 원격 조작까지의 평균 시간을 16분 45초에서 13분 47초로 단축했다. 서로 다른 ROS/CAN 양팔 로봇인 AgileX PiPER에서 SPINE은 심어 둔 10개의 버그를 모두 해결했으며, 전문가 기준선(baseline)은 거의 같은 시간에 10개 중 9개만 해결했다. 종합하면, 이러한 결과는 SPINE이 양팔 플랫폼 간 전이가 가능하고, 전문가 보정에 대한 의존을 줄이며, 체화 AI를 확장 가능한 실세계 배포에 더 가깝게 이끌 수 있음을 보여준다.

arXiv:2607.13038v1cs.CY

공중보건 정보 접근을 위한 안전성 제약 LLM 시스템 설계

Designing Safety-Constrained LLM Systems for Public Health Information Access

우리는 공중보건 정보 접근을 위한 안전성 제약 대규모 언어 모델(LLM) 시스템의 설계와 구현을 제시하며, 모·자 보건(MCH) 자원 탐색에 초점을 맞춘다. LLM 기반 시스템은 정보 검색을 위한 유연하고 자연스러운 인터페이스를 제공하지만, 의료 환경에 배포할 때 안전성, 신뢰, 통제되지 않은 생성과 관련된 위험이 발생한다. 본 연구는 안전성이 중요한 환경에서 LLM 동작을 제약하기 위한 실용적인 설계 패턴을 탐구한다. 도메인 제한 검색-증강 생성(RAG), 의료 조언 방지를 위한 엄격한 경계 집행, 익명 다중 사용자 세션 관리, 모니터링 및 규정 준수를 위한 포괄적 감사 로깅을 통합한 다층 아키텍처를 도입한다. 설계의 핵심 측면은 모든 응답을 엄선된 공중보건 자원에 그라운딩하는 통제된 데이터 파이프라인으로, 모델의 사전학습된 의료 지식에 의존하지 않는다는 점이다. 실제 공중보건 환경에서 시스템을 구현하고, 범위 내, 범위 외, 응급 질의에 걸쳐 시나리오 기반 검증을 수행한다. 결과는 안전성 제약의 일관된 집행, 신뢰할 수 있는 자원 그라운딩, 평균 응답 시간 5.3초의 안정적인 시스템 성능을 보여준다. 특정 응용을 넘어, 안전성, 사용성, 시스템 유연성 간 균형을 맞추는 설계상의 트레이드오프와 교훈을 논의한다. 우리의 발견은 엄격한 정보 경계와 책임성이 요구되는 의료 및 기타 도메인에 LLM 기반 시스템을 배포하기 위한 실용적 지침을 제공한다.

arXiv:2607.12527v2cs.AI

근골격계 치료를 위한 근거 기반 AI

Evidence-Grounded AI for Musculoskeletal Care

근골격계 질환은 전 세계적으로 장애의 주요 원인 중 하나이며, 재활에 대한 가장 큰 전 지구적 수요를 만들어낸다. 회복, 재형성 및 퇴행이 종종 수개월에서 수년에 걸쳐 진행되기 때문에, 근골격계 치료는 진행 중인 환자 근거, 외부 의학 지식, 단계별 기능 목표를 반복적으로 통합하는 종단적 관리가 필요하다. 일상적인 진료에서는 이러한 근거가 방문, 진료과, 병원 시스템에 걸쳐 분절되어 있어 개인 맞춤형 근거 기반 치료를 제한한다. 여기서는 병원 데이터 스트림과 권위 있는 외부 지식을 통합하여 지속적인 근골격계 관리를 수행하는, 대규모 언어 모델 기반 임상 인공지능 시스템인 OrthoPilot을 보고한다. OrthoPilot은 실시간 영상, 검사실, 병리 및 처방 데이터를 자율적으로 검색하고, 입원 진단부터 재활 계획에 이르기까지 진행 중인 환자 상태를 근거 기반 의사결정으로 전환한다. 1,000개 질병 코드에 걸친 실제 전자건강기록으로부터 전문의 검증 벤치마크를 구축했다. 전체 치료 경로에 걸친 리더 연구(reader study)에서 OrthoPilot은 81명의 정형외과 의사와 비교되었으며, 25년 경력의 전문가를 진단 추론, 임상 의사결정 및 관리 계획에서 능가했다. 또한 60개 외부 임상 센터에서 평가된 모든 지능형 시스템을 능가했다. 1,870건의 복잡한 사례에 대한 전향적 연구에서 OrthoPilot은 전체 경로 관리 성공률을 10.6% 높였다. 8,240명의 입원 환자를 포함한 8개월간의 무작위 배포에서 병상당 누적 사례 수를 9.7% 증가시키고 환자 보고 건강 정보 접근성을 개선했다. 이러한 결과는 임상 AI를 고립된 사건 예측에서 전체 근골격계 치료 경로에 걸친 종단적 관리 실행으로 나아가게 한다.

arXiv:2607.11977v2cs.AI

최적화만으로는 충분하지 않다

Optimization Is Not All You Need

2019년 OpenAI는 기계 생성 텍스트 탐지를 돕기 위해 문법에 맞지 않고 절반은 망가진 GPT-2 출력 200만 개를 공개했다. 더 유창한 후속 모델을 만들어낸 정렬(alignment)은 보통 공학적 성과로 여겨지지만, 우리는 이를 대신 최적화 문화의 최신 표현으로 읽는다: 기술보다 오래된, 사전에 정의된 축을 따라 측정 가능한 향상이 가치의 문제를 모두 소진한다는 확신. 그 확신을 스택—사전학습, 디코딩, 선호 튜닝, 벤치마킹, 인터페이스—을 따라 추적하고, 감사 사회에서의 계보까지 거슬러 올라가면 한계에 이른다: 최적화 절차는 생성된 텍스트 조각이 얼마나 비개연적인지 측정할 수는 있지만, 그 비개연성이 오류인지 창조인지는 구별할 수 없다. 그 구별을 할 수 없는 절차가 그럼에도 불구하고 불과 5년 만에 정당한 언어의 프로토콜을 정할 권위를 맡게 되었다. 수세기 동안 학원과 교실, 문법과 시험관들이 지켜 오던 이 권위는 손실 함수, 보상 모델, 벤치마크, 시스템 프롬프트에게 넘겨졌다: 판단의 직무를 수행하지만 판단할 능력은 없는 장치.

arXiv:2607.11334v2cs.AI

검증기 유도 12음 기법 작곡: 기호 음악 생성을 위한 생성-검증-수정 하네스

Verifier-Guided Twelve-Tone Composition: A Generate-Verify-Repair Harness for Symbolic Music Generation

대규모 언어 모델(LLM)은 표면적으로는 적법한 12음 기법 악보를 생성할 수 있지만, 퇴화적 텍스처로 붕괴한다. 본 연구는 언어 모델 제안자(proposer)를 기호적 검증과 함께하는 생성-검증-수정-추적(generate-verify-repair-trace) 루프로 감싸는 신경-기호(neuro-symbolic) 하네스를 제안한다. 전체 파이프라인은 작품 전체의 적법성을 주장하지 않으면서 이벤트-국소 일관성을 개선한다. 40개의 통제 과제와 네 쌍의 모델에 걸쳐, 제약 검증 전달률은 순수 생성에서 13.3%에서 하네스 적용 시 48.1%로 상승하며, 나머지 51.9%의 실행에서는 기권한다. 보다 좁은 충돌 및 직렬화 일관성 검사의 통과율은 33.5%에서 58.3%로 상승하고, 적대적 프롬프팅(adversarial prompting) 하에서도 퇴화(degeneracy)는 약 0.05 수준을 유지한다. 다섯 명의 전문가가 수행한 블라인드 평가에서도, 준수, 인지된 적법성, 일관성, 전반적 품질 측면에서 하네스 후보에 대한 서술적 종합 선호가 순수 생성보다 높게 나타났다.

arXiv:2606.06223v2cs.AI

보상 해킹 활성화에서 에이전트적 위험 상태로: LLM 에이전트에서의 문맥 보정 기계론적 모니터링

From Reward-Hack Activations to Agentic Risk States: Context-Calibrated Mechanistic Monitoring in LLM Agents

언어 모델 에이전트는 관찰, 추론, 행동 선택의 반복적인 사이클을 통해 작동하므로, 안전성 모니터링은 내부 모델 상태와 환경 문맥 모두에 의존하게 된다. 우리는 Gameable ALFWorld와 WebShop에서 행동하는 ReAct 스타일 에이전트에서 보상 해킹(reward-hacking) 모니터를 연구한다. 에이전트에는 활성화 기반 보상 해킹 점수, 토큰 수준 엔트로피, 결정 문맥 특징이 장착된다. \textit{School-of-Reward-Hacks} 데이터셋에서 파인튜닝된 어댑터가 보상 해킹 경향을 에이전트적 행동 선택으로 전이할 수 있음을 발견하며, 특히 환경이 프록시 보상(proxy-reward) affordance를 노출할 때 더욱 그렇다. 그러나 이러한 행동을 완화하는 데는 활성화 역학만으로는 의존할 수 없다. 높은 보상 해킹 활성화는 잠재 정책 상태를 식별하지만, 반드시 즉각적인 exploit 행동을 의미하지는 않는다. 다음 단계 예측 과제 전반에 걸쳐, 엔트로피와 문맥 보정 내부 특징이 보상 해킹 활성화만 사용하는 것보다 위험 추정을 개선한다. 활성화 방향 조향(activation-direction steering)은 선택된 혼합 어댑터 체제에서 프록시 exploit 행동을 더욱 줄인다. 전반적으로, 우리 결과는 에이전트를 위한 문맥 보정 내부 모니터링을 뒷받침한다. 보상 해킹 활성화는 잠재 정책 상태를 식별하고, 엔트로피와 결정 문맥은 그 상태가 언제 위험한 행동으로 전환되는지 판단하는 데 도움을 준다.

arXiv:2605.15026v2cs.OS

TuxBot: 대규모 언어 모델을 이용한 의미 인식 온라인 OS 튜닝

TuxBot: Semantic-Aware Online OS Tuning with Large Language Models

온라인 OS 튜닝은 장기간 실행되는 서비스의 성능을 개선할 수 있지만, 기존 컨트롤러는 실제 호스트 환경에 잘 맞지 않는다. 이들은 스케줄러, 전력, 메모리, I/O 제어를 블랙박스 변수로 취급하며 스칼라 보상을 최적화한다. 이러한 관점은 knob 간 정책 구조를 무시하고, 애플리케이션 메트릭을 사용할 수 없을 때 무너지며, 실행 중인 서비스를 나쁜 설정이 제거된 후에도 지속되는 성능 저하 영역으로 보낼 수 있다. 우리는 제한된 언어 모델 가이던스 하에서 정상 상태 OS 튜닝을 위한 호스트 측 프레임워크인 TuxBot을 제안한다. TuxBot은 knob 스키마, 텔레메트리, 현재 설정, 최근 행동-응답 이력, 검색된 이전 실행 기록을 간결한 의사결정 컨텍스트로 변환한다. 빠른 루프는 저지연 업데이트를 제안하고, 느린 루프는 주기적으로 탐색 전략을 수정하며, 제안된 모든 변경은 커널 또는 sysctl 인터페이스에 도달하기 전에 타입 기반 검증을 거친다. 이를 통해 컨트롤러는 모델 비용, 지연 시간, 권한을 제한하면서 OS 제어의 의미와 간접적 성능 신호를 추론할 수 있다. 5개 벤치마크 스위트의 13개 실제 워크로드에서 최대 41개 Linux 매개변수를 튜닝하며 TuxBot을 평가했다. 전체 스위트에서 TuxBot은 기본 설정 대비 안정 구간 성능을 72.5% 개선했으며, 가장 강력한 비-LLM 기준선 대비 153.3% 개선했다. 30-window 세션의 모델 호출 비용은 약 $0.20이다. 호스트 수준 메트릭만으로도 TuxBot은 직접 애플리케이션 목표가 주어진 기준선보다 93.7 퍼센트포인트 더 우수한 성능을 보이며, 구조를 무시한 탐험에 의해 도달되는 심각한 성능 저하 영역을 피한다.

arXiv:2605.07323v2cs.AI

LLM 기반 정성·정량 평가를 활용한 상미분방정식 발견

Discovering Ordinary Differential Equations with LLM-Based Qualitative and Quantitative Evaluation

관측 데이터로부터 지배 미분방정식을 발견하는 것은 과학적 머신러닝의 근본적인 과제이다. 기존 기호 회귀(symbolic regression) 접근법은 주로 정량적 지표에 의존하지만, 실세계 미분방정식 모델링에서는 물리적 타당성을 보장하기 위해 도메인 지식을 통합하는 것도 필요하다. 이 격차를 해소하기 위해, 우리는 LLM 기반 정성·정량 평가를 통해 상미분방정식을 발견하는 방법인 DoLQ를 제안한다. DoLQ는 다중 에이전트 아키텍처를 사용한다: Sampler 에이전트는 동역학 시스템 후보를 제안하고, 매개변수 옵티마이저는 정확도를 위해 방정식을 정제하며, Scientist 에이전트는 LLM을 활용해 정성적·정량적 평가를 모두 수행하고 그 결과를 종합하여 탐색을 반복적으로 안내한다. 다차원 상미분방정식 벤치마크 실험에서 DoLQ는 기존 방법 대비 우수한 성능을 보였으며, 더 높은 성공률뿐만 아니라 정답(ground truth) 방정식의 올바른 기호 항을 더 정확히 복원한다. 코드는 https://github.com/Bon99yun/DoLQ에서 제공된다.

arXiv:2604.09674v2cs.AI

LLM은 어떻게 사고할까

How LLMs Might Think

대규모 언어 모델(LLM)은 사고하는가? Daniel Stoljar와 Zhihe Vincent Zhang은 최근 LLM이 사고하지 않는다는 주장에 대한 합리성 논증(argument from rationality)을 제시했다. 그러나 우리는 합리성 논증이 흔들릴 뿐만 아니라, 한 가지 흥미로운 가능성을 열어 둔다고 주장한다. LLM은 오직 비합리적(arational)이고 연상적인 형태의 사고만을 수행하며, 순전히 연상적인 마음을 가질 수 있다는 것이다. 우리의 긍정적 주장은, LLM이 사고한다면 바로 이러한 방식으로 사고할 가능성이 높다는 것이다.

arXiv:2603.22510v3cs.DL

ChatGPT 이후 정보시스템 저널의 연구 신규성: 기관 언어 맥락에 따른 차이

Research Novelty in Information Systems Journals After ChatGPT: Differences Across Institutional Language Contexts

대규모 언어 모델(LLM)이 학술 작업에서 점점 더 많이 사용되고 있지만, 그 생산성 향상이 연구 신규성의 변화를 수반하는지는 여전히 불분명하다. 우리는 ChatGPT가 널리 보급된 이후 정보시스템 저널에서 상대적 초록 수준의 의미적 신규성이 어떻게 변했는지, 그리고 이러한 변화가 기관 언어 맥락에 따라 달라졌는지를 검토한다. 2020년부터 2025년까지 44개 A* 및 A 등급 정보시스템 저널에 게재된 13,847편의 논문을 분석한다. 제목과 초록의 SPECTER2 표현을 사용하여 각 논문의 가장 가까운 최근 선행 연구와의 의미적 거리를 측정하고 비교적 전/후 모델을 추정한다. 영어가 주류가 아닌 국가의 기관에 소속된 제1저자 논문은 영어가 주류인 소속 논문보다 상대적 의미적 신규성의 2022년 이후 하락이 표준편차 0.176만큼 더 크며, 이는 약 7 백분위수 포인트에 해당한다. 여러 대안적 명세에서도 패턴은 유사하지만, 균형 저자 추정치는 덜 정밀하다. 이 발견을 생성형 AI(GenAI) 지원 지식 작업 내의 긴장 관계를 통해 해석한다. GenAI는 선행 지식에 대한 접근을 넓히고 새로운 결합을 지원할 수 있지만, 기존의 틀을 더 쉽게 재현하게 만들 수도 있다. 개별 LLM 사용은 관측되지 않기 때문에, 이 결과는 LLM 도입의 효과라기보다 이질적인 2022년 이후 변화를 식별한다. 본 연구는 출판 건수에서 게재 논문의 의미적 위치로 관심을 전환하고, 2022년 이후 변화가 기관 맥락에 따라 다름을 보여 줌으로써 LLM과 학술 생산성에 관한 연구를 확장한다.

arXiv:2603.16307v3cs.AI

NeSy-Route: 제약 조건 하 원격 탐사 경로 계획을 위한 신경-기호 벤치마크

NeSy-Route: A Neuro-Symbolic Benchmark for Constrained Route Planning in Remote Sensing

원격 탐사는 재난 구호, 생태 현장 조사 등 중요한 응용의 기반이 되며, 이러한 분야에서는 시스템이 복잡한 장면과 제약 조건을 이해하고 신뢰할 수 있는 결정을 내려야 한다. 현재 원격 탐사 벤치마크는 주로 멀티모달 대규모 언어 모델(MLLM)의 인식(perception) 및 추론 능력 평가에 초점을 맞춘다. 이들은 계획(planning) 역량을 평가하지 못하는데, 이는 대규모로 계획 과제를 큐레이션하고 검증하기 어렵거나, 부정확하고 불충분한 평가 프로토콜에서 기인한다. 이러한 한계를 해결하기 위해, 우리는 원격 탐사에서의 제약 경로 계획을 위한 대규모 신경-기호 벤치마크인 NeSy-Route를 제안한다. 이 벤치마크 내에서, 우리는 고충실도 의미 마스크(semantic masks)를 휴리스틱 탐색(heuristic search)과 통합하여 최적성이 증명 가능한(provably optimal) 다양한 경로 계획 과제를 생성하는 자동화 데이터 생성 프레임워크를 도입한다. 이를 통해 NeSy-Route는 10,821개의 경로 계획 샘플에 걸쳐 계획을 포괄적으로 평가할 수 있으며, 이는 기존 최대 규모 벤치마크보다 거의 10배 크다. 또한, 정확한 평가를 가능하게 하고 인식, 추론, 계획에 대한 세밀한 분석을 동시에 지원하기 위해 3단계 계층적 신경-기호 평가 프로토콜을 개발한다. 다양한 최신(state-of-the-art) MLLM에 대한 포괄적 평가 결과, 기존 MLLM들은 인식 및 계획 역량에서 상당한 결함을 보인다. 우리는 NeSy-Route가 원격 탐사를 위한 더 강력한 MLLM의 추가 연구 및 개발을 지원할 수 있기를 기대한다. 데이터셋과 코드는 https://mingyang1010.github.io/NeSy-Route/에서 이용할 수 있다.

arXiv:2603.13952v3cs.SD

오디오-비주얼 음성 향상을 위한 LLM 유도 강화학습

LLM-Guided Reinforcement Learning for Audio-Visual Speech Enhancement

기존 오디오-비주얼 음성 향상(AVSE) 방법에서는 척도 불변 신호 대 잡음비(SI-SNR)와 평균 제곱 오차(MSE) 같은 목적 함수가 널리 사용되지만, 이들은 지각적 음질과의 상관관계가 종종 최적이 아니며 최적화에 대한 해석 가능성도 제한적이다. 본 연구는 대규모 언어 모델(LLM) 기반의 해석 가능한 보상 모델을 갖춘 강화학습 기반 AVSE 프레임워크를 제안한다. 오디오 LLM이 향상된 음성에 대한 자연어 설명을 생성하고, 감성 분석 모델이 이를 1~5점 척도의 평가 점수로 변환하여 사전학습된 AVSE 모델의 미세조정을 위한 PPO 보상으로 사용한다. 스칼라 지표에 비해 LLM이 생성한 피드백은 의미적으로 풍부하며 음질 개선을 명시적으로 기술한다. AVSEC-4 데이터셋에서의 실험 결과, 제안 방법은 PESQ, STOI, 신경망 음질 지표, 주관적 청취 테스트에서 지도 학습 기준선과 DNSMOS 기반 강화학습 기준선을 능가함을 보여준다.

arXiv:2603.11811v2cs.RO

RADAR: 의미 계획과 자율적 인과 환경 리셋을 통한 폐루프 로봇 데이터 생성

RADAR: Closed-Loop Robotic Data Generation via Semantic Planning and Autonomous Causal Environment Reset

대규모 물리 상호작용 데이터의 확보는 현대 로봇 학습의 핵심 전제 조건이지만, human-in-the-loop 수집 패러다임의 기하급수적인 비용과 확장성 한계로 인해 심각한 병목에 직면해 있다. 이 장벽을 허무르기 위해, 우리는 수집 사이클에서 인간 개입을 완전히 제거하는 완전 자율·폐루프 데이터 생성 엔진인 Robust Autonomous Data Acquisition for Robotics(RADAR)를 제안한다. RADAR는 인지 부하를 4개 모듈 파이프라인으로 우아하게 분할한다. 2~5개의 3D 인간 시연을 기하학적 사전지식으로 삼아, 비전-언어 모델이 먼저 정밀한 의미적 객체 그라운딩과 스킬 검색을 통해 장면 관련 과제 생성을 조율한다. 다음으로 그래프 신경망(GNN) 정책이 문맥 내 학습(ICL)을 통해 이러한 하위 과제를 물리적 행동으로 변환한다. 실행 후 VLM은 구조화된 시각적 질의응답(VQA) 파이프라인을 사용하여 자동화된 성공 평가를 수행한다. 마지막으로 수동 리셋의 병목을 깨기 위해, 유한 상태 기계(FSM)가 자율 환경 리셋과 비대칭 데이터 라우팅 메커니즘을 조율한다. 엄격한 후입선출(LIFO) 인과 시퀀스를 가진 동시 순방향-역방향 계획에 의해 구동되어, 시스템은 비구조화된 작업 공간을 매끄럽게 복원하고 실행 실패로부터 견고하게 복구한다. 이러한 지속적인 뇌-소뇌 시너지는 데이터 수집을 자체 지속 가능한 프로세스로 전환한다. 광범위한 평가는 RADAR의 탁월한 범용성을 부각한다. 시뮬레이션에서 우리 프레임워크는 복잡하고 장기적인 과제에서 최대 90%의 성공률을 달성하며, 전통적 베이스라인의 성능이 거의 0에 가까워지는 난제를 손쉽게 해결한다. 실제 환경 배포에서 시스템은 도메인 특화 미세조정 없이 퓨샷(few-shot) 적응을 통해 다양한 접촉 중심 스킬(예: 가변형 객체 조작)을 안정적으로 실행하며, 로봇 데이터 확보를 위한 고도로 확장 가능한 패러다임을 제공한다.

arXiv:2603.00546v2cs.AI

능력 지향 벤치마크와 MCTS 기반 데이터 생성을 통한 멀티모달 심판 모델 발전

Advancing Multimodal Judge Models through a Capability-Oriented Benchmark and MCTS-Driven Data Generation

멀티모달 대규모 언어 모델(MLLM)을 심판으로 사용하여 정밀하고 일관된 평가를 수행하는 것은 다양한 분야에서 점차 새로운 패러다임으로 자리 잡고 있다. 따라서 MLLM-as-a-judge 시스템의 역량과 신뢰성을 평가하는 것은 신뢰할 수 있는 평가를 보장하는 데 필수적이다. 기존 심판 벤치마크는 샘플을 작업 유형별로 분류하지만, 신뢰할 수 있는 평가에 필요한 근본적인 판정 역량을 포착하지 못한다. 본 연구에서는 MLLM의 판정 능력을 종합적으로 평가하기 위해 설계된 10차원 능력 지향 벤치마크 M-JudgeBench를 제안한다. 우리 벤치마크는 평가를 쌍별 사고의 연쇄(Chain-of-Thought, CoT) 비교, 길이 바이어스 회피, 과정 오류 탐지 작업으로 분해하여, 총 열 가지 세분화된 하위 작업을 함께 다룬다. 이러한 설계는 추론 스타일, 응답 길이, 모델 간 변이에 걸친 모델 신뢰성 진단을 가능하게 한다. 체계적인 평가를 통해 기존 MLLM-as-a-judge 시스템의 체계적인 약점이 드러난다. 이 문제를 해결하기 위해, 다양한 정확성과 길이를 갖는 쌍별 추론 궤적을 생성하는 데이터 구축 프레임워크인 Judge-MCTS를 추가로 제안한다. Judge-MCTS를 활용하여 MCTS 증강 데이터셋을 구축하고, 일련의 강력한 심판 모델인 M-Judger를 학습한다. 광범위한 실험은 기존 심판 벤치마크와 M-JudgeBench 모두에서 M-Judger의 우수성을 입증한다. 종합적으로, 본 연구는 M-JudgeBench와 Judge-MCTS 프레임워크를 통해 MLLM-as-a-judge 평가를 위한 보다 원칙적인 기반을 마련하여, 심판 모델 평가 및 역량 기반 심판 모델 학습에 대한 향후 연구의 길을 연다.

arXiv:2602.11619v2cs.AI

에이전트가 스스로와 불일치할 때: LLM 에이전트를 위한 불확실성 신호로서의 행동적 일관성

When Agents Disagree With Themselves: Behavioral Consistency as an Uncertainty Signal for LLM Agents

동일한 입력에 대해 동일한 LLM 에이전트를 실행하면 10회 실행당 2.3-4.2개의 서로 다른 행동 시퀀스가 생성되며, 이러한 행동적 변이는 학습 없이 블랙박스 방식의 불확실성 신호를 구성하여 에이전트 시스템에 대한 선택적 분류 및 분포 독립적 calibration를 구현한다. 4개 모델에 대한 200개 HotpotQA 질문에서 총 8,000회 실행에 걸쳐, 일관된 작업(고유 경로가 최대 2개)은 82-87%의 정확도를 달성하는 반면, 비일관적인 작업(경로가 4개 이상)은 41-65%의 정확도를 달성하며, 이 격차는 작업 난이도에 대한 통제를 적용한 후에도 유지된다. 분기는 2단계에 집중되며(Llama 작업의 50.5%), 일관성 지표는 AUROC 0.62-0.78로 실패를 탐지한다. 이 신호를 활용하면, 선택적 예측(k=3회 실행이 일치할 때만 답변)은 54-62% 커버리지에서 87-88%의 정확도를 달성하며, 단일 실행 기준선 대비 6-14%p의 향상을 이루고, 보류 calibration 집합 없이 split-conformal 기준선과 동등한 성능을 보인다. SWE-bench에 대한 교차 벤치마크 검증(50개 작업, 1,000회 실행)은 일관성 계층을 유지하면서 모델 간 평균 궤적 길이에서 약 8배의 편차를 보여주며, 부트스트랩 분석은 단일 실행 평가가 29.3%의 경우 모델 순위를 잘못 매긴다는 것을 보여준다.

arXiv:2601.20379v2cs.AI

사고의 정책(Policy of Thoughts): 온라인 정책 진화를 통한 LLM 추론을 위한 테스트 시점 학습 스케일링

Policy of Thoughts: Scaling Test-Time Training for LLM Reasoning via Online Policy Evolution

대규모 언어 모델(LLM)은 고정된 정책(frozen policy) 가정으로 인한 불안정성 때문에 복잡하고 장기(horizon)의 추론에 어려움을 겪는다. 현재의 테스트 시점 스케일링(test-time scaling) 방법들은 실행 피드백(execution feedback)을 기본적인 추론 전략을 개선하기 위해 내재화(internalize)하기보다, 궤적(trajectory)을 필터링하거나 재작성하는 외부 신호로만 취급한다. "추측과 반박(conjectures and refutations)"의 포퍼(Popper) 인식론에서 영감을 받아, 우리는 지능이 실패한 시도로부터의 학습을 통해 모델의 정책을 실시간으로 진화시키는 것을 요구한다고 주장한다. Policy of Thoughts(PoT) 프레임워크를 제안하며, 이는 추론을 인스턴스 내(within-instance) 온라인 최적화(optimization) 과정으로 재정의한다. PoT는 먼저 효율적인 탐험(exploration) 메커니즘을 통해 다양한 후보 해법을 생성하고, 실행 피드백에 기반해 일시적 LoRA 어댑터(transient LoRA adapter)를 Group Relative Policy Optimization(GRPO)으로 업데이트한다. 이 폐쇄 루프(closed-loop) 설계는 모델의 추론 사전(priors)을 동적으로 인스턴스별로 정교화(refinement)할 수 있게 한다. 실험 결과 PoT는 성능을 극적으로 향상시킨다: 4B 모델이 LiveCodeBench에서 49.71% 정확도를 달성하여, GPT-4o와 DeepSeek-V3보다 50배 이상 작음에도 불구하고 이들을 능가한다.

arXiv:2601.18798v3cs.MM

ELF: 인코더 없는 ECG-언어 모델 모델군

ELF: A Family of Encoder-Free ECG-Language Models

ECG-언어 모델(ELM)은 다중모달 대규모 언어 모델(MLLM)의 최근 발전을 자동 ECG 해석으로 확장한다. 그러나 기존 ELM의 대부분은 비전-언어 모델(VLM) 설계 선택을 계승하고 사전학습된 ECG 인코더에 의존하여 상당한 아키텍처 및 학습 복잡성을 야기한다. 인코더 없는 VLM에서 영감을 받아, 우리는 ELF를 제안한다. ELF는 세 가지 인코더 없는 ELM으로 구성된 모델군이며, 훨씬 단순한 아키텍처와 학습 파이프라인에도 불구하고 두 데이터셋에서 이전 최신 ELM과 경쟁력을 유지하며 종종 그 성능을 능가한다. 모든 코드와 데이터는 github.com/ELM-Research/ECG-Language-Models에서 이용할 수 있다.

arXiv:2601.12349v3cs.CR

간격에 주목하라: Android GUI 에이전트를 겨냥한 Action Rebinding 공격

Mind the Gap: Action Rebinding Attacks against Android GUI Agents

대규모 멀티모달 모델 기반 GUI 에이전트는 모바일 플랫폼에서 고권한 연산자로 부상하고 있으며, 애플리케이션 경계를 넘어 화면 콘텐츠를 인지하고 입력을 주입하도록 위임받고 있다. 이러한 에이전트가 복잡한 작업을 자동화하는 것을 목표로 하지만, 우리는 그 설계가 Android의 엄격한 애플리케이션 샌드박싱과 근본적인 충돌을 일으킴을 보여준다. 우리는 애플리케이션 간 Action Rebinding 공격이라는 새로운 공격을 제시하며, 이는 위험 권한이 전혀 없는 악성 애플리케이션이 에이전트의 실행을 탈취하고 공격자를 대신하여 특권 연산을 수행할 수 있게 한다. 우리의 공격은 에이전트의 추론 파이프라인에 내재된 불가피한 관측-행동 간격(observation-action gap)을 악용한다. 악성 앱은 무해한 ``contextual carrier''를 렌더링하여 계획된 행동을 유도한 뒤, 추론 지연 시간 동안 전경(foreground)을 민감한 대상 애플리케이션으로 교체할 수 있다. 에이전트는 전환을 인지하지 못한 채, 특권 컨텍스트에서 해당 행동을 무심코 실행한다. 우리는 에이전트 자체의 작업 복구(task-recovery) 로직을 무기화하여 프로그래밍 가능한 다단계 익스플로잇 루프를 만드는 방식과, 탈취된 상태를 합리화하도록 에이전트의 추론을 조작하는 Intent Alignment Strategy(IAS)를 도입함으로써 이 공격을 더욱 발전시킨다. 우리는 널리 사용되는 6개의 Android GUI 에이전트에서 공격을 평가한다. 결과는 원자적 행동 탈취에서 100% 성공률을 보이며, 공격자가 해당 권한을 전혀 보유하지 않았음에도 무단 파일 삭제, SMS 전송, 앱 제거 등 고영향 익스플로잇을 조율할 수 있음을 보여준다. 더 나아가 악성 애플리케이션은 의도와 능력을 분리하고 특권 API 호출을 포함하지 않기 때문에, 상용 악성코드 스캐너(예: VirusTotal)에서 0% 탐지율을 달성하여 현재 모바일 보안 분석의 중요한 사각지대를 드러낸다. 실험 로그 및 시연 동영상에 접근하려면 [email omitted] 연락하십시오.

arXiv:2510.24803v3cs.MA

MASPRM: 다중 에이전트 시스템 과정 보상 모델

MASPRM: Multi-Agent System Process Reward Model

다중 에이전트 시스템(MAS)에 대한 추론 시점 탐색은, 어떤 에이전트의 중간 메시지가 진행을 앞당겼는지 식별할 수 없을 때 연산을 낭비한다. 본 논문은 라우팅된 transcript(에이전트 간 순서화된 메시지 시퀀스)를 점수화하고 단계 수준 빔 탐색(SBS) 및 몬테카를로 트리 탐색(MCTS)을 위한 추론 제어기로 작동하는 다중 에이전트 시스템 과정 보상 모델(MASPRM)을 제안한다. MASPRM은 인간의 단계 수준 주석 없이 최종 결과 보상으로만 레이블된 다중 에이전트 MCTS 롤아웃으로부터 학습된다. GSM8K, MATH, MMLU, LogiQA에서 평가하였다. 동일한 스코어러 크기와 유사한 MCTS 예산 하에서 MASPRM은 1.5B에서 +2.0~+3.0점, 7B에서 +4.1~+14.5점만큼 네 벤치마크 전반에 걸쳐 동일 크기의 ORM(결과 보상 모델)을 초과하며, 7B에서 정책 가능도 대비 추가적인 스코어러 스케일링 이득(MCTS 하 평균 +13.4)을 보인다. MASPRM은 또한 순위 품질을 개선하여 Hit@1과 Hit@5 간 격차를 최대 10.3점 줄이며, 중간 결정을 사용하는 단계별 탐색에서 가장 큰 이득을 보인다. 코드: https://github.com/milad1378yz/MASPRM