arXiv:2609.28427v1 cs.LG

외골격 개인화를 위한 문맥 연속적 선호도 학습

Context-Continuous Preference Learning for Exoskeleton Personalization

Sunin Baek, Sungwoo Park, Daekyum Kim

제출 2026-09-24

한국어 초록

다양한 동작 조건에 걸쳐 외골격(exoskeleton) 보조를 개인화하는 것은 사용자 피드백을 수집하는 데 필요한 시간과 신체적 노력으로 인해 제약을 받습니다. 본 연구에서는 사용자의 선호도 지형(preference landscape)이 동작 조건 전반에서 매끄럽게 변화하는지, 그리고 이러한 연속성이 제한된 피드백으로부터의 학습을 언제 뒷받침하는지 조사했습니다. 본 논문에서는 문맥별 효용 추정치를 유지하면서 인접한 문맥 간 관측치를 공유하는 가우시안 프로세스(Gaussian-process) 선호도 모델인 CCPL(Context-Continuous Preference Learning)을 제안합니다. 성인 9명의 발목 및 팔꿈치 외골격 선호도 데이터를 바탕으로 시뮬레이션과 후향적 분석을 통해 CCPL을 평가했습니다. 시뮬레이션에서 CCPL은 선호도가 매끄럽게 변할 때 독립적 학습(independent learning) 대비 재구성(reconstruction) 및 선호도 기반 베이지안 최적화(Bayesian optimization) 성능을 향상시켰으나, 연속성이 약할 때는 부정적 전이(negative transfer)를 보였습니다. 두 인간 대상 연구 모두에서 각 참가자 및 문맥에 대해 개별적으로 추정된 전체 데이터 기준 지형은 인접한 동작 조건 간에 더 유사한 경향을 보였습니다. 문맥당 5회의 노출 조건에서 CCPL은 독립적 학습 대비 이러한 기준과의 평균 재구성 상관계수를 발목 보조의 경우 0.644에서 0.720으로, 팔꿈치 보조의 경우 0.476에서 0.526으로 높였습니다. 5회 노출 예산은 해당 상관계수와 일치시키는 데 필요한 추정 독립적 학습 예산보다 발목의 경우 약 37%, 팔꿈치의 경우 약 17% 더 낮았습니다. CCPL은 또한 독립적 학습 대비 홀드아웃(held-out) 반응 예측을 개선한 반면, 풀링 학습(pooled learning) 대비 이점은 다양하게 나타났습니다. 이러한 결과는 제한된 피드백 하에서 선호도 관측치를 공유하기 위한 근거로서 문맥 연속성을 지지하지만, 인간 대상의 온라인 개인화에 대한 이점은 여전히 확립되어야 할 과제로 남아 있습니다.

원문 초록

Personalizing exoskeleton assistance across operating conditions is constrained by the time and physical effort required to collect user feedback. We examined whether a user's preference landscape varies smoothly across operating conditions and when this continuity supports learning from limited feedback. We propose Context-Continuous Preference Learning (CCPL), a Gaussian-process preference model that shares observations across nearby contexts while retaining context-specific utility estimates. We evaluated CCPL through simulations and retrospective analyses of ankle and elbow exoskeleton preference data from nine healthy adults. In simulations, CCPL improved reconstruction and preference-based Bayesian optimization relative to independent learning when preferences varied smoothly, but showed negative transfer when continuity was weak. In both human studies, full-data reference landscapes estimated separately for each participant and context tended to be more similar between nearby operating conditions. With five exposures per context, CCPL increased mean reconstruction correlation with these references from 0.644 to 0.720 for ankle assistance and from 0.476 to 0.526 for elbow assistance relative to independent learning. The five-exposure budget was approximately 37% lower for ankle and 17% lower for elbow than the estimated independent-learning budgets needed to match these correlations. CCPL also improved held-out response prediction relative to independent learning, while benefits over pooled learning varied. These findings support context continuity as a basis for sharing preference observations under limited feedback, although benefits for online personalization in humans remain to be established.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2609.28427v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.27490v1cs.AI공통 태그 Active Learning, Bayesian Optimization, Gaussian Processes

WhatWorkedBench: AI 에이전트의 실험적 이해도 벤치마킹

WhatWorkedBench: Benchmarking Experimental Understanding in AI Agents

AI 연구 에이전트(agent)는 자신의 실험이 결과에 어떻게 영향을 미치는지에 대한 신뢰할 수 있는 지식이 필요합니다. 본 논문에서는 예산이 정해진 실험 후 구성 요소 변경에 대한 예측 정확도인 실험적 이해도를 측정하기 위한 WhatWorkedBench를 소개합니다. 에이전트는 코드를 검사하고, 측정값을 선택하며, 구성 요소 설정의 모든 구성에 대한 점수를 예측하는 표인 반응 표면(response surface)을 제출합니다. 완전 탐색 방식의 CPU 실행을 통해 다른 구성 요소를 고정한 상태에서 각 구성 요소를 변경할 때의 기준 효과를 제공합니다. 이러한 효과는 30개의 데이터 소스와 8개의 워크플로 유형에 걸친 36개 작업에서 1,248개의 구성 기록을 통해 변경 조합을 포착합니다. 핵심 평가는 8개 패밀리 전체에 걸친 4,206개의 수치 제어 기록과 원래 6개 패밀리에 걸친 108개의 에이전트 에피소드를 결합합니다. 8개의 새로운 측정값에서 쌍 효과 릿지(pair-effect ridge)는 22개 소스 중 15개에서 최적값을 선택하고, 3개 소스에서는 모든 효과 오류를 점수 범위의 10% 이내로 제한합니다. 동일한 에이전트 관측값에 가우시안 프로세스(GP)를 적합하면 실제 효과 크기 대비 정확도인 효과 복원율(effect recovery)이 기존 Flash 코호트에서는 0.632에서 0.698로, 추가 코호트에서는 0.621에서 0.720으로 향상됩니다. 완료된 6개의 비트 검출 및 그래프 제출물에서 동일 관측 GP는 패밀리-매크로 복원율을 0.303에서 0.455로 높입니다. 6개의 이진 옵션을 갖는 6개 워크플로에서 20개의 새로운 측정 시, 동일한 동작을 나타내는 구성인 코드 동등성을 인코딩하면 GP 복원율이 0.248에서 0.462로 향상됩니다. WhatWorkedBench는 실험 에이전트, 적응형 실험 설계, 수치 추론(inference), 프로그램 구조 활용에 관한 연구를 지원합니다.

arXiv:2607.23896v1cs.AI공통 태그 Active Learning, Bayesian Optimization, Gaussian Processes

자율 재료 발견을 위한 비용 인식 회수 경로 식별 및 베이지안 최적화

Cost-Aware Recovery-Pathway Identification and Bayesian Optimization for Autonomous Materials Discovery

자율 실험실은 실험 수행을 자동화하지만, 캠페인은 또한 어떤 회수 경로가 최적화할 가치가 있는지 결정해야 한다. 우리는 이를 이질적인 실험 비용 하에서 이산적인 경로 식별 단계와 경로 내 연속 최적화 단계를 갖는 순차적 의사결정 문제로 공식화한다. 우리의 구현인 Coactive learning은 EC2(Golovin et al., 2010)에서 영감을 받은 비용 민감 베이지안 가설 판별 정책과 가우시안 프로세스 베이지안 최적화(Srinivas et al., 2010)를 결합한다. 명시적으로 진술된 가정 하에서, 고정 예산 캠페인 시도 1회의 기대 지출은 기대 경로 식별 비용과 상한이 설정된 경로 내 최적화 예산의 합으로 한정된다. 우리는 PNNL의 CICERO 선택적 침전 연구(Ritchhart et al., 2026)에서 보고된 선별된 결과로 제약된 합성 벤치마크(benchmark)에서 이 방법을 평가한다. 이 방법은 정답 경로에 대한 오라클 레이블을 받지 않으면서 첫 번째 플레이트로 경로를 판별하는 강력한 split-plate 기준선(baseline) 및 오라클 경로 베이지안 최적화 기준과 비슷한 성능을 보인다. 이 방법에는 후보 가설 공간과 진단 가능도(likelihood) 모델이 주어진다. NdFeB에서 영감을 받은 사례에서, 이 방법은 처음에 그럴듯하지만 열등한 수산화물 경로를 선택하는 commit-first 기준선의 시뮬레이션 페널티를 피한다. 이 가상의 잘못된 선(先)확정 시나리오는 CICERO에서 보고된 수산화물-옥살레이트 성능 대비에 의해 동기화된다. 우리는 이러한 결론이 가정된 비용 모델에 대해 얼마나 민감한지 특성화한다. 코드와 벤치마크는 오픈 소스이다.

arXiv:2607.14439v1cs.LG공통 태그 Continuous Control, Active Learning, Bayesian Optimization

범용 로봇 정책을 위한 능동적 실세계 요인 기반 평가

Active Real-World Factor-Based Evaluation for Generalist Robot Policies

대규모·다양한 데이터셋으로 학습된 범용 로봇 조작 정책은 다양한 작업 전반에서 뛰어난 가능성을 보여왔다. 그러나 이러한 정책을 엄밀하게 평가하는 것은 여전히 근본적인 과제로 남아 있다. 실세계 성능은 물체 자세와 카메라 시점 등 작업 요인의 거대한 조합 공간에 달려 있어, 완전하고 포괄적인 평가는 실현 불가능하다. 또한 실제 하드웨어 평가는 느리고 자원 소모가 크기 때문에, 현재 관행은 핵심 실패 모드를 놓치고 실제 배포 준비도를 왜곡할 수 있는 좁은 테스트 스위트를 사용하는 것이다. 우리는 정책 평가를 순차적 실험 설계 문제로 취급함으로써 이 과제를 해결하는 능동 평가 프레임워크를 제안한다. 우리 접근법은 구조화된 작업 요인 공간 위에 확률적 서로게이트 모델을 적합시키고, 정책 성능 분포에 대한 정보 이득을 최대화하도록 평가 구성을 적응적으로 선택하여, 보지 못한 조건에서 정책 행동을 샘플 효율적으로 특성화하고 실패가 잦은 영역을 체계적으로 식별할 수 있게 한다. 3가지 작업과 3가지 요인 변형에 걸쳐 총 2331회의 실세계 평가를 수행한 결과, 우리 접근법은 일반적인 무작위 테스트에 비해 평가자가 최소 20–40%의 시행을 절약하는 것으로 나타났다.

arXiv:2610.11082v1stat.ML공통 태그 Bayesian Optimization, Gaussian Processes

커널 밴딧(Kernel Bandits)에 대한 일반적인 $\widetildeΩ(\sqrt{Tγ_T})$ 하한

A General $\widetildeΩ(\sqrt{T γ_T})$ Lower Bound for Kernel Bandits

커널 밴딧(kernel bandit) 문제는 주어진 재생 커널 힐베르트 공간(Reproducing Kernel Hilbert Space, RKHS)에서 유계 노름(bounded norm)을 갖는 미지의 함수를 잡음이 있는 피드백(noisy feedback)을 통해 순차적으로 최적화하는 문제이다. 커널 밴딧의 후회(regret) 분석에서 중심이 되는 양은 최대 정보 획득량(maximum information gain) $γ_T$이다. 특히, 기존에 알려진 가장 좋은 상한(upper bound)은 로그 항(log factor)을 제외하면 $\sqrt{Tγ_T}$로 스케일링되며, 제곱 지수(squared exponential) 커널과 마테른(Matérn) 커널과 같은 특정 커널에 대해서는 이와 거의 일치하는 하한(lower bound)이 도출되어 왔다. 그러나 일반적인 커널에 대한 하한은 부족하여, 어느 정도의 일반성에서 상한이 근사 최적(near-optimal)인지가 불분명하다. 본 논문에서는 콤팩트 정의역(compact domain) 상의 비상수 연속 커널(non-constant continuous kernel)에 대해 일반적인 $Ω(\sqrt{Tγ_T/\log T})$ 미니맥스 후회 하한을 수립하여, 매우 일반적인 의미에서 (로그 항 범위 내에서의) 근사 최적성을 입증한다. 우리는 이 하한에 나타나는 로그 항이 일반적으로는 피할 수 없음을 보이지만, 특정 조건 하에서는 이를 제거할 수 있음을 보인다. 특히 우리의 결과는 $ν\in (0,2)$인 마테른-$ν$(Matérn-$ν$) 커널, $γ\in (0,2)$인 $γ$-지수(γ-exponential) 커널, 그리고 특정 조각별 다항식(piecewise-polynomial) 커널에 대해 미니맥스 최적 스케일링이 (상수 인자 범위 내에서) 정확히 $Θ(\sqrt{Tγ_T})$임을 함의한다.

arXiv:2607.10669v2cs.LG공통 태그 Bayesian Optimization, Gaussian Processes

tidyHEBO: 모델 일관적 워핑과 파레토 탐색을 결합한 강건한 범용 베이지안 최적화

tidyHEBO: Robust General-Purpose Bayesian Optimization with Model-Consistent Warping and Pareto Search

베이지안 최적화(BO)는 비용이 많이 드는 블랙박스 문제에 널리 사용되지만, 실제 성능은 고수준의 알고리즘 선택뿐만 아니라 대리 모델(surrogate model) 학습, 입력 및 출력 워핑(warping) 변환, 획득 함수(acquisition function), 그리고 후보 탐색이 어떻게 구현되는지에 따라서도 달라집니다. 본 논문에서는 강건한 범용 최적화를 위해 설계된 BoTorch 기반의 단일 목적 옵티마이저인 tidyHEBO를 제시합니다. tidyHEBO는 Yeo-Johnson 출력 워핑을 가우시안 프로세스(Gaussian process) 대리 모델과 함께 결합 적합(joint fit)하고, 결정론적 수치적분(deterministic quadrature)이나 몬테카를로 샘플(MC-samples)을 활용해 원래 목적 척도 상에서 획득 함수를 평가하며, 여러 획득 기준에 걸쳐 제약 조건이 있는 누적 파레토 탐색(cumulative Pareto search)을 수행합니다. Olympus 전용 하이퍼파라미터 튜닝 없이 기본 옵티마이저 구성만을 사용하여, tidyHEBO는 Olympus 벤치마크에서 평가된 방법 중 1위를 차지했습니다. 중앙값 nAUC, CVaR_nAUC, IQR_nAUC로 각각 측정한 일반적인 성능(평균 순위 1.53), 최악의 꼬리 성능(1.21), 실행 간 변동성(2.00)에서 모두 최고 평균 순위를 달성했습니다. 동일한 기본 구성을 적용했을 때 tidyHEBO는 합성 문제 및 건초더미 속 바늘 찾기(Needle-in-a-Haystack) 문제에서도 뛰어난 성능을 보였으며, Bayesmark에서는 HEBO와 매우 근접한 성능(92.64 대 93.34)을 기록하면서 로그 기대 개선(logarithmic expected improvement)을 사용하는 GP 및 무작위 탐색(random search)을 능가했습니다. 적응형 배치는 피드백 라운드를 줄이는 동시에 배치 상한이 증가함에 따라 병렬화와 최적화 품질 사이의 제어 가능한 트레이드오프를 보여주었습니다. 이러한 결과는 tidyHEBO가 과학적 응용 및 하이퍼파라미터 튜닝을 포함한 광범위한 실제 최적화 문제를 위한 강건하고 재현 가능한 범용 옵티마이저임을 보여줍니다.

arXiv:2609.23753v1cs.CV공통 태그 Continuous Control, Active Learning

OnlineWM: 효과적인 월드 모델링을 위한 인과관계 인지 능동 온라인 학습

OnlineWM: Causality-Aware Active Online Learning for Effective World Modeling

생성형 월드 모델(Generative world models)은 행동을 조건으로 하여 미래 상태를 예측하는 것을 목표로 하며, 여기서 행동 제어 가능성(action controllability)은 신뢰할 수 있는 역학 모델링을 위한 기본 요소입니다. 최근 시뮬레이터가 생성한 데이터를 활용하여 이러한 역량을 향상하려는 시도들이 이루어지고 있으나, 기존 학습(training) 파이프라인은 두 가지 근본적인 한계에 직면해 있습니다. 첫째, 정적인 오프라인 데이터 수집은 학습 세트와 모델(model)의 진화하는 오류 패턴 간의 분포 불일치를 유발하여 역학 예측이 여전히 신뢰할 수 없는 중요한 롱테일(long-tail) 시나리오를 해결하지 못합니다. 둘째, 관측 불일치를 최소화하는 표준 목적 함수는 종종 모델이 기저의 행동-효과 인과관계를 포착하는 대신 허위 상관관계(spurious correlations)를 악용하도록 유도합니다. 이러한 한계를 해결하기 위해, 능동적인 시뮬레이터 상호작용과 인과관계 인지 최적화를 통해 월드 모델링을 지속적으로 개선하는 온라인 학습 프레임워크인 OnlineWM을 제안합니다. OnlineWM은 두 가지 핵심 혁신을 도입합니다: (1) 능동 온라인 학습(Active Online Learning): 고정된 데이터셋을 사용하는 대신, OnlineWM은 모델의 현재 예측 취약점을 목표로 하는 새로운 상호작용 시퀀스를 시뮬레이터에 적응적으로 질의하여 효용성이 높은 데이터 수집을 보장합니다. (2) 인과관계 인지 미세조정(Causality-Aware Fine-Tuning): 동일한 상태에서 서로 다른 행동의 결과를 대조하는 반사실적 학습(counterfactual learning) 전략을 제안하여, 모델이 상태 전이를 주변 환경 변화가 아닌 특정 행동의 결과로 귀인하도록 강제함으로써 예측을 신뢰할 수 있는 인과 메커니즘에 그라운딩(grounding)합니다. 능동적 데이터 수집과 인과적 최적화를 통합함으로써, OnlineWM은 모델이 다양한 시나리오에 대해 강건하고 인과적 귀인에서 정밀함을 모두 보장하는 폐루프 개선 프로세스를 확립합니다. 광범위한 실험을 통해 OnlineWM이 행동 제어 가능성을 크게 향상시키고 보지 못한 도메인으로도 효과적으로 일반화됨을 입증합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.