Deep learning systems as complex networks
원문 초록
Thanks to the availability of large scale digital datasets and massive amounts of computational power, deep learning algorithms can learn representations of data by exploiting multiple levels of abstraction. These machine learning methods have greatly improved the state-of-the-art in many challenging cognitive tasks, such as visual object recognition, speech processing, natural language understanding and automatic translation. In particular, one class of deep learning models, known as deep belief networks, can discover intricate statistical structure in large data sets in a completely unsupervised fashion, by learning a generative model of the data using Hebbian-like learning mechanisms. Although these self-organizing systems can be conveniently formalized within the framework of statistical mechanics, their internal functioning remains opaque, because their emergent dynamics cannot be solved analytically. In this article we propose to study deep belief networks using techniques commonly employed in the study of complex networks, in order to gain some insights into the structural and functional properties of the computational graph resulting from the learning process.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
MetaHOPE: MT 및 LLM 번역 오류 분석을 위한 은유 지향 평가 프레임워크
MetaHOPE: A Metaphor-Oriented Evaluation Framework for Analysing MT and LLM Translation Errors
본 의견 논문에서 우리는 은유 번역 평가를 위한 오류 심각도 인식 주석(annotation) 프레임워크인 MetaHOPE를 제안한다. 은유는 의미적 복잡성, 문맥 의존성, 문화적 임베딩(cultural embeddings) 등의 특성으로 인해 기계 번역(MT)과 자연어 이해 및 처리(NLU, NLP)에 어려움을 제기하며, NLP 모델에서 모호성 문제를 야기할 수 있다. 최신(state-of-the-art) NLP 모델이 은유 번역에서 어떻게 수행되는지 조사하기 위해 GoogleMT, GPT5.4, Hunyuan-7b의 세 가지 대표 시스템을 신경망 기계 번역(NMT) 모델 및 LLM으로 선정하였다. 영어-중국어 및 중국어-영어 번역 목적으로 VUAMC와 PSUCMC를 포함한 두 개의 사람 주석 은유 코퍼스를 사용하였다. 사용한 원본 코퍼스는 단일언어(monolingual)이며, MetaHOPE 프레임워크를 이용해 오류 주석을 수행하고, 이중언어 활용을 위한 사람 후편집(post-edited) 골드 레퍼런스도 새 자료로 제작하였다. 은유 번역 주석을 위한 MetaHOPE 평가 프레임워크, 병렬 코퍼스 자료, 최신 자동 번역 모델에 대한 오류 분석이 은유 번역 연구 분야에 유용하고 일부 통찰을 제공할 수 있을 것으로 본다. 자료는 github.com/Jiahui84/MetaHOPE에서 공개한다.
통합 속의 지혜: 속담 내 비유적 언어 식별에서 다국어 학습의 역할
Wisdom in Unity: The Role of Multilingual Training in Figurative Language Identification in Proverbs
비유적 언어 식별에 대한 다국어 접근법은 새롭지 않지만, 단일 언어로 구성된 학습 데이터를 넘어서려면 번역된 다국어 지도(supervision)의 기여에 대한 더 명확한 이해가 필요하다. 본 연구는 7개 언어에 걸쳐 번역된 6,787개 인스턴스를 아우르는 742개의 속담 개념을 사용하여 이 질문을 조사한다. 저자들은 다국어 인코더와 인스트럭션 튜닝(instruction tuning)된 대규모 언어 모델(LLM)을 포함한 5개 모델을 대상으로, 다국어 지도의 수준을 점진적으로 높여 가며 평가한다. 또한 속담을 은유적(Metaphorical), 도덕/조언적(Moral/Advisory), 인과적(Cause-Effect), 문화 특수적(Culture-Specific)이라는 상호 보완적인 네 가지 비유 형태로 특징짓는 속담용 다차원 주석 프레임워크를 제안한다. 연구 결과, 전반적으로 다국어 학습(training) 데이터를 50% 이상 추가할 때 추가적인 성능 향상은 제한적이었으나, 최적의 지도 수준은 모델(model)과 언어에 따라 상이했다. 또한 다양한 비유 형태를 결합할 때 전반적인 성능이 가장 높게 나타남을 보인다. 주목할 만한 발견은 발생 빈도가 가장 낮은 비유 형태인 문화 특수적 형태가 다국어 지도 하에서 가장 큰 성능 향상을 보였다는 점이다. 나아가 속담의 도덕/조언적 형태와 문화 특수적 형태는 인스트럭션 튜닝된 LLM의 전반적인 비유 식별 성능에 더 크게 기여한다. 이러한 결과는 다국어 비유 식별 연구가 은유 중심의 분류 체계를 넘어, 문맥을 대표하는 상호 보완적인 비유적 의미 형태를 명시적으로 모델링하는 개념 수준의 다차원 프레임워크로 나아가도록 동기를 부여한다.
라운드트립 검증과 수정을 통한 충실한 자동 형식화
Faithful Autoformalization via Roundtrip Verification and Repair
LLM이 자연어를 형식화(formalize)할 때, 그 출력이 원문에 충실한지 어떻게 알 수 있을까? 본 논문은 정답 주석(ground-truth annotation)을 필요로 하지 않는 라운드트립 검증(roundtrip verification) 방식을 제안한다. 이 방식은 문장을 형식화하고, 그 결과를 다시 자연어로 번역한 뒤, 이를 재형식화하여 형식 도구(formal tool)로 논리적 동치성을 검사한다. 두 형식화 결과가 일치하면 이는 충실한 형식화임을 뒷받침하는 증거가 된다. 두 결과가 일치하지 않으면 단계 수준(stage-level) 진단을 통해 오류가 발생한 특정 번역 단계를 국소화하고, 범위 한정 수정 연산자(scoped repair operator)가 해당 단계를 바로잡으려 시도한다. 우리는 두 가지 법령 도메인(텍사스 교통법(Texas Transportation Code)과 텍사스 공원·야생동물법(Texas Parks and Wildlife Code))에서 두 가지 LLM(Claude Opus~4.6과 GPT-5.2)과 세 가지 수정 베이스라인을 사용하여 이 프레임워크를 평가한다. 진단 기반 범위 한정 수정이 가장 효과적인 방법이었으며, 그 효과는 진단 함수의 신뢰성에 좌우된다. 두 도메인과 두 모델 전반에서, 우리의 전체 수정 시스템 하에서 동치성 검사를 통과하지 못한 규칙은 통과한 규칙보다 자연어 추론(NLI) 드리프트(drift)가 1.4배에서 2.5배 더 크게 나타난다.
언어에서 내비게이션 목표로: RGB-D 인식을 이용한 이동 로봇 의미 내비게이션을 위한 비전-언어 접근법
From Language to Navigation Goals: A Vision-Language Approach for Semantic Navigation of Mobile Robots Using RGB-D Perception
자연어 상호작용은 비전문 사용자가 로봇 플랫폼과 소통하는 직관적인 방법을 제공한다. 그러나 사용자 요청을 실행 가능한 내비게이션 동작으로 변환하는 것은 여전히 어려운 과제이며, 언어 이해, 환경 인식, 자율 내비게이션의 통합을 필요로 한다. 본 연구는 자연어로 사용자 요청을 해석하여 로봇을 목적지로 이동시키고 자율적으로 해당 목적지까지 내비게이션할 수 있게 하는 언어 기반 내비게이션 프레임워크를 제시한다. 이 프레임워크는 자연어 지시를 내비게이션 동작으로 변환하기 위해 협력하는 모듈형 ROS 2 구성 요소로 이루어져 있다. 환경 내 목표를 지칭하는 자연어 요청(예: "go to the mail box")이 주어지면, 시스템은 참조된 객체를 식별하고 RGB-D 데이터를 사용하여 그 위치를 추정한 뒤 내비게이션 목표를 생성하며, 이는 ROS 2 Nav2 내비게이션 스택을 통해 실행된다. ROS 2 기반 구현은 해당 토픽과 서비스의 설정만으로 다양한 로봇 플랫폼에 이식성을 제공한다. 시스템은 TurtleBot3 Waffle과 RealSense 카메라를 탑재한 Unitree Go2 로봇을 사용하여 시뮬레이션과 실제 환경 시나리오 모두에서 평가된다. 실험 결과, 프레임워크가 직접 명령과 문맥적 요청을 모두 성공적으로 해석하고, 의미 있는 자연어 피드백을 생성하며, 원하는 목표로 내비게이션함을 보여준다. 이러한 결과는 의미 인식과 자율 내비게이션을 결합하여 직관적인 인간-로봇 상호작용 패러다임을 제공하는 것의 실현 가능성을 입증한다. 코드는 논문 채택 시 오픈 소스로 공개될 예정이다.
대화형 에이전트의 다차원 평가 운영화: 선택적 재평가 및 모델 벤치마킹을 갖춘 확장 가능한 거버넌스 파이프라인
Operationalising Multi-Dimensional Evaluation for Conversational Agents: A Scalable, Governed Pipeline with Selective Re-evaluation and Model Benchmarking
소매 대화형 에이전트를 평가하려면 의도 정렬(intent alignment), 사실성(factuality), 유용성(helpfulness), 명확성(clarity), 톤(tone), 전반적인 응답 품질을 판단하기 위해 어휘 중복(lexical-overlap) 지표를 넘어서는 방법이 필요합니다. LLM-as-a-judge 방법은 인간 평가에 대한 확장 가능한 대안을 제공하지만, 프로덕션 배포는 거버넌스, 재현성, 비용, 스키마 일관성, 추적 가능성, 신뢰성 측면에서 과제를 야기합니다. 우리는 소매 대화형 시스템의 대규모 평가를 위한 거버넌스가 적용된 설정 기반 파이프라인인 GenAI Evaluation을 제시합니다. 이 파이프라인은 프로덕션 챗봇 로그를 정규화, 샤딩, 비동기 실행, 스키마 제약 LLM 채점을 통해 처리합니다. 해당 프레임워크는 유용성, 진실성, 명확성, 톤 정렬, 번역 특화 차원을 평가합니다. 선택적 재평가는 불완전하거나 형식 오류가 있거나 스키마에 맞지 않는 레코드만 처리하며, 스키마 잠금, 버전 관리된 설정, 검증 로그, 레코드 수준 출처 정보가 감사 가능성(auditability)을 지원합니다. 해당 프레임워크는 하루 약 50,000건의 레코드를 처리하며, 200만 건 이상의 상호작용을 평가했습니다. 검증에는 4명의 훈련된 어노테이터가 라벨링한 12,980건의 층화 무작위 인간 라벨 레코드를 사용했습니다. 분류는 14개 의도(intent), 156개 하위 의도(sub-intent), 18개 주요 도메인, 129개 하위 도메인을 포함했습니다. 파이프라인은 거시 F1 점수 0.93과 번역에 대해 89%의 인간 수용 가능성(human-acceptability) 정확도를 달성했습니다.
지시적 의사소통에서 대규모 비전-언어 모델(LVLM)과 인간의 상이한 그라운딩 방식
LVLMs and Humans Ground Differently in Referential Communication
생성형 AI 에이전트가 인간 사용자와 효과적으로 협력하려면 인간의 의도를 정확하게 예측하는 능력이 필수적입니다. 하지만 이러한 협력 능력은 공통 기반(common ground)을 모델링하지 못한다는 치명적인 결함으로 인해 제한적입니다. 본 연구에서는 명확한 어휘화된 라벨이 없는 객체의 사진을 일치시키기 위해 반복된 라운드에 걸쳐 여러 차례 상호작용하는 지시자-일치자 쌍(인간-인간, 인간-AI, AI-인간, AI-AI)을 포함하는 요인 설계(factorial design)의 지시적 의사소통 실험을 제시합니다. 우리는 대규모 비전-언어 모델(LVLM)이 인간 언어 사용의 기반이 되는 원활한 의사소통을 가능하게 하는 방식으로, 지시 표현을 상호작용적으로 생성하고 해결할 수 없음을 보여줍니다. 또한 정확도, 효율성, 어휘 중첩을 분석하는 도구와 데이터 수집을 위한 온라인 파이프라인, 그리고 356개의 대화(89쌍이 각각 4라운드 수행)로 구성된 말뭉치를 공개합니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.