Potential, Challenges and Future Directions for Deep Learning in Prognostics and Health Management Applications
원문 초록
Deep learning applications have been thriving over the last decade in many different domains, including computer vision and natural language understanding. The drivers for the vibrant development of deep learning have been the availability of abundant data, breakthroughs of algorithms and the advancements in hardware. Despite the fact that complex industrial assets have been extensively monitored and large amounts of condition monitoring signals have been collected, the application of deep learning approaches for detecting, diagnosing and predicting faults of complex industrial assets has been limited. The current paper provides a thorough evaluation of the current developments, drivers, challenges, potential solutions and future research needs in the field of deep learning applied to Prognostics and Health Management (PHM) applications.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
다차원 텍스트 분석 접근법을 통한 개혁 이후 위험 공시 품질 변화 평가
Assessing Post-Reform Changes in Risk Disclosure Quality with a Multidimensional Text Analysis Approach
기업의 서술형 공시는 자본 시장에 중요한 정보를 제공하지만, 시간에 따른 질적 변화를 포괄적으로 평가하는 것은 여전히 어렵다. 서술형 텍스트는 본질적으로 다차원적이며, 한 텍스트 차원의 개선이 종종 다른 차원의 변화와 함께 나타난다. 이러한 근본적인 역학을 포착하기 위해, 우리는 일본어 자연어 처리(NLP) 지표 추출을 쌍체 검정(paired testing), 시프트 함수 분석(shift function analysis), 지표 간 상관과 결합한 종단 텍스트 분석 접근법을 제안한다. 우리 프레임워크는 위험 공시와 경영 전략 간 주제적 정렬(topical alignment)을 측정하기 위해 횡단면 관련성 지표(cross-section relevance indicator)를 포함함으로써 기존 지표 집합을 확장한다. 이 접근법을 일본의 2019년 공시 개혁 평가에 적용하여, 10년 기간(FY2015–FY2024) 동안 19,770건의 기업-연도(firm-year) 관측치를 분석한다. 공동 분석은 기존 단일 지표 방법으로는 종종 가려지는 공시 패턴의 복잡한 변화를 드러낸다. 구체적으로, 공시 분량은 크게 증가했지만 가독성 하락이 동반되었다. 또한 전반적인 정보 구조는 개선되었으나, 특정 서술 품질은 정체되었고 적응 정도는 시장 부문별로 달랐다.
언어 모델의 희소 특징을 이용한 언어에 대한 뇌 반응 해석
Interpreting Brain Responses to Language with Sparse Features from Language Models
Meet UD_Czech-PDTC: A Large and Genre-Rich Treebank in Universal Dependencies
LAPITHS로 Centaur(들)을 다루기: AI 성능의 이론적으로 정당화된 해석을 위한 프레임워크
Taming the Centaur(s) with LAPITHS: a framework for a theoretically grounded interpretation of AI performances
본 논문은 LAPITHS(Language model Analysis through Paradigm grounded Interpretations of Theses about Human likenesS, 인간 유사성에 관한 논제의 패러다임 기반 해석을 통한 언어 모델 분석)라는 프레임워크를 제안하고, 이를 활용해 인공 통합 인지 모델(Unified Model of Cognition)로 제안된 CENTAUR 등 모델들이 내세운 여러 핵심 주장이 이론적·실증적으로 정당화되지 않음을 보인다. LAPITHS는 트랜스포머 기반 언어 모델의 인간 수준 성능을, 인간과 유사한 기저 계산의 증거이자 나아가 인지 능력의 징후로 해석하려는 AI 연구의 행동주의적 경향에 맞설 원칙적 기준점을 제공한다. LAPITHS의 새로움은 두 가지 정량 평가에 근거한 논거를 분명히 드러낸다는 데 있다. 첫째, 인공 시스템의 인지적 타당성(cognitive plausibility)을 추정하는 이론적으로 동기가 부여된 방법인 Minimal Cognitive Grid이고, 둘째, CENTAUR 유형 모델에서 보고된 것과 유사한 결과가, 통상 인지적 타당성과 연관되는 구조적 제약을 만족하지 않으며 출력이 인간 인지에 대한 독립적 설명적 통찰을 주지 않는 다른 시스템에서도 재현될 수 있음을 보여 주는 행동 비교이다.
NepPlural: 네팔 이주 담론의 페르소나 주석을 위한 인간 기반 벤치마크
NepPlural: A Human-Anchored Benchmark for Persona Annotation in Nepali Migration Discourse
다원주의적 정렬(Pluralistic alignment)은 언어 모델이 사회의 다양하고 대립하는 가치들을 하나의 지배적인 관점으로 축소하기보다 충실하게 표현할 것을 요구하지만, 대표적인 다원주의적 정렬 데이터셋들은 여전히 서구권 응답자에게 크게 치우쳐 있습니다. 본 연구에서는 청년층 이주 및 두뇌 유출에 관한 네팔의 공론장에서 나타나는 대립적인 사회문화적 페르소나를 모델링하기 위한 인간 기반 벤치마크인 NepPlural을 소개합니다. 우리는 2,148개의 코드 혼용(데바나가리 문자, 로마자 표기 네팔어, 영어) 유튜브 댓글을 수집하고, 4개 축으로 구성된 페르소나 분류 체계(의도, 주요 동인, 가치 지향, 정서)와 명시적인 '페르소나 없음(No-Persona)' 클래스에 따라 주석을 달았으며, 세 명의 네팔어 원어민 화자가 독립적으로 레이블을 지정한 300개 댓글 규모의 골드 세트(평균 Fleiss' $κ\approx 0.55$)를 구축했습니다. 이 골드 세트를 활용해 자동 주석의 신뢰도를 검증한 결과, 대규모 언어 모델(LLM) 주석의 신뢰도는 프로토콜에 따라 결정된다는 점을 발견했습니다. 채팅 인터페이스를 통해 일괄(batch) 수집된 레이블은 모델 간 일치도가 무작위 수준에 불과했습니다($κ\approx 0.17$). 한 번에 하나의 댓글씩 주석을 달 경우 일치도가 원어민 화자 수준 이상으로 증가했으나($κ\approx 0.72$), 일관성이 곧 타당성을 의미하지는 않았습니다. 강제 선택 방식(forced-choice schema)에서는 원어민 화자가 페르소나가 없다고 판단한 댓글의 39%에 대해서도 모델들이 페르소나가 존재한다고 합의하여, 인간 골드 기준 매크로 F1 점수가 0.50 수준에 머물렀습니다. 기권(abstention)을 허용하자 이 문제가 해결되었습니다. 모델은 0.79에서 0.87의 F1 점수로 '페르소나 없음' 댓글을 복원했으며, 1인 배제(leave-one-annotator-out) 참조 기준에 대해 개별 원어민 화자와 일치하거나 이를 능가했습니다(매크로 F1 0.75~0.86 대 0.75). 일괄 처리된 레이블로 파인튜닝(fine-tuning)한 인코더는 0.34에 불과했습니다. 마지막으로, 인간 평가 기반의 제어 가능성(steerability) 검증 결과 프론티어 모델 3종은 단일 페르소나 축을 59~77%의 충실도로 채택했으나 전체 페르소나를 완벽히 구성한 비율은 33%에 불과했으며, 이 규모에서는 서구 친화적 페르소나와 네팔 집단주의적 페르소나 간의 일치도 격차가 감지되지 않았습니다.
단순한 평가를 넘어서: 언어 모델의 담화 표지 민감도에 관한 사례 연구
Not Just an Evaluation: A Case Study of Discourse Particle Sensitivity in Language Models
담화 표지(discourse particle)는 대화 문맥과 화자의 태도를 반영하여 담화의 흐름을 미묘하게 형성하며, 진리 조건적 의미(truth-conditional meaning)는 그대로 두는 경우가 많습니다. 또한 담화 표지는 서로 다른 의미가 다른 표지와 부분적으로 겹치는 다기능성(polyfunctional)을 띠는 경우가 흔하며, 예를 들어 영어의 "just"와 "only"의 배타적 용법("John only/just drinks water")이 이에 해당합니다. 자연어에서 이러한 단어들의 빈번한 사용에도 불구하고, 그 효과의 미묘한 특성으로 인해 대체로 연구되지 않았습니다. 본 연구에서는 행동 분석 및 기제 분석(mechanistic analysis)을 통해 자연스러운 대화에서 "just"와 "only"에 대한 대규모 언어 모델(LLM)의 민감도를 조사합니다. 첫째, LLM과 인간 모두 문맥 내에서 이러한 표지가 존재하는 것을 비슷하게 선호하며, 둘 다 "only"에 비해 "just"에 더 민감하다는 점을 발견했습니다. 둘째, 이러한 표지가 있거나 없는 상태에서 LLM으로부터 샘플링할 때, LLM은 원본 문맥이 주어졌을 때의 생성 결과를 일관되게 더 높은 확률로 평가하여 표지 민감도를 입증했습니다. 두 실험 모두에서 지시 미세조정(instruction tuning)은 민감도를 증가시킵니다. 마지막으로, LLM 내에서 표지 민감 유닛(unit)을 국소화한 결과 "just"와 "only" 사이의 중첩이 비대칭적임을 확인했습니다. 즉, "only" 유닛은 배타적 "just"에 선택적으로 전이되는 반면, 모든 "just" 유닛은 의미에 관계없이 동일하게 "only"로 잘 전이되어 LLM의 어휘 수준 표지 표현이 부분적으로 의미별로 구조화되어 있음을 시사합니다. 저희는 코드, 의미 라벨이 부착된 대화 자극 자료, 인간 선호도 주석을 https://github.com/JiahuiKChen/Not_Just_an_Evaluation 에 공개합니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.