신경-기호(NeSy) 시스템은 일반화와 해석 가능성을 모두 달성하기 위해 신경망과 논리적 추론을 통합하지만, 최근 연구에서는 이러한 시스템이 추론 지름길(shortcut reasoning) 행동에 취약함을 보여주었다. 우리는 행렬 기반 미분 가능한 논리 프로그래밍을 사용하여 두 가지 현상에서 추론 지름길을 완화하는 새로운 방법을 제안한다: 하나는 의도한 작업을 달성하지 못한 채 제약만 만족하는 제약 만족 지름길(constraint satisfaction shortcuts)이고, 다른 하나는 편향된 데이터가 논리적으로 타당한 추론에도 불구하고 의미적으로 부정확한 개념 매핑을 유발하는 인지 지름길(cognition shortcuts)이다. 최근 행렬 기반 논리 프로그래밍 의미론을 기반으로, 규칙과 제약을 단일 행렬에 통합 인코딩하는 것을 포함하여 지름길을 완화하기 위한 설계 요소를 도입한다. 또한 퍼지 논리 t-노름과의 연관성을 밝히고, 그 그래디언트 흐름 특성을 실증적으로 비교한다. MNIST 변형에 대한 신중하게 설계된 실험을 통해, 신경망 출력을 논리 원자(logical atoms)에 일대일 그라운딩(grounding)하는 방식이 연성 확률 분포에 의존하는 이전 방법들에 비해 두 유형의 지름길을 모두 크게 줄인다는 것을 보인다. 마지막으로, 기호적 지식과 신경 학습을 결합하는 아키텍처 선택이 지름길 완화에 핵심적인 역할을 한다는 것을 확인한다.
동반 논문에서는 트랜스포머의 피드포워드 층이 명시적인 퍼지 집합 연산—교집합, 집합 차, 자기망각 시퀀스 양화사—으로 재구성될 수 있으며, 그 결과 은닉 유닛이 언어 모델 품질 손실 없이 명명된 논리 연산자로 읽힐 수 있음을 보였다. 이는 트랜스포머의 나머지 절반을 불투명한 채로 남겨두었다. 본 연구에서는 동일한 아이디어를 어텐션에 적용하고 두 요소를 하나의 모델로 결합한다. 메커니즘은 단순하다: 헤드의 값을 시그모이드에 통과시킴으로써 각 값 채널이 특징이 토큰에서 성립하는지 여부를 판단하는 가독 가능한 검출기가 된다. 이는 파라미터를 추가하지 않으며 표준 헤드를 그 외에는 변경하지 않는다. 불리언 변형은 더 나아가 값을 명시적인 토큰 내 교집합과 부정 가능한 집합 차로 재구성한다. 두 설계 모두에서 출력 투영은 어휘에 묶이지 않고 자유롭게 유지되는데, 이것이 핵심 결정이다: 헤드가 검출하는 것을 제한하면서 쓰는 것은 제약하지 않으면 선택적 검출기가 생성되지만, 쓰기를 제약하면 그렇지 않다. 경계가 설정된 값은 두 가지 선택성 압력에 의해 가독 가능한 검출기로 형성되는데—하나는 희소 발화를 위한 것이고 다른 하나는 경계에서의 결정적 발화를 위한 것—어떤 설계가 이를 필요로 하는지는 보편적이지 않다. 1억 2500만 파라미터 규모의 다섯 가지 특화된 어텐션 설계에 걸쳐, 44~62%의 값 채널이 명확하고 문맥적으로 선택적인 검출기가 되며, 가독성은 구두점에서만 결정화되는 것이 아니라 깊이에 따라 향상된다. 언어 모델 품질은 기존 기준선과 동등하다. 마지막으로, 불리언 어텐션을 가독 가능한 피드포워드 층과 결합하여 벤치마크 동등 수준에서 엔드투엔드 구성적 가독성 언어 모델을 학습시킨다: 이 모델의 피드포워드 유닛은 전체에 걸쳐 명명된 집합 및 양화사 연산으로 구성되며, 모델이 생성한 토큰을 가져와 이를 생성하는 데 기여한 명명된 유닛들을 읽을 수 있다.
인간의 추론은 흔히 높다, 낮다, 비싸다, 저렴하다와 같은 언어적 레이블로 표현되는 정성적 개념을 통해 이루어지는데, 이러한 개념의 해석은 문맥에 따라 달라지며 수치 데이터에 기반하면서도 대체로 모호하다. 본 논문은 수치 정보와 정성적 추론을 연결하기 위해 정답 집합 프로그래밍(ASP)의 퍼지 논리 기반 정성적 확장을 새롭게 탐구한다. 별도의 연구에서 공식적으로 소개된 기반 언어는 엄격한 임계값을 피하고 모호성 하에서도 강건한 추론을 지원하는 원칙적 프레임워크를 제공한다. 대표적인 사용 사례에 초점을 맞추어, 본 프레임워크가 수치적으로 근거한 입력(예: 머신러닝 모델의 출력)과 정성적 레이블에 대한 기호적 추론을 어떻게 통합하는지 설명한다. 학습 기반 멤버십 함수 및 의미론적으로 풍부한 술어를 포함한 핵심 기능들은 전문가 지식, 문맥적 요인, 그리고 주관적 해석을 통합된 선언적 환경 내에서 결합할 수 있게 한다.
트랜스포머 FFN 서브레이어를 퍼지 집합 연산(교집합 A·B, 집합 차 A·(1-B))으로 대체한 부정 가능 FFN(NC-FFN)을 제안하며, 이를 통해 매개변수 수 변화 없이 명시적 논리 형식을 각 은닉 유닛에 부여한다. 시퀀스 수준의 자기-망각 퍼지 양화사(soft existential/proportion quantifier)를 추가함으로써 문법 허가(grammatical licensing) 결함을 회복하고, 의미 층의 유닛들이 별도의 사전 학습 없이 비교급·수동 분사·부정 극성 항목 등의 허가자를 감지하는 판독 가능한 문법 메커니즘으로 스스로 특화됨을 보인다.
Increasing demand for precise and reliable control in complex scenarios has led to the development of increasingly sophisticated controllers, including data-driven approaches employing closed box models and mathematically rigorous yet complex designs. This complexity highlights the needs for explainable control that can provide human-understandable insights into controller behavior. In this paper, an explainable control framework (XCF) along with supporting algorithms and user interface are proposed to explain how controllers determine their control actions and their underlying working mechanism. The novel contributions of this work are threefold: First, the XCF is designed to provide model-agnostic explanations for controllers in closed-loop systems and can optionally refine local explanations by system response dynamics. Second, a novel explanation method, hierarchical fuzzy model-agnostic explanation for control systems (HFMAE-C), is proposed based on the designed framework. The HFMAE-C employs a fuzzy logic system to approximate the controller's behavior and system dynamics, providing sample, local, domain and universe level explanations via IF-THEN rules revealing the controller's decision logic and salience values quantifying the contribution of system states to control actions. Third, a large language model agent-supported user interface is developed to automatically analyze user requirements, select appropriate algorithms, interpret the generated explanations to a natural language report, and provide interactive consultation. Case studies on inverted pendulum system and Turtlebot obstacle avoidance demonstrate the effectiveness of the proposed method through simulated user experiments and quantitative comparisons with mainstream explainable control approaches.
This paper presents a versatile framework for evaluating fuzzy quantification queries over both standard and fuzzy ontologies as well as knowledge graphs. The primary objective is the retrieval of individuals that satisfy queries articulated via Type I or Type II fuzzy quantified expressions. A key advantage of the proposed approach is its inherent adaptability: it remains entirely agnostic to the quantifier type, the underlying evaluation method, and the specific data source of the ontology (i.e., OWL ontologies or RDFS knowledge graphs). Furthermore, we present Q2S2, a publicly accessible implementation of this system developed to support future research.
능동 분배 전력망에서 발전, 계통 연계, 부하, 에너지 저장 설비의 위험 평가 및 조율을 위해 퍼지 논리와 유전 알고리즘을 결합한 최적화 프레임워크를 구축한다. 기상 요인과 동적 사용자 수요로 인한 시스템 불확실성을 반영하기 위해, 본 연구는 퍼지 집합 표현을 사용하여 재생에너지 발전, 부하 곡선, 시장 가격을 모델링한다. 진화 과정에서 유전 알고리즘은 퍼지 요소를 시스템 관리에 도입하고, 페널티 계수를 조정하여 안정성을 개선하며 더 나은 스케줄링 또는 전력 디스패치 해법을 탐색한다. 동시에 불확실성과 제약 위반에 페널티를 부과함으로써, 하이브리드 모델의 적합도 함수는 기대 운영 비용을 최적화하는 것을 목표로 하며, 알려지지 않은 매개변수 조건에서도 실행 가능하고 경제적인 결과를 생성할 수 있다. 재생에너지 공급이 풍부하고 에너지 저장 시스템이 설치된 조건에서, IEEE-69 전력 시스템에 대한 시뮬레이션 결과는 퍼지 유전 알고리즘 전략이 결정론적 최적화 방안 대비 기술적 제약을 효과적으로 줄인다는 것을 보여준다. 총 투자 규모는 유사한 수준을 유지한다. 다른 데이터는 퍼지 추론 최적화를 통해 네트워크 적응 과정에서 부당한 선택이나 불가능한 상황을 피할 수 있음을 나타낸다. 이 프레임워크 기반 기술적 접근법은 출력에서 불확실성을 인식하는 효과적인 계산 방안 구축에 도움이 된다. 이는 분배 전력망 계획에서 불확실성 평가를 위한 과학적 근거를 제공할 것이다.