Towards Theory-based Moral AI: Moral AI with Aggregating Models Based on Normative Ethical Theory
원문 초록
Moral AI has been studied in the fields of philosophy and artificial intelligence. Although most existing studies are only theoretical, recent developments in AI have made it increasingly necessary to implement AI with morality. On the other hand, humans are under the moral uncertainty of not knowing what is morally right. In this paper, we implement the Maximizing Expected Choiceworthiness (MEC) algorithm, which aggregates outputs of models based on three normative theories of normative ethics to generate the most appropriate output. MEC is a method for making appropriate moral judgments under moral uncertainty. Our experimental results suggest that the output of MEC correlates to some extent with commonsense morality and that MEC can produce equally or more appropriate output than existing methods.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
콜롬비아 70년 철학의 지도화: Ideas y Valores의 동적 토픽 모델링
Mapping Seven Decades of Philosophy in Colombia: Dynamic Topic Modelling of Ideas y Valores
데이터 기반 접근법은 철학 분야의 역사를 연구하는 유용한 도구로 부상하였다. 그러나 이 영역의 대부분의 연구는 특정 지역과 하위 분야의 제한된 수의 학술지에 초점을 맞추어 왔다. 우리는 동적 토픽 모델링 기법을 적용하여 콜롬비아와 라틴아메리카의 철학사를 탐구함으로써 이 연구의 범위를 확장한다. 본 연구는 1951년에 창간되어 현재 이 지역에서 가장 영향력 있는 철학 학술지 중 하나인 콜롬비아 철학 학술지 Ideas y Valores를 검토한다. 학술지의 역사 전반에 걸친 토픽의 변화를 분석함으로써, 콜롬비아 및 라틴아메리카 맥락의 철학 담론에서 나타나는 다양한 경향과 특정한 역학을 식별한다. 연구 결과, 가장 두드러진 토픽은 (윤리학, 정치철학, 미학을 포함하는) 가치론, 인식론, 과학철학임이 드러난다. 또한 새로운 입장을 제시하기보다 특정 철학자의 저작을 해석하는 데 초점을 둔 논문의 변화를 추적하며, 학술지 존속 기간 전반에 걸쳐 여러 토픽에서 칸트, 후설, 헤겔과 같은 독일 철학자들이 두드러지게 강조됨을 확인한다. 보다 독창적이고 주석 중심이 아닌 철학을 지향한 학술지의 창간 취지를 고려하여, 주석적 토픽이 시간이 지나면서 상대적으로 덜 두드러지게 되었는지를 조사한다. 우리의 분석은 그러한 토픽의 유의미한 감소가 없음을 시사한다. 마지막으로, 이 연구를 다른 라틴아메리카 학술지로 확장하기 위한 아이디어를 제안하고 비영어권 언어의 자연어 처리 워크플로 개선 방안을 제시한다.
Decoding the Black Box: Integrating Moral Imagination with Technical AI Governance
Measure of Morality: A Mathematical Theory of Egalitarian Ethics
A Metasemantic-Metapragmatic Framework for Taxonomizing Multimodal Communicative Alignment
Value Imprint: A Technique for Auditing the Human Values Embedded in RLHF Datasets
Introduction to AI Safety, Ethics, and Society
토론
이 논문과 연결된 포럼 글이 아직 없습니다.