도덕적 행위자를 만드는 방법: AI를 바라보는 렌즈로서의 감정주의와 이성주의
How to make a moral agent: sentimentalism and rationalism as lenses on AI
한국어 초록
AI 시스템은 도덕적 행위자가 될 수 있는가? 즉, AI 시스템은 도덕적으로 옳거나 그르다고 올바르게 평가될 수 있는 행위를 수행할 수 있는가? 전형적인 인간 사례 밖에서 깔끔하게 적용되는, 도덕적 행위성에 대한 확립된 규범적 기준은 존재하지 않는다. 규범적 설명에 따르는 어려움 때문에, 본 논문은 대신 기술적(descriptive) 도덕적 행위성을 탐구하는 연구 프로그램을 제안한다. 가장 기본적으로, 우리는 인간의 도덕적 행위성의 기반이 되는 인간의 능력이 무엇인지를 묻는다. 이를 위해 철학과 도덕심리학의 역사적 연구를 활용하여 후보 능력을 추려낸다. 그다음 후보 능력을 AI 시스템의 맥락에서 검증할 수 있도록 정교화할 것을 제안한다. 마지막으로, 정교화된 능력에 대해 AI 시스템, 특히 대규모 언어 모델(LLM)을 검증하기 위한 구체적인 실증적 권고를 제시한다. 이러한 접근은 여러 이점을 가진다. 첫째, AI 시스템의 행동이 정렬되어 있는지, 또는 넓은 의미에서 바람직한지를 보여줄 수 있다. 둘째, 이 논의는 어떤 모델을 어떤 맥락에 배포해야 하는가와 같은 정책적 질문에 시사점을 줄 수 있다. 셋째, 능력을 정밀하게 규정할 수 있다면 모델 개발에 반영될 수 있으므로, 이 접근은 공학 및 설계 노력을 보완할 수 있다. 넷째, 도덕적 추론 개념을 AI 시스템이라는 새로운 맥락에 적용하면 해당 개념에 대한 이해가 향상될 것이다.
원문 초록
Can AI systems be moral agents? That is, can they undertake actions that can be correctly assessed as morally right or wrong? There is no settled normative criterion of moral agency that applies neatly outside paradigm human cases. Because of the difficulties with a normative account, we instead propose a research program to explore descriptive moral agency. Most basically, we ask, what are the capabilities we humans possess that underlie our moral agency? To do so, we draw on historical scholarship in philosophy and moral psychology to isolate candidate capabilities. Then we suggest refining candidate capabilities so that they are testable in the context of AI systems. Finally, we offer specific empirical recommendations to test AI systems, especially large language models (LLMs), for those refined capabilities. Our approach offers several benefits. Firstly, it may demonstrate whether the behaviors of AI systems are aligned, or in a broad sense desirable. Secondly, the debate may inform policy questions (e.g., what models should be deployed in which contexts?). Thirdly, our approach may complement engineering and design efforts: when capabilities can be precisely characterized, they can inform the development of models. Fourthly, applying our moral reasoning concepts in the new context of AI systems should improve our understanding of those concepts.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.18714v2제출 시각 미확인
- arXiv:2611.18714v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.