대비를 위한 예측인가, 근거 없는 추측인가? AI 윤리에서 미래를 유용하게 논하는 법
Anticipating or Speculating? Making Futures Pay in AI Ethics
한국어 초록
최근 철학자들은 의사의 판단과 의료 인공지능(AI) 시스템의 권고가 엇갈릴 때 적용할 통일된 의사결정 규칙을 개발하려 했다. 이 시도에는 근본적 결함이 있다고 주장한다. 알고리즘 권고 시스템의 성능과 의사의 적절한 사용 방식은 상황에 크게 좌우되는 실증적 의학 문제이기 때문이다. 이를 인식론적 문제로 다룰 수는 없다. 이 경우 일반적인 의사결정 규칙을 정하려면 관련성이 있을 뿐 아니라 결과를 결정하는 구체적 상황까지 추상화해야 한다. 의사와 AI의 이견이라는 문제와 비슷한 논점들은 가능한 미래를 그려 보는 일이 가능한지, 유용한지에 관한 기술 윤리의 오랜 논쟁과 연결된다. 이러한 사고는 현재에 도움이 되는 ‘대비적 예측’인가, 낭비적인 ‘추측’인가? 둘을 구분할 수 있다고 본다. 대비적 예측은 없앨 수 없는 불확실성 속에서도 현재의 행동에 도움이 되도록 그럴듯한 미래를 탐색한다. 추측은 불확실성을 추상화하고 가정한 상황에 형식적 해법을 만들지만, 그 상황이 실제 현재와 어떤 관계인지 불분명한 경우가 많다. 의사와 AI의 이견 등의 문제에 명쾌한 철학적 해법을 제시하려는 시도는 후자에 해당한다. 생산적인 미래 사고는 복잡하고 불확실한 현재에서 출발해 다시 현재로 돌아와야 한다는 점을 기술 윤리에서 기억할 필요가 있다.
원문 초록
Philosophers have recently been trying to develop uniform decision rules for instances in which physicians' judgments diverge from the recommendations of medical artificial intelligence (AI) systems. I argue that this effort is fatally flawed because the performance and appropriate use of algorithmic recommendation systems by physicians are highly context-specific, empirical medical matters rather than epistemological ones. In such instances, general decision rules can be stipulated only to the extent that they abstract away from relevant, indeed determinative, contextual circumstances. The alleged problem of physician-AI disagreement, and others like it, play into longstanding disputes in technology ethics about the viability and utility of envisioning possible futures: is this useful "anticipation" or wasteful "speculation"? I suggest that the two may be distinguished. Anticipation explores plausible futures to help inform present actions under irreducible uncertainty. Speculation abstracts away uncertainty, developing formal solutions to stipulated circumstances whose relationship to the real present is often quite unclear. Efforts to develop crisp philosophical solutions to physician-AI disagreement, among other problems, fall into the latter category. Technology ethics should remember that fruitful futures thinking must both begin from and return to the messy, uncertain present.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.22268v2제출 시각 미확인
- arXiv:2611.22268v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.