알고리즘 헌정주의
Algorithmic Constitutionalism
인공지능(AI)이 사회적 삶에 점점 더 깊이 침투함에 따라, 특히 Google, Facebook, Apple, Amazon과 같은 기업들이 생성하고 통제하는 인포스피어(infosphere) 내에서 사회에 상당한 위험이 발생하고 있다. 본 논문은 이미 부분적으로 알고리즘에 의해 관리되고 있는 Facebook의 콘텐츠 모더레이션 체제에 대한 심층 분석을 통해 이러한 위험을 검토한다. 우리는 AI가 제기하는 거버넌스 과제에 대한 해결책으로 문헌에서 자주 제안되는 윤리적 엔지니어링이라는 개념이 여러 이유에서 불충분하다고 주장한다. 이에 대한 대안적 프레임워크로 우리는 "알고리즘 헌정주의(algorithmic constitutionalism)"라는 개념을 제안한다. 우리의 접근법은 세 가지 기둥에 근거한다: (a) 두 수준의 코드로 구성된 계층적 아키텍처, 즉 (i) 운용 수준 또는 객체 수준과 (ii) 알고리즘적으로 시작된 변경으로부터 시스템의 핵심 원칙을 보호하도록 설계된 메타 수준; (b) 시스템이 두 수준에서 동시에 작동하여 메타 코드 수준에서 보호되는 원칙에서 벗어나는 객체 수준의 작동을 실시간으로 모니터링하고, 검증하며, 잠재적으로 수정할 수 있게 하는 알고리즘 메타 추론(algorithmic meta-reasoning); (c) 숙의를 통한 수정. 본 논문은 알고리즘 헌정주의의 개념을 정교화하고 이를 Facebook의 콘텐츠 모더레이션 체제에 어떻게 적용할 수 있는지 보여준다. 이 분석의 일환으로 우리는 사회적 헌정주의와 알고리즘 헌정주의 간의 긴장 관계를 검토한다. 역설적으로, AI 시스템을 외부 숙의적 통제에 종속시키려는 시도가 AI 에이전트로 하여금 그 과정에 개입할 수 있게 함으로써 잠재적으로 그 목적을 훼손할 수 있다. 본 논문은 2022년 10월에 발효된 유럽 디지털 서비스법(Digital Services Act)에 대한 이 논거의 함의를 검토하는 것으로 결론짓는다.