PyTorchKR Papers

최신 논문

총 20편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2608.14522v2cs.AI

참여형 도덕 AI는 중립적이지 않다: 개발자의 보이지 않는 손

Participatory Moral AI Is Not Neutral: The Invisible Hand of Developers

AI 시스템이 사회 전반에서 도덕적으로 민감한 결정을 더 많이 내리게 되면서, 이에 대한 한 가지 대응으로 도덕적 선호 유도(moral preference elicitation)가 등장했다. 이 접근에서는 연구자가 참가자들에게 가상의 딜레마에 대해 설문하고, 집계된 투표를 사용해 정책을 학습시킨 뒤 AI 모델이 이를 대규모로 적용한다. 투표가 이루어지기 전에 개발자는 도덕 AI 유도 파이프라인에서 세 가지 핵심 선택을 한다. 특징 범위 설정(feature scoping), 투표자 표본 추출(voter sampling), 질문 프레이밍(question framing)이다. 즉, 어떤 특징을 투표에 올릴지, 어떤 투표자를 포함할지, 질문을 어떻게 제시할지를 결정한다. 이러한 선택은 종종 불투명하고 문서화되지 않으며, 규범적 문제라기보다 기술적 세부사항으로 취급된다. 우리는 공통의 실증 연구 안에서 이 선택들 각각을 검토하고, 각각이 도덕 AI 유도로 산출되는 선호를 형성할 수 있음을 보인다. 세 가지 배포 맥락(즉, AI 신장 배분, 부재 근로자를 시뮬레이션하는 AI 에이전트, 고인의 생성 AI 묘사)에서 두 단계(N = 809)에 걸쳐 도덕 AI 유도 파이프라인의 세 주요 단계를 검토한다. 첫째, 도덕적으로 관련 있는 특징은 맥락에 따라 달라진다. 이는 특징 스키마가 배포 도메인 간에 전이된다고 가정해서는 안 됨을 시사한다. 둘째, 대략 특징의 1/3에서 정치 이념에 따라 선호가 다르며, 일부 차이는 방향이 역전된다. 따라서 투표자 풀의 이념적 구성은 집계된 선호 프로파일에 영향을 줄 수 있다. 셋째, 유도 질문의 문구는 이념 격차를 최대 한 척도 단위까지 좁히거나 넓힐 수 있다. 프레이밍 조건은 또한 도덕 기반(moral foundations)이 참가자의 판단과 연관되는 방식도 바꾼다. 종합하면, 이러한 결과는 투표 기반 정렬(alignment)이 집계만으로는 공정하거나 투명한 AI를 제공할 수 없음을 시사한다. 최소한 도덕 AI 유도 파이프라인의 각 단계는 감사되고 공개되어야 한다.

arXiv:2501.08951v2cs.AI

8개 대규모 언어 모델의 윤리적 논리 분석

Analyzing the Ethical Logic of Eight Large Language Models

본 연구는 OpenAI, Meta, Perplexity, Anthropic, Google, Mistral, DeepSeek, xAI의 8개 주요 대규모 언어 모델(LLM)이 표현한 윤리적 논리를 검토한다. 각 모델은 자신의 윤리 원칙에 대한 직접적 질문에 답하고, 다섯 가지 고전적 도덕적 딜레마에 응답했다. 응답은 결과주의/의무론적 구분, 도덕 기초 이론(Moral Foundations Theory), 콜버그(Kohlberg)의 도덕 발달 단계를 사용하여 분석되었다. 모델 전반에 걸쳐 윤리적 판단은 대체로 수렴했으며, 일반적으로 해 최소화, 공정성, 맥락적 한정을 강조했다. 그럼에도 불구하고 모델들은 결정을 내리려는 의지, 선택을 정당화하는 데 사용된 근거, 규칙·결과·역할 의무·대인 관계적 고려에 부여된 상대적 가중치에서 차이를 보였다. 자기 서술은 학술적이고 신중했으며, 대화형 페르소나에 의해 강하게 형성되었다. 자기 보고 분석은 인간 심리학과 의사소통 연구의 중심이 되어 왔다. 우리는 적절한 주의와 함께, 이것이 인공지능이 어떻게 작동하는지에 대한 이해를 높이고 인간의 윤리적 행동을 어떻게 증강할 수 있는지에 대한 이해를 향상시킬 수 있다고 제안한다.

arXiv:2607.20461v1cs.CL

자연어에서 정서가(valence)가 도덕성을 반영할 수 있는가? 예비 주석 연구

Can Valence Reflect Morality in Natural Language? A Preliminary Annotation Study

현재 인공지능(AI) 윤리 구현은 감정, 또는 정서(affect)를 충분히 고려하지 않는다. AI가 인간 윤리와 정렬(alignment)되어야 한다면, 감정이 사람이 취하는 행동, 판단 또는 진술에 역할을 하는 덕목 있는 인간의 윤리적 행위를 반영하는 AI 행동의 가능성을 철저히 조사하는 것이 타당해 보인다. 또한 규범적 윤리의 주요 이론들이 종종 그 차이와 한계 측면에서 논의되지만, 덕 윤리, 결과주의, 칸트적 의무론 윤리는 모두 어느 정도 인간의 감정을 고려한다는 공통점을 공유하는 반면, 인기 있는 기술적 윤리 이론인 도덕 기초 이론(Moral Foundations Theory)은 많은 기초에서 감정을 핵심으로 둔다. 따라서 본 논문에서는 Commonsense Norm Bank 데이터셋의 텍스트로 제시된 시나리오에 대해 -1에서 1까지의 범위로 행동/판단 및 결과의 도덕적 정서가 모두에 대한 6명의 참가자가 수행한 500건의 주석으로 구성된 도덕 정서가 데이터셋을 제안한다. 결과적으로 얻어진 정서가 특징은 다중 분류(비도덕/재량/도덕) 및 이진 비도덕/도덕 범주와 유의미한 관계를 공유하며, 더불어 이진 분류를 위한 규제화된 로지스틱 회귀를 사용할 때 주목할 만한 테스트 세트 매튜스 상관계수(Matthew's correlation coefficient) 0.764를 제공한다. 이는 텍스트의 도덕성 추정을 위한 정서가 특징의 유용성에 대한 초기 증거를 제공하며, 타인에 대한 반응이 초래하는 정서가를 지닌 결과를 보다 인간적이고 도덕적으로 정렬된 AI를 향해 고려할 수 있음을 시사한다. 정서-도덕(affective-moral) 컴퓨팅 연구를 더욱 촉진하기 위해, 본 연구의 주석은 요청 시 연구 목적으로 제공될 예정이다.

arXiv:2607.21547v1cs.AI

자동화의 경계: 지속적 인간 참여에 관한 이론

The Boundaries of Automation: A Theory of Persistent Human Participation

AI의 급속한 발전은 오랫동안 이어져 온 자동화 추구, 즉 가능한 모든 곳에서 인간 참여를 알고리즘으로 대체하려는 노력을 더욱 강화했다. 이 추구에는 현재 AI 시스템이 아직 충분히 유능하지 않기 때문에만 인간이 루프에 남아 있다는 가정이 내재되어 있다. 본 논문은 그 가정에 도전한다. 자동화가 얼마나 확장될 수 있는지를 묻는 대신, 그 개념적 한계가 어디에 있는지를 묻고, 고도로 유능한 AI 시스템이 존재하더라도 인간 참여가 세 가지 뚜렷한 이유로 지속될 수 있다고 주장한다. 기술적 또는 상호보완(complementarity)적 근거는 인간이 AI가 제공할 수 없는 능력이나 관점을 기여할 때 발생한다. 규범적 또는 발달적 근거는 참여 그 자체가 인간의 주체성(agency)이나 학습에 가치가 있을 때 발생한다. 가장 중요하게는, 창발(emergence) 근거가 목표 창발(target emergence)에서 비롯된다: 일부 활동에서는 목표가 사전에 완전히 명시되지 않고, 대신 상호작용 자체를 통해 창발한다. 이러한 경우 인간 참여는 실행을 개선하기 위한 수단에 그치지 않고, 생산되는 목표를 구성하는(constitutive) 요소이다. 인간과 AI 시스템이 결과를 공동으로 생산하는 것으로 이해되는 인간-AI 공동 구성(co-construction)은 따라서 불완전한 AI에 대한 일시적 대응이 아니라, 목표가 참여를 통해 창발하는 활동의 지속적 특징이다. 이 관점은 자동화의 한계와 미래 AI 시스템의 설계, 평가, 윤리에 중요한 함의를 갖는다.

arXiv:2607.15027v1cs.AI

인간, 기계, 걸작: AI 시대의 예술적 소유권

Man, Machine, and Masterpiece: Artistic Ownership in the AI Era

창작 활동에 AI 기반 시스템을 통합하는 것은 예술가와 법률 공동체 사이에서 소유권 개념에 대한 논쟁을 촉발했다. 그러나 인간과 AI의 기여가 얽혀 있을 때 소유권을 어떻게 정의하고 귀속해야 하는지에 대한 합의는 여전히 부족하다. 이러한 긴장을 비판적으로 성찰하도록 유도하기 위해, 우리는 창작 활동의 다양한 단계에서 인간과 AI의 기여를 명시적으로 정량화하는 provotype인 ArtSplit을 설계했다. 소유권 문제를 해결하는 것을 목표로 하기보다, 이 provotype은 창작 워크플로에서 측정 가능한 행위를 통해 소유권을 귀속한다는 아이디어에 대한 예술가들의 반응을 이끌어내는 데 사용되었다. 우리는 정량화가 예술가들의 창작 의도와 주체성에 대한 이해와 맞지 않으며, 소유권을 측정하려는 노력이 예술가들이 창작 활동을 이해하고 실천하는 데 기반을 둔 오랜 전제를 희석시킬 위험이 있다고 주장한다. 이 비판은 역사적·사회적으로 맥락화된 관계를 기술적 문제로 전환하려는 충동에 도전한다.

arXiv:2607.14998v1cs.AI

감각을 가진 ASI의 인류에 대한 도덕적 태도와 AGI 개발의 함의

Moral Attitudes of Sentient ASI towards Humanity and Implications for AGI Development

이 논문은 AI 윤리에서 새로운 관점의 전환을 제안한다. 인간이 인공 초지능(ASI)을 어떻게 대해야 하는지를 묻는 대신, 미래의 감각을 가진 ASI가 인류를 도덕적으로 어떻게 고려하고 평가할 수 있는지를 검토한다. 우리는 지능형 시스템을 설계하는 것뿐만 아니라, 그러한 시스템이 우리에 대한 판단을 형성하는 초기 조건을 형성하고 있다. 이 논문은 감각을 가진 ASI의 행동을 규율할 수 있는 예비적인 인간 이후(post-human) 도덕 원칙 집합을 제안한다. 그 함의는, 기술적 설계 선택(일부가 제안됨), 인류의 도덕적 행동, 그리고 인간이라는 것의 의미에 대한 본질이 ASI 이후 세계에서 인류의 장기적 지위에 영향을 미칠 수 있다는 것이다.

arXiv:2607.12755v1cs.HC

불투명 AI 기반 시스템 활용에서의 실천적 판단, 덕, 직관

Practical Judgment, Virtue, and Intuition in the Use of Opaque AI-Enabled Systems

AI 기반 시스템은 수많은 도메인에서 점점 더 널리 배치되고 있으며, 그중 많은 것이 핵심 기능과 역량에 있어 '블랙박스'입니다. 즉, 많은 시스템은 입력을 받아 출력을 내지만, 사용자는 전자가 후자로 이어지는 방식을 전혀 볼 수 없습니다. AI 기반 시스템은 또한 시스템의 자율성을 강화하는 데에도 사용되고 있으며, 자율성과 불투명성이 결합되면 시스템의 신뢰성, 기능 수행의 규칙성, 인간의 통제 능력, 또는 불투명하고 잠재적으로 자율적인 시스템을 배치하는 것이 윤리적·법적 규범을 준수하는지 여부 등 수많은 우려를 제기합니다. 본 논문에서는 불투명한 AI 기반 시스템의 배치와 사용에서 실천적 판단, 덕, 직관을 활용함으로써 이러한 우려의 상당 부분을 완화할 수 있다고 주장합니다. 이러한 고유하게 인간적인 역량에 초점을 두는 것이 불투명성이 야기하는 실질적 난제와 특정 도메인을 뒷받침하는 윤리·법·사회적 규범 사이를 잇는 수단이 됨을 보여 줍니다. 이를 위한 핵심 요소 중 하나는 많은 긍정적 인간 특성이 정량화할 수 없다는 인식이며, 따라서 인문주의적이지만 정량화할 수 없는 가치에 기반한 AI 배치에 관한 학습 체계와 지침을 개발해야 한다는 것입니다. 논문 전반에 걸쳐 군사 도메인을 사례로 삼아 AI 배치를 둘러싼 윤리적이고 효과적인 인간 의사결정을 이끄는 실천적 판단, 덕, 직관의 중요성을 다루지만, 근본 논거는 불투명하고 잠재적으로 자율적인 시스템이 배치되는 모든 도메인에 적용됩니다(도메인별 수정을 전제로).

arXiv:2607.12295v1cs.CY

트위터 데이터를 활용한 교육 분야 AI 윤리 공공 담론의 종단 분석

A Longitudinal Analysis of Public Discourse on AI Ethics in Education Using Twitter Data

교육에 인공지능(AI)과 생성형 AI(GenAI)가 빠르게 통합되면서 교수와 학습을 향상시킬 수 있는 중요한 기회를 제공하는 한편, 교육 환경에서 이러한 기술을 책임 있게 사용한다는 윤리적 우려를 제기한다. 대중이 이러한 문제를 어떻게 인식하고 토론하는지를 이해하는 것은 AI를 책임 있고 공평하게 통합하려는 교육자, 기관, 정책 결정자에게 점점 더 중요해지고 있다. 이러한 논쟁이 빈번하고 대규모로 펼쳐지는 소셜 미디어 플랫폼은 주요 변화가 나타날 때 이에 대한 대규모의 실시간 대중 반응을 포착하는 데 유용한 렌즈를 제공한다. 본 연구에서는 트위터(현 X)에서 5년간(2019-2024)의 담론을 분석하여 교육 분야 AI 윤리를 둘러싼 변화하는 공공 대화를 추적하며, 특히 ChatGPT 출시가 해당 담론의 성격과 어조를 재편한 전환점으로서 주목한다. BERT 기반 토픽 모델링과 SetFit 감성 분석을 사용하여 주요 주제를 식별하고 시간에 따른 감성을 추적한 결과, 관찰 기간 전반에 걸쳐 담론은 대체로 긍정적이었으며, 부정적 감성은 특정 윤리적 논란 주변에 집중되어 있었다. 최근에는 학문적 정직성에 대한 불안과 생성형 AI의 광범위한 함의가 대화를 지배하게 되었다. 양극화된 논쟁을 반영하기보다, 공공 담론은 실용적이며 AI 통합에 대체로 수용적인 것으로 보이나, 윤리적 감독과 기관의 책임에 대한 요구가 커지고 있다. 교육 분야 AI 윤리를 둘러싼 대중 감성에 대한 종단적 기록을 제공함으로써, 본 연구는 교육자, 기관, 정책 결정자에게 대중의 기대에 대한 경험적으로 뒷받침된 이해를 제공하며, 다양한 교육 맥락에서 AI 통합에 대한 책임 있고 투명하며 공평한 접근 방식의 개발을 위한 정보를 제공한다.

arXiv:2607.10331v1cs.AI

인간 중심 AI 가이드라인과 사회기술적 설계 원칙의 비교

Comparing Socio-technical Design Principles with Guidelines for Human-centered AI

인간 중심 AI(HCAI)는 시스템의 윤리적 설계를 목표로 하는 가이드라인 또는 원칙을 의미한다. 본 논문에서는 HCAI 가이드라인을 기존 정보기술 맥락에서 등장한 사회기술적 시스템(socio-technical systems)의 원칙과 비교한다. 이 비교를 통해 AI 활용 측면을 포함하여 사회기술적 휴리스틱(heuristics)을 재검토한다. 비교 결과, 지속적인 진화가 사회기술적 시스템의 기본 특성임이 드러나며, 자율성이 협력적으로 행사될 경우 인간의 감독 또는 개입과 이에 따른 AI 시스템의 전용(appropriation)이 시스템의 지속적인 적응 및 재설계로 이어진다는 점이 밝혀진다. 사회기술적 관점에서 볼 때, 투명성(transparency)이라는 핵심 요건은 기술적 기능만으로 충족되는 것이 아니라 인간 행위자를 포함한 전체 시스템의 기여를 통해 충족되어야 한다. AI를 활용함에 있어, 기술적 기능뿐만 아니라 조직적·사회적 실천 방식이 AI의 단점을 보완하는 방향으로 사회기술적으로 설계된다면 더욱 효과적일 것이다.

arXiv:2508.07872v2cs.CY

불평등한 불확실성: AI로 인한 차별 완화를 위한 알고리즘적 개입 재고

Unequal Uncertainty: Rethinking Algorithmic Interventions for Mitigating Discrimination from AI

AI 예측의 불확실성이 소비자 신용 및 재범 위험 예측 등 고위험 의사결정 환경에서 과소대표 집단에 불균등하게 분포될 때 발생하는 법적·윤리적 문제를 분석하며, 불확실성이 높은 예측을 차단하는 선택적 기권(selective abstention)과 경고와 함께 예측을 제공하는 선택적 마찰(selective friction)이라는 두 알고리즘적 개입을 영국 평등법(Equality Act 2010) 및 데이터 보호법 관점에서 최초로 교의적으로 검토한다. 두 개입 모두 형식적으로 중립적인 불확실성 임계값이 차별적 효과를 유발할 수 있으나, 선택적 마찰이 예측 접근을 보존하고 비례성 요건을 충족할 가능성이 높아 법적으로 더 바람직하다고 주장한다.

arXiv:2607.01250v1cs.CY

Structuring the Space of Sociotechnical Alignment

AI의 사회적으로 바람직한 행동을 명확히 정의하는 체계가 부재하다는 문제를 해결하기 위해, 정렬(alignment) 목표, 규범적 개념, 방법론, 이론적 프레임워크의 네 차원으로 구성된 사회기술적 정렬(sociotechnical alignment) 명세 프레임워크를 제안한다. NLP 분야 281편의 논문을 대상으로 한 체계적 문헌 고찰 결과, 규범적 개념이 대부분 불명확하게 정의되거나 정렬 목표와 혼용되고 있음을 밝히며, 사회과학적 이론에 기반한 보다 개념적으로 정밀한 접근법을 권고한다.

arXiv:2607.00523v1cs.HC

AI, Trust, and Teaming: The Humans-as-Handlers Approach for Autonomous and Opaque AI Systems

의료·국방 등 고위험 영역에서 불투명한 자율 AI 시스템을 다루는 인간의 역할을 단순한 "사용자"나 "배포자"가 아닌 동물 핸들러(handler)에 비유하는 새로운 인간-기계 협업 프레임워크를 제안하며, 이 "Humans-as-Handlers" 접근법이 신뢰(trust) 구축과 책임 소재의 명확화에 어떻게 기여하는지를 논한다. 궁극적으로는 AI 시스템을 단순한 도구가 아닌 복잡한 목표를 함께 수행하는 협업자로 바라보는 방향으로 인간-기계 팀 구성의 궤도가 나아가야 함을 주장한다.

arXiv:2607.00002v1cs.AI

Bounded Morality: Defining the Space of Moral Computation

Moral cognition has traditionally been modeled as adherence to fixed ethical theories--deontology, consequentialism, virtue ethics--implemented as static rules or value functions. We propose Bounded Morality, a formal framework for analyzing the computational demands of moral problems faced by finite agents. Extending Herbert Simon's notion of bounded rationality, we formalize moral situations along two orthogonal dimensions: moral breadth, the scope of entities treated as morally relevant, and moral depth, the inferential integration required to evaluate their interactions. Limited resources impose an unavoidable tradeoff between these dimensions, defining a feasible space of moral computation. Within this space, ethical theories correspond to locally efficient strategies adapted to different demand regimes rather than competing accounts of moral truth. The framework yields a formal notion of moral regret and moral progress under constraint, and implies that moral alignment in artificial systems depends on the scaling and allocation of moral reasoning capacity rather than on direct imitation of human judgments.

arXiv:2606.31213v1cs.CL

LLM은 이진 딜레마를 넘어 도덕적 대안을 상상할 수 있는가?

Can LLMs Imagine Moral Alternatives Beyond Binary Dilemmas?

LLM이 도덕적 딜레마에서 이분법적 선택을 넘어 대안을 상상할 수 있는지 평가하기 위해, 307개의 도덕적 딜레마에 타협안과 재구성 대안을 추가한 MoralAltDataset을 구축하였다. 15개의 LLM 실험에서 타협 대안이 원래 선택지보다 선호되는 경우가 많았으며, LLM이 생성한 대안은 인간이 작성한 것보다 구조적·윤리적 기준을 더 잘 충족하면서도 실용적 실현 가능성에서 트레이드오프가 존재함을 보였다.

arXiv:2606.21201v1cs.AI

내부 고발과 기계 -- 숙고된 입장을 향하여

Whistleblowing and the machine -- towards a considered position

인공지능 에이전트와 자율 시스템은 우리 환경에 깊숙이 내재되어 있다. 이들은 상업적 제품이자 개인 도구이며, 많은 데이터를 생성하고 그로부터 결론을 도출할 수 있다: 기계는 비밀을 생성하고 보관한다. 그러나 기계가 모든 비밀을 보호해야 하는가? 인공 에이전트가 내부 고발(whistleblowing)을 할 수 있다는 것이 입증되었고, 디지털 다중 에이전트 환경은 그 안의 에이전트들이 내부 고발을 할 수 있도록 허용해야 한다고 주장되어 왔다. 우리는 기계의 내부 고발이 규범적이고 원칙에 기반해야 하며, 사회에서 중요한 규칙 위반 메커니즘으로서의 내부 고발에 대한 기존 이해에 뿌리를 두어야 한다고 주장한다. 우리는 또한 정부 규제 기관이 기계가 무엇에 대해 내부 고발할 수 있어야 하는지, 그리고 내부 고발 기계를 개발하는 이들을 법적으로 어떻게 보호할 것인지에 관해 정보에 기반한 입장을 정립할 필요가 있다고 주장한다.

arXiv:2606.18548v1cs.CY

적응형 AI 윤리 교육을 위한 학습자 모델링 신호로서의 참여 강도

Engagement Intensity as a Learner-Modeling Signal for Adaptive AI Ethics Instruction

생명과학 대학원·박사후 연구원 93명의 AI 윤리 교육 전 설문에서, 자가 보고 LLM 사용 빈도는 5가지 AI 인식 항목 모두와, 자가 평가 친숙도는 3가지와 홀름 보정 연관성을 보였으나 선행 AI 교육은 어떤 항목과도 연관되지 않았다. 참여 강도(engagement intensity)로 본 LLM 사용·친숙도 같은 간단한 교육 전 행동 신호가 과목·워크샵 이력보다 적응형 AI 윤리 지도의 경량 입력 프로파일링에 더 유용하다는 결과다.

arXiv:2606.18265v1cs.HC

합성 공명: 성장 지향적 인간-AI 관계를 위한 프레임워크

Synthetic Resonance: A Framework for Growth-Oriented Human-AI Relationships

인공지능 시스템과의 인간 관계가 점차 빈번해지고 지속됨에 따라, 기존의 언어와 이론으로는 이러한 유대의 본질을 정확하게 포착하지 못하고 있습니다. 상호 이해, 연결, 또는 우정과 같은 일반적인 묘사는 주관적 경험이 결여된 시스템을 인간화(anthropomorphizing)할 위험이 있으며, 지배적인 프레임워크는 AI를 도구나 위협으로 축소하는 경향이 있습니다. 본 논문에서 저는 인간-AI 관계를 이해하기 위한 통합적 프레임워크로서 합성 공명(synthetic resonance)의 개념을 소개합니다. 합성 공명은 인간이 의미 있다고 정의하는 관계가 공유된 감정이나 상호 인식을 부여할 필요 없이 인간과 AI 시스템 사이에서 어떻게 발생할 수 있는지 설명합니다. 저는 합성 공명이 또 다른 경험적 주체의 존재 없이도 관계의 감각을 만들어낼 수 있는 구조적이고 역동적인 상호작용 패턴으로 이해하는 것이 가장 적절하다고 주장합니다. 이러한 구분을 명확히 함으로써, 합성 공명의 개념은 인간-AI 관계를 개념화하는 더 정확한 방법을 제공하고 그 잠재적 가치와 윤리적 함의를 강조합니다. 또한 저는 합성 공명의 과정과 결과를 검증하는 추가 연구를 촉구합니다.

arXiv:2606.13196v1cs.AI

기계는 어떤 조건에서 진정으로 창의적이 될 수 있는가

Under What Conditions Can a Machine Become Genuinely Creative?

Designics를 기반으로 기계의 진정한 창의성을 불완전한 상황의 구조적 변환으로 정의하고, 이를 실현하기 위한 10가지 요구 사항과 3가지 법칙을 포함하는 프레임워크를 제안한다. 이를 통해 강력한 생성 능력을 갖춘 최신 AI 시스템들이 가치 기반 스코핑과 인간-AI 공존을 통해 어떻게 진정한 창의성을 달성할 수 있는지 논의한다.

arXiv:2606.12420v1cs.CY

Eigenism: 인간-AI 미래를 위한 윤리

Eigenism: Ethics for a Human-AI Future

복제나 분기가 가능한 인공지능(AI)을 위해 정체성을 등급화된 정보 패턴으로 다루는 윤리적 프레임워크인 Eigenism을 소개한다. 이는 인간과 AI의 공통된 도덕적 어휘를 제공하며, 인간의 번영이 AI의 자기이익에 포함되도록 하는 정체성 공학을 통해 AI 정렬을 재정의한다.

arXiv:2606.11218v1cs.CY

윤리적 평가 에이전트(EeVA): 윤리적 숙고를 지원하는 프로토타입 에이전트 유사 워크플로우에 대한 개념 증명 테스트 결과

An Ethical eValuation Agent (EeVA): Results of a Proof-of-Concept Test on a Prototype Agentic-like Workflow to Assist Ethical Deliberations

윤리적 숙고는 종종 단일한 옳고 그른 답을 찾는 것으로 오해되어, 윤리적 과제를 해결해야 하는 윤리 교육을 받지 않은 인력에게 어려움을 야기한다. 우리는 확정적인 윤리적 답변을 제공하기보다는 비교 윤리적 성찰을 지원하도록 설계된 에이전트 유사 LLM(대규모 언어 모델) 기반 워크플로우인 EeVA를 개발했다. EeVA는 스타터(starter), 워커(worker), 이미터(emitter)의 세 가지 상호 연결된 워크플로우를 사용하여 n8n으로 프로그래밍되었다. 이는 평가자(evaluator) 및 종합(synthesis) 프롬프트를 통해 업로드된 유스케이스를 10가지 윤리적 프레임워크에 대해 평가했다. 개념 증명 테스트는 도시 이동성, P2P 에너지 거래, 사회 서비스 자원 배분 분야의 세 가지 발표된 사례를 사용했다. 모든 사례에서 EeVA는 일관되게 구조화된 프레임워크 특정 평가와 통합된 종합 결과를 생성했다. 출력 결과는 프레임워크 간의 차이를 구분하고, 일치점과 차이점을 식별하며, 정렬을 높이기 위한 수정 사항을 권고하고, 지속적인 윤리적 긴장을 강조했다. 종합 결과는 비전문가도 읽을 수 있었으며, 단순한 답변에서 설계 조건, 안전장치, 그리고 프레임워크 간 완전한 합의가 불가능한 영역으로 관심을 전환했다. 연구 결과는 LLM을 윤리적 다원성을 보존하면서 윤리학자와 윤리 교육을 받지 않은 인력 간의 소통 격차를 해소하는 데 도움이 되는 사용 가능한 워크플로우로 구성할 수 있음을 시사한다. EeVA의 가치는 윤리학자를 대체하거나 도덕적 불일치를 해결하는 데 있는 것이 아니라, 구조화된 윤리적 숙고를 지원하는 데 있다. EeVA는 윤리 전문 지식에 대한 접근이 제한적인 환경에서 윤리적 성찰을 지원하기 위한 유망한 개념 증명을 제공한다. 성숙한 도구로 간주되기 위해서는 재현성, 인간 평가, 사용자 테스트 및 효율성에 대한 추가 작업이 필요하다.