PyTorchKR Papers

최신 논문

총 4편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.12755v1cs.HC

불투명 AI 기반 시스템 활용에서의 실천적 판단, 덕, 직관

Practical Judgment, Virtue, and Intuition in the Use of Opaque AI-Enabled Systems

AI 기반 시스템은 수많은 도메인에서 점점 더 널리 배치되고 있으며, 그중 많은 것이 핵심 기능과 역량에 있어 '블랙박스'입니다. 즉, 많은 시스템은 입력을 받아 출력을 내지만, 사용자는 전자가 후자로 이어지는 방식을 전혀 볼 수 없습니다. AI 기반 시스템은 또한 시스템의 자율성을 강화하는 데에도 사용되고 있으며, 자율성과 불투명성이 결합되면 시스템의 신뢰성, 기능 수행의 규칙성, 인간의 통제 능력, 또는 불투명하고 잠재적으로 자율적인 시스템을 배치하는 것이 윤리적·법적 규범을 준수하는지 여부 등 수많은 우려를 제기합니다. 본 논문에서는 불투명한 AI 기반 시스템의 배치와 사용에서 실천적 판단, 덕, 직관을 활용함으로써 이러한 우려의 상당 부분을 완화할 수 있다고 주장합니다. 이러한 고유하게 인간적인 역량에 초점을 두는 것이 불투명성이 야기하는 실질적 난제와 특정 도메인을 뒷받침하는 윤리·법·사회적 규범 사이를 잇는 수단이 됨을 보여 줍니다. 이를 위한 핵심 요소 중 하나는 많은 긍정적 인간 특성이 정량화할 수 없다는 인식이며, 따라서 인문주의적이지만 정량화할 수 없는 가치에 기반한 AI 배치에 관한 학습 체계와 지침을 개발해야 한다는 것입니다. 논문 전반에 걸쳐 군사 도메인을 사례로 삼아 AI 배치를 둘러싼 윤리적이고 효과적인 인간 의사결정을 이끄는 실천적 판단, 덕, 직관의 중요성을 다루지만, 근본 논거는 불투명하고 잠재적으로 자율적인 시스템이 배치되는 모든 도메인에 적용됩니다(도메인별 수정을 전제로).

arXiv:2607.00523v1cs.HC

AI, Trust, and Teaming: The Humans-as-Handlers Approach for Autonomous and Opaque AI Systems

의료·국방 등 고위험 영역에서 불투명한 자율 AI 시스템을 다루는 인간의 역할을 단순한 "사용자"나 "배포자"가 아닌 동물 핸들러(handler)에 비유하는 새로운 인간-기계 협업 프레임워크를 제안하며, 이 "Humans-as-Handlers" 접근법이 신뢰(trust) 구축과 책임 소재의 명확화에 어떻게 기여하는지를 논한다. 궁극적으로는 AI 시스템을 단순한 도구가 아닌 복잡한 목표를 함께 수행하는 협업자로 바라보는 방향으로 인간-기계 팀 구성의 궤도가 나아가야 함을 주장한다.

arXiv:2606.23760v1cs.RO

Engineering Reliable Autonomous Systems: Challenges and Solutions

Engineering reliable autonomous systems is an important and growing topic in computer science. As autonomous systems become more prevalent, easy-to-use techniques for building them reliably are increasingly important. This workshop report captures and expands on the discussions at the Lorentz Center Workshop "Engineering Reliable Autonomous Systems" (ERAS), held from 10 to 14 June 2024. The workshop was co-organised by the organisers of the Workshop on Formal Methods for Autonomous Systems (FMAS) and the Workshop on Agents and Robots for reliable Engineered Autonomy (AREA). It brought together members of the FMAS and AREA communities, industry practitioners, and representatives from sectors where autonomous systems pose distinctive engineering challenges. The workshop focused on three main research topics: techniques for verification and validation of autonomous systems; engineering real-world autonomous systems; and software architectures for safe autonomous systems. Its main outcome is a catalogue of challenges in these areas and, most importantly, a pathway to solutions. Some challenges can already be tackled by techniques that are well known in academia but have not yet become regularly used in practice. Other challenges remain unresolved and require further research. This roadmap is intended to support future research and industrial collaboration.

arXiv:2606.07211v1cs.RO

위험 환경에서의 설명 가능한 자율성을 위한 추상 아키텍처

An Abstract Architecture for Explainable Autonomy in Hazardous Environments

자율 로봇 시스템은 인간 작업자의 위험을 줄이기 위해 위험 환경에서의 활용이 제안되고 있다. 가까운 미래에는 인간 작업자가 다른 전산화 도구와 유사하지만 보다 정교한 의사결정 기능을 갖춘 이러한 자율 로봇을 계속해서 사용하고 지휘할 가능성이 높다. 따라서 엔지니어링 노력을 집중해야 할 중요한 영역 중 하나는 사용자가 시스템을 신뢰하도록 보장하는 것이다. 최근 문헌에 따르면 설명 가능성(explainability)은 시스템의 신뢰성과 밀접한 관련이 있다. 안전성 및 보안 속성과 마찬가지로, 설명 가능성은 사후에 추가되는 것이 아니라 시스템 설계 단계에서부터 내재되어야 한다. 본 논문은 자율 시스템이 자신의 행동을 설명하는 기능(설명 가능한 자율성)을 지원하는 추상 아키텍처를 제시하며, 설명 가능한 자율 시스템 구현을 위한 설계 템플릿을 제공한다. 또한 작업자와 규제 기관 모두 시스템의 의사결정 능력을 신뢰해야 하는 민간 핵산업 분야에 본 아키텍처를 적용하는 구체적인 사례를 제시한다.