AI 시스템이 점차 사람과 상호작용하고 사람에 관한 결정을 내리게 됨에 따라, 인간의 해석을 이해하는 것은 인간 중심 AI(Human-Centered AI) 개발에서 중요한 부분이 되고 있습니다. 기존의 머신러닝 및 AI 시스템은 단 하나의 명확한 정답(ground truth)이 존재한다는 가정하에 주로 개발되어 왔으며, 인간의 어노테이션(annotation) 편차는 집계를 통해 해결되거나 노이즈로 처리되곤 했습니다. 그러나 많은 인간 중심 과제에서 인간의 해석은 본질적으로 모호하며, 동일한 입력에 대한 여러 해석이 동시에 타당하고 유효할 수 있습니다. 이러한 모호성을 단일 타깃으로 축소하는 것은 인간의 인식, 판단 및 경험의 다양성에 대한 유의미한 정보를 간과할 위험이 있습니다. 본 포지션 논문(position paper)에서는 유의미한 모호성과 어노테이션 노이즈를 구별하면서, 타당한 인간 판단의 해석 공간을 모델링하는 방향으로의 전환을 촉구합니다. 우리는 이러한 관점이 AI 시스템의 표현, 학습(training), 평가(evaluation), 배포 및 거버넌스 방식을 이끌어야 하며, 인간 해석의 다양성을 더 잘 반영하는 보다 인간 중심적인 AI를 뒷받침해야 한다고 주장합니다.
본 논문은 AI 보조 사전편찬을 위한 인간 중심 인공지능(HCAI, Human-Centered Artificial Intelligence) 프레임워크를 제안한다. 생성형 AI는 사전편찬 작업을 향상시킬 수 있는 상당한 기회를 제공하지만, 사전편집자의 미래 역할 및 언어적·문화적 다양성 보존에 대한 우려도 함께 제기한다. 본 논문은 HCAI 원칙과 다른 언어 전문 직종에서의 선행 적용 사례를 바탕으로, 사전편찬 분야에서 AI 통합을 이해하고 비판적으로 검토할 수 있는 네 가지 상호 연관된 차원(증강된 사전편집자, AI 통합의 사회기술적 맥락, 바이어스, AI 기반 사전편찬 도구의 설계)을 식별한다. 이 프레임워크는 자동화와 유의미한 인간 통제를 결합하여 AI가 사전편집자를 대체하기보다는 역량을 증강해야 한다고 주장한다. 나아가 전문적 주체성을 보존하고, AI가 생성하는 바이어스를 완화하며, 사전편집자의 요구를 중심으로 도구를 설계하는 것의 중요성을 강조한다. 이를 통해 본 논문은 향후 연구와 사전편찬 워크플로에 AI를 유익하게 통합하기 위한 기반을 제공한다.
변화가 가속화되는 세상에서 현명하고 적응력 있는 인간의 추론(reasoning)에 대한 필요성이 커지고 있습니다. AI의 역량과 인간의 가이드를 통합하는 것은 유망한 접근법이지만, 인간의 추론 자체는 종종 성급하고 근시안적이며 오류를 범하기 쉽고, 다양한 작업에 걸쳐 인간의 추론 전략을 AI와 결합하기 위한 명확한 프레임워크는 존재하지 않습니다. 본 논문에서는 세부적인 데이터 분석부터 고차원적인 성찰 및 지혜에 이르기까지 인간의 추론 능력을 관여시키고 강화하는 인간 중심 하이브리드 추론 시스템(hybrid reasoning systems)을 위한 프레임워크를 제안합니다. 이 프레임워크는 (1) 인간 추론 강화를 위해 확립된 전략, (2) 결론 생성보다 결론 도출 전 단계의 관여(pre-conclusive engagement)를 선호하는 AI 설계 접근 방식, (3) 추론을 개별적으로 지원 가능한 구별된 모드들의 집합으로 취급하는 관점을 결합한 개념적 종합을 통해 개발되었습니다. 이러한 종합을 통해 광범위한 추론 강화를 위한 독창적인 프레임워크가 도출되었으며, 이로부터 추론 모드의 유형론, 시스템 아키텍처, 그리고 고수준의 연구 의제가 도출되었습니다.
인간 중심 AI(HCAI)는 시스템의 윤리적 설계를 목표로 하는 가이드라인 또는 원칙을 의미한다. 본 논문에서는 HCAI 가이드라인을 기존 정보기술 맥락에서 등장한 사회기술적 시스템(socio-technical systems)의 원칙과 비교한다. 이 비교를 통해 AI 활용 측면을 포함하여 사회기술적 휴리스틱(heuristics)을 재검토한다. 비교 결과, 지속적인 진화가 사회기술적 시스템의 기본 특성임이 드러나며, 자율성이 협력적으로 행사될 경우 인간의 감독 또는 개입과 이에 따른 AI 시스템의 전용(appropriation)이 시스템의 지속적인 적응 및 재설계로 이어진다는 점이 밝혀진다. 사회기술적 관점에서 볼 때, 투명성(transparency)이라는 핵심 요건은 기술적 기능만으로 충족되는 것이 아니라 인간 행위자를 포함한 전체 시스템의 기여를 통해 충족되어야 한다. AI를 활용함에 있어, 기술적 기능뿐만 아니라 조직적·사회적 실천 방식이 AI의 단점을 보완하는 방향으로 사회기술적으로 설계된다면 더욱 효과적일 것이다.
생성형 AI는 자동화를 위한 새로운 기회를 창출하여 용어 작업을 변화시킬 가능성이 높습니다. 동시에, 효율성에 대한 압박이 인간의 전문성을 AI로 대체할 수 있다는 인식에 기반하여 과도한 자동화를 조장할 수 있기 때문에, 용어 전문가와 용어 자원의 미래에 대한 우려를 낳고 있습니다. 그러나 대규모 언어 모델(LLM)은 오류, 환각(hallucination), 그리고 다양한 형태의 바이어스로 인해 용어 작업 목적상 여전히 신뢰할 수 없으므로, 용어 데이터의 정확성과 신뢰성을 보장하기 위해 용어 전문가는 필수적입니다. 본 논문은 AI의 주요 목표가 인간의 안녕에 기여해야 한다는 점을 강조하는 접근법인 인간 중심 AI(human-centered AI)가, 생성형 AI의 이점을 극대화하는 동시에 그 위험을 완화하는 프레임워크를 제공한다고 주장합니다. 높은 수준의 자동화와 의미 있는 인간 통제는 양립 가능하며 바람직하다고 주장하며, AI는 용어 전문가의 주체성과 의사결정 권한을 보존하면서 그들의 역량을 강화해야 한다고 봅니다. AI 지원 용어 작업의 시사점은 증강된 용어 전문가, 윤리적 AI, 인간 중심 설계라는 세 가지 상호 관련된 차원을 통해 검토됩니다. 특히, 본 논문은 AI 통합이 용어 전문가의 역할을 어떻게 재정립하고, 전문적 가치와 작업 환경에 어떤 영향을 미치며, AI 생성 바이어스의 관리가 필요하고, 용어 전문가의 요구를 중심으로 AI 도구를 설계해야 한다는 점을 살펴봅니다. 본 논문은 인간 중심 지향이 AI가 용어 작업의 본질적인 역할을 약화시키는 대신 강화하도록 보장하는 데 필요하다고 결론짓습니다. 이때 용어 작업의 역할은 언어와 문화 간의 전문 분야 소통과 정확한 지식 전달을 지원하는 것입니다.