PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.16786v2cs.LG

설명 알고리즘을 현실 세계와 연결하기 위한 설명 카드의 필요성

We Need Explanation Cards to Connect Explanation Algorithms to the Real World

알고리즘적 설명(algorithmic explanation)은 이해관계자가 불투명한 알고리즘의 의사결정을 이해하도록 돕기 위한 것이지만, 실제로는 기대에 미치지 못하는 경우가 많습니다. 첫째, 알고리즘적 설명의 의미는 직관적으로 기대하는 바와 다른 경우가 많아 올바르게 해석하려면 전문가 수준의 지식이 필요합니다. 둘째, 최근 연구에 따르면 널리 사용되는 설명 알고리즘들이 복잡한 결정 함수의 동작에 대해 유의미한 정보를 제공하지 못하는 것으로 나타났습니다. 이러한 문제들이 결합되어 설명이 전달하는 것처럼 보이는 것과 실제로 제공하는 것 사이에 격차가 발생합니다. 본 연구에서는 표준적인 설명에 견고성(robustness) 및 유효성(validity)에 관한 보완 정보와 명확한 해석 지침을 더하는 '설명 알고리즘을 위한 설명 카드(Explanation Cards)'를 제안합니다. 이러한 보완 정보는 유의미하지 않던 설명을 실질적으로 유용하게 만들 수 있으며, 그렇지 못한 경우를 감지하는 데도 도움을 줍니다. 특히 설명 카드의 해석 지침은 책임을 사용자에서 제공자로 전환합니다. 즉, 사용자가 설명으로부터 무엇을 결론지을 수 있고 무엇을 결론지을 수 없는지 알아차리기를 기대하기보다, 제공자가 이를 사전에 명시해야 합니다. 본 논문에서는 반사실적 설명(counterfactual explanation)과 SHAP을 예시로 들어 제공자가 설명 카드를 어떻게 구축할 수 있는지, 그리고 이러한 카드가 사용자에게 타당한 해석에 필요한 지침을 어떻게 제공하는지 실증합니다. 나아가 설명 카드가 EU 인공지능법(EU AI Act)의 설명가능성 규정을 실무적으로 운용할 수 있는 실질적인 방안을 제공한다고 주장합니다. 종합적으로 설명 카드는 설명 알고리즘을 실제 적용 사례에 적합하게 만드는 중요한 진전입니다.

arXiv:2506.03218v2cs.CY

포지션: EU AI 법의 연구 면제 조항이 주요 AI 학술대회의 출판 규범을 훼손할 수 있다

Position: EU AI Act's Research Exemptions Can Break the Publication Norms of Major AI Conferences

EU AI 법(EU AI Act)이 AI 연구자에게도 적용될 수 있으며, 특히 GitHub, Hugging Face 등 플랫폼을 통한 모델 및 시스템 공개 행위가 법적 준수 의무를 발생시킬 수 있음을 분석한 포지션 페이퍼로, 연구 예외 조항이 현행 AI 연구 출판 관행을 충분히 반영하지 못해 ICML, NeurIPS, ICLR 등 주요 학회 연구자들이 최대 3,500만 유로의 과태료 위험에 노출될 수 있다고 주장한다.

arXiv:2606.18158v1cs.CY

EU법 자동화의 측정 격차: EU AI Act 하에서 교조적 법률 추론 벤치마킹

The Measurement Gap in the Automation of EU Law: Benchmarking Doctrinal Legal Reasoning under the EU AI Act

대규모 언어 모델(LLM)은 이제 최소한 중간 수준의 품질을 갖춘 법률 텍스트를 생성한다. 그러나 기존 벤치마크 중 어느 것도, 현재 법률 AI 평가가 대부분 측정하는 부수적·법무 보조 업무가 아니라 법률 업무의 해석적 핵심을 이루는 교조적 법률 추론(doctrinal legal reasoning)을 수행하는지 평가할 수 없다. 이 측정 격차는 방법론적 문제일 뿐 아니라 법적 문제이기도 하다. EU AI Act는 사법 영역에 사용되는 고위험 AI에 '적절한 정확도(appropriate accuracy)'를 구속적 요건으로 부과하지만, 해당 분야가 결여한 바로 그 교조적 추론 벤치마크 없이는 이 요건이 운영적 실체를 갖출 수 없다.