사법적 의사결정, 특히 공판 전 절차(재판 전), 양형, 가석방 맥락에 인공지능(AI)을 통합하는 연구는 상당한 규모로 빠르게 증가하고 있습니다. 컴퓨터 과학, 경제학, 법학, 범죄학, 심리학 전반에 걸쳐 연구자들은 AI 보조 의사결정의 신뢰성, 공정성, 그리고 실제 세계에서의 효과를 조사해 왔습니다. 그러나 이러한 문헌들은 여전히 파편화되어 있으며, 가정, 개념, 연구 우선순위의 차이로 인해 실제로 무엇이 밝혀졌는지 평가하기 어렵게 만듭니다. 본 논문은 형사 사법 위험 평가를 핵심 사례로 삼아 두 가지 기여를 합니다. 첫째, 세 가지 중심 질문을 구분하고 연계하는 개념적 프레임워크를 개발합니다: (1) 자동화된 위험 평가 도구의 예측 타당도, (2) 알고리즘 위험 평가와 인간 예측 간의 비교(AI 대 인간), (3) 알고리즘 권고가 판사의 결정에 미치는 영향(AI 결합 인간). 둘째, 이 프레임워크를 활용하여 각 질문을 다루는 실증적 증거를 종합합니다. 검토 결과, 예측 타당도에 관한 기존 연구의 중요한 한계점을 확인하였으며, 판사가 AI의 조언에 어떻게 반응하고 그러한 반응이 개인 및 의사결정 환경에 따라 어떻게 달라지는지에 대한 이해에도 상당한 공백이 있음을 밝혔습니다. 현재까지의 증거에 따르면, AI 의사결정 보조 도구는 공판 전 결정 및 양형 결정에 기껏해야 미미한 영향만을 미쳤음을 시사합니다. 우리는 판사가 잡음이 많은 정보 환경에서 어떻게 결정을 내리는지, 그리고 어떤 조건에서 AI 도구가 사법적 의사결정에 의미 있는 개선을 이끌어낼 수 있는지를 이해하기 위해 추가 연구가 필요하다고 결론짓습니다.
K-12 교육 환경에서 대규모 언어 모델(LLM)이 생성한 교수 설명의 교육적 위험을 평가하기 위한 데이터셋 AIriskEval-edu-db2를 소개하며, 1,639개의 설명에 사실 정확성·설명 깊이·초점·학습자 적합성·이념적 편향의 5개 차원 위험 루브릭과 785개의 설명 가능성 주석을 포함한다. 경량 로컬 모델인 Llama 3.1 8B를 AIriskEval-edu-db2로 파인튜닝하면 Gemini 2.5 Pro 및 GPT-5.5 등 최신 독점 모델에 준하거나 이를 능가하는 교육적 위험 탐지 성능을 달성할 수 있음을 실험으로 검증했다.
벤처 캐피털(VC) 투자 의사결정은 다중 출처 이종 데이터, 비정상 시계열, 그리고 고위험·저데이터 환경에서의 설명 가능한 예측 수요 등 고유한 도전 과제에 직면한다. 이러한 문제를 극복하기 위해 우리는 콘텐츠 추천에서 정량적 리스크-수익 평가로 과제를 재정의한 그래프-시간-인과 네트워크인 FinInvest-GTCN을 제안한다. 이 아키텍처는 투자 생태계의 위상을 포착하는 관계형 그래프 인코더, 장기 의존성과 비정상성을 처리하는 다중 스케일 시간 융합 모듈, 그리고 해석 가능한 인과 귀인(causal attribution)과 함께 리스크 조정 예측을 생성하는 인과 결정 헤드를 결합한다. 핵심 혁신은 메타-인과 적응(MCA) 전략으로, 메타 사전학습에서 도출된 인과적으로 타당한 구조와 업데이트를 정렬함으로써 새로운 데이터 희소 분야에 대한 견고한 미세조정을 가능하게 한다. 독점 VC 데이터셋에 대한 포괄적 실험에서 FinInvest-GTCN은 최첨단 결과를 달성하며, 주요 지표인 리스크 조정 평균 제곱 오차(RA-MSE)를 기준선 3.05에서 2.51로 현저히 낮추고 시뮬레이션 포트폴리오의 누적 수익을 18.7% 향상시켰다. 절제 연구(ablation study)는 각 구성 요소의 핵심적인 역할을 강조하며, 추가 분석은 모델의 안정성, 해석 가능성, 그리고 향상된 적응력을 확인한다. 본 연구는 투자 의사결정 지원을 위한 데이터 기반의 설명 가능한 프레임워크를 개척한다.
FDA 의료기기 리콜 보고 후 선별에서 심각도(Class I/II/III)와 근본 원인(9개 범주)을 동시에 예측하는 다중 태스크 프레임워크 RecallRisk-BERT를 제안하며, PubMedBERT 기반 리콜 서술 표현과 제품 코드·규정 번호·의료 전문 분야 등 구조화 특징을 결합한다. openFDA 54,165건(2002–2025) 평가에서 단일 태스크 심각도 예측은 LightGBM 텍스트-표 형식 구성이 가장 우수했고(정확도 0.963, macro-F1 0.856), 다중 태스크에서는 RecallRisk-BERT가 단일 태스크 PubMedBERT 기준선을 크게 능가했으며 모델 위험 순위는 관측된 근본 원인 심각도 패턴과 강하게 일치했다(ρ=0.983).
In recent years, the posting of fake news including disinformation and misinformation on social networking services (SNS) has become a social problem. To combat this fake news, fact-checking that is the process of assessing the veracity of posts on SNS has become increasingly important. While fact-checking is currently performed by fact-checking organizations, it is difficult to fact-check all posts on SNS. Therefore, the use of automated fact-checking systems is effective. Recent automated fact-checking systems utilize artificial intelligence and large language models, so there are risks of incorrect judgments and posting incorrect results on social media which can lead to the spread of misinformation or to engage in defamation. In this paper, as a first step toward enabling the safe use of automated fact-checking systems, we categorize the specific risks on automated fact-checking systems. In this categorizing, we consider a three-stage risk propagation: risk factors, hazardous situations, and harm. Our analysis revealed that 32 specific risks exist in automated fact-checking systems. In this paper, we utilize the categorized risks as analytical cues (guide words) to present the risk assessment of the automated fact-checking system DEFAME. This assessment result indicates that risks that cannot be derived using STRIDE, a conventional IT security risk assessment method can be derived using our guide words.
AI4Science 워크플로우에서 LLM의 안전성을 명시적 위험 차원과 과학 학문 분야 관점에서 평가하기 위해 7개 학문 분야, 31개 세부 전공, 10개 위험 차원을 포괄하는 SciRisk-Bench 벤치마크를 제안한다. 주류 LLM과 과학 지향 LLM을 위험 차원·학문 분야·세부 전공별로 평가한 결과, 과학 특화 모델이 더 높은 공격 성공률(ASR)을 보이는 등 모델이 여전히 안전하지 않은 지점을 정밀히 진단할 수 있다.
Muse Spark는 Meta가 개발한 최신 대규모 언어 모델(LLM)이다. 본 보고서에서는 먼저 Meta의 고급 AI 스케일링 프레임워크(Advanced AI Scaling Framework)에 따른 재앙적 위험 영역에 대한 평가 결과와, 출시 결정을 뒷받침한 근거를 제시한다. 이어서 재앙적 위험 영역 외에 전반적인 안전성과 관련된 Muse Spark의 광범위한 콘텐츠 안전성 및 행동 프로파일 등 추가적인 고려 사항을 논의한다. 화학·생물학적 위험, 사이버보안, 통제 상실 위험을 다룬 대비 평가 결과, Meta AI 내 Muse Spark의 배포는 고급 AI 스케일링 프레임워크 기준 허용 가능한 수준의 잔존 위험을 제시하는 것으로 평가되었다. 이들 재앙적 위험 영역 전반에 걸쳐 이중 용도 및 고위험 능력을 대상으로 광범위한 평가를 수행하였다. 해당 평가에서는 완화 조치 적용 전 높은 위험이 식별되었으며, 화학·생물학적 능력은 안전장치 적용 전 고급 AI 스케일링 프레임워크상 "고위험" 범주에 도달할 가능성이 있는 것으로 평가되었다. 식별된 위험을 해소하는 다층적 완화 조치를 구현하였으며, Muse Spark는 화학 및 생물학 분야의 위험 워크플로우와 관련된 다양한 벤치마크에서 최첨단 수준의 거부(refusal) 성능을 보인다. 이에 따라 Muse Spark를 Meta AI의 기반 모델로 공개한다.