예측 가능한 경로를 넘어: 에이전트를 위한 AI 보안 사고 보고 재정의
Beyond Predictable Paths: Redefining AI Security Incident Reporting for Agents
AI 에이전트가 빠르게 배포되면서 AI 특화 공격과 그에 따른 사고도 늘고 있다. 사고 보고가 법적 준수, 거버넌스, 책임성, 보안 측면에서 점점 더 중요해지므로, 현행 프레임워크는 AI 에이전트의 고유한 특성에 맞게 조정되어야 한다. 본 논문에서 두 명의 편집 저자는 AI 시스템과 AI 에이전트를 비교하고, 학계 및 산업계 23명의 전문가 의견을 바탕으로 AI 에이전트 보안이 침해된 사고를 보고할 때 필요한 정보를 밝힌다. 잠재적 보고 요소로는 예를 들어 에이전트 메모리 및 메모리 접근, 실제 및 잠재적 자율성 수준, 도구 사용 등이 포함된다. 이러한 결과를 바탕으로 사고를 효율적으로 기록하는 방법과 취약점 및 사고가 일반화되는지 판단하는 방법 등 여러 미해결 연구 질문을 제시한다. 전문가 피드백은 또한 데이터 유출 위험과 보고 인프라 자체를 겨냥한 공격과 같은 잠재적 보고 취약점을 강조하여 추가 연구 필요성을 드러냈다. 마지막으로 개인정보 요구사항을 요약하고 AI 에이전트의 안전하고 신뢰할 수 있는 배포를 위한 연구 방향을 개괄한다.