A Study of Artificial Intelligence System Reliability Audit Framework
중앙대학교 융합보안학과 석사과정, Chan-Woo Jung, Hang-Bae Jang, Young Ji Ju, Jung-Duk Kim · Korean Journal of Industry Security · 2023
인공지능 기술이 급속한 발전과 도입 확장에 따라 사회‧경제적 파급효과도 증가하고 있다. 반 면, 챗봇 ‘이루다’, MIT의 ‘사이코패스 AI’, 딥페이크 등 인공지능의 오남용, 사회적 역기능 문제가 발생하며 신뢰 가능한 인공지능 시스템 개발의 필요성이 대두되고 있다. 이에, 세계 주요 기관에 서 발표한 ‘신뢰할 수 있는 인공지능을 위한 윤리기준’ 등을 기초로 인공지능 신뢰성 감리의 필요 성이 제시되고 있으나, 시스템 관점에서 구체적이고, 적용 가능한 인공지능 신뢰성 감리 기준 개 발은 현재 매우 미흡한 실정이다. 본 연구에서는 인공지능 신뢰성 개념의 확립과 함께 인공지능 시스템 개발 사업에 적용할 수 있는 프레임워크와 점검항목을 개발하고자 하였다. 기존 문헌분석을 통해 도출한 인공지능 신뢰 성에 대한 5개의 주요 속성과 이를 평가할 수 있는 3개의 인공지능 감리 관점으로 인공지능 시스템 신뢰성 감리 프레임워크를 구성하여 제시하였다. 또한, 인공지능 시스템 신뢰성 감리 프레 임워크에 기반한 인공지능 시스템 신뢰성 감리 점검항목을 개발하였다. 최종적으로 FGI 기법을 사용하여 개발한 점검항목에 대한 감리 중요도와 적용 가능성을 검토 및 평가하여 실효성을 검토하였다.