AI Monitoring-based Digital Sex Crime Initial Response Service Design
Ga hyun Son, Min woo Woo, Kyoung yeon La, Jae Hee Chung · 한국디자인문화학회지 · 2024
디지털 성범죄는 지속해서 증가하고 피해자의 연령은 점차 낮아지고 있다. 디지털 성범죄의 경우 유포 확산이 급속도로 이루어지기 때문에 피해 발생 전과 초기의 신속한 대응과 피해자에 대한 심리적 지원이 매우 중요하다. 이에 본 연구는 AI 기술을 활용하여 디지털 성범죄 피해 발생 전과 초기에 신속한 대응을 할 수 있는 비대면 서비스를 제안하고자 진행되었다. 먼저 문헌 연구를 통해 디지털 성범죄 피해 현황과 지원 서비스 및 AI 모니터링 서비스 사례분석을 진행한 후, 디지털 성범죄 피해 단계별 피해자의 경험 요인을 중심으로 심층 인터뷰와 데스크 리서치를 진행하여 피해자의 핵심 니즈와 비대면 서비스의 기회 영역을 도출하였다. 서비스의 핵심 기능은 개인화 큐레이션, 의심 사용자 식별 조회, AI 모니터링, AI 접수 지원, 가해자 스포트라이트, 멘토링 프로그램이다. 본 연구에서 제안하는 AI 모니터링 기반 디지털 성범죄 초기 대응 서비스는 비대면을 통한 접근성을 향상하여 피해를 사전에 방지하고, 피해 발생 후 신속한 지원과 심리적 지지를 제공해 주며, 가해자와 사건 중심의 인식 개선을 통해 2차 가해를 예방해 준다. 본 연구는 피해자 중심의 해결방안을 제안하고(사용자 중심), 최신 AI 기술을 활용하여 맞춤형 대응 방안을 제안하며(기술 중심), 성범죄 피해자에 대한 사회의 부정적 인식을 개선한다는(사회 중심) 측면에서 그 의의가 크다. 디지털 성범죄 예방 및 피해자 보호를 위한 종합적 대응 체계 구축을 위해 다양한 사용자 대상의 효과성 검증 및 신기술을 적용한 연구가 지속되어야 할 것이다.