뉴미디어타임즈 이경희 기자 | 서울시가 ‘전국 최초, 디지털 성범죄 AI 삭제지원 프로그램’ 으로 행정안전부가 개최한 ‘2023 정부혁신 우수사례 경진대회’에서 대통령상 ‘대상’을 수상했다고 밝혔다.

 

매년 정부혁신 우수사례를 발굴하여 범정부적으로 공유·확산하는 이번 경진대회에는 전 행정기관(중앙부처·자치단체·교육청) 및 공공기관 등에서 제출한 533건의 정부혁신 우수사례가 접수됐다.

 

이 중 전문가심사와 2만1천명이 참여하는 온라인 국민심사 등 1, 2차 예선을 거쳐 총 13건이 본선에 진출했으며, 지난 11월 15일 3차 경진대회를 개최하여 최종 순위를 결정했다.

 

정부혁신 경진대회에는 전문가(10명)‧국민평가단(100명)이 참여하여 대상 1점(대통령상)과 금상 5점(대통령상), 은상 7점(국무총리상)을 선정했으며, 서울시는 ‘디지털 성범죄 AI 삭제지원 프로그램’으로 최종 ‘대상’ 의 영예를 안았다.

 

서울시 ‘디지털 성범죄 AI 삭제지원 프로그램’ 은 인공지능(AI) 기술이 24시간 실시간 모니터링을 통해 피해 영상물을 자동으로 검출, 보다 빠르게 영상물을 삭제하고 재유포를 막는 시스템이다.

 

서울시와 서울연구원은 22년도 7월 프로그램 개발에 착수, 올해 3월 프로그램 개발을 완료했다.

 

AI가 기존 피해 영상물의 삭제지원에 비해 보다 빠르고 정확하게 삭제지원을 할 수 있다는 점, 이를 통해 피해자의 고통을 줄이고 일상회복을 지원할 수 있어 기존의 디지털 성범죄의 가장 고질적인 문제를 해결할 수 있다는 점에서 높은 평가를 받았다.

 

서울시는 ‘서울 디지털 성범죄 안심지원센터(서울시여성가족재단 운영)’를 통해 AI를 도입한 지 7개월 만에 총 45만 건의 영상물을 모니터링했으며 이는 AI 도입 전 사람(삭제지원관)이 직접 모니터링했을 때와 비교하면(3만3,511건, '22.3.29~10.31) 무려 1,265%나 상승한 규모다.

 

또한 키워드 입력부터 영상물 검출까지 사람이 직접 했을 때는 평균 2시간이 소요됐던 것에 비해, AI 기술은 3분이 소요돼 검출시간이 97.5%가 단축되어 피해영상물 삭제지원 역시 2배로 늘었다.

 

서울시는 인공지능(AI) 기술 도입과 함께 아동‧청소년 피해 예방에 주력할 계획이다. 최근 아동‧청소년을 대상으로 한 디지털 성범죄 피해건수가 지속적으로 증가하고, 특히 피해자나 가족의 신고 없이 온라인 상에서 유포되는 피해 영상물이 많은 데 따른 것이다.

 

본인이 삭제를 요청해야 삭제지원이 가능한 성인과 달리, 아동‧청소년은 '아동·청소년의 성보호에 관한 법률' 등에 따라 당사자나 부모님의 신고 없이도 즉시 삭제가 가능한 만큼, 인공지능(AI) 추적‧감시를 통해 디지털성범죄 피해 예방에 선제적으로 나선다.

 

하지만 아동‧청소년 피해 영상물이 성인의 영상과 잘 구분되지 않아 삭제지원에 어려움이 있다는 점에 착안하여 서울연구원과 함께 내년 상반기를 목표로 ‘AI 기반 아동‧청소년 피해 영상물 삭제지원 프로그램’도 개발 중에 있다.

 

‘AI 기반 아동‧청소년 삭제지원 프로그램’은 아동‧청소년 피해 영상물의 얼굴 및 배경 사물(객체) 인식뿐만 아니라, 아동‧청소년 연관 게시글을 종합 분석하여 성별, 나이 등을 예측하는 모델로 프로그램이 개발되면 아동‧청소년 선제적 삭제지원에 큰 도움이 될 것으로 기대된다.

 

서울시는 ‘디지털 성범죄 AI 삭제지원 프로그램’ 개발 뿐 아니라 ‘서울 디지털 성범죄 안심지원센터’ 운영 등 예방부터 재발방지에 이르는 ‘디지털 성범죄 통합대응정책’을 국내 뿐 아니라 해외에 확산‧전파하기 위해 2024 UN공공행정상(UNPSA)에도 본 사업을 응모‧제출했다.

 

김선순 서울시 여성가족정책실장은 “디지털 성범죄 삭제지원은 많은 분들이 가장 필요로 하는 지원이었다”며 “디지털 성범죄 AI 삭제지원과 같은 혁신기술을 통해 피해자의 고통을 경감하고, 예방부터 피해자 지원까지 좀 더 촘촘한 원스톱지원을 통해 피해자 한 분 한 분이 빠르게 일상을 회복할 수 있도록 최선을 다하겠다” 고 말했다.