CWN(CHANGE WITH NEWS) - 서울시, AI 기술로 실시간 디지털성범죄 자동 추적...전국 최초 도입

서울시가 전국 최초로 인공지능(AI) 기술을 도입해 24시간 디지털성범죄 자동 추적 및 감시에 나선다.

서울시는 디지털성범죄 예방 및 피해자 지원을 위해 운영 중인 ‘서울 디지털성범죄 안심지원센터’ 개관 1주년을 맞이하여 인공지능 기술이 24시간 실시간 모니터링을 통해 피해자와 관련된 각종 사회관계망(SNS) 상 피해 영상물을 자동으로 검출, 보다 빠르게 영상물을 삭제하고 재유포를 막는 기술을 도입했다.

기존에는 피해자의 얼굴이나 특이점을 육안으로 판독해서 수작업으로 찾아내는 방식이라면, 앞으로는 인공지능 딥러닝 기술이 오디오, 비디오, 텍스트 정보를 종합적으로 분석해서 한 번 클릭만으로 피해자와 관련된 모든 피해 영상물을 즉시 찾아낸다.

사회관계망(SNS) 특성상 전파ㆍ공유가 쉽고 유포 속도가 매우 빠른 만큼, 피해 영상물이 재확산되는 걸 막기 위해서는 영상이 올라오자마자 신속하게 삭제하는 것이 무엇보다 중요하다는 점에 착안한 것이다.

키워드 입력부터 영상물 검출까지 불과 3분 정도밖에 걸리지 않아 기존 1~2시간이 소요됐던 것에 비해 검출속도가 획기적으로 개선되고, 정확도도 200% 이상 향상된다. AI 학습 데이터가 축적될수록 정확도와 속도는 향상될 것으로 기대된다.

AI가 영상물을 찾아내기 때문에 24시간 모니터링이 가능하고, 삭제지원관이 피해 영상물을 접하면서 발생할 수 있는 트라우마와 스트레스도 줄일 수 있다.

서울시는 AI 기술 도입과 함께 올해는 아동ㆍ청소년 피해 예방에 주력할 계획이다. 최근 아동‧청소년을 대상으로 한 디지털성범죄 피해건수가 지속적으로 증가하고, 특히 피해자나 가족의 신고없이 온라인 상에서 유포되는 피해 영상물이 많은 데 따른 것이다.

본인이 삭제를 요청해야 삭제지원이 가능한 성인과 달리, 아동ㆍ청소년은 '아동ㆍ청소년의 성보호에 관한 법률' 등에 따라 당사자나 부모님의 신고 없이도 즉시 삭제가 가능한 만큼, AI 추적‧감시를 통해 디지털성범죄 피해 예방에 선제적으로 나선다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]