디지털 성범죄 불법촬영물 삭제지원 시스템 개념도. 과학기술정보통신부 제공
디지털 성범죄 피해영상물 유포를 막는 데 인공지능(AI) 기술이 활용된다.
과학기술정보통신부와 여성가족부는 국내 웹하드 사이트를 통한 성범죄 피해영상물 유포를 효율적으로 막기 위해 22일부터 여가부의 ‘디지털 성범죄 피해자 지원센터’ 업무에 AI 기술을 시험 적용한다고 밝혔다.
그간 디지털 성범죄 피해자가 신고한 불법촬영물이 웹하드 사이트에 게시돼 있는지 확인하려면 지원센터 삭제지원 인력이 일일이 수작업으로 피해촬영물에서 검색용 이미지를 추출하고, 각 사이트를 검색해야 해 신속한 대응이 어려웠다. 이를 개선하기 위해 과기정통부, 여가부, 지원센터, 한국전자통신연구원은 올해 초 협의체를 구성해 ‘불법촬영물 삭제지원 시스템’ 개발을 추진해왔다.
삭제지원 시스템은 AI 기술을 활용해 피해자가 신고한 불법촬영물에서 이미지를 추출해 웹하드 사이트에서 피해촬영물과 유사한 영상물을 자동으로 선별·수집하는 기능을 갖췄다. 지원센터는 피해촬영물과 유사한 영상물의 이미지, 유사도, 제목, 주소(URL) 등 삭제지원 시스템을 통해 수집된 정보를 검토해 영상물을 확인하고, 피해촬영물 유포 사례가 발견되면 해당 웹하드 사이트에 삭제 요청을 하게 된다. 365일 24시간 자동 검색도 가능하기 때문에 이전보다 훨씬 빠르게 성범죄 피해영상물 유포를 차단할 수 있을 것으로 기대된다.
현재 국내 웹하드 사이트 10개에 대해 삭제지원 시스템을 통한 검색이 가능하다. 올해 하반기까지 다른 35개 국내 웹하드 사이트에 대한 검색 기능을 추가 개발해 지원센터 업무에 정식으로 적용할 예정이다.
하지만 국내 웹하드를 제외한 성범죄 피해영상물이 유포되는 다른 다양한 경로의 사이트에 대한 검색은 지원되지 않는다. 과기정통부 관계자는 “성범죄 피해영상물의 유통 경로가 워낙 다양해 삭제지원 시스템으로 모든 유통 경로를 커버할 수는 없다”며 “삭제지원 시스템이 추출한 이미지를 다른 성인 사이트 등을 검색하는 데 활용할 수는 있다”고 밝혔다.