앞으로 SNS 등 온라인을 타고 번지기 쉬운 성착취물 등 디지털 성범죄물을 AI 기술을 통해 24시간 동안 모니터링하고신속히 삭제한다. AI 딥러닝 기술이 오디오, 비디오, 텍스트 정보를 종합적으로 분석해 클릭 한번으로 피해자와 관련된 모든 피해 영상물을 즉시 찾아내는 점이 특징이다.
이를 통해 피해 영상물을 빠르게 삭제해 재유포를 막아 제 2, 3의 n번방 피해를 방지하고 피해자에 대한 법률 지원과 심리 치유까지 디지털 성범죄 피해자를 원스톱 통합 지원한다.
키워드 입력부터 영상물 검출까지 3분밖에 걸리지 않아 1~2시간 걸리던 검출 속도를 획기적으로 끌어올리고 정확도가 200% 이상 높였다. AI의 학습 데이터가 축적될수록 정확도와 속도가 더욱 빨라질 것으로 서울시는 내다보고 있다.
서울시가 디지털 성범죄 예방과 피해자를 지원하기 위해 운영 중인 '서울 디지털 성범죄 안심지원센터 개관 1년을 맞이해 전국 최초로 AI 기술을 도입, 24시간 디지털 성범죄를 자동 추적, 감시한다고 30일 밝혔다.
앞서 29일 오세훈 시장은 서울 디지털 성범죄 안심지원센터 1주년 기념식 및 현장간담회에서 "갈수록 진화하는 디지털 성범죄로부터 시민들을 보호하기 위해 지원을 강화해나가겠다"고 밝혔다.
오세훈 시장은 기념식 직후 이수정 교수 등 관련 전문가와 학부모, 안심서포터즈 대표 등과 간담회를 통해 최근 증가하는 아동 및 청소년 디지털 성범죄 피해 실태와 향후 센터의 방향성을 놓고 현장의 목소리를 청취하며 피해 예방과 피해자 지원을 위해 개선 방안도 모색했다.
'서울 디지털성범죄 안심지원센터'는 긴급 상담부터 수사·법률지원, 삭제 지원, 심리치료·의료 지원에 이르는 원스톱 지원을 통해 지난 1년간 402명의 피해자를 지원해왔다. 지원한 피해자의 연령은 10~20대가 57%에 이르러 가장 많으며, 이 가운데 10대 비율이 16.6%를 차지했다.
피해 유형은 유포 불안 23.1%, 불법 촬영 20.1%, 유포 및 재유포 14.5% 순이었다.
삭제된 피해 영상물은 총 3,003건으로 이 가운데 54%에 해당하는 1,608건이 아동 및 청소년의 성착취물인 것으로 나타났다. 경찰과 협력해 924건에 대해서는 수사를 지원했으며 574건의 법률 및 소송, 507건의 심리치료를 지원했다.
