AI 기술로 6분 만에 삭제 신고까지…디지털 성범죄 영상 잡는다 / KBS 2025.05.21.

불법 성 착취물이 온라인 상에 지속적으로 유포되고 있지만, 피해자의 상당수는 아동·청소년들이라 제대로 된 대처를 못하는 경우가 적지 않습니다. 서울시가 인공지능, AI 기술을 이용해 6분 만에 디지털 성범죄 영상을 찾아내 삭제 신고까지 자동으로 하는 시스템을 도입했습니다. 김하은 기자입니다.

[리포트]

'당신의 딥페이크 영상이 유포되고 있다'며 여성들에게 접근한 뒤, 신체 사진을 요구해 오히려 성 착취물을 만들었다 적발된 10대 남학생.

피해자 가운데 19명은 10대 여학생이었는데, 대부분 유포가 두려워 제대로 대응하지 못했습니다.

이번에 도입된 기술의 핵심은 유포되는 성 착취물을 AI를 이용해 실시간 모니터링하고, 적발될 경우 자동으로 신고까지 해 주는 겁니다.

2년 전 도입된 24시간 모니터링 시스템에 더해, 향후 사법절차에 필요한 채증, 삭제 신고까지 AI가 하도록 기능을 개선한 겁니다.

이 신기술 도입으로 사람이 할 때 2~3시간씩 필요했던 작업을 6분 만에 마무리할 수 있게 됐습니다.

[김준철/서울연구원 연구위원 : "좀 더 의미 있는 데이터들을 빠르게 수집하고 더 정밀하고 선제적으로 대응을 빠르게 할 수 있는…."]

삭제 요청을 받은 국내 사이트는 전기통신사업법에 따라 즉시 접속 차단을 해야 합니다.

관련 사이트 대부분이 해외에 서버를 두고 있는 점을 감안해, 영어, 중국어 등 7개 국어로 신고 메일을 생성하는 기능까지 마련됐습니다.

다만 해외 사이트에 삭제 조치를 강제할 수 없다는 점은 한계로 지적됩니다.

[천주환/서울시 양성평등담당관 : "현재 가장 많은 불법 영상 올라오는 데가 미국이나 베트남, 인도네시아 이런 데인데요. 전기통신법이 국내에 한한 법이라서 해외까지는 적용이 안 되고 있고요."]

서울시는 AI 기술 도입 이후 삭제 신고 건수가 6배 가량 늘어났다며, 도움이 필요한 경우 즉시 디지털성범죄 안심지원센터로 알려달라고 당부했습니다.

KBS 뉴스 김하은입니다.

촬영기자:최원석/영상편집:서윤지

▣ KBS 기사 원문보기 : http://news.kbs.co.kr/news/view.do?nc...

▣ 제보 하기
◇ 카카오톡 : 'KBS제보' 검색
◇ 전화 : 02-781-1234
◇ 홈페이지 : https://goo.gl/4bWbkG
◇ 이메일 : [email protected]

Copyright ⓒ KBS. All rights reserved. 무단 전재, 재배포 및 이용(AI 학습 포함) 금지

#성착취물 #AI #성범죄