'디지털 성범죄' 이제 인공지능(AI)으로 24시간 자동 탐지-분석-신고한다.성평등가족부, 삭제요청 자동화·AI 성착취 탐지·딥페이크 식별 시스템 도입
성평등가족부(장관 원민경)는 디지털성범죄 피해자 보호를 위해
- 삭제요청 자동화,
- AI 기반 아동·청소년 온라인 성착취 선제 대응,
- AI 기반 딥페이크 탐지 등 3대 핵심 기술 시스템을 도입한다. 기존 수동·사후 대응의 한계를 보완하고, 피해자 중심의 신속·선제 대응 체계를 구축했다고 밝혔다.
- 이번 시스템 도입으로 기존의 수동적이고 사후적인 피해자 보호의 한계를 보완하고, 디지털 성범죄 대응체계를 자동화·지능화하여 대응 속도와 정확도를 대폭 높였다.
우선, 피해영상물 삭제요청 자동화를 통해 약 2만 개의 사이트에 대한 삭제요청부터 처리 이력 관리까지 전 과정을 자동화하고, 건당 처리 시간을 1분 이내로 단축하였다.
- 특히 중앙디지털성범죄피해자지원센터(이하 중앙 디성센터)의 삭제지원시스템을 美 국립실종학대아동방지센터(NCMEC) 및 글로벌 CDN 사업자 클라우드플레어(Cloudflare)와 API로 연계하여, 우회 접속 URL도 대량 자동 삭제요청이 가능해졌다.
- 구글 콘텐츠 삭제 양식과 전기통신사업법 신고 양식도 자동 작성·발송하도록 개선했으며, 종사자의 정신적 소진 예방을 위해 美 NCMEC의 선진 사례를 참고한 촬영물 필터(회색조 처리) 기능도 도입했다.
'아동·청소년 온라인 성착취 선제적 대응 시스템'은 인공지능(AI) 기술을 활용하여 SNS, 랜덤채팅앱 등에서 아동·청소년 성착취물 및 유인정보를 24시간 자동 수집·분석하고 자동 신고 및 삭제요청을 한다.
- 특히 국내 최초로 '랜덤채팅앱'에 대한 데이터 자동 수집 기술을 탑재하였으며, 기존 중앙 디성센터의 삭제지원시스템과 연계하여 성인사이트에 대한 유포 현황 탐지와 자동 삭제요청이 가능해진다.
- 시스템에 적용된 AI 모델은
- 키워드 탐지,
- 이미지 내 텍스트 추출,
- 신체 노출도 판단,
- 아동·청소년 여부 추정,
- 유사 이미지 대조