성평등가족부가 디지털 성범죄 피해 영상을 인공지능(AI)이 실시간 탐지해 자동으로 삭제 요청까지 하는 시스템을 도입했습니다.

이번 시스템 도입으로 약 2만 개 사이트에 대한 삭제 요청부터 처리, 이력 관리까지 모든 과정이 자동화됐습니다.

성평등부는 건당 처리 시간을 1분 이내로 단축했다고 설명했습니다.

특히 중앙디지털성범죄피해자지원센터의 삭제 지원 시스템을 미국 국립실종학대아동방지센터(NCMEC), 글로벌 콘텐츠 전송 네트워크(CDN) 사업자 클라우드플레어와 연계해 우회 접속 인터넷주소(URL)에 대한 대량 자동 삭제 요청도 가능해졌습니다.

사회관계망서비스(SNS), 랜덤채팅앱에 떠도는 아동·청소년 성 착취물이나 유인 정보를 24시간 자동 수집해 신고와 삭제 요청까지 하는 '아동·청소년 온라인 성 착취 선제 대응 시스템'도 도입됐습니다.

시스템에 적용된 AI 모델은 키워드 탐지와 이미지 내 텍스트 추출, 신체 노출도 판단, 유사 이미지 대조 등 분석을 거쳐 아동·청소년 성 착취물 여부를 판단합니다.

25일 동안 시범 운영을 한 결과 종사자 1인당 하루 평균 수집 건수가 아동·청소년 성 착취물은 2.7배 이상, 성 착취 유인정보는 80배 이상으로 대폭 증가한 것으로 나타났습니다.

성평등부는 시스템 본격 운영을 통해 아동·청소년 성 착취물의 신속한 삭제를 지원할 방침입니다.

원민경 성평등부 장관은 "AI 기술을 현장에 도입해 대응 속도와 정확도를 높이고 촘촘한 지원 체계를 구축해 피해자의 신속한 일상 회복을 위해 앞장설 것"이라고 밝혔습니다.

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

이재경(jack0@yna.co.kr)