KTV 국민방송

임보라 앵커>
지난 4월 도입된 아동 청소년 온라인 성착취물 AI 탐지시스템을 통해 9만6천여 건의 성착취물이 삭제됐습니다.
종사자 한 명이 하루에 처리하는 삭제 요청 건수도 약 10배 가까이 늘어난 것으로 확인됐습니다.
현장에 다녀왔습니다.

윤현석 기자>
AI가 수집한 아동 청소년 성착취물 의심 항목을 클릭하자, 해당 게시물 URL과 이미지, 분석 근거가 자동으로 나옵니다.
담당자는 AI 분석 결과와 원문을 종합적으로 검토한 뒤 해당 항목을 선택해 신고 여부를 결정합니다.
온라인상 성착취물과 유인정보를 24시간 자동으로 수집, 분석하는 AI 기반 아동 청소년 온라인 성착취 탐지·신고시스템.
지난 4월 처음으로 중앙 디지털 성범죄피해자 지원센터에 도입됐습니다.
도입 후 6개월이 지난 지금, 실제 효과는 있었을까?

윤현석 기자 yoonhyun1118@korea.kr
"중앙 디성센터는 AI 시스템 도입 후 6개월간 아동 청소년 성착취물 9만 6천여 건의 삭제를 지원했습니다. 종사자 1명이 하루 평균 202건의 삭제 요청을 처리한 것으로, 수작업으로 삭제를 지원했던 지난해보다 약 10배 가까이 증가한 수치입니다."

단순히 처리 건수만 늘어난 것은 아니었습니다.
육안으로 판별하기 어려운 딥페이크도 AI 탐지시스템을 통해 손쉽게 찾아냈습니다.
종사자의 심리적 부담 완화 효과도 나타났습니다.
AI가 유해 영상물을 먼저 탐지하면서 종사자가 성착취물에 직접 노출되는 빈도가 줄었기 때문입니다.
중앙 디성센터는 AI 탐지시스템의 효과가 확인된 만큼 시스템 고도화에 나섭니다.

녹취> 김미순 / 중앙디지털성범죄피해자지원센터장
"탐지분석 영역에서는 지금 14개의 온라인 채널만 탐지하고 정해진 단어와 이미지 위주로 판별하는 수준을 27년까지 139개 플랫폼으로 확대하고 대화의 흐름과 맥락까지 이해하는 정밀 판별로 발전시킬 계획입니다."

피해 청소년에게 즉각적인 지원 정보를 제공하는 AI 챗봇을 도입하고, AI 탐지시스템을 전국 디성센터로 확대할 예정입니다.
한편 성평등가족부는 디지털성범죄로 전문가의 도움이 필요한 경우 여성 긴급전화 1366에 연락할 것을 당부했습니다.
(영상취재: 박상훈 임주완 / 영상편집: 김예준 / 영상그래픽: 박지인)
1366을 통해 도움을 요청하면, 365일 24시간 상담과 긴급보호를 비롯해 무료법률지원까지 받을 수 있습니다.

KTV 윤현석입니다.

( KTV 국민방송 케이블방송, 위성방송 ch164, www.ktv.go.kr )
< ⓒ 한국정책방송원 무단전재 및 재배포 금지 >