인터넷 음란성 유해사이트 AI가 찾아낸다…ETRI, 시험적용


피해영상 웹사이트 유포사례 신속 탐지 및 삭제 지원

[아이뉴스24 김문기 기자] 국내 연구진이 인공지능(AI) 기술을 활용해 불법 촬영으로 인한 디지털 성범죄 및 2차 피해 확산을 막는 기술을 개발했다.

ETRI 연구진이 유해사이트 자동수집 시스템을 시연하고 있다. [사진=ETRI]

한국전자통신연구원(ETRI)은 AI 기술을 활용해 2019년 웹하드 대상 불법 촬영물 삭제 지원 시스템을 개발해 한국여성인권진흥원 ‘디지털 성범죄 피해자 지원센터' 업무에 적용해온 데 이어 올해 검색대상을 인터넷 사이트까지 확장하는 데 성공, 이달 내 지원업무에 시험 적용한다고 9일 발표했다.

ETRI는 이 기술 개발로 AI가 인터넷 사이트를 자동으로 검색하여 웹 페이지 음란성 여부를 판단할 수 있다고 말했다. 탐지효율이 혁신적으로 개선됨에 따라 피해자 지원에 빠르게 대응할 수 있을 전망이다.

핵심은 영상물의 유해성을 분석·검출하는 AI 기술이다. AI가 등록된 키워드로 웹페이지들을 검색하고 웹페이지 내 게시물을 분석해 유해성을 검출한다.

ETRI 연구진의 AI 엔진은 프레임당 약 100만 회의 세부판단을 근거로 영상 간 유사도 비교를 수행해 정교하다. 연구진은 콘텐츠 유해성을 판단하는 성능이 99.4% 이상의 정확도와 0.01초 이하의 검출속도를 달성해 상당히 높은 성능 수준이라고 밝혔다.

이번 성과가 AI를 적용한 유해 웹사이트 자동수집 시스템 개발에 AI 엔진을 내장시켜 기술을 고도화한 결과라고 설명했다.

ETRI가 개발한 기술에는 ▲AI 기술을 활용하여 등록된 키워드로 웹페이지를 검색하는 기능 ▲유해 영상물 유포 의심 사이트 관련 정보를 자동으로 선별ㆍ수집하는 기능 등을 갖추고 있다.

연구진은 지난 6월부터 두 달간 진행된 시험기간 동안, 피해영상물의 검색 키워드, 썸네일 이미지, 주소(URL) 등을 활용, 총 1만8천945건의 웹사이트를 자동 수집했으며 이 중 유해 사이트로 판별된 2천631개 웹사이트를 걸러내는 데 성공했다. 

이남경 ETRI 미디어지능화연구실장은 “이번 인공지능 기술은 디지털 성범죄 피해자 지원업무에 유용하게 활용될 것으로 보이며 앞으로도 불법 촬영물의 유포·확산을 최소화할 수 있도록 지원하겠다”고 말했다.

/김문기 기자(moon@inews24.com)







포토뉴스