노출·유사 성행위 사회적 문제
특정단어·이미지 가리거나 차단
미래부, 내년부터 시범사업 추진
최근 인터넷 개인방송과 SNS 등에서 무차별적으로 이뤄지고 있는 음란·유해·불법 방송과 콘텐츠를 차단할 수 있는 인공지능(AI) SW 개발 연구가 진행된다.
미래창조과학부와 한국전자통신연구원은 올해 인터넷과 소셜 미디어 환경에서 서비스하고 있는 동영상과 텍스트에서 음란·유해·불법행위를 스스로 찾아내 차단할 수 있는 SW 기술 개발을 완료하고 내년부터 시범사업을 할 계획이라고 17일 밝혔다.
현재 인터넷 개인방송 등에서는 이용자가 일정액의 아이템을 지불하면 BJ(브로드캐스팅 자키)가 옷을 벗어 신체 일부를 노출하거나 유사 성행위를 하는 '벗방'이 인기를 얻고 있다. 일부 BJ가 벗방으로 많은 돈을 벌었다는 소문이 인터넷을 통해 확산하면서 20대 젊은 여성들이 개인방송에 뛰어들고 있으나 현행법상 단속 규정이 없어 사회적으로 문제를 일으키고 있다.
이에 미래부는 AI를 활용해 개인방송에서 이뤄지는 음란·유해·불법 행위를 찾아내 방송을 차단할 수 있는 기술 개발에 착수했다. 먼저 기존의 다양한 음란·유해, 건전 동영상에서 나오는 텍스트와 영상을 기계학습해 건전과 유해 레이블을 부여하는 방식으로 데이터베이스(DB)를 구축한다. 딥러닝을 활용해 영상을 분류할 수 있는 기계학습 알고리즘과 이미지(객체)를 인식하는 CNN 기반의 기계학습 분류기법을 적용해 분석력을 높인다. 이럴 경우 음란·유해·불법 텍스트와 영상을 구분해 특정 단어나 이미지를 가리거나 아예 방송을 차단할 수 있다. 지도학습과 감정분석을 통해 상황과 맥락을 유추할 수 있도록 해 음란성을 띤 노골적인 단어나 이미지는 물론 간접적인 의미를 지닌 단어까지 찾아낼 수 있을 전망이다.
사업 담당 관계자는 "인터넷이 개인환경으로 바뀌면서 유해 콘텐츠가 급속히 증가하고 있다"며 "현재 AI 기술로 음란·유해 콘텐츠를 추출하고 차단할 수 있는 엔진 개발이 가능해 연내 완료하고 내년에는 플랫폼에 적용하는 시범사업을 검토하고 있다"고 말했다.
허우영기자 yenny@
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
