Skip to the content

SK텔레콤, ‘유해 콘텐츠 필터링 시스템’ 가동

– 자동으로 음란 콘텐츠를 판별하는 기술 개발,국내 최초로 아이스박스(I`s Box)에 적용
– 색상•질감•신체 부위별 분석, 학습 알고리즘 기술을 통한 필터링 고도화
– 음란 콘텐츠로부터 고객 보호는 물론 검수 인력•비용 효율화 기대

화제의 UCC(사용자 제작 콘텐츠)들을 즐겨 찾아보는 T양. 유명한 영화의 패러디 영상을 찾아보던 중에 T양은 얼굴을 붉히고 말았다. 반듯한 제목과는 달리, 영상에 등장하는 인물은 ’음란물’이었다.

 

포털에서 동영상 자료를 검수하는 일을 하는 P씨. 하루에도 수 천 건씩 올라오는 동영상 자료 중에서 네티즌들이 장난 삼아 올린 음란 동영상을 색출하느라 밤 늦게까지 고생을 한다. 팀장에게 동영상 자료가 늘어난 만큼 인력을 늘려달라고 했지만, 불가능하다는 답변 뿐. 연예인 누드 스캔들이 터졌을 때, P씨는 휴가를 반납할 수 밖에 없었다.

SK텔레콤(사장 김신배, www.sktelecom.com)은 동영상이나 사진의 유해성을 자동으로 판별•검수할 수 있는 ’유해 콘텐츠 필터링 시스템’을 개발해, 국내 최초로 UCC 공유 사이트 아이스박스(I’s Box)를 통해 13일부터 적용을 시작한다고 밝혔다.

UCC나 동영상/사진 등을 공유하는 대부분의 사이트에서는 다수의 인력에 전적으로 의존하는 수동 모니터링을 이용하고 있어, 콘텐츠가 많아질수록 인력과 비용이 늘어나는 비효율적인 구조를 가지고 있다.

이번에 SK텔레콤과 인터넷 솔루션 개발업체 ’필링크’가 공동으로 개발한 ’유해 콘텐츠 필터링 시스템’을 적용할 경우, UCC 사이트의 사용자가 유/무선을 통해 등록하는 최초 단계에서부터 자동으로 해당 콘텐츠의 내용을 단위별로 구분하여 특정 영역을 추출한 후, 색상•질감•패턴 알고리즘 분석을 통해 콘텐츠의 음란성 여부를 자동으로 검사하여 ’유해/무해/유보’ 등 3가지로 판정을 내리면서 무해한 콘텐츠만 등록될 수 있게 된다.

특히, 이 시스템은 ’신체 부위별 패턴 분석’을 추가적으로 진행하며, 폰카메라/웹캠/저화질UCC 등 화질이 좋지 않은 콘텐츠에 대해서도 ’저화질 영상 알고리즘 분석’을 별도로 진행하는 등 유해성 판단의 정확성을 높이기 위해 기존에 시도되지 않았던 새로운 기술을 추가적으로 적용하였다.

또한, 이 시스템에는 학습 알고리즘이 적용되어 있어, 음란 동영상 샘플로부터 추출한 패턴을 시스템에 입력하면, 유사한 패턴을 가지는 동영상에 대해서 원천적인 차단이 가능하기 때문에, 등록하는 콘텐츠가 방대해질수록 유해성 판단 패턴 역시 많아지게 되어, 정확성이 높고, 저비용 고효율의 콘텐츠 검수가 가능하게 된다.

SK텔레콤 홍성철 C&I기술원장은 “UCC의 생산 뿐 만 아니라 유통이 쉬워지면서 방대해진 콘텐츠를 인력을 이용하여 검수하는 것에는 한계가 있다”며, “자동으로 검수하는 기능이 인터넷 사이트에 최초로 적용되는 사례인 만큼, 앞선 기술로 고객 보호에도 앞장서며, 기업의 사회적 책임을 다하겠다.”고 밝혔다.

한편, SK텔레콤은 ’유해 콘텐츠 필터링 시스템’에 적용된 ’동영상 유통 환경에서 유해 동영상의 다단계 차단 시스템 및 방법’ 및 ’동영상 부분 선별 시스템 및 방법’ 등 2건에 대해 특허 출원 중이다.

CONTACTS

SK텔레콤 PR실

이 콘텐츠가 SK텔레콤을 이해하는데 얼마나 도움이 되었나요?

답변 선택하기