(불법콘텐츠 통로된 SNS)'총격 라이브'부터 '카톡 허위글'까지…끊이지 않는 SNS 논란

페북 '총격 라이브' 사태에 SNS 논란 재점화업계 "모니터링·AI 체계 갖춰…이용자 자발적 정화노력 필요"

[뉴스토마토 김동현 기자] 뉴질랜드에서 발생한 총기 사격 사건으로 소셜네트워크서비스(SNS) 플랫폼의 사회적 책임 논란이 불거지고 있다. 이용자 콘텐츠가 여과 없이 공개되는 탓에 SNS 업계가 자체적인 방안을 내놔야 한다는 목소리다. 플랫폼 운영 기업들은 모니터링 인력과 인공지능(AI) 시스템을 구비해 대응하고 있다고 항변한다.

 

'실시간 라이브', SNS는 가림막 없는 창?

 

지난 15일(현지시간) 뉴질랜드 남섬 크라이스트처치의 한 이슬람사원이 공격을 받은 총격 사건이 일어났다. 테러범으로 지목받은 용의자는 반이민·반이슬람주의를 주창한 것으로 알려졌다. 이번 사건이 전세계에 충격으로 다가온 것은 용의자의 총격 당시 보인 행동 탓이다. 테러 용의자는 이슬람 사원을 향해 총격을 가하는 중에 '페이스북 라이브'를 통해 약 17분 동안 범행 장면을 생중계했다. 페이스북은 현지 당국 신고에 관련 영상을 삭제했지만 이미 영상은 여러 SNS 채널에 퍼진 뒤였다.

 

SNS 라이브 방송으로 인한 사회 논란은 국내에서도 빈번히 발생하는 문제다. 지난달 한 크리에이터는 '흉가체험' 방송을 진행하던 중 실제 시신을 발견해 논란이 됐다. 지난달 말에는 '음주운전 생방송'을 하다 경찰에 적발되는 사례도 있었다. 길거리에서 방송을 진행하는 크리에이터 탓에 일반 시민들이 원치 않는 방송 노출을 당하는 일도 쉽게 찾아볼 수 있다. 이외에도 인터넷 방송 크리에이터의 예상치 못한 발언이나 행동들로 플랫폼 업체가 곤혹을 겪기도 한다.

 

국내 대표 메신저 '카카오톡'의 허위 글 논란도 지속해서 제기되는 문제 중 하나다. '받은글'로 시작하는 일명 '지라시(사설 정보지)'의 유통 창구로 지적된다. 익명을 보장하는 오픈채팅에서 전달되는 허위 콘텐츠는 카톡 이용자 사이에서 재생산되는 중이다. 최근 '정준영 사태'의 피해자로 특정인을 지칭한 지라시도 여러 건 유포돼 2차 가해를 하고 있다.

 

뉴질랜드 총기 사격 범인이 범행을 하러 가며 촬영한 영상. 차 안에 총기들이 놓여 있다. 범인은 총기난사 순간을 페이스북으로 생중계했다. 사진/뉴시스

 

모니터링 인력·AI 차단 등 대응책…"이용자 신고 중요"

 

반복되는 SNS 논란에 SNS 플랫폼 업체들은 모니터링 인력을 충원해 실시간 모니터링 체계를 갖추고 있다. 각 회사 AI 시스템을 통해 선정·폭력성 콘텐츠를 감지해 차단하는 등 조치를 취하고 있다. 그러나 문제가 발생한 후 대응할 수밖에 없는 라이브 플랫폼 특성의 한계를 인정하며 신고 등 자발적인 이용자 참여를 강조하는 중이다.

 

글로벌 SNS 사업자인 페이스북과 유튜브는 자체 커뮤니티 가이드라인을 세우고 이를 위반한 콘텐츠를 걸러내고 있다. 페이스북은 △성인 나체 이미지·성적 행위 △혐오 발언 △테러리스트 선전(ISIS·알카에다 및 연계 단체) 등 8가지 위반 기준을 세웠다. 3개월 단위로 위반 콘텐츠에 대한 지표를 공개한다. 사전 감지 기술 이용함과 동시에 유해 콘텐츠 확인 전문팀을 운영 중이다. 라이브 방송 콘텐츠 역시 사전·후에 동일한 기준으로 대응 중이다. 

 

유튜브 역시 10여가지 커뮤니티 가이드를 두고, 지키지 않는 크리에이터에게 권한 정지·계정 해지 등 조치를 취한다. 유튜브의 커뮤니티 가이드에는 △과도한 노출·성적 콘텐츠 △증오성 콘텐츠 △위협 등이 있다. 두 플랫폼 모두 이러한 기준을 세우고 사전·후 조처를 하지만 이번 뉴질랜드 총기 사건 콘텐츠가 1시간 가까이 방치돼 비난의 목소리가 높다. 유튜브는 이에 대해 "수만건의 동영상을 삭제했고 총격 사건을 조장하거나 옹호하는 수백개의 계정을 해지했다"며 "사건과 관련된 폭력적 장면이 삽입된 모든 영상의 업로드를 자동 차단하고 최신순으로 보기·검색 필터링 기능을 임시 중단했다"고 밝혔다.

 

 

국내 업체들은 해외 플랫폼보다 구체적 기준을 세워 대응 중이다. 네이버는 2017년 말부터 음란물 필터링 AI '네이버 엑스아이(X-eye)'를 이미지에서 동영상으로 확대 적용했다. 영상 일정 구간마다 프레임을 추출해 음란물지수가 특정 수준 이상이면 '임시 재생 중지'로 만든다. 중지 후 10분 이내에 검토를 통해 실제 음란 동영상일 경우 삭제·이용제한 조치를 한다. 선정·폭력성 등 부적합 콘텐츠를 약관에 공지하고 신고 등을 통해 대응 중이다.

 

카카오는 카카오TV 정책에 위배되는 부적합 콘텐츠를 공급한 크리에이터에게 '가이드 위반카드'를 부여한다. 위반카드 2개를 받은 회원은 VOD업로드, 팟플레이어 라이브 방송 등 기능을 15일 동안 사용할 수 없다. 여기에 위반카드 3개를 받은 회원은 광고·후원 등 창출을 30일 동안 할 수 없다. 위반카드 4개 이용자는 신규 채널 개설이 영구 제한된다. 위반 정도가 심각하거나 위반 행위를 반복하면 서비스 이용 제한을 영구 제한한다.

 

카카오톡 오픈채팅의 악용을 방지할 정책으로는 금칙어 적용, 신고·강제퇴장 기능 등이 있다. 성매매, 조건만남 등 금칙어 DB를 구축해 채팅방 이름이나 닉네임으로 쓰지 못하게 하고 금칙어 범위도 이용자 패턴에 따라 늘리는 중이다. 유해 사이트를 통한 채팅방 입장을 차단하고 음란·도박 신고가 들어온 이용자를 확인해 정지 제재를 내린다. 이용자 신고 대응을 위해 약 300명의 인력을 운용 중이다.

 

국내외 업계는 이러한 자체 방지책을 마련해 대응 중이지만 SNS 공간을 정화하기 위한 이용자의 자발적 참여를 독려하고 있다. 악성 이용자의 공격을 예측하기 어려운 오픈 플랫폼 특성상 플랫폼 회사가 이를 원천적으로 막기 어렵다. SNS 공간이 플랫폼 회사뿐 아니라 이용자 참여로 만들어지는 만큼 참여자의 적극적인 신고와 모니터링이 필요하다는 설명이다. 업계 관계자는 "하루에도 수백만 건의 콘텐츠가 올라오는 인터넷 공간은 특정 회사의 정책과 기술만으로 정화하기 어렵다"며 "이용자가 이 공간을 깨끗이 만들려는 자발적 참여가 필요하다"고 말했다.

 

김동현 기자 [e-mail]

 

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김기성 편집국장이 최종 확인·수정했습니다.