[뉴스토마토 김민승 법률전문기자] 딥페이크(deepfake)란 '딥러닝(deep learning)'과 가짜라는 뜻을 가진 '페이크(fake)'의 합성어입니다. 인공지능 딥러닝 기술을 기반으로 사람의 이미지를 합성하는 기술을 말합니다. 기술의 발전으로 결과물이 점점 정교해지면서 범죄에 악용되는 등 많은 문제를 야기하고 있습니다.
최근 지인이나 온라인에 게시된 타인의 사진으로 딥페이크 음란물을 만들고 사회관계망서비스(SNS)를 통해 공유하는 디지털 성범죄가 기승을 부리고 있는데요. 대학뿐만 아니라 초·중·고등학교에서도 퍼지고 있는데, 온라인 커뮤니티 등에서는 피해 발생 학교가 300여곳으로 거론되기도 했습니다. 학생, 교사, 군인 심지어 가족까지 딥페이크 음란물 제작의 대상이 된 것으로 알려지면서 누구나 피해자가 될 수 있다는 충격과 불안감이 확산하고 있습니다.
27일 오후 서울 여의도 국회 소통관에서 이인선(가운데) 여성가족위원회 위원장과 서범수(왼쪽) 국민의힘, 김한규 더불어민주당 간사와 함께 딥페이크 범죄 관련 기자회견을 하고 있다.(사진=뉴시스)
딥페이크 음란물은 주로 SNS를 통해 제작되고 퍼지고 있는데요. 딥페이크 음란물을 제작해 주는 텔레그램의 한 채널은 참여 인원만 22만명에 달해 경찰이 내사 중인 것으로 알려졌습니다. 딥페이크 음란물 제작 및 유포와 같은 디지털 성범죄는 범죄의 흔적을 남기지 않기 위해 기술적으로 추적이 불가능한 것으로 알려진 텔레그램을 이용하는 경우가 많은 겁니다. 텔레그램은 외국에 본사가 있고 세계 여러 나라에 서버를 두고 있기 때문에 수사기관의 강제수사가 거의 불가능한 걸로 알려져 있습니다. 텔레그램의 자발적인 협조는 더더욱 바랄 수 없어 피의자를 특정하는 초기 단계부터 수사에 난항을 겪게 됩니다.
경찰은 딥페이크 성범죄에 대해 제작부터 유포까지 엄정 대응하기 위해 수사력을 집중하고 있는데요. 각 시·도 교육청도 대응책 마련에 나서는 모양새입니다. 그러나 수면 위로 드러난 규모가 이 정도라면 딥페이크 성범죄가 이미 전국적으로 깊고 넓게 퍼져있다는 추측이 가능한데요. 디지털 정보의 전파 속도를 고려하면 사후적인 수사와 처벌만으로는 범죄 예방에 한계가 있습니다.
디지털 성범죄는 그 파급력이 크고 한 번 유포되면 비가역적인 특성이 있으므로 예방이 중요합니다. 그러나 국내는 인공지능(AI) 기술에 관한 기본적인 가이드라인이 될 입법도 이뤄지지 못한 것이 현실입니다. ‘AI 산업 육성 및 신뢰 기반 조성에 관한 법률안(AI 기본법)’은 지난 21대 국회의 문턱을 넘지 못했습니다. 22대 국회에서도 진통을 겪고 있는데요. AI 기술에 대한 통제가 필요하다는 입장과 지나친 규제로 AI 산업 육성에 방해가 된다는 주장이 팽팽히 맞서고 있는 겁니다.
물론 현행법으로도 처벌은 가능한데요. 딥페이크 대상이 아동·청소년이라면 아동·청소년의 성보호에 관한 법률 제11조에 따라 아동·청소년 성착취물을 제작하면 무기 또는 5년 이상의 징역에 처하게 되고, 이를 알면서 구입·소지·시청한 자는 1년 이상의 유기징역에 처하게 됩니다.
딥페이크의 대상이 성인인 경우라면 처벌 수위가 급격히 낮아지는데요. 성폭력범죄의 처벌 등에 관한 특례법 제14조의2에 따라 딥페이크 음란물과 같은 허위 영상물을 편집·합성·가공하면 5년 이하의 징역 또는 5000만원 이하의 벌금에 처하게 됩니다. 하지만 이를 소지하거나 구입·저장·시청한 사람은 처벌하지 못하는데요. 현행법으로는 딥페이크 음란물에 대한 수요를 예방할 수 없는 한계가 있는 겁니다.
최근의 상황을 반영해 국회에서는 딥페이크 성범죄의 처벌을 강화하는 법안이 잇따라 발의되고 있는데요. 새로운 유형의 범죄가 널리 퍼진 만큼 더 세부적인 유형으로 구분해 규정하고 사회적 해악에 걸맞은 수준의 처벌이 가능한 방향으로 개정이 필요합니다. 처벌 규정뿐만 아니라 AI 기술의 가이드라인이 될 AI 기본법의 제정도 시급한데요. 관련 부처가 모두 모여 딥페이크와 같이 AI 기술을 이용한 범죄를 예방하고, AI 기술 전반에 대해 합리적으로 통제하면서도 AI 산업의 발전을 도모할 수 있는 입법안 마련에도 힘써야 할 것입니다.
상황의 심각성은 텔레그램의 익명성과 보안정책에서 비롯된 측면도 무시하지 못할 텐데요. 세계적으로 텔레그램이 범죄의 온상이 됐다는 비판도 커지고 있습니다. 최근 프랑스에서 텔레그램 창업자 겸 최고경영자를 각종 범죄에 대한 방조 혐의로 체포한 사실이 전해지기도 했습니다.
플랫폼의 협조 없이는 심각한 성범죄자를 특정할 수도 없는 현실을 고려하면 텔레그램과 같이 수사에 협조하지 않는 플랫폼의 경우 플랫폼의 영향력을 고려해 강력한 대책이 필요할 것입니다. 우리 헌법에 따르면 기본권이라도 본질적인 부분을 제외하고는 법률로써 제한할 수 있는데요. 플랫폼의 행위가 범죄를 용이하게 하는 행위라면 충분히 기본권을 제한할 수 있습니다. 따라서 성범죄 동영상을 유포하도록 돕고 수사에는 협조하지 않는 플랫폼이라면 임시적으로, 국가적으로 접속을 차단하는 조치도 고려해 볼 수 있을 겁니다.
장기적으로는 AI 기본법을 제정하고 딥페이크와 같은 AI 기술의 개발과 이용에 대한 윤리의식을 높이는 대책이 필요한데요. 디지털 매체를 어린 시절부터 쉽게 접하고 이용하는 청소년부터 AI 기술에 대한 윤리교육과 디지털 성범죄의 심각성에 대한 교육이 체계적으로 이뤄져야 할 것입니다. 성인을 대상으로 한 윤리의식 강화도 함께 이뤄질 수 있도록 AI 기술에 대한 가이드라인이 하루빨리 제정되길 기대해 봅니다.
김민승 법률전문기자 lawyerms@etomato.com
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 최병호 공동체부장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지