[뉴스토마토 배덕훈 기자] 최근 우리나라를 강타한 딥페이크 성범죄 영상물의 무분별한 확산 사태의 주요 원인으로는 쉬운 제작·유통 환경이 꼽힙니다. AI(인공지능) 기술이 발달로 간단한 문장을 입력하는 것만으로 영상의 생성과 합성이 가능해졌기 때문인데요. 이러한 기술을 활용한 딥페이크 앱도 손쉽게 찾아볼 수 있습니다.
실제로 각종 앱 마켓에서 얼굴 변환을 뜻하는 ‘페이스 스왑(Face swap)’을 검색하면 다양한 관련 앱이 쏟아지는데요. 일부 유료앱을 제외하고 무료로 누구나 서비스 이용이 가능합니다. 제작도 쉽습니다. 관련 앱을 설치하고 영상을 선택한 뒤 변환을 원하는 사진을 설정하면 1분도 채 걸리지 않아 딥페이크를 활용한 영상물을 확인할 수 있는데요. 생성된 영상은 소장과 공유가 가능합니다.
딥페이크 음란물을 제작·유통한 텔레그램 대화방 (사진=연합뉴스)
하지만 문제는 음성적인 환경에서의 딥페이크 영상물입니다. 누구나 자유롭게 이용할 수 있는 오픈소스 AI 모델이 늘면서 이를 기반으로 한 딥페이크 성범죄 영상물 제작도 쉬워졌기 때문입니다. 이런 쉬운 제작 환경과 더불어 강력한 보안성과 익명성으로 단속하기 어려운 매신저앱 텔레그램의 음성적인 유통 경로가 맞물리면서 디지털 성범죄 영상물의 무분별한 확산이 벌어진 셈입니다.
특히 텔레그램의 경우는 최근 도입한 ‘광고 수익화’ 기능으로 범죄의 음성적인 유통을 더욱 부추겼다는 지적도 받습니다. 텔레그램은 올해 4월부터 1000명 이상이 모인 방 개설자에게 광고수익을 지급하기 시작했는데요. 수익은 방 개설자와 텔레그램이 각각 50%를 나눠 갖습니다.
이 같은 수익화 길이 열리자 텔레그램을 통한 디지털 성범죄 등이 더욱 광범위하게 확산한 것이라는 지적입니다. 김명주 서울여대 정보보호학과 교수는 “텔레그램 방 운영자 입장에서는 1000명을 넘겨 방을 유지해 광고 수익을 얻는 것이 마치 유튜브 수입처럼 돼 버린 구조”라며 “이것이 딥페이크 성범죄하고 같이 묶여서 (확산세에) 상승 효과를 낸 것”이라고 짚었습니다.
텔레그램 (사진=연합뉴스)
글로벌 ‘딥페이크’ 전쟁…텔레그램도 ‘정조준’
딥페이크 기술을 악용한 범죄는 우리나라만 기승을 부리는 것이 아닙니다. 전세계적으로도 성착취물, 가짜뉴스 등에 딥페이크를 악용하는 사례가 확산해 각국도 규제 마련에 박차를 가하고 있는데요.
대표적인 곳은 미국입니다. 미국은 올해 1월 세계적인 팝스타 테일러 스위프트 얼굴에 음란물을 합성한 딥페이크 영상물이 삽시간에 퍼지면서 홍역을 앓았는데요. 더욱이 오는 11월5일 대선을 앞두고 정치적 목적의 딥페이크가 활개를 치며 규제 마련에 속도를 내는 모습입니다. 현재 미국에서는 주 정부 차원에서 딥페이크 관련 규제 법안이 속속 나오고 있는 상황인데요. 빅테크의 고장으로 잘 알려진 캘리포니아도 규제의 칼을 꺼내 들었습니다.
캘리포니아 주의회는 최근 AI로 미성년자를 성 착취하는 내용의 딥페이크는 제작 자체를 금지하는 등의 내용이 담긴 법안을 처리했습니다. 이 법에 따르면 딥페이크 아동 성 착취물을 제작, 배포, 소지한 사람은 모두 처벌 받을 수 있습니다. 또한 주의회는 선거 관련 딥페이크에 대한 규제를 강화하는 법안도 처리했는데요. 다만, 풍자 목적인 딥페이크는 규제하지 않는다는 예외 조항도 뒀습니다. 해당 법안을 주지사가 서명한다면 캘리포니아는 미국에서 최초로 AI 딥페이크에 대한 포괄적인 규제를 도입하게 됩니다.
유럽연합(EU)의 경우 온라인 플랫폼 규제를 핵심으로 하는 ‘디지털서비스법(DSA)’을 통해 딥페이크 범죄 차단에 주력하고 있습니다. 불법·혐오 콘텐츠에 대한 플랫폼의 책임 강화에 방점이 찍혀있는데요. 위반 시 글로벌 매출의 최대 6%까지 과징금을 부과할 수 있도록 할 정도로 강력합니다. 또한 지난 3월 세계 최초의 AI법인 ‘AI 액트(AI Act)’를 통과시켜 딥페이크 영상이나 이미지는 AI로 만든 조작 콘텐츠라는 점을 표기하도록 했습니다.
특히 프랑스는 딥페이크를 활용한 성착취물에 엄격한 입장을 취하고 있는데요. 디지털공간규제법(SREN)을 통해 딥페이크를 포함, AI 기술을 활용한 성착취물을 일률적으로 처벌합니다. 지난달 프랑스에서 텔레그램 창업자이자 최고경영자인 파벨 두로프가 전격 체포된 것도 비슷한 맥락입니다. 두로프는 텔레그램 내 아동 음란물 유포와 마약 밀매 등을 방치해 사실상 공모하고 프랑스 수사 당국의 정보 제공 요구에 불응한 혐의 등을 받습니다.
우리나라는 딥페이크 등 AI 기술의 부작용을 포괄할 AI 법이 국회에 계류된 상태로 아직 갈 길이 멉니다. 법안에는 고위험 AI에 대한 이용자 보호 의무 등 규제가 적시되긴 했지만, 딥페이크 관련 범죄 정의도 다소 모호한 상황입니다. 이와 관련 국회입법조사처는 최근 보고서를 통해 위장수사기법 도입, 엄격한 법적 기준 마련, 컨트롤타워 필요성 등을 조언했습니다.
딥페이크 범죄 (사진=연합뉴스)
딥페이크 범죄 활개에…“국제 공조” 강조
특히 우리나라는 딥페이크를 활용한 성범죄물 영상이 텔레그램을 통해 급속도로 유포되고 있는 만큼 프랑스와 입장이 유사한 상황으로도 볼 수 있는데요. 경찰 등 수사 당국이 텔레그램을 정조준하고 있는 배경입니다. 경찰은 청소년성보호법 및 성폭력처벌법에 대한 방조 혐의로 텔레그램에 대한 입건 전 조사에 착수했는데요. 혐의 사실 확인과 법리 검토를 마치면 두로프 CEO를 입건해 정식으로 수사한다는 방침입니다.
하지만 텔레그램이 해외 기업인만큼 비협조적으로 나올 경우 수사에 난항을 겪을 수밖에 없는데요. 이에 사태 해결을 위한 ‘국제 공조’ 목소리도 높아지고 있습니다. 경찰 역시 범죄 사실이 특정되는 대로 인터폴 수배 등을 포함한 국제 공조에 나선다는 계획입니다.
김 교수는 “우리나라의 경우 시장이 작아 독자적으로 규제를 강화할 경우 해외 플랫폼 기업이 철수하거나 무시할 가능성이 높다는 것이 딜레마”라며 “딥페이크 사태는 우리나라만의 사건이 아닌 전세계적인 현상으로 국제 공조를 통해 해결해야 한다”라고 조언했습니다.
배덕훈 기자 paladin703@etomato.com
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김나볏 테크지식산업부장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지