[뉴스토마토 신상민 기자] 대통령선거가 한 달여 앞으로 다가온 가운데 딥페이크 인공지능(AI) 영상에 대한 각별한 주의가 요구됩니다. 전문가들은 일반 유튜브 이용자라도 선거와 관련된 딥페이크 영상을 게시할 경우 처벌을 받을 수 있다며 경각심을 당부합니다.
AI 기술 발전으로 누구나 손쉽게 딥페이크 영상을 제작할 수 있는 환경이 조성됐습니다. 딥페이크 기술이 가장 많이 악용되는 분야 중 하나가 정치로, 국내외에서 관련 사례가 종종 논란이 되곤 합니다.
국내에선 지난해 틱톡과 메타를 중심으로 '윤석열 대통령 양심고백 영상'이라는 제목의 영상물이 확산됐습니다. 해당 영상은 약 46초 분량으로, AI를 이용해 제작된 딥페이크 영상입니다.
당시 방송통신심의위원회는 해당 영상을 대통령의 모습을 악용해 사회적 혼란을 유발할 수 있는 국내 첫 딥페이크물로 규정했습니다.
2022년 지방선거를 앞두고도 윤씨가 당시 박영일 국민의힘 남해군수 후보를 지지하는 내용의 가짜 영상이 소셜미디어를 통해 확산되기도 했습니다.
미국에서도 소셜미디어를 중심으로 AI로 조작된 딥페이크 영상과 이미지가 퍼져 논란이 되곤 합니다. 조 바이든 전 대통령을 사칭한 딥페이크 음성이 유포되거나 도널드 트럼프 대통령이 수갑을 차고 경찰에 연행되는 딥페이크 이미지가 퍼지기는 등 다양한 사례가 발생했습니다.
미국 연방통신위원회는 조 바이든 전 대통령의 딥페이크 영상을 만든 제작자에게 600만달러(약 82억원)의 과징금을 부과했습니다.
바이든 재임 시 소셜미디어 트위터에 올라왔던 딥페이크 영상. 우크라이나를 지원하기 위해 징병을 하겠다는 가짜 발언을 담았다. (사진=뉴시스)
국내 역시 제재 조치가 마련된 상태입니다. 2024년부터 공직선거법 개정을 통해 선거일 90일 전부터 AI 딥페이크 영상의 제작·편집·유포·상영·게시를 일절 금지합니다. 이를 위반할 경우 공직선거법 제255조 제5항에 따라 7년 이하 징역 또는 500만원 이상의 벌금형에 처해질 수 있습니다.
중앙선거관리위원회(선관위)는 이번 대통령 선거를 앞두고 ‘AI·딥페이크 특별대응팀’을 중앙 및 시도 선관위에 설치하고 상시 모니터링을 실시합니다.
선관위는 “허위 사실 공표나 비방 행위는 후보자에게 회복하기 어려운 피해를 줄 수 있으며, 유권자의 올바른 판단을 방해해 선거 결과를 왜곡시킬 수 있는 만큼 예방과 확산 방지에 최선을 다하겠다”며, “파급력이 큰 악의적 딥페이크 영상의 유포자에 대해서는 고발 등 엄중히 대응할 방침”이라고 밝혔습니다.
전문가들은 합법적 풍자·비판 표현과 조작·선동을 목적으로 한 콘텐츠 간의 경계가 모호하므로 각별한 주의가 필요하다고 강조합니다.
전창배 국제인공지능윤리협회 이사장은 "인터넷 밈으로 풍자적으로 한다든가, 악의적인 의도는 없고 그냥 재미있게 올렸다 해도 사회에 퍼졌을 때 SNS에 올라왔을 때 큰 영향을 미칠 수가 있기 때문에 조심하고 유의해서 윤리적으로 써야 된다"고 주의를 당부했습니다.
중앙선거관리위원회는 대통령선거를 앞두고 ‘AI·딥페이크 특별대응팀’을 중앙 및 시도 선관위에 설치하고 상시 모니터링을 실시한다. (사진=중앙선거관리위원회)
신상민 기자 lmez0810@etomato.com
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김나볏 테크지식산업부장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지