총선 앞두고 '딥페이크' 블랙홀…플랫폼 대책 마련 분주

'딥페이크 막아라' 총선 앞두고 뭉친 플랫폼 기업들방통위 '선제적 자율규제' 당부 나흘 만네이버, 이번주 중 '딥페이크 대책' 발표카카오, 생성형 AI 칼로에 비가시성 워터마크 도입 검토"플랫폼의 선제 노력과 이용자들 리터러시 함양 향상돼야"

[뉴스토마토 배덕훈 기자] 총선을 한 달여 앞두고 윤석열 대통령 허위조작 영상 등이 이슈가 되자 플랫폼 업계가 대책 마련을 서두르고 있습니다. 특히 딥페이크(Deepfake, AI로 만든 영상·이미지 합성 조작물), 가짜뉴스 등은 선거를 교란하는 큰 위협으로 자칫 플랫폼 사업자에게 무거운 책임으로 돌아올 수 있기 때문에 신중하게 대책을 준비하는 모습입니다.

 

네이버와 카카오 사옥 전경 (사진=뉴스토마토)

 

27일 플랫폼 업계에 따르면 네이버(NAVER(035420)), 카카오(035720), 구글, 메타 등이 소속한 한국인터넷기업협회는 전날 제22대 국회의원 총선거와 재·보궐 선거의 공정성·신뢰성을 제고하기 위해 자율협의체를 구성해 대응 방안을 발표할 예정이라고 밝혔습니다.

 

특히 AI의 기만적 사용을 방지하기 위해 뮌헨안보회의(MSC)에서 발표된 기술 협정과 같은 협약문 발표에도 합의를 했는데요. 선거 과정에서 진실한 정보를 전달한다는 공동의 목표를 진전시킨다는 계획입니다. 해당 협약은 선거에 영향을 미치기 위해 악의적으로 제작된 딥페이크 콘텐츠를 대상으로 하고 있습니다. 협회는 딥페이크 관련 위험 완화를 위한 노력, 유포 방지를 위한 기업 간 논의, 외부 전문가 그룹과의 지속적 논의 등 대응 방안을 마련해 조속한 시일 내에 발표할 예정입니다.

 

이는 방송통신위원회가 플랫폼 기업을 불러 자율규제 강화 방안을 논의한 지 나흘 만에 나온 방침입니다. 방통위는 지난 23일 국내외 플랫폼과 AI 개발사들을 불러, AI 생성물 표시, 탐지 모니터링, 삭제·차단 조치 등과 관련한 자율규제 현황과 강화 방안 등에 대해 논의하고 ‘선제적인 자율규제’를 요청한 바 있습니다.

 

이는 최근 딥페이크 이슈 블랙홀이 된 ‘가상으로 꾸며본 윤 대통령 양심고백 연설’이라는 조작 영상과 무관하지 않아 보이는데요. 해당 영상은 딥페이크가 아닌 것으로 확인됐지만 방송통신심의위원회는 ‘긴급 차단’ 조치를, 경찰은 ‘유포자 압수수색’ 방침 등 엄정 대응을 천명한 상태입니다.

 

네이버와 카카오는 오는 3월 중 총선 특집 페이지 오픈을 앞두고 자체적으로 딥페이크와 가짜뉴스 방지 대책 마련에 집중하고 있습니다. 먼저 네이버는 이번 주 중 딥페이크 키워드 검색 시 주의 문구를 노출하는 방안 등이 담긴 ‘딥페이크 대책’을 발표할 방침입니다. 또한 총선 페이지에도 후보자와 관련 연관 검색어와 자동완성이 금지되는 등의 방안도 준비 중입니다.

 

네이버는 현재 유해 콘텐츠 차단 AI 시스템인 ‘그린아이’를 통해 딥페이크를 필터링하고 있습니다. 또한 총선에 대비해 24시간 모니터링을 강화하고 선거 관련 허위정보 신고 센터를 신설하는 등의 대책도 마련 중입니다.

 

포털 사이트 다음을 운영하는 카카오도 딥페이크를 검출하고 필터링하는 기술에 대한 연구를 이어오고 있는데요. 카카오브레인이 자체 개발한 생성형 AI 모델 ‘칼로’에 비가시성 워터마크 기술 도입을 검토하고 있습니다.

 

이성엽 고려대 기술경영전문대학원 교수(기술법정책센터장)는 27일 본지와의 통화에서 “딥페이크영상이 만들어져서 퍼지면 단속과 처벌의 효과가 별로 없기에 플랫폼 기업들이 조금 더 적극적으로 점검하고 삭제 조치를 해야 한다”라며 “AI 콘텐츠에 대한 워터마크는 최소한의 장치로 법적으로 의무화해야 한다”라고 설명했습니다.

 

그러면서 “이용자들 역시 진위가 의심되는 영상에 대해 판단할 수 있는 능력이 필요하다”라며 “플랫폼의 노력과 이용자들의 리터러시 함양 등을 함께 향상 시킬 수 있는 대안을 찾아야 한다”라고 말했습니다. 

 

배덕훈 기자 [e-mail]

 

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 오승훈 산업1부장이 최종 확인·수정했습니다.