[뉴스토마토 허예지 기자] 영국 정부가 생성형 인공지능(AI)으로 만든 불법 합성물 규제에 나섰습니다. 이번 규제가 시행되면, 관련 테크기업들은 이용자로부터 성착취 이미지 등 불법 합성물을 신고받은 뒤 48시간 이내에 의무적으로 삭제해야 하는데요. 관련 조항이 미비한 우리나라의 경우 이처럼 실효성 있는 규제가 필요하다는 지적이 나옵니다.
18일(현지시간) 블룸버그통신과 로이터 등 외신에 따르면, 영국 정부는 이 같은 내용을 담은 범죄치안법 개정을 추진 중입니다. 법안에 따르면 삭제 조치를 이행하지 않는 기업은 전 세계 매출의 10%까지 과징금을 부과 받거나 영국 내 서비스 제공이 차단당할 수 있습니다. 통신미디어 규제 당국 오프콤(Ofcom)을 통해 본인 동의 없이 공유된 사적 이미지를 아동 성착취물이나 테러 이미지와 유사하게 취급해 자동 삭제하도록 하는 방안도 검토되고 있습니다.
지난 2024년 9월6일 서울 종로구 보신각 앞에서 여성·인권·시민단체 회원들이 텔레그램 딥페이크 성폭력 대응 긴급 집회를 열었다. (사진=뉴시스)
이번 규제는 최근 일론 머스크의 xAI사가 개발한 AI 챗봇 '그록(Grok)'이 여성과 아동의 성적 딥페이크 이미지를 생성하는 데 사용됐다는 논란에서 촉발된 것으로 알려졌습니다.
미국, 호주, 독일 등 국가는 이미 딥페이크나 비동의 성적 이미지에 대한 플랫폼의 삭제 의무와 그 시한을 법령에 구체화한 바 있습니다. 미국은 피해자의 통지 이후 48시간, 호주는 온라인안전위원회의 삭제 명령 이후 24시간, 독일은 이용자 신고 접수 후 24시간의 삭제 시한을 뒀습니다. 국제사회의 딥페이크 대응은 이처럼 '권고·사후 처벌'에서 '사전 확산 방지'로 무게추를 옮기는 모양새입니다.
하지만 우리나라의 경우 지난달 22일 AI 기본법(인공지능발전과신뢰기반조성등에관한기본법)이 시행됐지만, 피해 예방이나 관련 사후 조치 관련 조항이 미비하다는 지적이 나옵니다. 플랫폼 기업에 대해 AI 생성물에 워터마크를 표시할 의무를 부과했을 뿐, 불법 합성물의 피해를 방지하기 위한 세부 대책은 제시하지 못한 건데요.
국내에서는 국회와 방송미디어통신심의위원회, 성평등가족부를 중심으로 AI 성착취 이미지 규제 논의가 이뤄지고 있는 실정입니다.
차지호 더불어민주당 의원 등 10인은 지난 3일 '딥페이크 피해 방지 및 삭제 의무에 관한 법률안'(이하 피해방지법안)을 발의했습니다. 해당 법안에는 플랫폼 사업자가 미성년자나 성인의 요청이 있으면 비동의 성적 이미지 표현물 등을 삭제·차단하도록 의무화하는 내용이 담겼습니다.
법안에 따르면 피해자가 성인인 경우 48시간 이내, 미성년자인 경우 즉시 또는 24시간 이내에 이미지를 삭제·차단해야 합니다. 미성년자 대상 성적 합성물의 경우, 비동의 추정 원칙이 적용됩니다. 의무 불이행 시 국내 매출액의 1% 이내 과징금을 부과하는 방안이 포함됐으며, 국외 사업자의 책임도 명시됐습니다.
방송미디어통신심의위원회는 지난 10일 '국제인터넷핫라인협회(INHOPE)'와 세이프온라인, 인터넷 감시 재단(IWF) 등 7개 국제기구와 함께 AI를 '누드화 도구'로 사용하는 것을 전면 금지하는 내용의 공동 성명을 발표하기도 했습니다.
원민경 성평등가족부 장관은 지난 11일 본인 소셜미디어에 관련 보도를 공유하고 "디지털 성범죄에 대한 국제사회의 선언을 적극 환영한다"며 "성평등가족부도 새로운 디지털성범죄의 양상에 대응하기 위해 관계부처, 국제사회와의 협력을 적극 강화하고 피해예방과 피해자 보호를 위해 책임감을 갖고 힘쓰겠다"고 밝혔습니다.
허예지 기자 rang@etomato.com
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김기성 편집국장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지