딥페이크 확산 방지 나선 네이버…검색 시 '유의' 문구

'클로바X'·'큐' 등 AI 서비스에도 선거 관련 기술적 조치선거 관련 허위정보 댓글 신고 기능도 강화

[뉴스토마토 배덕훈 기자] 네이버(NAVER(035420))가 오는 4월 제22대 국회의원 선거를 앞두고 딥페이크와 허위정보 확산 방지에 나섰습니다.

 

네이버는 28일 검색 블로그를 통해 “오늘부터 딥페이크 관련 검색어를 입력할 경우 딥페이크 기술 활용에 대한 주의를 당부하는 안내 문구가 제공된다”라고 알렸습니다. 해당 문구는 딥페이크를 부적절하게 사용하거나 관련 정보를 찾고자 하는 의도가 포함된 검색어들을 대상으로 노출됩니다.

 

(사진=네이버 검색 블로그)

 

예를 들어 네이버 검색 창에 ‘딥페이크 사이트’를 검색하면 “딥페이크 기술 접근, 활용함에 있어 공직선거법, 성폭력처벌법 등 법령에 위반되거나 제3자의 권리를 침해하지 않도록 유의해 주세요”라는 문구가 나옵니다. 딥페이크 악용 사례로 인한 피해 유형이나 신고 방법 등을 안내하는 도움말도 제공됩니다.

 

네이버는 “검색 이용자가 정보를 소비하는 과정에서 딥페이크 기술의 악용 사례에 대해 경각심을 가질 수 있도록 도와준다”라고 설명했습니다.

 

네이버 '큐' 화면 (사진=네이버)

 

또한 네이버는 자사의 인공지능(AI) 서비스 ‘클로바X’와 생성형 AI 검색 특화 서비스 ‘큐:’(CUE:)에 선거 정보 요청이나 예측 등 정치적인 입장을 표명하지 않도록 기술적으로 조치한 상태입니다.

 

가령, 큐를 통해 ‘선거 결과 예측’ 등의 질문을 남기면 “제가 선거 결과를 예측하는 것은 부적절하다고 생각한다”라며 “이는 불확실성을 가중시키고 잘못된 정보 제공으로 오해와 혼란을 초래할 수 있기 때문”이라는 검색 결과 문구가 나옵니다. 또한 검색 결과 하단에는 ‘선거 정보는 대화 시점에 따라 변동될 수 있으니 선거관리위원회의 공식 자료 또는 네이버 통합검색 결과를 확인하세요’라는 문구도 적용됐습니다.

 

네이버는 또 허위정보 확산을 막기 위해 뉴스 댓글 신고 기능도 강화합니다. 이날부터 이용자들은 선거 관련 허위정보 등이 포함돼 있는 댓글을 해당 사유로 신고할 수 있습니다.

 

배덕훈 기자 [e-mail]

 

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 오승훈 산업1부장이 최종 확인·수정했습니다.