개인정보위, '카나나'에 보안 강화 명령…오픈AI 저장·학습 안돼

개인정보 발설 방지·보안 강화 조치대화 데이터 학습 시 별도 동의 필수

[뉴스토마토 신상민 기자] 개인정보보호위원회(개인정보위)가 카카오로부터 인공지능(AI) 서비스 카나나 출시를 앞두고 이용자의 개인정보 발설을 막는 안전장치를 마련하고 이용자 대화를 내부 학습에 이용할 경우 별도의 동의를 받도록 시정하라고 주문했습니다. 

 

개인정보위는 13일 카카오의 인공지능 비서 서비스인 ‘카나나’에 대한 사전적정성 검토를 진행한 결과 추가적인 기술적 보안 조치를 주문했습니다. 또한 이용자 대화 데이터를 오픈AI 사업 목적으로 쓰지 않도록 하는 조건을 카카오와 오픈AI 간 위수탁 계약에 명시하도록 전날 전체회의에서 심의·의결했습니다. 

 

카카오는 작년 12월 출시를 앞둔 카나나 서비스가 개인정보 보호법을 준수하며 설계·운영될 수 있도록 사전 적정성 검토를 신청했습니다. 

 

개인정보위는 이번 검토를 통해 암호화 등 기술적 보안 조치 강화, 외부 모델 처리 데이터 보호 강화, 내부 학습에 이용 시 별도 추가적 안전조치 운영, 내부 관리체계 강화 등의 추가 안전조치 방안을 마련하도록 했습니다. 

 

개인정보위는 카나나가 하나의 대화방에서 알게 된 참여자 개인정보를 다른 대화방에서 타인에게 발설하지 않도록 기술적 안정장치를 강화하도록 했습니다. 

 

카카오는 대화방 내 데이터를 카카오 내 별도 데이터베이스에 보관해 오픈AI에 저장되지 않도록 설계할 계획입니다. 또한 이용자 대화 데이터를 자사 언어 모델의 학습 데이터로 활용할 시 이용자로부터 반드시 별도의 동의를 받아야 합니다. 

 

이 밖에도 카나나 서비스의 지속적 개인정보 보호 수준 제고를 위해 개인정보 보호 책임자가 상시 리스크 관리체계를 구축·운영하며 중대한 리스크 관리 계획 및 실행 내역을 정기적으로 이사회에 보고해야 합니다. 

 

전승재 개인정보위 조사조정국 조사3팀장은 "카나나 서비스 출시 직전에 해당 보완 내용을 점검하고 향후 서비스가 시행된 이후에도 원활히 운영되고 있는지 재차 확인할 예정"이라고 말했습니다.

 

개인정보위는 13일 카카오의 인공지능 비서 서비스인 ‘카나나’에 대한 사전적정성 검토를 진행한 결과 추가적인 기술적 보안 조치를 주문했다.(사진=뉴시스)

 

신상민 기자 [e-mail]

 

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김나볏 테크지식산업부장이 최종 확인·수정했습니다.