(토마토칼럼)AI 시대와 개인정보

최근 AI(인공지능) 산업이 기업은 물론 사회 전반에 붐을 몰고 오고 있습니다. 과거에는 챗GPT와 같이 데이터를 학습하고 사용자에게 답을 해주는 챗봇 형태의 AI가 주를 이뤘다고 한다면, 현재는 학습을 넘어 ‘추론’하는 영역으로 AI가 발전해 실서비스로 확장하는 모습입니다.

 

이에 AI 산업은 LLM(거대언어모델) 경쟁에서 ‘데이터’ 중심으로 무게추도 옮겨가고 있습니다. AI 모델이 양질의 데이터를 학습해야 개선된 추론 결과가 나오기 때문입니다. 이러한 이유로 기업들 역시 양질의 데이터를 확보하는 데 공을 들이고 있는데요. 이로 인해 데이터의 큰 축을 차지하는 개인정보의 중요성도 대두되는 상황입니다.

 

과학기술정보통신부와 한국데이터산업진흥원이 발표한 ‘2023 데이터산업 현황조사’에 따르면 국내에서 데이터를 보유하고 있는 기업은 78.7%로 나타났습니다. 이들 기업의 데이터 수집 경로는 ‘온라인 회원 및 고객이 이용 동의한 데이터 수집’(29.9%)이 가장 높았는데요. ‘자사의 데이터가공을 통한 수집’(23%), ‘마케팅 등 고객 커뮤니케이션을 통한 데이터 수집’(11.6%)이 그 뒤를 이었습니다.

 

결국 기업들이 보유한 데이터 절반 가량(41.5%)이 이용자들의 ‘동의’를 통해 얻어지는 데이터인 셈입니다. 하지만 작은 글씨로 빼곡히 써져 있는 동의와 관련한 약관을 꼼꼼히 읽는 경우가 드물고, 이후에 내 정보가 어떻게 활용되는지 알 길이 없습니다. 그 결과는 어떤 식으로든지 개인정보 유출로 이어지는 모습인데요. 최근 기승을 부리는 ‘주식 거래 권유’ 등 스팸문자가 단적인 예입니다.

 

개인정보보호위원회에서도 이용자 보호를 위해 관련 가이드라인을 마련하는 등 분주한 모습입니다. 특히 기업들이 확보하고 있는 데이터에 대한 개인정보 관리 강화에 힘을 쏟고 있는데요. 최근 개인정보위가 SK텔레콤의 AI 비서 ‘에이닷’에 시정·개선 권고를 의결한 것도 비슷한 맥락입니다.

 

개인정보위는 최근 에이닷에 대해 법 위반 행위에 대한 시정 권고와 함께 ‘서버로 이관되는 개인정보의 비식별 처리 수준 강화’ 등의 조치를 마련할 것을 개선 권고했는데요. 개선 권고는 법적 강제력은 없지만 에이닷 이용자들의 개인정보 보호 조치가 미흡하다는 지적입니다.

 

또한 개인정보위는 알리·테무 등 중국 이커머스 플랫폼이 고객정보를 안전하게 관리하고 있는지 등도 조사 중인데, 그 결과 개인정보보호법 위반 여부가 확인되면 과징금 부과 등의 조치 가능성도 큽니다.

 

한국데이터산업진흥원이 발간한 ‘2023 데이터산업 백서’는 생성형 AI 시대, 개인정보 등 윤리적 문제를 해결해야 한다고 강조하고 있는데요. 특히 “개인정보에 대한 통제력이 부족하면 기업은 위험에 처할 수 있다”라며 “개인정보 보호 문제를 해결하기 위해서는 기업과 정부가 협력해야 한다”라고 제언합니다.

 

결국 AI 산업 발전을 위해 AI 개발과 사용을 규율하는 법과 제도를 마련하는 것이 시급한 상황인데요. 과도한 규제는 산업 육성 측면에서 바람직하지 않기에 적절한 기준을 찾는 것이 중요합니다. 더불어 기업들도 영리 목적으로 이용자들의 개인정보를 활용하는 사례가 많은 만큼 개인정보 보호의 중요성을 인식하고 철저한 관리·감독 체계를 마련해야 합니다.

 

배덕훈 테크지식산업팀장 

 

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김나볏 테크지식산업부장이 최종 확인·수정했습니다.