(AI법제화)①진화하는 AI…기본법은 제자리걸음

일상에 자리 잡은 AI 기술가이드라인 없어 산업계 혼란딥페이크 등 사회적 문제 발생

인공지능(AI)이 새로운 IT 트렌드로 자리잡으며 산업계는 물론 일상생활 전반에 걸쳐 서서히 영향력을 넓혀가고 있습니다. 바야흐로 빅테크의 AI 기술 각축전에도 속도가 붙으면서 신 시장 창출 기대감을 한몸에 받고 있는데요. 다만 관련 법제도가 아직 구비되지 않은 만큼, 무분별한 기술 사용에 따른 부작용 우려도 동시에 낳고 있습니다. 특히 AI 법제화 논의가 비교적 빠르게 진행되고 있는 해외와 달리, 국내에선 AI 관련 논의는 아직 턱없이 부족합니다. 이미 현재 진행형의 기술인 AI가 인간의 삶을 이롭게 하는 도구로 자리잡도록 하기 위해, AI 기술의 현 주소와 그 영향력에 대해 짚어보고, 외국의 AI 법제화 동향과 더불어 국내에 발의된 AI 관련 법안에 대해 두루 살펴 보고자 합니다.<편집자주>

 

[뉴스토마토 신상민 기자] 챗GPT 등장 이후 기술 발전에 가속도가 붙으면서 인공지능(AI)이 전 산업 분야에 걸쳐 적용될 것이라는 전망은 이제 기정사실화되고 있습니다. 산업계를 넘어 일반인들도 생성형AI를 활용하는 사례가 점차 늘고 있는데요. 이처럼 삶에 성큼 다가온 AI는 인간의 삶을 이롭게 하는 측면이 있지만 아쉽게도 부작용도 함께 낳고 있습니다.

 

AI 시장은 가파르게 성장 중인데요. 글로벌 시장 조사업체인 IDC에 따르면 생성형AI 시장 규모는 2023년 149억달러(약 19조원)에서 4년 뒤인 2027년 1511억달러(약196조원)으로 늘어날 것으로 예측되고 있습니다. 

 

챗GPT가 만든 초거대 제조AI 이미지.(사진=경남도)

 

폭넓게 사용되는 AI 기술

 

AI가 활용되는 분야는 제조업, 금융, 유통 등 다양합니다. 제조업의 경우 제품 생산 과정 자동 제어나 AI 빅데이터 분석을 통한 문제 해결 등에서 사용됩니다. 금융권의 경우 AI 챗봇을 통한 개인 맞춤 서비스, AI 머신러닝 기반의 투자 플랫폼 등으로 활용하고 있습니다. 유통의 경우 AI 힘을 빌어 데이터를 수집, 분석해 수요를 예측하기도 합니다. 법률의 경우 계약서 분석부터 법률 연구, 위험 평가 및 규정 준수 등에 이용되고 있습니다. 

 

빅테크의 기술 진화와 별개로 이미 개발된 AI가 각 분야에 속속 접목되고 있는 모습인데요. 법조계 관계자는 "AI기술은 법조계에서도 이미 많이 사용하고 있다"며 "여러가지 AI를 다양한 방면으로 실제 업무에 사용하고 있다"고 밝혔습니다. 엔터테인먼트 관계자는 "이미 개인의 성향을 분석한 콘텐츠 제안 등이 AI가 활용되고 있다"고 전했습니다. 

 

다만 이미 다양한 분야에서 AI가 이용되고 있음에도 불구하고 한계점은 여전합니다. 현재 국내에 AI와 관련한 뚜렷한 가이드라인이 없기 때문인데요. 특히 생성형AI 활용시 저작권 등과 관련한 리스크가 있는 만큼 업계는 가이드라인이 없는 현재 상황이 혼란스럽다는 입장입니다. IT 관계자는 "어디까지 저작권 침해라고 볼 수 있을지, 어디까지 허용이 될 것인지에 대한 지침이 없다 보니 섣불리 투자를 할 수 없다"고 지적했습니다. 

 

일반인 접근 쉬워진 AI기술

 

생성형 AI 기술은 이미 일반인도 손쉽게 이용하고 있습니다. 생성형AI라 함은 프롬프트에 대응해 텍스트, 이미지, 기타 미디어를 생성할 수 있는 AI 시스템을 말하는데요. ChatGPT, 챗봇, 제미니, 스테이블 디퓨전, 미드저니, DALL-E 등이 대표적인 AI 시스템입니다. 

 

그나마 의사결정 시스템이 작동하는 기업과 달리 일반인의 AI 활용은 개인의 윤리의식에 기댈 수밖에 없어 통제가 더 어려운 측면이 있는데요. 특히 미성년자의 경우 단순한 호기심에 따른 무분별한 AI 사용으로 각종 피해를 낳는 사례가 늘고 있습니다. 가장 논란이 되고 있는 부분이 딥페이크(AI를 활용한 인간 이미지 합성 기술)를 이용한 초상권 침해 사례입니다. 지난해 6월 부산 한 중학생이 AI를 활용한 딥페이크 기술로 음란물과 교사의 얼굴을 합성해 유포했습니다. 지난 4월에는 또 다른 중학교에서 AI로 제작된 음란물이 유포됐지만 최초 유포자를 찾지 못했습니다. 지난 6월에는 동급생 얼굴을 불법 합성해 음란물을 제작해 판매한 고등학생이 등장해 경찰의 수사를 받고 있습니다. 

 

딥브레인AI '딥페이크 탐지 솔루션'. 사진=딥브레인AI)

 

일반인들의 AI 오용으로 음성권 침해 또한 빈번하게 일어나고 있습니다. AI 딥러닝(컴퓨터가 외부 데이터를 조합, 분석해 학습하는 기술)을 활용해 유명인의 목소리로 만든 'AI 커버곡'이 구글이 운영하는 세계 최대 동영상 사이트 유튜브에서 한동안 유행하는 일이 있었는데요. 가요계는 이로 인해 음성권이 침해될 뿐 아니라 AI로 학습된 유명인의 목소리 데이터가 범죄에 이용될 수 있음을 지적하고 있습니다. 

 

이미 미국에서는 유명인의 얼굴을 AI를 통해 학습시켜 정치적 지지 메시지를 담는 형태의 딥페이크 콘텐츠가 유통돼 사회적 문제가 된 바 있습니다. 이 같은 오용 우려가 커지자 최근 유튜브는 자신의 얼굴이나 목소리를 모방한 AI 콘텐츠의 삭제를 요청할 수 있는 규정을 추가하기도 했습니다. 

 

국내 가이드라인은 아직

 

AI 부작용에 대한 우려가 커지고 있지만, 국내는 아직 관련 법제도 정비에 나서지 못한 상태인데요. AI 기술과 관련된 가장 기본적인 가이드라인이 될 'AI 산업 육성 및 신뢰 기반 조성에 관한 법률안', 이른바 AI기본법은 지난 21대 국회 문턱을 넘지 못했습니다. 22대 국회가 출범하고 난 뒤로는 지금까지 6건의 안건이 새롭게 발의된 상황입니다.

 

하지만 22대 국회에서도 논의에 진통을 겪고 있습니다. AI 산업 육성을 위한 규제 완화를 해야 한다는 입장과 윤리·안전을 우선해야 하는 입장이 맞서 진도를 나가지 못하고 있는 상황입니다. 

 

이인선 국민의힘 의원이 6월26일 서울 여의도 국회 의원회관에서 열린 국회 AI 포럼 창립총회 및 기념 세미나에서 개회사를 하고 있다.(사진=뉴시스)

 

신상민 기자 [e-mail]

 

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김나볏 테크지식산업부장이 최종 확인·수정했습니다.