[뉴스토마토 김동현 기자] 방송통신위원회는 인공지능(AI) 서비스가 활용되는 과정에서 이용자 보호 원칙이 지켜지도록 이용자·사업자 대상 교육·컨설팅을 지원하고, AI 윤리 규범 등을 구체화해 제도개선을 추진할 계획이라고 14일 밝혔다. 최근 AI 채팅로봇의 혐오·차별 표현과 AI 채팅로봇의 이용자 성희롱성 발언 등이 논란이 되고 있다. 이와 관련해 이용자 보호 차원에서 방통위가 나선 것으로 보인다.
방통위는 올해부터 이용자에게 AI 서비스의 비판적 이해 및 주체적 활용에 대한 교육을 실시한다. 이용자가 AI서비스에 활용된 알고리즘 편향성을 파악하고, 이에 따른 문제를 최소화해 서비스를 이용하는 방안 등을 담을 계획이다. 내년부터는 신규 예산을 확보해 AI 윤리교육 지원대상을 사업자로 확대하고, 스타트업 등을 대상으로 서비스 설계 시 AI 역기능과 같은 위험관리 컨설팅을 지원하는 사업을 추진할 예정이다.
.png "최근 혐오 표현 등이 논란이 되며 서비스를 중단한 AI 챗봇 '이루다'. 사진/스캐터랩")
최근 혐오 표현 등이 논란이 되며 서비스를 중단한 AI 챗봇 '이루다'. 사진/스캐터랩
AI 서비스의 이용자보호를 위해 규범·제도를 구체화한다. 방통위는 2019년 11월 '차별금지, 인간존엄성 보호' 등의 내용을 포함한 '이용자 중심의 지능정보사회를 위한 원칙'을 발표한 바 있다. 해당 원칙이 선언적 규정에 그쳐 올해부터는 이를 실천하기 위한 구체적 사례·방법 등을 공유할 예정이다. 사업자 규제 부담 및 AI 서비스 혁신 저해를 최소화하기 위해 민간에서 실천 중인 모범 사례를 발굴해 이를 바탕으로 실행지침을 마련할 계획이다.
중장기 과제로는 이용자 피해를 야기한 AI 서비스의 책임 소재 및 권리 구제 절차 등을 포함해 법체계 정비를 추진한다. 이를 위해 방통위는 지난해 1월 정보통신정책연구원(KISDI) 내 지능정보사회 정책센터를 설립하고, 9월부터 센터 내 법제 연구반을 구성해 운영 중이다.
한상혁 방통위 위원장은 "AI 서비스는 많은 부가가치를 창출하고 생활 편의를 더해줄 것이지만 올바른 윤리와 규범이 없는 AI 서비스는 이용자 차별과 사회 갈등을 초래할 수 있다"며 "AI 기술의 혜택은 골고루 누리되 부작용은 최소화할 수 있도록 사람 중심의 AI를 위한 정책을 추진할 것"이라고 말했다.
김동현 기자 esc@etomato.com
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김기성 편집국장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지