두바이미래재단이 연구 및 출판 분야에서 인간-기계 협업의 세계 최초 아이콘 분류 체계를 선보였다. (사진=두바이미래재단)
[뉴스토마토 임삼진 객원기자] 챗GPT로 대표되는 대규모 언어 모델의 등장으로 사람들은 다양한 정보에 빠른 속도로 접근할 수 있게 되었고, 많은 사람이 이를 편리하게 이용하고 있습니다. 하지만 그 응답 정확성과 콘텐츠 생성 시 사용된 참고 자료의 신뢰성에 대한 우려가 꾸준히 제기되어 왔습니다. 지난 2023년 5월 의학 학술지 <큐어어스(Cureus)>에 발표된 ‘챗GPT로 생성된 의료 콘텐츠에서 조작된 및 부정확한 참고 자료의 높은 비율’이라는 논문에 따르면 챗GPT를 활용해서 생성된 30개의 의료 논문에서 전체적으로 115개의 참고문헌이 인용되었는데, 이 중 47%는 조작된 참고문헌이었고, 46%는 있기는 했지만 정확하지 않았으며, 7%만 진정성과 정확성을 모두 충족했습니다. 이 연구 결과는 의료 정보 활용 시 주의가 필요함을 보여줍니다. 연구진은 “신뢰할 수 있는 출처에서 의료 정보를 확인하고 인공지능이 생성한 콘텐츠에만 의존하지 않도록 권한다”라고 밝혔습니다.
학계에 던져진 인공지능(AI)의 ‘환각’ 문제
세계 학술계가 이런 생성형 인공지능(AI)의 이른바 ‘환각(hallucination)’ 현상에 몸살을 앓고 있습니다. 생성형 AI는 실재하지 않는 논문 제목과 저자를 마치 진짜처럼 구성해내는 능력이 뛰어납니다. AI가 만들어낸 그럴듯한 가짜 인용문들이 실제 학술지 투고 과정에서 적발되는 사례가 늘어나면서 학술계는 진실성과 검증 체계에 큰 위기의식을 느끼고 있습니다.
국내 대학도 이에 발맞춰 움직여 왔습니다. 고려대학교는 2023년 3월, 국내 최초로 ‘챗GPT 및 생성형 AI 가이드라인’을 발표하며 대응에 나섰습니다. 고려대의 핵심은 “AI를 막지 않는다. 그러나 무책임하게 사용해선 안 된다”는 원칙입니다. 교수는 수업별로 AI 활용 허용 여부를 결정하고 강의계획서에 명시해야 하며, 학생이 AI를 사용할 경우 사용 시기, 목적, 활용 방식을 과제에 반드시 기술해야 합니다. 아울러 AI가 잘못된 정보를 제시하거나 편향된 내용을 생성할 수 있음을 인지하고, 비판적 사고를 바탕으로 사실 검증을 수행하라고 권고합니다.
두바이미래재단이 제시한 인간-기계 협업 아이콘
AI의 환각은 단순한 기술적 결함이 아닙니다. 이 문제는 학술 연구의 신뢰성에 관한 문제이며, 인류 지성의 자격을 AI와 어떻게 나눌 것인가에 대한 근본적 질문이기도 합니다. 두바이미래재단(Dubai Future Foundation, DFF)이 7월 20일 발표한 ‘HMC(Human-Machine Collaboration) 아이콘’은 콘텐츠 생산 과정에서 인간과 AI의 협업 수준을 명시하는 표준을 제시한 것으로 상당히 유의미한 움직임으로 보입니다. 인공지능(AI)의 참여 여부를 밝히는 것이 학술과 출판계의 새로운 윤리 기준으로 떠오르는 가운데 ‘미래의 표준’을 제시한 것입니다. ‘HMC 아이콘 체계’는 인간과 기계가 어느 단계에서 어떻게 협력했는지를 직관적인 아이콘으로 표시할 수 있도록 구성돼 있습니다. 인간 중심의 콘텐츠 제작을 지지하면서도 책임 있는 AI 활용을 제도화하려는 시도로 볼 수 있습니다.
아이디어부터 디자인까지…9개 작업 영역 투명하게 시각화
이번 체계에서는 또한 결과물이 아닌 ‘과정’을 드러낸다는 점도 눈에 띕니다. DFF는 연구, 출판, 시각 콘텐츠 제작 등 전 영역에서 인간과 AI의 협업 수준을 명확히 구분해주는 ‘아이콘 분류 체계’를 제시했습니다. 지금까지 AI의 개입 여부는 주로 저자명이나 서문에 국한돼 왔지만, 두바이 시스템은 아이디어 구상, 문헌 검토, 데이터 수집·분석, 해석, 집필, 번역, 시각자료 제작, 디자인 등 총 9개 세부 작업 단계를 각각 따로 구분해 보여줄 수 있게 했습니다.
이 과정을 통해 제작자는 전체 작업에서 인간과 기계의 협업 비중을 ‘5단계 핵심 아이콘’으로 요약해 표시하고, 각 작업별로 AI의 개입 여부를 ‘9개의 기능 아이콘’으로 표기할 수 있습니다. 누구나 웹사이트(dubaifuture.ae/hmc)에서 아이콘을 무료로 다운로드할 수 있으며, 저작권은 유지되지만 세계의 모든 출판사, 학자, 디자이너들이 자유롭게 사용할 수 있도록 문호를 열었습니다.
“AI 시대, 인간의 역할 지키려면 프레임워크부터 바꿔야”
셰이크 함단 빈 모하메드 빈 라시드 알 막툼 두바이 왕세자 겸 UAE 부총리는 이 프로젝트에 대해 “AI가 콘텐츠 제작 전반에 개입하는 시대가 된 지금, 인간이 주도한 결과물과 기계가 개입한 결과물을 명확히 구분하는 일이 매우 중요해졌다”며 “새로운 글로벌 분류 체계를 통해 책임 있는 AI 사용 문화가 확산되길 바란다”고 밝혔습니다.
실제로 이번 체계는 2024년 두바이미래재단의 ‘글로벌(Global) 50’ 보고서에서 제시된 문제의식- “만약 인간 지능을 위한 튜링 선언이 있다면 어떨까?”-에 대한 실천적 해답입니다. 연구 무결성과 출판 윤리를 둘러싼 논쟁이 격화되는 가운데, HMC 아이콘은 AI 시대의 ‘윤리적 라벨링’에 대한 하나의 기준을 제시한 것입니다.
학문은 질문하는 능력과 진실을 검증하는 태도 위에 세워집니다. 그리고 AI가 그 과정에 도구로 사용될 수는 있지만, 인간의 책임을 대체할 수는 없습니다. 인간이 얼마나 개입했는지를 입증하는 것이 신뢰와 품질의 상징이 되는 시대, 두바이의 시도는 인류가 기계와 공존하기 위한 하나의 규칙을 제시했다는 점에서 주목됩니다.
임삼진 객원기자 isj2020@daum.net
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 강영관 산업2부장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지