(토마토칼럼)눈앞에 닥칠 '초지능'

인공지능(AI)의 진화 속도가 예사롭지 않다. 오픈AI에서 이탈한 다니엘 코코타일로 등 연구진이 발표한 'AI 2027 보고서'는 인류 문명의 변곡점을 예고하는 일종의 예언서처럼 읽힌다. 

 

"2027년, 인공지능은 인간을 넘어설 것이다." 보고서는 가상의 기업 '오픈브레인(OpenBrain)'과 '슈퍼휴먼 코더', 그리고 '초지능 연구자'의 등장을 시나리오 형태로 풀어냈다. 2027년 3월 인간을 능가하는 프로그래머가 나타나고 그해 11월에는 스스로를 개량하는 초지능 AI가 등장한다. 기술 발전이 더 이상 선형적이지 않음을, 곧 기하급수적 속도로 폭주할 수 있음을 경고한다. 

 

2년 뒤일 수도 있고, 조금 더 늦춰질 수도 있다. 그러나 AI가 AI를 학습시키는 순환 고리가 완성되는 순간, 그 속도는 인간의 상상을 훨씬 뛰어넘을 것이다. 이른바 '스스로 진화하는 지능'의 등장은 산업혁명 이후 최대의 전환점이 될 것이다. 그것은 단순히 노동시장의 재편이나 실업의 문제가 아니다. 인류의 '지식 주권' 자체가 흔들릴 수 있기 때문이다. 

 

지금의 AI는 인간의 지능 활동을 흉내 내는 기술적 도구에 머물러 있다. 그러나 범용인공지능(AGI)이 등장하면 인간처럼 이해하고 학습하며 응용하는 '지능 그 자체'가 구현된다. 그 순간부터 AI는 인간의 통제 너머로 나아가게 된다. 스스로를 코딩하고 개선하고 재설계할 수 있는 존재가 된다면 통제 불능과 예측 불가능의 위험은 필연적일 수 있다. 

 

단순한 공상 시나리오가 아니다. 기술 진화의 가속화를 기반으로 한 인간 문명의 근본적 위기를 묻고 있다. AI가 모든 생산을 맡고 인간이 아무 일도 하지 않아도 되는 유토피아를 꿈꾼다 해도, 우리는 그 세계의 주체가 아닌 구경꾼이 될 가능성을 제시한다. 즉, 존재론적 불안이다. 

 

전 그리스 재무장관 야니스 바루파키스는 현대 기술문명을 '기술봉건제'로 칭한 바 있다. 빅테크 기업이 자본주의를 대체하는 새로운 봉건 질서를 지적한다. 신자유주의적 자본주의가 시장의 이름으로 착취했다면 기술봉건제는 데이터와 알고리즘의 이름으로 인간을 수탈하기 때문이다. 노동은 상품이 아니라 알고리즘의 부산물이 되고 인간은 생산의 주체가 아닌 플랫폼의 '봉신'으로 전락한다는 얘기다. 

 

과장처럼 들리지만, 비생산적 대중과 민주주의의 붕괴를 초래할 것이라고 경고한다. 그러나 AGI와 로봇이 지배하는 시대를 눈앞에 두면서 기술봉건주의를 향한 우려는 쉽게 떨칠 수 있는 문제가 아니다. 뇌과학자 김태식 KAIST 교수는 유튜브를 통해 2000년 전 로마제국의 몰락을 AGI에 빗대어 설명했다. 로마의 노예가 미래 AGI가 될 것이라는 우려다. 

 

노동의 가치가 사라지고, 실업 사회의 폭동을 막기 위해 제공된 '빵과 서커스'는 오늘날의 무한한 엔터테인먼트와 다르지 않다. 콜로세움의 잔혹한 열광은 디지털 화면 속 몰입의 열광으로 변주돼 다시 문명의 피로 위에 재현되고 있다. AI는 아직 인간을 대체하지 못한다. 그러나 대체할 날이 다가오고 있다. AGI 이후 인류는 무엇으로 남아 있을지 노동의 종말과 기술 봉건주의의 망령을 심오하게 고민해야 할 때다. 

 

이규하 정책선임기자 [e-mail]

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 최신형 정치정책부장이 최종 확인·수정했습니다.