(AI 반도체, 이모저모) ①‘새로운 세계의 화폐’된 GPU…은행은 엔비디아

고성능·플랫폼 보장…GPU ‘일극’ 된 비결글로벌 GPU 쟁탈전…국내 중소기업 소외인프라 부족에 AI 연구 인재 유출 우려도

[뉴스토마토 안정훈·이승재 기자] “그래픽처리장치(GPU)는 새로운 세계의 화폐다.”

 

미국의 대형 금융그룹인 ‘뱅크 오브 아메리카’(Bank of America)의 이 비유는, 만개한 인공지능(AI) 시대 GPU의 중요성을 압축적으로 보여줍니다. 자본주의 체제에서 더 많은 화폐를 보유한 자가 시장을 지배했듯, AI 전쟁에선 더 많은 GPU를 가진 자가 승리를 거머쥘 것이라는 함의가 여기에 담겨 있습니다. GPU를 확보하기 위한 세계 각국의 경쟁이 치열합니다. 하지만 돈이 그러하듯 GPU도 원한다고 누구나 다 가질 수 없습니다. 비싼 GPU는 1장당 약 7000만원(신제품 블랙웰 시리즈)이 훌쩍 넘습니다. 돈이 있더라도 1년 이상 기다려야 합니다. 쉽게 소유되지 않는 화폐, GPU. 

 

지난 11일(현지시간) 젠슨 황 엔비디아 최고경영자(CEO)가 프랑스 파리에서 열린 비바테크 박람회에서 연설을 하고 있다. (사진=뉴시스)

 

엔비디아, AI 전쟁터 유일한 무기상

 

돈이 있어도 구할 수 없는 화폐 GPU는, ‘은행’ 엔비디아가 사실상 독점 발권하고 있습니다. 애초 폭발적 수요를 공급이 따라갈 수 없는 구조인 셈입니다. GPU 가격의 고공행진은 일정 부분 이러한 독점 구조에 기인하고 있습니다. 하지만 독점이 GPU 가치 상승의 가장 결정적 요인은 아닙니다. 엔비디아를 시장 지배적 사업자로 만든 것은 결국 기술력입니다. 압도적 성능과 대체 불가능한 플랫폼인 ‘쿠다’(CUDA)를 경험한 구매자들은, 이제 다른 대안을 찾지 않습니다. 이른바 ‘락인’(Lock-in) 효과입니다. 구매자들이 엔비디아에 갇혀버리면서, 실제 AI 가속기 점유율 중 엔비디아 GPU가 차지하는 비율은 80~90%에 달하는 실정입니다. “AI 전쟁이 벌어지고 있는데, 엔비디아가 유일한 무기 거래상”(<뉴요커>)이라는 비유는 과장이 아닌 것입니다. 

 

현재 업계에서 주로 쓰이는 GPU는 엔비디아의 H100·H200입니다. 이들의 가격은 1개당 3000만~5000만원 수준으로 알려졌는데, 경쟁사 제품보다 비싸지만 수요는 치솟고 있습니다. 심지어 지난해 출시를 예고한 블랙웰 시리즈는 본격 출하 전 이미 1년치가 완판되기도 했습니다. 이제 AI를 활용하거나 사업을 하는 모든 기업은 엔비디아 은행 창구 앞에서 번호표를 뽑고 기다리고 있습니다. 업계 관계자는 “시장을 선점한 엔비디아의 독점 구도가 이어지고 있다”며 “시장 창조의 신화에 성능까지 압도적이니 ‘GPU는 당연히 엔비디아’라는 인식이 생겼고 이에 따라 프리미엄이 붙게 된 것”이라고 했습니다. 

 

2000년대 후반부터 현장 연구원들에게 이미 일종의 기본 옵션으로 여겨졌던 엔비디아 GPU가 처음부터 AI 컴퓨팅 목적으로 개발된 것은 아니었습니다. 게임 그래픽 향상을 위해 개발된 GPU는 특유의 병렬 연산 능력으로 AI 시장에서 각광을 받게 됐습니다. 복잡한 정보를 순차적으로 처리하는 강점이 있었지만, 수많은 데이터를 한 번에 처리하는 데에는 한계가 있던 중앙처리장치(CPU)에 비해, 여러 정보를 단번에 처리할 수 있는 GPU의 병렬 연산 능력은 방대한 데이터를 학습해야 하는 AI 딥러닝과 궁합이 맞았습니다. 

 

지난달 21일 시민들이 대만 타이베이에서 열린 컴퓨텍스 2025 전시회에서 엔비디아 제품을 구경하고 있다. (사진=뉴시스)

 

GPU 가능성 본 젠슨 황, 쿠다 만들다

 

다만 GPU의 연산 능력도 처음부터 각광받지는 못했습니다. 그래픽을 위한 부품이라는 한계 속에 있던 GPU의 활용 반경이 확대된 것은, 엔비디아의 플랫폼인 쿠다가 있었기에 가능했습니다. 젠슨 황 엔비디아 최고경영자(CEO)는 GPU의 연산 능력이 시뮬레이션 등 다양한 분야에 응용할 수 있다는 점을 간파하고 GPU를 여러 분야에 사용할 수 있도록 지원하는 플랫폼 쿠다를 만들었습니다. 이는 AI 연구가 엔비디아를 중심으로 이뤄지는 계기가 됐고, GPU 시장이 엔비디아로 일원화되는 결과를 낳았습니다. 

 

AI 혁명기, 엔비디아라는 일극 체제에서 GPU 확보에 전 세계가 각축전을 벌이고 있습니다. 일론 머스크 테슬라 최고경영자(CEO) 소유의 ‘콜로서스’ 데이터센터에 이미 20만장의 GPU가 투입되는 등 자금력이 있는 글로벌 빅테크 기업들이 수조원을 들여 사재기를 벌인 탓에 품귀 현상까지 빚어지고 있습니다. 만성적인 GPU 공급 부족의 대안으로 국내에선 클라우드에 기반한 GPU 구독 서비스가 등장하기도 했습니다. 유봉영 한양대학교 재료화학과 교수는 “GPU가 필요한 기업들에게 가격은 더 이상 문제가 아니”라며 “그 무엇보다 엔비디아 재고를 확보하는 게 가장 중요한 상황”이라고 했습니다. 

 

정부도 GPU 확보에 주력하고 있습니다. 이재명정부는 일찌감치 GPU 5만개 확보를 공약했고, 최근 과학기술정보통신부는 1조4590억원을 들여 GPU 1만장을 구입한 후 민간기업에 위탁운영을 하는 GPU 확보 사업을 진행하고 있습니다. 하지만 여전히 폭발적인 수요를 따라잡긴 역부족입니다. 

 

지난 20일 이재명 대통령이 울산전시컨벤션센터에서 열린 울산 AI 데이터센터 출범식에 참석해 세리머니를 하고 있다. (왼쪽부터) 안덕근 산업통상자원부 장관, 최민희 국회 과학기술정보방송통신위원장, 최태원 SK그룹 회장, 이 대통령, 프라사드 칼야나라만 AWS 인프라 총괄 대표, 유상임 과학기술정보통신부 장관, 김두겸 울산광역시장. (사진=뉴시스)

 

인프라 부족에 인재 유출 우려도

 

GPU 인프라 부족은 AI 연구에서 경쟁력이 저하되는 원인이 되는 것과 동시에 AI 연구 인재의 해외 유출로도 이어질 수 있습니다. 대한상공회의소 지속성장이니셔티브(SGI)가 지난 17일 발표한 ‘한국의 고급인력 해외유출 현상의 경제적 영향과 대응방안’ 보고서를 보면, 지난 2019년 12만5000명이던 국내 전문 인력의 해외 유출은 2021년 12만9000명으로 4000명이나 증가했습니다. 반면, 해외 전문 인력의 국내 유입은 같은 기간 4만7000명에서 4만5000명으로 감소했습니다. 이종환 상명대학교 시스템반도체학과 교수는 “아직 우리나라가 AI 경쟁에서 열세인데, 이대로 가면 유출이 자연스러운 현상이 될 것”이라며 “급여, 직원 대우가 다른데 인프라까지 차이가 나니 연구원들로서는 남을 이유가 없다”고 우려했습니다. 

 

결과적으로 엔비디아 GPU 확보가 단기간에 여의치 않다면, 이참에 중장기적인 자구책 마련에 나서야 한다는 지적도 나옵니다. 이 교수는 “땜질식 단기 해법으로는 큰 의미가 없다. GPU의 후속 AI 가속기가 나오면 또 수조원을 들여서 장비를 사겠다고 할 거냐”며 “시간을 들여서라도 AI 분야에서 장기적이고 지속 가능한 기술 자립 대책을 강구해야 할 시점”이라고 했습니다. 

 

안정훈·이승재 기자 [e-mail]

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 오승훈 산업1부장이 최종 확인·수정했습니다.