AI금융 갈 길 멀었다…수냉식 데이터센터·독자 클라우드 ‘전무’

[뉴스토마토 신수정 기자] 국내 금융권이 앞다퉈 AI 경쟁을 벌이고 있지만, 고성능 AI를 활용하기 위한 연산을 안정적으로 구동할 핵심 인프라는 사실상 전무합니다. 금융당국은 AI 금융서비스 활성화를 위한 보안·책임 규제 정비에 속도를 내고 있지만, 현장에선 이를 뒷받침할 수냉식 데이터센터와 금융권 전용 AI 클라우드가 부재해 금융 AI 경쟁력 강화가 구호에 그칠 수 있다는 우려가 제기됩니다.

 

포항 AI 데이터센터 조감도. 사진은 기사와 무관. (사진=경상북도)

 

5대 금융, AI전환 넘어 AI 데이터센터 경쟁 본격화

 

국내 금융권에선 5대 금융그룹(KB·신한·하나·우리·NH농협)을 중심으로 AI 전환(AX)에 속도를 내고 있습니다. 뿐만 아니라 AI 데이터센터 설립에도 주력하는 모양새입니다. 대규모 AI 연산을 처리하는 'AI 기반 데이터센터'를 구축해 AI를 활용한 금융서비스의 고도화 경쟁력을 키우겠다는 구상입니다.

 

이들 지주는 그간 전산 백업 용도의 재해복구센터(DR센터)를 활용해 왔지만, AI 시대로 넘어가면서 생성형 AI나 AI 전용 클라우드 기반의 금융서비스를 운용할 수 있는 환경으로 변화를 마주하고 있습니다. 아직까지는 △에이전틱 AI 도입 △AI 특화 플랫폼(금융상담·재무상담) △데이터사이언스(신용평가·이상거래탐지) 등을 선보이며 AX 단계에 머물지만, 더욱 고도화된 금융서비스를 제공하기 위해서는 전용 AI 데이터센터가 확보돼야 합니다. AI 연산을 감당할 전력·냉각·보안 등 전용 설비를 갖추려면 수조 원 규모의 막대한 비용이 동반됩니다. 

 

KB국민은행은 2030년 가동을 목표로 전산 백업 용도의 제2데이터센터(재해복구센터·DR센터) 구축을 위한 부지 검토와 컨설팅에 착수했다고 전해졌습니다. 이번에 지어질 데이터센터에는 AI 연산용 전력을 기존 대비 2배 수준으로 확충할 계획입니다. 기존 여의도에 위치한 여의도백업센터를 대체하면서 KB금융의 'AI 공장' 역할을 할 전진 기지를 수행할 것으로 기대되는 이유입니다.

 

신한은행도 지난해 12월 남양주시와 8500억원 규모 AI 데이터센터 건립 협약을 체결, 2029년 준공을 목표로 인프라 구축에 나섭니다. 1999년 설립돼 노후화된 기존 백업 센터인 일산센터를 대체하면서 AI 연산용 인프라 구축을 고려해 AI 데이터센터로 확장할 계획입니다.

 

비슷한 시기 우리은행도 AI, 블록체인, 클라우드, 빅데이터 등 핵심 기능을 집약한 제2데이터센터 설립 계획을 확정하고 내년부터 착공을 시작합니다. NH농협은행은 에이전틱 AI 비전을 실행하기 위해 AI 데이터센터 인프라 투자를 예고했습니다. 하나은행은 제2데이터센터 구축을 논의 중이지만, 업계에선 조만간 AI 데이터센터 구축 흐름에 합류할 것이란 시각이 지배적입니다.

 

'AI 금융 규제가 나아가야 할 방향'을 주제로 지난 23일 국회 의원회관에서 열린 포럼에서 종합토론이 진행 중이다. (사진=신수정 기자)

 

'수냉식' 전환 뒤쳐져 고성능 AI 경쟁력 약화 우려

 

금융권의 AI 데이터센터 설립이 가시화된 점은 긍정적이나 이를 수행하는 선도 기술은 따라가지 못하고 있다는 지적이 나옵니다. 기존 AI 데이터센터 구축은 공랭식으로 이뤄졌는데요. AI 관리를 위한 소모가 심해지면서 1년여 전부터 연산 용량이나 연산 과정에서의 발열을 잡아주지 못한다는 한계가 언급됐던 바 있습니다.

 

정연구 레노버 상무는 지난해 6월 초 열린 '컨버전스 인사이트 서밋(CIS) 2025'에서 "전통적인 공랭식의 데이터센터 냉각 방식은 한계에 직면했다"며 "이제는 물을 시스템에 직접 공급하는 수냉식 냉각으로 데이터센터를 혁신해야 한다"고 강조했습니다.

 

공기를 활용해 시스템을 냉각하는 기존 공랭식과 달리, 수냉식은 물이 지나가는 배관을 통해 중앙처리장치(CPU)와 그래픽처리장치(GPU) 등을 직접 냉각해 발열을 잡기 위해 낭비되는 전력을 절감할 수 있습니다. 실제 AI 학습·추론에 활용되는 발열량이 지속적으로 늘어나면서 이를 관리하기 위한 냉각 방식의 고도화에 대한 제언이 주목받고 있습니다.

 

김재원 코리아스타트업포럼 의장이자 엘리스그룹 대표는 전날 열린 'AI 시대, 금융 시스템을 다시 설계하다' 종합토론에서 "현재 국내에는 AI 모델을 제대로 돌릴 수 있는 GPU 수용 데이터센터 자체가 부족하며, 전력과 발열 문제를 해결할 수냉식 데이터센터도 부재한 상황"이라며 "정작 현장에는 AI 클라우드조차 갖춰지지 않았는데 금융권에 관련 규제부터 먼저 지어지는 역설적인 상황이 벌어지고 있다"고 진단했습니다.

 

김 대표는 강력한 보안 규제와 기술 현실 간의 심각한 괴리를 짚었습니다. 그는 "현재 1000여개가 넘는 기관이 엘리스그룹의 GPU 클라우드를 쓰고 있지만, 금융권만큼은 유독 망분리 규제에 가로막혀 단 한 군데도 서비스를 제공하지 못하고 있는 실정"이라고 증언했습니다.

 

여기에 막대한 비용 부담이 금융권의 발목을 잡고 있습니다. 금융당국이 제시한 금융 AI 보안 정책이나 가이드라인(상시 검수, 모니터링, 레드팀 공격 테스트 등)을 충실히 이행하려면 AI 모델을 지속적으로 돌려야 하는데, 이를 감당하기 위한 GPU 구동 비용이나 클라우드 인프라 비용은 현재 산정조차 되지 않는다는 것이 김 대표의 지적입니다.

 

그는 "비용 부담이 너무 커 중소 금융사나 핀테크 업체는 물론, 대형 금융사조차 선뜻 독자적인 인프라 투자를 단행하기 어려운 구조"라며 "구동 가능하지도 않은 상황에서 보안 정책만 강조하는 것은 선후가 바뀐 것"이라고 비판했습니다.

 

실실적인 하드웨어 구축 장벽도 뚜렷합니다. 최신 GPU가 출시될 때마다 소모 전력이 2배씩 급증해 발열 제어가 더욱 어려워지지만, 물의 무게로 인해 하중이 커지는 수냉식 냉각 시스템은 기존 데이터센터에 무거워서 설치할 수 없습니다. 새로 구축하려 해도 데이터센터 자체에 대한 복잡한 규제와 산자부 소관의 ‘전력계통 영향평가’ 등으로 인해 최소 3년 이상의 시간이 소요됩니다. 

 

그는 거대한 데이터센터를 새로 짓는 방식 대신, 3개월 내에 신속하게 구축할 수 있고 보안성도 높일 수 있는 '맞춤형 모듈형 엣지 데이터센터'를 금융권과의 현실적인 협업 대안으로 제시했습니다. 그러면서 당국엔 중소 금융사들이 지원받을 수 있는 인프라 정책 마련을 촉구했습니다.

 

이날 토론에 참석한 정선인 금융위원회 디지털금융총괄과장은 "보안용 망 분리를 긴급히 완화하고 데이터 활용 관련 규제를 정비해 나갈 것"이라며 "현장의 목소리를 적극 반영해 AI 시대에 걸맞은 새로운 책임 기준과 감독 방안을 고민하겠다"고 밝혔습니다.

 

지난 23일 오후 서울 여의도 국회의원회관에서 열린 'AI 시대, 금융 시스템을 다시 설계하다' 국회포럼에 참석한 (왼쪽부터) 정성구 세종 변호사, 김종현 한국핀테크산업협회장, 박상혁 더불어민주당 의원, 이성엽 고려대 교수, 채상미 이화여대 교수, 이혜민 핀테크AI협의회장(핀다 대표), 강현정 김앤장 변호사, 김제원 코리아스타트업포럼 의장. (사진=한국핀테크산업협회)

 

신수정 기자 [e-mail]

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김의중 금융부장이 최종 확인·수정했습니다.