[뭔일easy] AI 강자 치트키, 'AI 데이터센터'가 뭐길래

AI 기술 주도권 확보 위해 국내 IT·통신·SI·리츠업계 AI DC 투자 확대

네카오, 직영 데이터 구축·운영…통신사 등은 DC 임대 또는 서비스형 GPU 사업

AI DC는 생존 필수 산업…최신 GPU·전력 인프라 외 차세대 냉각 시스템 개발도

산업계에서 갑자기 튀어나온, 혹은 필연적으로 등장한 이슈의 전후사정을 살펴봅니다. 특정 산업 분야의 직‧간접적 이해관계자나 소액주주, 혹은 산업에 관심이 많은 일반 독자들을 위해 데일리안 ICT융합부 기자들이 대신 공부해 쉽게 풀어드립니다.

AI 이미지

#포지티브적 해석 : AI 주도권 확보와 탈(脫)통신을 위한 IT업계의 골든타임

#네거티브적 해석 : 소유주·임대인은 좋지만 비싸질수록 임차인은 울겠네.

"하나의 인공지능(AI) 초거대언어모델(LLM)을 학습시키려면 최소 10기가와트(GW) 규모의 데이터센터가 필요하다. 1GW 규모의 데이터센터를 지으려면 400~500억 달러(58조∼72조원)가 소요된다."(최태원 SK그룹 회장)

초거대언어모델, 데이터센터. 단어도 생소하고 10GW가 어느 정도인지 감이 잡히지도 않습니다. 초거대언어모델부터 살펴볼까요? 일반적인 언어모델은 수백만 개의 토큰(단어 또는 단어 조각)을 학습합니다. 반면, 초거대언어모델은 수십조 개에 달하는 토큰을 처리합니다. 대표적으로 메타(전 페이스북)의 '라마 2(LLaMA 2)', 구글의 '람다(LaMDA)' 같은 모델이 있지요.

초거대언어모델을 공부시키려면 10GW의 전력이 필요하다고 합니다. 원자력발전소 1기의 전력 생산량을 약 1GW로 가정한다면, 초거대언어모델을 운영하는 데 원전 10기 규모의 전력이 필요한 셈입니다. 최 회장은 "50GW(5개) 정도의 데이터센터 필요하다"라고 언급했습니다. 투자 규모만 2900~3600조원이 되겠네요. 엄청난 액수입니다.

초거대언어모델을 학습시키는 데이터센터. 우리가 AI 데이터센터라고 부르는 이 곳은 일반 클라우드 데이터센터와는 비교도 할 수 없을 정도로 방대한 규모를 자랑합니다. 네이버가 2023년 11월 세종특별자치시에 문을 연 '각 세종'은 축구장 41개 크기인 29만4000㎡ 부지에 설립됐습니다.

60만 유닛(6차까지 전체 증설 시 최대규모)의 서버를 수용할 수 있습니다. 데이터센터에서는 서버를 선반처럼 쌓는 구조를 사용하는 데, 이 선반 단위를 랙(Rack)이라고 하고 랙 안의 높이 단위를 유닛이라고 부릅니다. 1 유닛짜리 서버로만 채운다면 60만대의 서버를 수용할 수 있다는 의미입니다.

카카오는 지난해 6월 한양대학교 에리카 캠퍼스에 위치한 '카카오 데이터센터 안산'을 처음 공개했습니다. '카카오 데이터센터 안산'은 이 회사의 첫 자체 데이터센터로 4000개의 랙, 총 12만대의 서버를 보관할 수 있습니다. 양사 합산 투자 규모는 1조원이 넘습니다.

네이버 자체 데이터센터 '각 세종' 전경.ⓒ네이버

조 단위를 투자하면서까지 네카오가 AI 데이터센터에 집중하는 이유는 무엇일까요. 짐작하다시피 AI 기술 주도권 확보를 위해서입니다. 생성형 AI 열풍 이후 AI 학습과 추론에 요구되는 방대한 연산 자원을 처리할 저장공간 수요가 커졌습니다. 이전에는 사용자가 포털에 키워드를 입력하면 검색한 웹페이지를 찾아 보여주는 것이 전부였으나 생성형 AI는 아예 답을 만들어 제공합니다.

답을 주는 방식도 텍스트 뿐 아니라 영상, 그림, 음성 등 다양합니다. 최근 유행중인 '지브리풍' 그림 생성이 대표적입니다. "지브리 느낌으로 강아지가 초원에서 뛰노는 그림 그려줘."라고 사용자가 요구하면 언어 입력을 기반으로 이미지를 생성합니다. 이런 두 가지 이상의 모달, 즉 멀티모달 구조가 확장되고 있습니다.

이를 잘 수행하려면 결국 방대한 저장공간이 필요합니다. AI 데이터센터는 그래픽처리장치(GPU), 고속 네트워크, 고밀도 랙·서버 슬롯, 전력 인프라 등이 필요합니다. AI는 텍스트, 이미지, 음성 등을 다 처리하므로 중앙처리장치(CPU) 보다 병렬 연산에 강한 GPU 서버를 사용합니다. GPU를 만드는 엔비디아에 IT 기업 수요가 몰리는 이유입니다.

또 대용량 데이터를 빠르게 주고 받아야 하니 초고속 네트워크 장비도 투입됩니다. 서버를 많이 꽂을 수 있는 랙, 전기 안정성을 고려한 전력 인프라도 필수입니다. AI 데이터센터는 GPU, 고속 네트워크, AI 기술을 결합해 기업이 다양한 형태의 AI 서비스를 구현할 수 있도록 돕는 'AI 허브'와 같은 역할을 합니다.

진화된 AI 시대를 대비하기 위해 기업들은 당연히 데이터센터에 대한 투자를, 그것도 무지막지하게 하겠지요. 구글, 아마존, 마이크로소프트, 오픈AI 등 빅테크들이 앞다퉈 시장 확대에 나서는 상황입니다. 투자 지역도 글로벌 단위로 다양합니다.

지난해 12월 23일 SK브로드밴드 가산 IDC에서 유영상 SKT CEO가 GPUaaS 준비상황을 점검하는 모습. ⓒSKT

AI 비즈니스 승부처는 이제 '어디에 얼마만큼의 AI 데이터센터를 갖췄는지'에 따라 달라질 것이라는 판단때문입니다. 경쟁사에 밀리다가는 비용과 속도는 물론 데이터 주권까지 잃을 수 있다는 절박감도 있습니다. AI 젠슨 황 엔비디아 CEO는 AI 데이터센터 확장 가치가 1조 달러(1452조원)에 달할 것이라고 전망합니다.

직접 초거대언어를 개발하고 운영하는 네카오는 AI 데이터센터를 짓고 관리하는 것이 필수적입니다. 직영 데이터센터이지요. 직접 개발하지는 않지만 AI 데이터센터가 필요한 기업들에게 공간을 빌려주는 방식으로 시장에 뛰어든 국내 기업들도 있습니다.

SK텔레콤, KT, LG 유플러스 등 통신사와 시스템통합(SI) 업체 등이 대표적입니다. 이들은 건물을 짓고 클라우드 서비스를 개발하는 곳(CSP)에 임대하거나 건물 전체를 임대(마스터리스)해 CSP에 재임대하는 방식으로 수익을 얻습니다.

구체적으로 들여다볼까요. SK텔레콤은 소규모 모듈러 AI 데이터센터 서비스를 계획하고 있습니다. 화물 컨테이너 크기의 공간에 GPU 등을 비롯한 AI 인프라를 탑재하고 스타트업, 연구기관을 공략하는 방식입니다. 마치 임대인이 호텔을 짓고 임차인에 방을 빌려주는 그림을 그려볼 수 있겠네요.

또한 가산 AI 데이터센터에 확보한 엔비디아 GPU H100를 AI 연산 인프라가 필요한 기업에 빌려주기도 합니다. 이 사업은 서비스형 GPU(GPU as a Service)라고 불립니다. 최근 GPU 클라우드 회사인 람다(Lambda)에 투자하기도 했지요. KT도 청주 AI 클라우드 데이터센터, 대덕 AI 클라우드 데이터센터에 엔비디아, AMD GPU를 수 천장 확보했습니다.

지난해 12월 19일 LG유플러스 안형균 기업AI사업그룹장(사진 왼쪽)과 GST 김덕준 대표(사진 오른쪽)이 업무협약식에서 액체 냉각 설루션 개발을 위한 업무 협약을 체결하는 모습.ⓒLG유플러스

KT는 AI 데이터사업을 확장하기 위해 가산·경북 데이터센터를 대용량 GPU 수용이 가능한 AI DC로 개관할 예정입니다. 가산 데이터센터의 경우 10만개 이상 서버 수용이 가능한 규모로 키워 수도권 AI 데이터센터 허브로 만들겠다는 계획입니다. 이와 별도로 마이크로소프트와 손을 잡고 AI·클라우드 사업을 강화할 방침도 세웠습니다.

LG유플러스는 2027년 준공을 목표로 경기 파주에 신규 AI 데이터센터를 짓고 있습니다. 파주 AI 데이터센터는 7만3712㎡ 부지에 구축되며 서버 10만대 이상을 수용하게 됩니다. LG유플러스는 전력 효율을 높이기 위해 액체 냉각 기술도 개발하기로 했습니다.

진화된 AI 수요에 부응하려면 서버 및 전력 설비 외에 냉각 시스템이 필요합니다. 서버가 뜨거우니 냉방을 하는 것이지요. 기업들은 서버를 특수 액체에 담가 식히는 액침 냉각을 개발중입니다. 액침 냉각 기술은 에너지 및 공간 효율성이 높고, 소음이 거의 발생하지 않는다는 장점이 있습니다. LG유플러스는 이를 위해 글로벌스탠다드테크놀로지(GST)와 업무협약을 체결했습니다.

급속도로 성장하는 AI 산업 속 AI 기술을 효과적으로 관리·운영하는 AI 데이터센터를 기업들은 새로운 먹거리를 넘어 생존에 필수적인 요소로 인식하고 있습니다. 똑똑한 모델을 빠르게 학습시키면서도 에너지 효율이 높은 AI 데이터센터를 선점하려는 비즈니스 산업 성장은 매해 가팔라질 전망입니다.

AI처럼 속도전이 요구되는 상황에서 IT·통신·SI·리츠업계 기업들은 필요에 따라 '합종연횡'을 할 가능성도 예상됩니다. 곧 다가올 1500조원 규모 시장, 갈수록 치열해지는 AI 데이터센터 경쟁이 궁극적으로 한국 AI 산업을 고도화하고 디지털 주권을 탄탄하게 확보하는 교두보가 되기를 바라봅니다.