안녕하세요 데이터를 만지고 다루는 안혜민 기자입니다. 지난 APEC 시기에 전해진 젠슨 황의 GPU 26만 장 공급의 여파가 여전히 이어지고 있습니다. 정부도 내년도 예산안을 발표하면서 AI 시대를 여는 첫 예산이 될 것이라고 강조하기도 했고요.
관련된 기사들도 많이 나오고 있지만 조금은 냉정하게 들여다볼 필요가 있다는 생각이 들어 이번 에피소드를 준비했습니다. 도대체 GPU 26만 장이 어느 정도인 건지 또 엔비디아는 왜 한국과 이런 거래를 선택했는지 엔비디아가 얻는 건 무엇이고, 한국이 풀어야 할 숙제는 무엇인지 그 이면의 이야기를 데이터와 그래프를 통해 이야기해 보겠습니다.
'깐부 회동'과 GPU 26만 장이 남긴 것
우선 GPU 이야기를 안 하고 넘어갈 순 없겠죠? 엔비디아의 최신 GPU 26만 장이 국내에 공급될 예정입니다. 공공과 민간 양쪽의 AI 인프라에 투자되는데 각각 어떻게 사용될 예정인지 그림을 통해 살펴보겠습니다.
먼저 민간에서는 4개 대기업들에게 총 21만 장이 풀릴 예정입니다. 네이버가 6만 장으로 가장 많고 삼성, SK, 현대차가 각각 5만 장 구매합니다. 네이버는 클라우드에 활용하고, 삼성과 SK는 반도체 제조 공정에 AI를 적용할 계획이죠. 현대차는 자율주행과 로봇 등 모빌리티 고도화에 엔비디아의 GPU를 활용하게 됩니다.
공공 부문에는 5만 장이 투입되는데 국가 AI 컴퓨팅센터 구축에 활용될 예정입니다. 이 인프라를 기반으로 우리나라 독자 AI 모델과 서비스를 개발할 계획이죠.
엔비디아의 GPU는 돈이 있더라도 워낙 사려는 사람이 많고 물량이 부족해서 살 수가 없는 상황입니다. 그러다 보니 우리나라가 우선적으로 26만 장을 확보했다는 사실만으로도 큰 의미가 있다고 볼 수 있어요.
26만 장이라는 숫자도 대단한 겁니다. 물론 엔비디아의 GPU를 싹 쓸어가는 미국의 빅테크들의 규모는 차원이 다르긴 합니다. 가령 지난해에 마이크로소프트는 엔비디아의 호퍼 GPU를 48만 장 넘게 구매할 정도였으니까요.
국가 단위로 보면 압도적 1위는 빅테크들이 몰려 있는 미국이고, 2위는 싱가포르 등의 경로를 통해 야금야금 사들인 중국으로 추정됩니다. 그다음 자리를 두고 여러 국가들이 경쟁하는 상황인데, 여기서 우리나라가 크게 치고 올라온 셈인 거죠.
물론 3위 자리를 두고 경쟁하는 국가들의 상황이 쟁쟁하긴 합니다. 가령 영국은 지난 9월에 엔비디아로부터 6만 장의 GPU를 공급받기로 약속했고요, UAE는 미국 데이터센터에 투자하는 대가로 연 최대 50만 장의 GPU 공급 협약을 체결했다는 보도도 있죠.
26만 장의 이유? 젠슨 황은 깐부를 잊지 않는다
젠슨 황은 이번 깐부 회동에서 이건희 삼성 선대회장과의 인연을 강조했습니다. 물론 의례적인 발언일 수도 있지만 젠슨 황이 걸어온 길을 보면 이런 인연을 쉽게 여기는 건 아닌 게 확실해 보이죠.
엔비디아가 창업되던 1990년대 초로 시곗바늘을 돌려보도록 하겠습니다. 1993년 커티스 프리엠, 크리스 말라초스키, 그리고 젠슨 황까지 이 3명의 공대생들이 기업 하나를 만듭니다. 자신들의 프로젝트 명인 New Version의 NV와 라틴어로 질투라는 뜻을 가진 Invidia를 합친 Nvidia라는 이름으로 말이죠.
게임 매니아라는 공통점을 갖고 있던 세 사람은 더 뛰어난 그래픽으로 게임을 할 수 있도록 그래픽 전용 칩을 개발하기로 의기투합합니다. 엔비디아는 3D 모델링에 사각형 폴리곤을 채택해 칩 설계를 진행했습니다. 그리고 1995년 엔비디아 최초의 그래픽 칩셋, NV1을 출시하죠.
하지만 결과는 폭망이었습니다. 가격은 비쌌지만 그것에 비해 성능이 특출 나지 않아서 판매량이 형편없었거든요. 이때 한줄기 빛이 내려오니 게임제작사 세가의 미국지사가 엔비디아에 흥미를 보였다는 거였죠. 미국 세가와 그래픽 칩 계약을 따낸 엔비디아는 차세대 그래픽 칩셋 NV2 개발에 나섭니다.
그런데 마이크로소프트가 이 게이밍 그래픽 시장에 발을 들이기 시작합니다. NV1이 출시되던 해에 빌 게이츠는 게임 그래픽을 처리할 Direct X를 발표했고, 이듬해엔 3차원 그래픽 렌더링에 특화된 Direct 3D를 출시합니다. 문제는 마이크로소프트는 엔비디아와는 달리 삼각형 폴리곤을 선택했다는 거였죠. 그리고 이게 업계의 대세가 되어버립니다.
이렇게 되다 보니 NV2는 개발을 완료해도 의미가 없어져버리자, 젠슨 황은 미국 세가 CEO였던 이리마지리 쇼이치로에게 이렇게 읍소를 합니다. "우리는 계약을 마칠 수 없으니, 세가는 다른 파트너를 찾아야 한다. 다만 계약 대금 500만 달러는 전액 지급해 달라, 그렇지 않으면 우리 회사는 망한다. 꼭 부탁드린다."고 말이죠.
당당함에 반한 건지, 엔비디아의 잠재력을 믿은 건지 세가는 투자금으로 계약 대금 500만 달러를 제공합니다. 이 돈으로 엔비디아는 기사회생해서 그다음 칩인 NV3를 만드는데 이게 바로 대박이 난 RIVA 128이었습니다. 이후에도 연이어 대박을 낸 엔비디아는 1999년 1월에 당당히 상장에 성공했고, 지금은 시가총액 1위 기업에 올랐죠.
이때의 인연을 젠슨 황은 잊지 않았습니다. 때는 2017년, 세가 CEO였던 이리마지리 쇼이치로가 젠슨 황에게 뜬금없이 부탁 하나를 합니다. 일본 재계 리더 행사가 하나 있는데, 혹시 가능하면 엔비디아 관계자 한 명 와서 강연해 줄 수 없냐는 거였죠.
쇼이치로는 큰 기대 없이 메일을 보냈지만 그 다음날 바로 젠슨 황으로부터 답장을 받게 됩니다. "당신에게 도움이 될 수 있어 기쁩니다"라는 답장과 함께 젠슨 황은 직원이 아닌 본인이 직접 행사에 참여해 연사로 강연을 진행했어요. 쇼이치로뿐 아니라 세가에 대한 감사한 마음도 여전한 젠슨 황은 세가의 버추어 파이터 30주년 기념 영상에도 깜짝 등장하기도 했죠.
젠슨 황의 인연은 우리나라와도 돈독합니다. 엔비디아가 상장하기 2달 전 출시된 게임이 있습니다. 바로 '스타크래프트 브루드 워'였죠. 1997년 외환 위기 이후 우리나라엔 퇴직자들이 차렸던 PC방이 우후죽순 생겼고 이 스타크래프트가 대유행을 하면서 PC와 그래픽카드 수요가 크게 늘어났어요. 바로 여기, 대한민국 PC방 컴퓨터 속 그래픽 카드가 엔비디아의 첫 시장이었습니다. 젠슨 황은 당시 직접 용산 전자상가를 찾아 영업을 뛸 정도였고요.
젠슨 황은 이 인연을 잊지 않고 있습니다. 그래서 엔비디아에서는 마치 국뽕 채널에서 올릴법한 대한민국 헌정 영상을 올리기도 했죠.
젠슨 황의 진짜 노림수? 대체 불가한 K-제조 데이터
물론 한국과의 인연 때문에 GPU 26만 장을 선물한 건 아닐 겁니다. 기업가가 수지타산이 맞지 않는 장사를 할까요?
일단 당장 26만 장의 GPU를 팔아서 얻을 수 있는 이익이 있겠죠? 적게 잡아도 장당 5,000만 원인데 그냥 단순 계산해도 13조가 나옵니다. 엔비디아의 전체 매출에 비하면 아주 큰 금액은 아니지만 엔비디아 입장에선 이 금액이 불투명한 중국 시장의 대안이 될 수 있다는 겁니다.
엔비디아의 국가별 매출 현황을 살펴보면 압도적으로 미국이 많습니다. 하지만 중국도 일부 있죠. 작년에 번 1,300억 달러 가운데 171억 달러, 그러니까 약 25조 원은 중국 시장을 통해 벌어들였습니다.
미국이 중국과 AI 경쟁에 나서고 관련 칩이나 모델 수출에 제동을 건 상태라 엔비디아에게 중국 시장은 불확실성이 큽니다. 그런데 이번 26만 장 건으로 어느 정도 해소할 수 있게 된 거죠.
하지만 진짜 중요한 건 따로 있을지 모릅니다. 엔비디아가 이번 거래로 얻을 수 있는 바로 대한민국의 제조 데이터가 주인공이죠.
현재 AI는 단순히 챗봇을 넘어서 형태가 있는 피지컬 AI로의 도약을 앞두고 있습니다. 컴퓨터 안에서만 그치는 게 아니라 자율주행차와 로봇 등 물리 세계로 확장되고 있는 거죠. 이미 다양한 산업 현장에서는 AI를 접목해서 효율을 개선하고, 비용 절감을 이뤄내고 있기도 합니다. 엔비디아는 이렇게 새롭게 펼쳐질 시장에서 강력한 영향력을 펼치고 싶은 마음이 큽니다.
APEC이 끝나고 미국에서 진행된 엔비디아의 개발자 컨퍼런스 GTC의 모습입니다. 엔비디아는 GPU 같은 하드웨어와 인프라뿐 아니라 다양한 영역에 적용할 수 있는 플랫폼과 피지컬 AI 영역에서 활용될 월드 모델도 제공할 계획입니다.
점점 더 확장해 나갈 산업 AI에서 엔비디아가 가장 확보해야 하는 핵심 요소는 역시나 '데이터'입니다. 양질의 데이터를 쌓고, 그걸 바탕으로 모델에 학습시켜야만 좋은 모델을 만들 수 있으니까요.
그런데 문제는 산업 영역에서 활용할 모델에 쓸 데이터는 인터넷에 없다는 겁니다. 기존 챗봇에 사용된 모델들의 데이터인 언어, 이미지, 영상은 웹에서 긁어오면 해결됐어요. 하지만 산업 영역, 특히 제조 데이터는 기업들만이 갖고 있죠. 각각의 생산라인에서 생성되는 온도와 압력은 어떤지 기계의 상태에 따라 제품 품질은 어떻게 달라지는지 등 다양한 제조 데이터는 제조업체만 갖고 있습니다.
제조 데이터를 확보해야 하는 엔비디아 입장에서 제조업 강국인 우리나라는 매우 좋은 파트너인 겁니다. 특히나 우리나라는 로봇이 산업 곳곳에 자리 잡은 이미 자동화된 환경이라는 강점이 있어요.
국제로봇연맹에서 발표한 자료인데요, 한국의 로봇 밀도는 압도적 1위입니다. 직원 만 명당 로봇 1,012대로 전 세계 평균인 162대와 비교하면 6배가 넘습니다. 이런 대한민국 환경에 엔비디아 플랫폼이 얹어진다면요? 생산라인이 순식간에 AI 팩토리로 전환될 수 있는 겁니다. 여기서 얻을 수 있는 양질의 제조 데이터들은 엔비디아의 월드 모델 학습과 검증에 사용되겠죠.
특히나 이번에 협약을 맺은 삼성, SK, 현대차는 다른 어느 나라에서도 구하기 힘든 고품질 데이터를 다루는 기업들입니다. 엔비디아가 이번에 이들과 함께 AI 팩토리를 구축하게 되면서 제조 데이터를 확보할 수 있는 기회가 생긴거죠. 삼성, SK의 반도체 공정은 3나노, 2나노미터 단위에서 이뤄지고 있고요 현대차의 데이터에는 자동차 생산 공정뿐 아니라 자율주행 데이터와 로봇 데이터도 포함되어 있죠.
이렇게 양질의 데이터로 학습시켜서 엔비디아가 높은 성능의 모델을 만들게 되면 앞서 살펴본 그래프에서 우리나라 뒤로 있는 싱가포르, 독일, 일본, 스웨덴 등 제조업 강국들을 상대로 세일즈에 나설 수도 있겠죠.
3위에 위치한 중국은 압도적 제조업 강국이지만 지금의 통상 갈등 상황에서 엔비디아가 끼어들 틈은 없습니다. 게다가 이미 중국은 자체적으로 AI 소프트웨어와 제조업을 결합해 나가고 있죠. 바짝 뒤에 쫓아오는 중국을 견제하는 측면에서도 대한민국의 제조 데이터는 젠슨 황에게 매우 필요한 상황인 겁니다.
참고로 제조 데이터에 대한 관심은 엔비디아뿐만이 아닙니다. 올해 정부가 추진하고 있는 AI 팩토리 사업에 구글과 AWS 같은 글로벌 기업들이 무상으로 클라우드를 제공해 주겠다는 언론 보도가 있기도 했습니다.
글로벌 빅테크 기업들은 그 과정에서 확보할 수 있는 한국의 제조 데이터를 호시탐탐 눈독 들이고 있는 겁니다. 그래서 우리의 소중한 제조 데이터를 어떻게 주체적으로 지키며 활용할 것인지도 매우 중요한 과제 중 하나죠.
도약할 판은 깔렸다... 우리에게 남겨진 숙제는?
여러 가지 판단을 거쳐서 어쨌든 우리나라에 곧 26만 장의 GPU가 들어오게 됩니다. 이제 공은 우리에게로 넘겨졌죠. 하지만 준비하고 풀어야 할 숙제가 적지 않습니다. 가장 많이 나오는 지적 중 하나가 바로 전력 문제입니다.
최대 전력 소비량이 2,700W로 알려진 GB200 GPU 26만 장을 돌린다고 가정해 보면 702MW가 나오고, 여기에 냉각 등에 쓰이는 전력까지 추가하면 800MW까지 늘어날 수 있어요. 보통 원전 1기의 발전 용량이 1,000MW니까 이거 우리가 제대로 돌릴 수 있겠냐는 얘기가 나오는 겁니다. 당장 서울대와 숭실대에서 AI 데이터센터 지으려 했는데 변전소 설비 부족으로 못했거든요.
필요한 전력은 어디서 만들 것이며, 또 생산한 전력은 어떻게 끌고 올 건지 풀어야 할 게 많습니다. 또 다른 골칫거리 중 하나는 AI 데이터센터 전력 소비 패턴이 기존의 데이터센터와는 아예 다르다는 것도 있습니다.
기존의 데이터센터에선 다양한 워크로드를 동시에 처리합니다. 어떤 회사의 데이터베이스 처리도 하고, 또 어떤 학생이 클라우드 드라이브를 이용하면 처리해 주는 식으로 말이죠. 수많은 업무가 쏟아지지만 다양한 부하가 합쳐지다 보니 전력 패턴을 봤을 때 이렇게 평탄하게 나타납니다.
반면 AI 데이터센터는 다릅니다. AI 모델을 학습하는 과정에서 각각의 GPU들은 거대한 데이터 중 일부를 받아서 학습을 진행합니다. 이 학습 단계에서 GPU들은 전력을 미친 듯이 사용하게 되고, 전체 전력 소비량이 크게 늘어나죠.
하지만 중간중간 각각의 GPU들이 학습한 결과물을 합치고 다시 나누는 과정이 필요한데 이 과정에서 GPU는 대기하게 됩니다. 이때엔 전력 사용량이 급감합니다. 이런 널뛰기가 1초 사이에도 몇 번씩 발생할 수 있어서 데이터센터 전력 패턴의 폭이 이렇게나 큽니다. 즉 전력 인프라도 인프라인데, 전력망의 안정적 운영 역시 앞으로 우리가 풀어야 할 과제라는 거죠.
(남은 이야기는 스프에서)
