정부가 GPU 서버 한 대에 275억을 쓴다는데, 그 안에 뭐가 들었나 — 베라 루빈 NVL72 랙 140대의 구성

과학기술정보통신부의 2027년 예산안에 눈에 띄는 숫자가 하나 있습니다. GPU 서버 확충에 3조 8,500억 원, 엔비디아의 차세대 플랫폼 베라 루빈 NVL72 랙 140대, 대당 275억 원입니다. “서버 한 대에 275억”이라는 말만 들으면 감이 잡히지 않습니다. 이 글은 그 한 대 안에 무엇이 들어 있는지, 왜 외신 추정가보다 두 배 넘게 비싼지, 그리고 140대로 무엇을 하려는지를 공개된 자료로 정리합니다. 내용은 2026년 9월 6일 기준입니다.

숫자부터 — 3조 8,500억, 140대, 1만 80장

9월 5일 보도에 따르면 과기정통부는 2027년 GPU 서버 확충 예산으로 3조 8,500억 원을 배정받아 베라 루빈 NVL72 랙 140대를 확보할 계획이고, 사업설명서에 적힌 대당 가격은 275억 원입니다. 랙 하나에 루빈 GPU 72개가 들어가므로 140대면 1만 80장입니다. 배경훈 부총리 겸 과기정통부 장관은 국제 수준의 최상위 AI 모델을 만들려면 “약 1만 장 정도가 필요하다”고 말해 왔고, 이 예산이 그 숫자를 채우는 셈입니다.

항목값
예산3조 8,500억 원 (2027년, GPU 서버 확충)
도입 단위베라 루빈 NVL72 랙 140대
대당 가격275억 원
GPU 수랙당 72개 × 140 = 10,080개
외신 추정가번스타인 리서치, 랙당 약 910만 달러(약 123억 원)

랙 한 대 안에 뭐가 들었나

NVL72는 GPU 한 장이 아니라 GPU 72개와 CPU 36개를 한 랙에 묶어 하나의 거대한 컴퓨터처럼 쓰게 만든 단위입니다. 이름의 72가 GPU 수입니다. 루빈은 GPU, 베라는 함께 들어가는 CPU의 이름이고, 둘을 NVLink라는 고속 연결로 이어서 72개 GPU가 메모리를 나눠 쓰듯 동작합니다. 여기에 랙 전체를 식히는 수랭 설비, 네트워크 스위치, 전원이 들어갑니다.

가격의 큰 부분은 GPU에 붙는 메모리입니다. 루빈 세대는 6세대 고대역폭 메모리 HBM4를 씁니다. 마이크론이 베라 루빈 공급용 12단 HBM4 양산에 들어갔고, 삼성전자와 SK하이닉스도 HBM4 공급을 늘리고 있다는 것이 올해 하반기 반도체 뉴스의 축입니다. 왜 GPU보다 메모리가 귀해졌는지는 HBM 품귀 글에서 다뤘습니다.

왜 외신 추정가의 두 배 넘게 비쌀까

번스타인은 NVL72 표준 랙을 약 910만 달러, 우리 돈 123억 원 안팎으로 추정했습니다. 정부 사업설명서의 275억 원은 그 두 배가 넘습니다. 보도는 두 가지 이유를 듭니다. 첫째, HBM 가격 상승이 랙 가격에 반영됐습니다. 둘째, 엔비디아가 고객사에 15% 인상을 예고했습니다. 여기에 국내 도입 시 설치·냉각·전력 설비와 운영비, 환율이 더해집니다. 즉 275억은 칩 값이 아니라 “랙을 들여와 돌릴 수 있는 상태”의 값에 가깝습니다. 그래도 두 배 차이는 크므로, 예산 심의에서 이 단가가 어떻게 설명되는지가 올가을 관전 포인트입니다.

엔비디아 쪽에서 본 루빈

엔비디아는 8월 26일 실적 발표에서 베라 루빈 플랫폼이 “전면 양산에 들어갔고 파트너사에서 랙이 가동 중”이라고 밝혔습니다. 코어위브, 구글 클라우드, 마이크로소프트 애저, 오라클, 네비우스가 그 파트너로 거명됐습니다. 이 분기 매출은 962억 달러(전년 대비 106% 증가), 데이터센터 매출은 890억 달러였습니다. 젠슨 황의 표현은 “이제 연산이 곧 매출”이었습니다. 한국 정부가 사려는 것은 이미 하이퍼스케일러들이 줄 서 있는 물건이고, 그래서 가격 협상력이 크지 않습니다.

1만 장으로 무엇을 하나

정부의 설명은 독자적인 최상위 AI 모델, 즉 독자 파운데이션 모델 개발입니다. 8월 27일 정부가 AI 허브에 학습데이터 29종 1.56조 토큰을 푼 것이 재료라면, 이 GPU는 그 재료를 굽는 화로입니다. AI 질문 하나에 GPU가 얼마나 드는지는 인프라 글에서 계산했는데, 학습은 그 수천 배 규모의 연산을 몇 달간 돌리는 일이라 1만 장이 “많다”기보다 “출발선”에 가깝습니다. 참고로 국산 모델로 만드는 범용 챗봇 ‘모두의 AI’는 별도 예산 2,500억 원 안에 GPU 임차비가 들어 있고, 과기정통부는 9월 1일 “B200으로 치면 약 2,000장 임차가 가능하다”고 설명했습니다. 사는 1만 장과 빌리는 2,000장이 다른 사업이라는 점은 구분해 둘 필요가 있습니다.

환율과 단가를 직접 계산해 보면

번스타인 추정치 910만 달러를 달러당 1,350원으로 환산하면 약 123억 원입니다. 275억 원은 그 2.2배입니다. 엔비디아가 예고한 15% 인상을 얹어도 141억 원 안팎이므로, 나머지 130억 원가량이 HBM 가격 반영분과 국내 설치·냉각·전력·운영·예비비의 몫이라는 계산이 됩니다. 사업설명서가 이 구성을 어떻게 나눠 적었는지는 공개되지 않았으므로, 이 계산은 “두 배 차이가 어디서 오는지”의 크기를 가늠하는 용도로만 보시면 됩니다. 랙 140대의 전력과 냉각은 별도 시설 예산이 필요한 항목이라, GPU 예산만으로 전체 비용을 읽으면 안 됩니다.

국산 NPU는 왜 이 자리에 없나

1만 장을 전부 엔비디아에서 사는 계획을 보면 “국산 칩은?”이라는 질문이 따라옵니다. 답은 국산 NPU 글에서 다뤘듯 칩 성능이 아니라 CUDA 생태계, 검증 이력, HBM 공급망에 있습니다. 최상위 모델 학습은 실패 비용이 가장 큰 자리라 검증된 플랫폼을 고르는 것이고, 정부도 NPU는 추론·실증 쪽에 배치하는 구도입니다.

자주 묻는 질문

275억이면 GPU 한 장에 얼마인가요?

단순 나눗셈으로 랙 하나 275억을 GPU 72개로 나누면 약 3억 8천만 원입니다. 다만 랙 값에는 CPU·네트워크·냉각·설치가 포함돼 있어 GPU 단가로 읽으면 과장됩니다.

일반 사용자가 체감할 변화가 있나요?

직접적으로는 없습니다. 이 GPU는 국가 모델 개발과 연구기관·기업에 배분되는 자원입니다. 결과물인 국산 모델이 ‘모두의 AI’ 같은 서비스로 나올 때 체감하게 됩니다.

예산이 그대로 통과되나요?

예산안은 국회 심의를 거칩니다. 단가 275억이 조정될 수 있고, 엔비디아의 인상·환율에 따라 확보 수량이 달라질 수 있습니다. 확정치는 12월 예산 통과 뒤에 확인해야 합니다.

정리

275억은 “GPU 한 장 값”이 아니라 GPU 72개와 CPU 36개, HBM4, 냉각, 설치를 합친 한 덩어리의 값입니다. 그 덩어리 140개가 1만 장이고, 정부는 그것을 최상위 국산 모델의 출발선으로 봅니다. 값이 외신 추정의 두 배인 이유는 메모리와 엔비디아의 인상, 그리고 “줄 서서 사는 물건”이라는 사정에 있습니다.

참고: 머니투데이(2026-09-05), 엔비디아 2027 회계연도 2분기 실적(2026-08-26), 아이뉴스24(2026-09-01) (2026년 9월 6일 확인)

이 갈래에서 이어 읽기