엔비디아가 GPU뿐 아니라 서버와 네트워크까지 파는 이유는, 요즘 AI가 GPU 한 개가 아니라 수천~수만 개의 GPU를 하나처럼 묶어서 돌아가기 때문입니다. 이때 성능을 좌우하는 것은 칩 하나의 속도보다 칩들을 얼마나 빠르게 연결하느냐입니다. 그래서 엔비디아는 연결에 필요한 장비까지 직접 만들어 ‘완성된 AI 컴퓨터’를 팔고 있습니다.
“반도체 회사가 왜 서버와 네트워크 장비까지 팔까?”라는 궁금증이 드실 수 있습니다. 이 글을 다 읽으시면 다음 한 가지를 이해하실 수 있습니다.
AI 시대에는 왜 칩보다 ‘칩을 묶는 방식’이 중요해졌고, 엔비디아가 그 부분까지 파는 것이 어떤 의미인지.
본문에서는 순서대로 ① AI 계산에서 연결이 중요한 이유, ② 엔비디아가 실제로 파는 제품의 범위, ③ 이렇게 팔 때 엔비디아가 얻는 것을 살펴보겠습니다.
AI 계산은 GPU 수천 개가 함께 합니다
챗GPT나 제미나이 같은 대형 AI 모델은 GPU 한 개로는 만들 수 없습니다. 모델이 너무 커서 하나의 GPU 메모리에 다 들어가지 않고, 계산량도 한 개로 처리하면 수년이 걸리기 때문입니다. 그래서 수천 개 이상의 GPU에 일을 나눠 맡깁니다.
문제는 일을 나누면 GPU끼리 끊임없이 중간 결과를 주고받아야 한다는 점입니다. 여러 명이 큰 퍼즐을 나눠 맞추는 상황을 떠올려 보시면 쉽습니다. 각자 아무리 빨라도, 서로 조각을 주고받는 통로가 좁으면 다들 기다리느라 시간을 버립니다.
AI 데이터센터도 같습니다. GPU 사이의 연결이 느리면 비싼 GPU가 데이터를 기다리며 놀게 됩니다. 결국 전체 성능은 칩 하나의 속도가 아니라 가장 느린 연결 구간에 맞춰집니다. 이런 막히는 구간을 ‘병목’이라고 부르는데, 지금 AI 인프라에서는 이 병목이 칩보다 연결 쪽에 있는 경우가 많습니다.
바로 이 점이 엔비디아가 서버와 네트워크까지 손을 뻗은 출발점입니다.
엔비디아가 실제로 파는 것: GPU, 서버, 네트워크
엔비디아의 제품은 이제 칩 하나가 아니라 GPU → 서버 → 네트워크로 이어지는 세 단계 묶음입니다. 각 단계가 앞에서 말한 ‘연결 병목’을 하나씩 풀어 주는 역할을 합니다.
1단계: GPU
가장 기본이 되는 AI 계산용 칩입니다. 엔비디아 매출의 중심은 여전히 여기에 있습니다.
2단계: 서버와 랙
랙(rack)은 서버 여러 대를 위아래로 쌓아 넣는 큰 철제 선반입니다. 엔비디아는 GPU 수십 개를 한 랙 안에 넣고, 이들을 자체 연결 기술인 NVLink로 묶어 하나의 거대한 GPU처럼 작동하게 만든 제품을 팝니다. 대표적인 예가 GPU 72개를 한 랙에 담은 ‘NVL72’ 시스템입니다.
고객 입장에서는 칩을 사서 직접 조립하고 맞추는 수고를 덜 수 있습니다. 엔비디아 입장에서는 칩 한 개가 아니라 랙 단위로 팔게 됩니다.
3단계: 네트워크
랙 하나로도 부족하면 수백, 수천 개의 랙을 다시 연결해야 합니다. 이때 쓰는 것이 엔비디아의 데이터센터 네트워크 장비(인피니밴드, Spectrum-X 이더넷)입니다. 엔비디아는 2020년 네트워크 전문 기업 멜라녹스를 약 70억 달러에 인수하면서 이 분야에 본격적으로 뛰어들었습니다.
세 단계를 정리하면 다음과 같습니다.
| 단계 | 대표 제품 | 해결하는 문제 |
|---|---|---|
| GPU | 블랙웰 등 데이터센터용 GPU | AI 계산 자체 |
| 서버·랙 | NVL72 같은 랙 단위 시스템, NVLink | 랙 안의 GPU끼리 빠르게 연결 |
| 네트워크 | 인피니밴드, Spectrum-X 이더넷 | 랙과 랙 사이를 빠르게 연결 |
시스템 전체를 팔 때 엔비디아가 얻는 것
엔비디아가 서버와 네트워크까지 파는 것은 고객 편의만을 위한 선택이 아닙니다. 엔비디아에게는 매출 확대, 고객 묶어 두기, 경쟁 칩과의 차별화라는 세 가지 이점이 있습니다.
1. 같은 고객에게서 더 많은 매출
GPU만 팔면 서버와 네트워크 장비 매출은 다른 회사가 가져갑니다. 전부 직접 팔면 데이터센터 한 곳에서 나오는 매출을 훨씬 크게 가져올 수 있습니다.
실제로 엔비디아의 네트워크 사업은 빠르게 커지고 있습니다. 2026년 2~4월에 해당하는 회계연도 2027년 1분기에 네트워크 매출은 148억 달러로 1년 전보다 199% 늘었습니다. 젠슨 황 CEO는 엔비디아를 세계에서 가장 큰 네트워크 회사라고 표현하기도 했습니다.
2. 고객이 쉽게 떠나지 못하게 됩니다
칩만 산 고객은 다음번에 다른 회사 칩으로 바꾸기가 상대적으로 쉽습니다. 하지만 GPU, 서버, 네트워크, 소프트웨어가 모두 엔비디아 제품으로 맞물려 있으면 한 부분만 바꾸기가 어렵습니다. 한 분석은 네트워크까지 산 고객은 대체하기 더 어려운 구매를 한 셈이라고 평가했습니다.
3. 경쟁 칩과 다른 싸움을 할 수 있습니다
구글 TPU, 아마존 트레이니엄 같은 경쟁 칩이 늘어나면서, 칩 하나의 가격과 성능만으로는 차이를 벌리기 어려워지고 있습니다. 엔비디아는 “우리 시스템 전체를 쓰면 데이터센터 전체 효율이 높아진다”는 방식으로 경쟁의 기준을 칩에서 시스템으로 옮기고 있습니다.
물론 네트워크 분야에도 경쟁자는 있습니다. 브로드컴, 아리스타 같은 기업이 AI 데이터센터용 네트워크 장비를 팔고 있어, 엔비디아가 이 시장을 독점한 것은 아닙니다.
정리: 엔비디아는 ‘칩 회사’에서 ‘AI 컴퓨터 회사’로
엔비디아가 GPU뿐 아니라 서버와 네트워크까지 파는 이유는 한 문장으로 정리할 수 있습니다. AI 성능은 칩 하나가 아니라 수천 개의 칩을 얼마나 잘 연결하느냐로 결정되고, 엔비디아는 그 연결까지 직접 팔아 매출과 고객을 함께 붙잡으려 하기 때문입니다.
- 기술적 이유: 대형 AI는 GPU 수천 개가 함께 계산하므로, 연결 속도가 전체 성능을 좌우합니다.
- 사업적 이유: 서버와 네트워크까지 팔면 매출이 커지고, 고객이 다른 회사로 옮기기 어려워집니다.
- 경쟁 측면: 경쟁 칩이 늘어날수록 엔비디아는 칩이 아닌 시스템 전체로 승부하려 합니다.