구글과 아마존은 지금 당장 필요한 AI 연산 능력을 확보하려고 엔비디아 칩을 대량으로 사고 있습니다. 동시에 엔비디아에 내는 비용과 의존도를 줄이려고 자체 AI 칩을 만들고 있습니다. 그래서 두 회사는 엔비디아의 가장 큰 고객이면서 가장 강력한 경쟁자가 되었습니다.
“그렇게 큰 회사들이 왜 남의 칩을 사면서 자기 칩도 만들까?”라는 질문이 생기실 수 있습니다. 핵심은 ‘당장의 수요’와 ‘장기적인 비용’이라는 두 가지 압력이 동시에 작용하고 있다는 점입니다.
이 글을 다 읽으시면 다음 한 가지를 이해하실 수 있습니다.
빅테크가 엔비디아 칩을 사는 이유와 자체 칩을 만드는 이유가 어떻게 동시에 성립하는지.
본문에서는 순서대로 ① 엔비디아 칩을 살 수밖에 없는 이유, ② 그럼에도 자체 칩을 만드는 이유, ③ 구글과 아마존의 실제 칩 사례, ④ 그래도 엔비디아를 완전히 떠나지 못하는 이유를 살펴보겠습니다.
구글과 아마존이 엔비디아의 ‘고객’인 이유
구글과 아마존은 클라우드 회사이기 때문에 엔비디아 칩을 살 수밖에 없습니다. 이 부분을 먼저 이해해야 ‘경쟁자’가 된 이유도 자연스럽게 보입니다.
클라우드란 기업이 직접 서버를 사지 않고, 인터넷을 통해 남의 데이터센터 컴퓨터를 빌려 쓰는 서비스입니다. 아마존의 AWS, 구글의 구글 클라우드가 대표적입니다. 이 회사들의 수익은 “고객이 원하는 컴퓨터를 얼마나 잘 빌려주느냐”에서 나옵니다.
그런데 AI 개발자들이 가장 원하는 칩은 엔비디아 GPU입니다. GPU는 원래 게임 그래픽을 그리던 칩이지만, 많은 계산을 동시에 처리하는 능력 덕분에 AI 학습에 가장 널리 쓰이게 되었습니다. 대부분의 AI 개발자와 스타트업은 엔비디아 GPU를 기준으로 프로그램을 만듭니다.
그래서 클라우드 회사가 엔비디아 GPU를 준비해 두지 않으면, 고객은 다른 클라우드로 옮겨 갑니다. 구글과 아마존 입장에서 엔비디아 칩 구매는 선택이 아니라 고객을 지키기 위한 필수 조건입니다.
또한 두 회사는 자기 AI 서비스도 운영합니다. 생성형 AI 수요가 빠르게 늘면서, 자체 칩만으로는 필요한 연산량을 제때 채우기 어렵습니다. 부족한 만큼은 시장에서 가장 빨리 구할 수 있는 엔비디아 칩으로 메우게 됩니다.
그런데도 자체 AI 칩을 만드는 3가지 이유
엔비디아 칩을 사는 것이 필수라면, 왜 굳이 막대한 돈을 들여 자기 칩을 만들까요? 답은 비용, 공급, 맞춤 설계 세 가지로 정리됩니다.
1. 엔비디아 칩은 너무 비쌉니다
엔비디아는 AI 칩 시장을 거의 독점하고 있어서 가격 결정권이 강합니다. 엔비디아의 매출총이익률(판매가에서 원가를 뺀 몫의 비율)은 대략 70% 안팎으로 알려져 있습니다. 쉽게 말해, 칩 가격의 상당 부분이 엔비디아의 이익이라는 뜻입니다.
구글과 아마존은 데이터센터에 칩을 수십만~수백만 개 단위로 넣습니다. 이 규모에서는 칩 한 개당 비용을 조금만 줄여도 전체 절감액이 수십억 달러에 이릅니다. 직접 설계하면 이 ‘이익 몫’을 자기 쪽으로 가져올 수 있습니다.
2. 한 회사에만 의존하면 위험합니다
AI 붐 이후 엔비디아 칩은 주문해도 바로 받기 어려운 상황이 이어졌습니다. 공급이 한 회사에 묶여 있으면, 그 회사의 생산 일정과 가격 정책에 사업 전체가 흔들립니다.
자체 칩이 있으면 엔비디아와 협상할 때도 “우리에겐 다른 선택지가 있다”는 카드가 생깁니다. 완전히 갈아타지 않더라도, 대안이 있다는 사실만으로 협상력이 올라갑니다.
3. 자기 서비스에 꼭 맞게 만들 수 있습니다
엔비디아 GPU는 여러 용도에 두루 쓰이도록 만든 범용 칩입니다. 반면 구글과 아마존은 자기 데이터센터에서 어떤 AI 작업이 많이 돌아가는지 정확히 압니다. 그 작업에 필요한 기능만 남기고 군더더기를 빼면, 같은 전기와 같은 돈으로 더 많은 일을 처리할 수 있습니다.
이런 목적으로 특정 용도에 맞춰 만든 칩을 흔히 **’맞춤형 칩(ASIC)’**이라고 부릅니다. 이 글에서는 “한 가지 일을 아주 효율적으로 하도록 설계한 칩”으로 이해하시면 충분합니다.
실제 사례: 구글 TPU와 아마존 트레이니엄
두 회사의 자체 칩은 이제 ‘자기만 쓰는 칩’을 넘어, 다른 AI 기업에 빌려주는 상품이 되었습니다. 바로 이 지점에서 엔비디아와 정면으로 경쟁하게 됩니다.
구글: TPU
TPU는 구글이 AI 계산 전용으로 직접 설계한 칩입니다. 구글은 10년 가까이 이 칩을 검색, 번역, 제미나이 같은 자사 서비스에 써 왔습니다.
최근에는 외부 고객이 크게 늘었습니다. 2025년 10월 앤트로픽은 7세대 TPU ‘아이언우드(Ironwood)’를 포함해 최대 100만 개의 TPU를 쓰는 계약을 발표했습니다. 2026년 2월에는 메타가 구글 클라우드의 TPU를 빌려 쓰는 수십억 달러 규모 계약을 맺었다는 보도도 나왔습니다. 이 보도는 메타가 엔비디아 의존도를 줄이려는 흐름으로 해석했습니다.
아마존: 트레이니엄
트레이니엄(Trainium)은 아마존 AWS가 AI 학습용으로 만든 칩입니다. 앤디 재시 아마존 CEO는 트레이니엄2가 비슷한 GPU보다 가격 대비 성능이 약 30% 좋고 거의 매진되었다고 밝혔습니다. 2026년 초 출하를 시작한 트레이니엄3는 트레이니엄2보다 가격 대비 성능이 30~40% 더 좋다는 것이 아마존의 설명입니다.
다만 이 수치는 아마존이 직접 발표한 비교라는 점을 감안해서 보셔야 합니다. 같은 보도에서도 일부 고객은 여전히 엔비디아의 성숙한 개발 도구를 더 선호한다고 전했습니다.
두 회사의 자체 칩을 표로 정리하면 다음과 같습니다.
| 구분 | 구글 | 아마존 |
|---|---|---|
| 자체 칩 이름 | TPU (최신 7세대 아이언우드) | 트레이니엄 (최신 트레이니엄3) |
| 엔비디아와의 관계 | 클라우드에서 엔비디아 GPU도 판매 | 클라우드에서 엔비디아 GPU도 판매 |
| 대표 외부 고객 | 앤트로픽, 메타(보도) | 앤트로픽 |
| 내세우는 강점 | 대규모 연결 구조와 효율 | 가격 대비 성능 |
그래도 엔비디아를 완전히 떠나지 못하는 이유
자체 칩이 좋아져도 구글과 아마존은 엔비디아 칩을 계속 삽니다. 가장 큰 이유는 칩 자체보다 칩을 둘러싼 소프트웨어 생태계에 있습니다.
CUDA는 엔비디아 GPU에서 AI 프로그램을 돌릴 수 있게 해 주는 개발 도구 모음입니다. 전 세계 AI 개발자 대부분이 이 환경에서 코드를 짜고, 문제를 해결하는 노하우도 이 환경 중심으로 쌓여 있습니다.
다른 칩으로 옮기려면 코드를 고치고 다시 검증해야 합니다. 아마존 트레이니엄도 전용 개발 도구(Neuron SDK)를 써야 하므로, 성능이 중요한 코드를 다시 짜야 할 수 있다는 분석이 있습니다. 이 ‘옮기는 비용’ 때문에 많은 고객이 엔비디아에 머뭅니다.
고객 수요도 무시할 수 없습니다. 클라우드 회사는 고객이 원하는 것을 팔아야 합니다. 자체 칩이 아무리 저렴해도, 고객이 엔비디아 GPU를 원하면 그것을 준비해 두어야 합니다. 그래서 두 회사의 현실적인 목표는 엔비디아를 없애는 것이 아니라 엔비디아를 ‘여러 선택지 중 하나’로 만드는 것에 가깝습니다.
흥미롭게도 아마존은 차세대 칩 트레이니엄4가 엔비디아의 연결 기술(NVLink Fusion)과 호환되도록 설계 중이라고 밝혔습니다. 경쟁하면서도 서로의 기술을 함께 쓰는, 고객이자 경쟁자 관계를 잘 보여 주는 사례입니다.
정리: 고객이자 경쟁자인 이유
구글과 아마존이 엔비디아의 고객이자 경쟁자가 된 이유는 한 문장으로 정리할 수 있습니다. 지금 필요한 연산 능력은 엔비디아에서 사고, 미래의 비용과 의존도는 자체 칩으로 줄이려 하기 때문입니다.
- 고객인 이유: 클라우드 고객이 엔비디아 GPU를 원하고, 자사 AI 수요도 자체 칩만으로는 감당하기 어렵습니다.
- 경쟁자인 이유: 엔비디아 칩은 비싸고 공급이 한 회사에 묶여 있어, 자체 칩으로 비용을 낮추고 협상력을 키우려 합니다. 그리고 그 칩을 외부 AI 기업에도 빌려주고 있습니다.
- 완전히 떠나지 못하는 이유: CUDA 중심의 개발 생태계와 고객 수요 때문에 엔비디아는 당분간 필수 선택지로 남습니다.
자주 묻는 질문
Q. 구글과 아마존의 자체 칩이 엔비디아 칩보다 성능이 좋은가요?
칩 하나의 최고 성능만 보면 엔비디아 최신 칩이 앞서는 경우가 많습니다. 자체 칩의 강점은 특정 작업에서의 ‘가격 대비 성능’과 전력 효율입니다.
Q. 그럼 엔비디아 매출은 줄어드나요?
당장 빠르게 줄어든다고 보기는 어렵습니다. AI 연산 수요 전체가 커지고 있어서, 빅테크는 자체 칩과 엔비디아 칩을 함께 늘리고 있습니다. 다만 장기적으로 가격 협상에서는 엔비디아가 압박을 받을 수 있습니다.
Q. 마이크로소프트나 메타도 비슷한가요?
네, 같은 흐름입니다. 대형 클라우드·AI 기업 대부분이 엔비디아 칩을 사면서 자체 칩도 개발하고 있습니다. 이 글은 외부 판매까지 활발한 구글과 아마존에 집중했습니다.
참고 자료
- Converge Digest: Anthropic Expands Use of Google Cloud TPUs
- SiliconANGLE: Google and Meta reportedly strike new AI chip deal
- Network World: AI demand is so high AWS customers are trying to buy out its entire capacity
- Introl: Amazon’s Trainium3 and the AI chip competition
이 글은 투자 권유가 아니며, 공개된 보도와 기업 발표를 바탕으로 정리한 리서치 노트입니다.