800조 짜리 AI의 질문

위 글은 SEQUOIA의 "AI's $600B Question"을 번역 및 정리한 글입니다.

 

AI 거품이 정점에 다다르고 있다. 다음 단계로 나아가는 데 있어 신중한 접근이 필요하다.

2023년 9월에 저는 'AI의 2000억 달러 질문'이라는 글을 썼습니다. 그 글의 목적은 "모든 수익은 어디에 있는가?"라는 질문을 던지는 것이었습니다.

그 당시에, 저는 AI 인프라 구축에서 기대되는 수익과 실제 AI 생태계의 수익 성장 간에 큰 차이가 있음을 발견했습니다. 이는 연간 1250억 달러의 자본 지출을 채우기 위한 '구멍'으로 표현했습니다.

이번 주에 Nvidia는 세계에서 가장 가치 있는 회사로 올라섰습니다. 이와 관련하여 많은 사람들이 제 분석의 최신 수치를 요청했습니다. 'AI의 2000억 달러 질문'이 해결되었는지, 아니면 더 악화되었는지 물어보는 것이었습니다.

현재 다시 이 분석을 수행하면, 'AI의 2000억 달러 질문'이 이제 '6000억 달러 질문'으로 바뀌었음을 알 수 있습니다.

참고: 이 수치는 직접 계산하기 쉽습니다. Nvidia의 예상 수익을 가져와 AI 데이터 센터의 총 비용을 반영하기 위해 2배로 곱하면 됩니다(GPU는 총 소유 비용의 절반을 차지하며, 나머지 절반은 에너지, 건물, 백업 발전기 등을 포함합니다). 그런 다음 GPU를 구입하는 스타트업이나 기업이 수익을 내야 하므로 2배를 다시 곱하여 최종 사용자에게 50%의 매출 총이익을 반영합니다.

 

2023년 9월 이후로 무엇이 바뀌었을까?

1. 공급 부족 해소

2023년 말은 GPU 공급 부족의 정점이었습니다. 당시 스타트업들은 투자자에게 전화를 걸어 GPU 확보를 도와달라고 요청했습니다. 지금은 대부분의 사람들이 합리적인 대기 시간 내에 GPU를 구할 수 있습니다.

2. GPU 재고 증가

Nvidia는 4분기에 데이터 센터 매출의 절반가량이 대형 클라우드 제공업체로부터 나왔다고 보고했습니다. 마이크로소프트만 해도 Nvidia의 4분기 매출의 약 22%를 차지했습니다. 하이퍼스케일 자본 지출은 역사적인 수준에 도달하고 있습니다. 이 투자들은 대형 기술 기업들의 2024년 1분기 실적 발표의 주요 주제였으며, CEO들은 "우리는 당신이 좋아하든 말든 GPU에 투자할 것입니다."라고 시장에 알렸습니다. 하드웨어를 비축하는 것은 새로운 현상이 아니며, 재고가 충분히 쌓이면 수요가 감소하는 리셋이 일어날 것입니다.

3. OpenAI의 AI 수익 독점

최근 보고된 바에 따르면 OpenAI의 수익은 2023년 말 16억 달러에서 현재 34억 달러로 증가했습니다. 몇몇 스타트업들이 1억 달러 미만의 수익을 올리고 있지만, OpenAI와 다른 회사들 간의 격차는 여전히 큽니다. ChatGPT 외에 현재 소비자들이 실제로 사용하는 AI 제품은 얼마나 될까요? 장기적으로 AI 기업들은 소비자들이 지갑을 계속 열게 하기 위해 상당한 가치를 제공해야 할 것입니다. 넷플릭스나 스포티파이가 월 15.49달러 또는 11.99달러로 제공하는 가치를 생각해 보세요.

4. 1250억 달러의 구멍이 이제 5000억 달러로 확대

지난 분석에서는 구글, 마이크로소프트, 애플, 메타가 각각 AI 관련 신규 매출에서 연간 100억 달러를 창출할 수 있을 것이라고 가정했습니다. 또한 오라클, 바이두, 알리바바, 텐센트, X(구 트위터), 테슬라 각각에 대해 50억 달러의 신규 AI 매출을 가정했습니다. 이 가정이 여전히 유효하고 몇 개의 회사를 추가한다고 해도, 1250억 달러의 구멍은 이제 5000억 달러로 확대될 것입니다.

5. B100 출시 예정

올해 초, Nvidia는 B100 칩을 발표했으며, 이는 H100에 비해 성능이 2.5배 향상되고 비용이 25% 증가합니다. 이는 NVDA 칩에 대한 최종 수요 급증을 초래할 것으로 예상됩니다. B100은 성능 대 비용 면에서 H100보다 극적으로 개선된 것이며, 올해 말 모든 사람이 B100을 확보하려고 할 때 또 다른 공급 부족이 발생할 가능성이 큽니다.

 

제 마지막 글에 대한 주요 반론 중 하나는 "GPU 자본 지출은 철도 건설과 같으며, 결국 기차가 오고, 목적지(새로운 농업 수출, 놀이 공원, 쇼핑몰 등)가 생길 것이다."였습니다. 사실 저는 이 의견에 동의하지만 몇 가지 중요한 점을 놓치고 있다고 생각합니다:

 

1. 가격 결정력 부족

물리적 인프라 구축의 경우, 구축된 인프라 자체에 어느 정도의 본질적인 가치가 있습니다. 예를 들어, 샌프란시스코와 로스앤젤레스 사이의 철도를 소유하고 있다면, 독점적인 가격 결정력이 있을 수 있습니다. 그러나 GPU 데이터 센터의 경우, 가격 결정력이 훨씬 적습니다. GPU 컴퓨팅은 점점 더 시간 단위로 측정되는 상품이 되고 있습니다. CPU 클라우드와 달리 새로운 AI 클라우드 구축 업체들이 계속해서 시장에 진입하고 있습니다. 독점이나 과점이 없는 경우, 고정 비용이 높은 저비용 사업은 항상 가격이 최저 비용으로 떨어지는 경향이 있습니다(예: 항공사)

2. 투자 소실

철도와 같은 새로운 기술의 경우에도 투기적인 투자 열풍은 종종 높은 자본 손실로 이어집니다. 'The Engines that Moves Markets'는 기술 투자에 대한 최고의 교과서 중 하나이며, 주요 요점은 많은 사람들이 투기적 기술 붐 동안 많은 돈을 잃는다는 것입니다. 승자를 찾는 것은 어렵지만 패자를 찾는 것은 훨씬 쉽습니다(철도 관련 사례에서는 운하가 패자였습니다).

3. 감가상각: 반도체는 시간이 지남에 따라 점점 더 좋아집니다. Nvidia는 앞으로도 계속해서 B100과 같은 차세대 칩을 생산할 것입니다. 이는 이전 세대 칩의 감가상각을 더 빠르게 만들 것입니다. 시장은 B100과 다음 세대 칩이 개선되는 속도를 과소평가하고 있으며, 현재 구입한 H100이 3-4년 내에 그 가치를 유지할 수 있는 정도를 과대평가하고 있습니다. 물리적 인프라에는 이런 '무어의 법칙'과 같은 개선 곡선이 없기 때문에, 비용 대 성능이 계속해서 개선되는 상황과는 다릅니다.

4. 승자와 패자: 우리는 승자와 패자를 신중하게 살펴볼 필요가 있습니다. 과도한 인프라 구축 기간 동안에도 항상 승자가 있습니다. AI는 다음 변혁적인 기술 물결이 될 가능성이 있으며, GPU 컴퓨팅 가격 하락은 장기적인 혁신과 스타트업에 실제로 좋은 영향을 미칠 것입니다. 제 예측이 맞다면, 피해를 입는 것은 주로 투자자들이 될 것입니다. 창업자들과 회사 건설자들은 계속해서 AI 분야에서 활동할 것이며, 더 낮은 비용과 실험 기간 동안 얻은 지식을 통해 성공할 가능성이 더 커질 것입니다.

AI는 엄청난 경제적 가치를 창출할 것입니다. 최종 사용자에게 가치를 제공하는 데 집중하는 회사 건설자들은 큰 보상을 받을 것입니다. 우리는 세대의 중요한 기술 물결을 경험하고 있습니다. Nvidia와 같은 회사들은 이 전환을 가능하게 한 역할에 대해 큰 공로를 받아야 하며, 앞으로도 오랜 기간 동안 생태계에서 중요한 역할을 할 것입니다.

투기적인 열풍은 기술의 일부이며, 두려워할 필요는 없습니다. 이 순간을 냉정하게 넘기는 사람들은 매우 중요한 회사를 세울 기회를 가질 것입니다. 하지만 실리콘 밸리에서 시작해 나라와 세계로 퍼진 환상에 빠지지 않도록 주의해야 합니다. 그 환상은 AGI가 내일 오고, 우리 모두가 부자가 될 것이며, GPU가 유일한 귀중한 자원이라는 착각입니다.

실제로는 앞으로의 길이 길고, 기복이 있을 것입니다. 그러나 거의 확실히 그 가치는 있을 것입니다.