GTC 2024의 의미

상당히 인사이트 있는 글입니다.

---

출처 : 삼성증권 황민성 Tech 팀장

 

GTC 2024의 의미

 

지금까지 메타버스, 자율주행, 디지털 트윈 등을 포함하여 GPT까지 인공지능(AI)에 대한 미래를 들어보는 시간입니다.

 

GPT3가 텍스트였다면 GPT4는 영상으로, GPT4.5는 점점 우리의 눈과 귀, 입, 손 등을 닮 은 생산성의 혁신을 제공하는 기술자들의 축제입니다.

 

이를 지원하는 GPU도, HBM도 세대를 바꿔가며 더 빠르게 진화합니다.

 

당연히 좋은 이야기와 약속들이 기대되고, 그중 어떤 약속들은 부풀려졌다고 해 도 AI의 초기인 현재 실망보다는 기대가 큽니다. 기대감이 중요한 주식시장에는 호재입니다.

 

이번 GTC는 병목의 완화. 이번 GTC에서 저희가 주목하는 점은 Supply chain입니다.

 

메모리 3사가 모두 참여하여 각자의 로드맵과 비전을 설명합니다.

 

GTC에서 메모리를 강조해 드리는 이유는 메모리가 현재 GPU와 AI의 병목이기 때문입니다.

 

 

 

GPU의 병목은 메모리. 원래 GPU를 지원하는 메모리는 GDDR(Graphic DDR)이었지요.

 

하지만 기존 메모리의 데이터는 핀 수의 제한(최대 32개)으로 대역폭(Bandwidth)을 높이는 데 제한이 있습니다. 더 많이 사용하면 되지만 전력과 속도를 만족하기 위해 이제는 1,024개의 구멍을 뚫어 (TSV를 통하여) HBM이라는 제품을 사용하지요. 곧 2,048개의 구멍을 통하여 데이터를 뽑아냅니다.

 

32개의 접점에서 데이터를 뽑아내는 것보다 훨씬 빨라집니다. 물론 더 빠른 칩을 더 많이 사용하면 되지만, 최고의 성능 을 실현하기 위한 엔비디아의 선택은 HBM입니다. 물론 제조하기 어렵다는 한계가 있고, 그만큼 메모 리의 성능과 특히 공급이 문제가 되고 있습니다.

 

병목 완화는 모두의 호재. 예를 들어, HBM 공급에서 어려움을 겪고 있다는 삼성전자가 문제를 해결한 다면 이것은 호재일까요, 악재일까요? 병목 현상이 풀린다는 것은 GTC에 참석하는 고객들에게는 최고의 희소식입니다.

 

엔비디아를 포함해서 아마도 공급 제한에 어려움을 겪던 중소 고객에게는 가이던스를 올리는 촉매가 될 것입니다. 물론 공급이 늘면 가격은 하락하겠지만요. 메모리 경쟁사 입장에서는 부담이라고 시장이 즉각적으로 반응할 수 있겠지만, 시장이 커진다는 것은 모두에게 희소식입니다.

 

특히 시장을 선점하는 SK하이닉스 입장에서는 그렇습니다. 이렇게 기대감은 순간적으로 커질 수 있지만, 현실의 공급은 시간이 필요한 것도 사실이니까요. 차세대 시스템. 차세대 메모리에 대한 논의도 기대됩니다.

 

예를 들어 CXL(Compute Express Link)은 CPU와 GPU를 지원하는 메모리를 한 곳으로 묶어 동시에 지원하게 한다는 것입니다. 여기에 누가 (CPU, GPU 또는 메모리 자체) 시스템 컨트롤 기능을 가져가는가의 문제가 남아 있지만 고객에게는 비용(TCO, Total Cost of Ownership)을 줄여준다는 면에서 기대되는 미래입니다.

 

하지만 엔비디아가 주도 하는 현재 AI에서 HBM을 대체하기는 시간이 필요합니다. CXL도 핀 수는 32개로 제한이 되기에 엔비디아는 여전히 최대의 대역폭을 위한 HBM 확대 노력을 향후 3-4년은 포기하지 않을 것으로 보입니다.

 

때문에 메모리 업체들의 차세대 HBM 계획을 들어보는 것이 더 현실적이라고 생각됩니다. 설비 투자의 확대. GTC를 다녀와서. GTC가 지나가면 기업들은 얼마나 공급할지, 얼마나 투자할지를 결 정해야 합니다. 아마도 현재 계획에서 줄이기보다는 늘려갈 것으로 보입니다. 당사는 최대한 Discipline 을 지켜가는 것이 맞는다는 의견이지만, AI 수요는 크고 언젠가는 오는 수요라면 미리 투자 하자는 의 견도 작지 않을 것이고, 과거를 되돌아보면 아마도 투자는 지금의 기대보다 커질 것입니다.

 

주식으로 보면 5가지의 시사점(Takeaway)이 예상됩니다.

 

1) 투자: 랠리를 보였던 반도체 후공정에서 전공정으로 기대감이 확대될 것으로 생각됩니다.

 

2) 이익: 시장의 이익 전망치는 더욱 커질 것입니다. 현재는 데이터센터를 당장 지을 수 없으니 최대한 기존 설비를 덜어내고 AI를 위한 서버를 늘려가야 합니다. 인프라도 지어야 하고, 결국 기존 서버도 증설이 됩니다. 이렇게 반도체 사이클은 하반기에도 커지게 됩니다.

 

3) 전력: 많은 데이터센터를 감당할 전기를 조달하는 문제도 심각합니다.

 

4) 네트워크와 애플리케이션: 이렇게 AI를 주제로 한 테마는 아직 시작으로 보입니다. AI는 나만의 AI만 가지고는 성능을 발휘하기 어렵습니다. 모두의 인터넷을 연결하던 시스코가 큰 돈을 벌었던 것과 같이 모두의 AI가 연결되면 많은 스위치가 필요합니다. 또한 시스템과 네트워크를 활용하여 많은 애플리케이션이 등장합니다.

 

5) Risk: GTC에서 약속했던 프로젝트들이 실현되지 않는다면 (속았다고 느낀다면) 시장은 반대로 갈 수 있습니다. 테슬라에 대한 기대가 반대로 이동하는 것과 마찬가지입니다. 과거의 인터넷도 다르지 않았습니다. 거대한 기술 환경의 변화를 복잡하고 다양한 우리의 아날 로그적인 현실에 적용하자면 시간이 필요합니다. 물론 우려는 아직 이르다는 판단입니다