슈퍼마이크로, 엔비디아 블랙웰 기반의 AI 최적화 제품군 발표

슈퍼마이크로, 엔비디아 블랙웰 기반의 AI 최적화 제품군 발표

다이렉트 투 칩 액체 냉각 기술로 최신 GPU의 열 설계 전력 향상

 

AI, 클라우드, 스토리지, 5G/에지를 위한 종합 IT 솔루션 제공업체인 슈퍼마이크로(Supermicro)는 최신 엔비디아 GB200 그레이스 블랙웰 슈퍼칩(Grace Blackwell Superchip), 엔비디아 B200 텐서 코어(Tensor Core), B100 텐서 코어 GPU를 포함한 엔비디아의 차세대 데이터센터 제품을 갖춘 대규모 생성AI를 위한 새로운 AI 시스템을 발표했다.

슈퍼마이크로는 현재 엔비디아 HGX H100/H200 8-GPU 시스템을 강화하여 엔비디아 HGX B100 8-GPU에 즉시 사용할 수 있도록 개선하고 B200을 지원하여 납품 시간을 단축하고 있다. 또한 72개의 엔비디아 블랙웰 GPU를 갖춘 완전한 랙 레벨 솔루션인 엔비디아 GB200 NVL72를 포함한 엔비디아 GB200을 갖춘 새로운 제품으로 광범위한 엔비디아 MGX 시스템 라인업을 더욱 강화할 예정이다. 4U 엔비디아 HGX B200 8-GPU 수냉식 시스템을 포함한 새로운 시스템도 라인업에 추가하고 있다.

슈퍼마이크로의 다이렉트 투 칩(direct-to-chip) 액체 냉각 기술은 최신 GPU의 열 설계 전력(TDP)을 향상시키고 엔비디아 블랙웰 GPU의 잠재력을 최대한 발휘할 수 있게 해준다. 엔비디아 블랙웰을 탑재한 슈퍼마이크로의 HGX 및 MGX 시스템은 AI 인프라의 미래를 위한 구성 요소이며, 수조 개의 매개변수 AI 교육과 실시간 AI 추론을 위한 획기적인 성능을 제공한다.

GPU에 최적화된 슈퍼마이크로 시스템은 엔비디아 블랙웰 B200 및 B100 텐서 코어 GPU에 사용할 준비가 되어 있으며 엔비디아 NIM 추론 마이크로서비스를 지원하는 최신 엔비디아 AI 엔터프라이즈 소프트웨어에 대해 검증됐다.

슈퍼마이크로 시스템에는 △엔비디아 HGX B100 8-GPU 및 HGX B200 8-GPU 시스템 △최대 10개의 GPU를 갖춘 5U/4U PCIe GPU 시스템 △8U 인클로저에 최대 20개의 B100 GPU, 6U 인클로저에 최대 10개의 B100 GPU를 갖춘 슈퍼블레이드(SuperBlade) △최대 3개의 B100 GPU를 갖춘 2U 하이퍼 △최대 4개의 B100 GPU를 갖춘 슈퍼마이크로 2U x86 MGX 시스템이 포함된다.

대규모 기반 AI 모델 훈련을 위해 슈퍼마이크로는 엔비디아 HGX B200 8-GPU 및 HGX B100 8-GPU 시스템을 출시할 준비가 되어 있다. 이 시스템은 1.8TB/s의 고속 5세대 엔비디아 NVLink를 통해 연결된 8개의 엔비디아 블랙웰 GPU를 갖추고 있으며, 1.5TB의 고대역폭 메모리를 기반으로 이전 세대보다 성능을 두 배로 향상시켰다. 또한 GPT-MoE-1.8T 모델과 같은 LLM에 대해 엔비디아 호퍼 아키텍처 세대에 비해 3배 더 빠른 교육 결과를 제공할 예정이다. 이러한 시스템은 클러스터로 확장할 수 있는 고급 네트워킹 기능을 갖추고 있으며 GPU 대 NIC 비율이 1:1인 엔비디아 퀀텀-2 인피니밴드와 엔비디아 스펙트럼-X 이더넷 옵션을 모두 지원한다.

가장 까다로운 LLM 추론 워크로드를 위해 슈퍼마이크로는 엔비디아 그레이스 CPU와 2개의 엔비디아 블랙웰 GPU를 결합한 엔비디아 GB200 그레이스 블랙웰 슈퍼칩을 탑재한 새로운 MGX 시스템을 출시했다. GB200 시스템을 탑재한 슈퍼마이크로의 엔비디아 MGX는 엔비디아 HGX H100에 비해 최대 30배 향상된 AI 추론 성능을 제공할 것이다.

슈퍼마이크로와 엔비디아는 단일 랙에 36개의 그레이스 CPU와 72개의 블랙웰 GPU를 연결하는 엔비디아 GB200 NVL72를 갖춘 랙 스케일 솔루션을 개발했다. 72개의 GPU는 모두 5세대 엔비디아 NVLink와 상호 연결되어 1.8TB/s의 GPU 간 통신을 제공한다. 또한 추론 작업 부하를 위해 슈퍼마이크로는 GH200 제품군 기반의 2U 서버인 ARS-221GL-NHIR을 발표했는데, 이 서버에는 900Gb/s 고속 상호 연결을 통해 연결된 2개의 GH200 서버가 연결된다.

슈퍼마이크로 시스템은 또한 엔비디아 퀀텀-X800 QM3400 스위치와 슈퍼NIC800으로 구성된 엔비디아 퀀텀-X800 인피니밴드 플랫폼과 엔비디아 스펙트럼-X800 SN5600 스위치와 슈퍼NIC800으로 구성된 엔비디아 스펙트럼-X800 이더넷 플랫폼도 지원할 예정이다.

출처 : 지티티코리아(https://www.gttkorea.com)

---

https://www.gttkorea.com/news/articleView.html?idxno=9490

슈퍼마이크로, 엔비디아 블랙웰 기반의 AI 최적화 제품군 발표