Nvidia ra mắt Siêu chip GB200 Grace Blackwell với 40 PFLOP AI, bộ nhớ 864 GB

Người viết: Sebastian / 19.03.2024

---

Nvidia vừa công bồ nền tảng DGX & Superchip mới nhất của họ, được trang bị GPU Blackwell B200 hoàn toàn mới bên cạnh CPU Grace.

---

 

Superchip của Nvidia được thiết kế như một nền tảng tinh túy nhất tập trung vào mảng AI và HPC chuyên xử lý các tác vụ nặng. Trước đây, nền tảng này có hai cấu hình, biến thể chỉ có CPU và một biến thể gồm cả CPU + GPU. Các sản phẩm superchip lần đầu tiên được công bố với GPU Hopper H100 kết hợp với CPU Grace dựa trên Arm thế hệ đầu và hôm nay Nvidia sẽ tiếp tục giới thiệu một chương tiếp theo của superchip.

 

 

Nvidia đã công bố hai giải pháp mới, GB200 là sự kết hợp giữa CPU Grace với GPU Blackwell B100. Các giải pháp này dự kiến sẽ được ra mắt vào năm 2024 và sẽ có dung lượng bộ nhớ HBM3e là 192GB và công suất tiêu thụ lên tới 2700W. Ngoài ra Nvidia cũng trang bị giao thức mới nhất đó là PCIe 6.0 ( 2 x 256 GB/s). GPU Blackwell B200 sẽ tương thích với cả nền tảng Hopper hiện có và các giải pháp mới nhất từ các data center.

 

 

Mỗi superchip GB200 Grace Blackwell sẽ được trang bị hai GPU AI B200 và một CPU Grace duy nhất với 72 nhân Arm Neoverse V2. Nền tảng này sẽ cung cấp hiệu năng tính toán lên đến 40 PetaFlops (INT8) và cung cấp nhóm bộ nhớ khổng lồ lên đến 864 GB HDM với băng thông bộ nhớ 16TB/s. Các con chip này sẽ được kết nối với nhau bằng NVLINK tốc độ cao 3.6 TB/s.

 

 

Hai trong số các nền tảng superchip GB200 Grace Blackwell này sẽ được tích hợp node Blackwell Compute để đạt hiệu suất AI lên tới 80 PetaFLOP, bộ nhớ HDM3e 1,7 TB, băng thông bộ nhớ 32 TB/s và tất cả đều nằm trong một gói được tản nhiệt bằng chất lỏng.

 

 

Những con chip này sẽ được đóng gói trên một nền tảng điện toán GB200 NVL72 hoàn toàn mới, mỗi nền tảng được trang bị 18 khay điện toán trên một giá đỡ cung cấp tối đa 36 GPU Grace và 72 GPU Blackwell. Mỗi khay sẽ được trang bị ConnectX-800G Infiniband SuperNIC và DPU Bluefield-3 để tính toán liên mạng. Công ty cũng đang trang bị NVlink Switch mới nhất với 8 cổng tốc độ 1,8 TB/s và băng thông tổng lên tới 14,4 TB/s.

 

 

Chúng ta phải nói một chút về bản thân NVlink Switch vì nó là một khối lên đến 50 tỷ transistor cũng được chế tạo trên cùng một node TSMC 4NP, chứa 72 cổng SerDes kép 200 GB/s, 4 NVlink ở tốc độ 1,8 TB/s, băng thông 7,2 TB/giây.

 

 

Về hiệu suất, nền tảng Superchip GB200 Grace Blackwell sẽ mang lại hiệu suất AI tăng gấp 30 lần so với nền tảng H200 Grace Hopper. NVIDIA Blackwell GB200 sẽ có mặt trên DGX Cloud vào cuối năm nay trong khi các OEM hàng đầu như Dell, Cisco, HPE, Lenovo, Supermicro, Aivres, ASRock Rack, ASUS, Eviden, Foxconn, Gigabyte, Inventec, Pegatron, QCT, Wistron, Wiwynn & ZT Systems cũng sẽ cung cấp các giải pháp tương ứng của họ trong tương lai.