NVIDIA đã phát hành GPU H200Hopper mới, hiện đi kèm với bộ nhớ HBM3e nhanh nhất thế giới của Micron. Ngoài nền tảng trí tuệ nhân tạo mới, NVIDIA cũng công bố một chiến thắng lớn trong lĩnh vực siêu máy tính với siêu chip GraceHopper, hiện cung cấp năng lượng cho siêu máy tính ExaflopJupiter.

GPU H100 của NVIDIA cho đến nay là chip trí tuệ nhân tạo có nhu cầu cao nhất trong ngành nhưng NVIDIA muốn cung cấp cho khách hàng hiệu suất cao hơn nữa. HGXH200 là nền tảng điện toán hiệu năng cao trí tuệ nhân tạo mới nhất, được điều khiển bởi H200TensorCoreGPU. Những GPU này được trang bị công nghệ tối ưu hóa Hopper mới nhất cả về phần cứng và phần mềm, đồng thời cung cấp giải pháp bộ nhớ nhanh nhất thế giới cho đến nay.

NVIDIAH200 GPU được trang bị giải pháp bộ nhớ video HBM3e của Micron, dung lượng lên tới 141GB và băng thông 4,8TB/s. So với NVIDIAA100, băng thông tăng 2,4 lần và dung lượng tăng gấp đôi. Trong các ứng dụng như Llama2 (70 tỷ tham số LLM), giải pháp bộ nhớ mới này tăng gần gấp đôi hiệu suất suy luận AI của NVIDIA so với GPU H100.

Về mặt giải pháp, NVIDIAH200GPU sẽ được sử dụng rộng rãi trong các máy chủ HGXH200 với cấu hình GPU 4 chiều và 8 chiều. Cấu hình GPU H200 8 chiều trong hệ thống HGX cung cấp 32PetaFLOP hiệu năng tính toán FP8 và dung lượng bộ nhớ 1,1TB.

Những GPU này cũng sẽ tương thích với các hệ thống HGXH100 hiện có, giúp khách hàng nâng cấp nền tảng của họ dễ dàng hơn. Các đối tác của NVIDIA như ASUS, ASRockRack, Dell, Eviden, GIGABYTE, Hewlett Packard Enterprise, Inglas (Ingrasys), Lenovo (Lenovo), QCT, Wiwynn (Wiwynn), Supermicro (Supermicro) và Wistron (Wistron), các nhà sản xuất này sẽ cung cấp các giải pháp cập nhật khi H200GPU ra mắt vào quý 2 năm 2024.

Ngoài việc phát hành GPU H200, NVIDIA cũng công bố một dự án siêu máy tính quy mô lớn được hỗ trợ bởi siêu chip GraceHopper (GH200). Siêu máy tính này có tên là "Jupiter" và được đặt tại Forschungszentrum Jülich ở Đức. Đây là một phần của Cam kết chung về Máy tính hiệu suất cao của Châu Âu (Cam kết chung của EuroHPC) và được Eviden và ParTec ký hợp đồng. Siêu máy tính này sẽ được sử dụng trong khoa học vật liệu, nghiên cứu khí hậu, khám phá thuốc và các lĩnh vực khác. Đây cũng là siêu máy tính thứ hai được Nvidia ra mắt trong tháng 11. Cái trước đó là Isambard-AI, có thể cung cấp tới 21 Exaflop hiệu suất trí tuệ nhân tạo.

Về cấu hình, siêu máy tính Jupiter dựa trên BullSequanaXH3000 của Eviden và sử dụng kiến ​​trúc làm mát hoàn toàn bằng chất lỏng. Nó có tổng cộng 24.000 siêu chip Nvidia GH200 GraceHopper, được kết nối với nhau thông qua Quantum-2 Infiniband của công ty. Xét rằng mỗi CPU Grace chứa 288 lõi Neoverse, chúng ta đang thấy Sao Mộc có gần 7 triệu lõi ARM chỉ trong CPU (chính xác là 6,912 triệu).

Các chỉ số hiệu suất bao gồm 90Exaflop đào tạo trí tuệ nhân tạo và 1Exaflop tính toán hiệu năng cao. Siêu máy tính dự kiến ​​sẽ được lắp đặt vào năm 2024. Nhìn chung, đây là những bản cập nhật lớn cho tương lai khi Nvidia tiếp tục dẫn đầu thế giới trí tuệ nhân tạo với các công nghệ phần cứng và phần mềm mạnh mẽ.