Tại hội nghị GTC gần đây, NVIDIA đã ra mắt phiên bản nâng cấp của máy trạm siêu máy tính AI DGX Station GB300 và sản phẩm đầu tiên được Jen-Hsun Huang trao cho bậc thầy AI Andrej Karpathy. Andrej Karpathy đã tweet để cảm ơn NVIDIA. Studio của anh đã nhận được sản phẩm này vào ngày 6 tháng này. là Dell Pro Max với GB300 do Dell sản xuất, là phiên bản nhà sản xuất của DGX Station GB300.
DGX Station GB300 có thể coi là phiên bản máy trạm của siêu máy tính AI do NVIDIA ra mắt (phiên bản GB200 được ra mắt vào năm ngoái) và DGX được bán trước Spark là phiên bản cá nhân của siêu máy tính AI, nhưng thông số kỹ thuật và hiệu suất của cái trước cao hơn nhiều so với cái sau. Cấu hình rất sang trọng và giá sẽ cao hơn rất nhiều.
DGX Station GB300 sử dụng chip GB300, bộ xử lý Grace 72 nhân, có bộ nhớ video HBM3e 252GB, băng thông 8TB/s và bộ nhớ 496GB LPDDR5X có băng thông 396GB/s, riêng bộ nhớ là 748GB. Với mức giá tăng như hiện nay, giá trị của những bộ nhớ này đủ cho hơn chục chiếc PC cao cấp.
DGX Station GB300 có hiệu suất FP4 có thể đạt tới 20PFLOPS và có thể hỗ trợ các mô hình AI với 1 nghìn tỷ tham số. Trước đây, các mô hình lớn ở cấp độ này yêu cầu một máy chủ chuyên dụng hoặc nhiều thiết bị để chạy cùng nhau, nhưng bây giờ một thiết bị là đủ.
Mỗi khi NVIDIA có sản phẩm AI mới, hãng thường trao thiết bị đầu tiên cho những tên tuổi lớn trong lĩnh vực này. Trước đây, Musk và CEO OpenAI Altman từng nhận quà từ NVIDIA, và lần này Andrej Karpathy cũng là một vị đại thần trong lĩnh vực AI và là một trong những người sáng lập OpenAI.
