Công ty thiết kế chip Arm của Anh gần đây đã công bố ra mắt CPU Arm AGI mới, lần đầu tiên gia nhập thị trường trung tâm dữ liệu dưới dạng chip sản xuất hàng loạt của riêng mình, nhắm đến khối lượng công việc trí tuệ nhân tạo "đặc vụ" mới nổi. Điều này đánh dấu sự thay đổi lớn trong mô hình kinh doanh của công ty vốn từ lâu tập trung vào việc cấp phép sở hữu trí tuệ. Trong hơn ba thập kỷ, Arm chỉ cung cấp kiến ​​trúc và thiết kế cốt lõi do các đối tác sản xuất. Giờ đây, nó trực tiếp tham gia vào cuộc cạnh tranh tiền tuyến của các bộ xử lý trung tâm dữ liệu hiệu suất cao với dòng CPU AGI.

Theo báo cáo, CPU Arm AGI được xây dựng dựa trên công nghệ xử lý 3 nm. Một chip đơn tích hợp tới 136 lõi Neoverse V3 và mức tiêu thụ điện năng theo thiết kế nhiệt của toàn bộ thẻ là 300 W, mỗi lõi có thể đạt băng thông bộ nhớ 6 GB/s và kiểm soát độ trễ truy cập trong vòng 100 ns. Nó có thể hỗ trợ dung lượng bộ nhớ tối đa 6 TB trên một chip đơn và tương thích với thông số kỹ thuật DDR5-8800. Về mặt I/O, bộ xử lý cung cấp 96 làn PCIe Gen 6 và tích hợp các kết nối CXL 3.0 và AMBA CHI (Giao diện trung tâm kết hợp) để hỗ trợ các yêu cầu điện toán cộng tác có băng thông cao, độ trễ thấp. Mỗi lõi có thể xử lý độc lập một luồng chương trình. Arm cho biết thiết kế này giúp tránh tình trạng các luồng bị quá tải hoặc không hoạt động trong thời gian dài trong các tình huống tải cao kéo dài và cải thiện việc sử dụng tài nguyên tổng thể.

Về mật độ năng lượng điện toán mà các trung tâm dữ liệu rất quan tâm, số liệu do Arm công bố cho thấy rằng trong hệ thống làm mát bằng không khí, một giá đỡ duy nhất có thể triển khai tới 8.160 lõi và việc sử dụng giải pháp làm mát bằng chất lỏng có thể tăng con số này lên 45.000. một. Arm dự đoán rằng để đáp ứng nhu cầu phát triển AI trong tương lai, sức mạnh tính toán của CPU cần có trên mỗi gigawatt điện trong trung tâm dữ liệu sẽ cao hơn bốn lần so với mức hiện tại. Họ tin rằng kiến ​​trúc x86 truyền thống có quá nhiều chi phí và độ phức tạp trong khối lượng công việc mới này, điều này không có lợi cho những cải tiến hơn nữa về hiệu suất và hiệu quả sử dụng năng lượng. Dữ liệu so sánh chính thức cho thấy giải pháp Arm có thể đạt được hiệu suất cao hơn gấp đôi so với x86 về hiệu suất trên mỗi giá và có khả năng tiết kiệm chi phí lên tới 10 tỷ USD cho mỗi gigawatt sức mạnh tính toán của trung tâm dữ liệu AI.

Ở cấp độ sinh thái và triển khai, Meta là đối tác cốt lõi và là nhà triển khai chính của CPU AGI này. Nó sẽ kết hợp bộ xử lý với bộ tăng tốc MTIA tự phát triển để lập kế hoạch và điều phối AI quy mô lớn trên nền tảng của nó. Ngoài Meta, nhiều công ty bao gồm OpenAI, Cloudflare, Cerebras, Rebellions, SAP và SK Telecom đã xác nhận việc áp dụng nền tảng này. Về phần cứng, các nhà sản xuất như ASRock Rack, Lenovo, Quanta, Supermicro đang tung ra các sản phẩm máy chủ dựa trên nền tảng này. Lô hệ thống đầu tiên đã được cung cấp cho một số khách hàng và dự kiến ​​sẽ có mặt trên quy mô rộng hơn vào nửa cuối năm nay.

Arm cho biết có hơn 50 đối tác sinh thái đằng sau sản phẩm này, bao gồm các dịch vụ đám mây, nhà sản xuất chip và lưu trữ như AWS, Google, Microsoft, NVIDIA, Samsung, TSMC và Micron, tạo thành một chuỗi hoàn chỉnh bao gồm thiết kế, sản xuất, hệ thống phần cứng và triển khai đám mây. Đối với Arm, việc ra mắt CPU AGI không chỉ là cách bố trí kỹ thuật mà còn có nghĩa là vai trò của nó mở rộng từ “nhà cung cấp kiến ​​trúc” đến “nhà cung cấp giải pháp hoàn chỉnh”, cạnh tranh để có tiếng nói cao hơn trong vòng cạnh tranh cơ sở hạ tầng trung tâm dữ liệu AI mới.