Các nhà nghiên cứu tại IBM ở San Jose, California, đã phát triển một con chip máy tính lấy cảm hứng từ não bộ, hoạt động nhanh hơn và tiêu thụ ít năng lượng hơn để tăng cường trí tuệ nhân tạo (AI). Chip xử lý NorthPole cỡ lớn của họ không yêu cầu truy cập thường xuyên vào bộ nhớ ngoài nên có thể thực hiện các tác vụ như nhận dạng hình ảnh nhanh hơn các kiến trúc hiện có trong khi sử dụng ít điện năng hơn đáng kể.
Damien Querlioz, một nhà nghiên cứu điện tử nano tại Đại học Paraiso Paris-Saclay, cho biết: "Thật không thể tin được về hiệu quả sử dụng năng lượng của nó. Công trình này, được xuất bản trên tạp chí Science, cho thấy rằng máy tính và bộ nhớ có thể được tích hợp trên quy mô lớn. Bài báo này sẽ làm thay đổi suy nghĩ thông thường về kiến trúc máy tính."
NorthPole chạy các mạng thần kinh: mảng nhiều lớp gồm các đơn vị tính toán đơn giản được lập trình để xác định các mẫu trong dữ liệu. Các lớp thấp hơn nhận dữ liệu, chẳng hạn như pixel trong hình ảnh; mỗi lớp phát hiện các mẫu có độ phức tạp ngày càng tăng và chuyển thông tin sang lớp tiếp theo. Lớp trên cùng tạo ra một kết quả, ví dụ, thể hiện khả năng hình ảnh đó chứa một con mèo, một chiếc ô tô hoặc một số vật thể khác.
Có những chip máy tính có thể xử lý các phép tính này một cách hiệu quả nhưng chúng vẫn cần sử dụng RAM mỗi khi tính toán một lớp. Cách truyền dữ liệu giữa các chip này có thể làm mọi thứ chậm lại—một hiện tượng được gọi là nút cổ chai Von Neumann, được đặt theo tên nhà toán học John von Neumann.
Nút thắt cổ chai von Neumann là một trong những yếu tố quan trọng nhất làm chậm các ứng dụng máy tính, bao gồm cả trí tuệ nhân tạo. Nó cũng dẫn đến sự thiếu hiệu quả về năng lượng. Đồng tác giả nghiên cứu Dharmendra Modha, một kỹ sư máy tính tại IBM, cho biết ông đã ước tính rằng việc mô phỏng bộ não con người trên một kiến trúc như vậy có thể yêu cầu đầu ra của 12 lò phản ứng hạt nhân.
NorthPole bao gồm 256 đơn vị điện toán hoặc lõi, mỗi đơn vị có bộ nhớ riêng. Điều này làm giảm bớt nút thắt cổ chai von Neumann trong lõi đơn.
Các lõi sau đó được kết nối với nhau thông qua mạng lấy cảm hứng từ các kết nối chất trắng giữa các bộ phận của vỏ não con người. Nguyên tắc thiết kế này và các nguyên tắc thiết kế khác—phần lớn đã tồn tại trước đây nhưng chưa bao giờ được kết hợp trong chip—đã cho phép NorthPole đánh bại các máy AI hiện có với khoảng cách đáng kể so với các tiêu chuẩn nhận dạng hình ảnh tiêu chuẩn. Mặc dù không sử dụng quy trình sản xuất mới nhất và thu nhỏ nhất nhưng nó chỉ tiêu thụ 1/5 năng lượng so với những con chip trí tuệ nhân tạo tiên tiến nhất. Các tác giả ước tính rằng nếu thiết kế của NorthPole sử dụng quy trình sản xuất mới nhất thì nó sẽ hiệu quả hơn 25 lần so với các thiết kế hiện tại.
Tuy nhiên, ngay cả bộ nhớ 224 megabyte của NorthPole cũng không đủ cho các mô hình ngôn ngữ lớn, chẳng hạn như mô hình được sử dụng bởi chatbot ChatGPT. Và con chip chỉ có thể chạy các mạng thần kinh được lập trình sẵn, cần được “huấn luyện” trước trên máy khác. Nhưng các tác giả của bài báo cho biết kiến trúc NorthPole có thể rất hữu ích trong các ứng dụng yêu cầu tốc độ cực cao, chẳng hạn như xe tự lái.
NorthPole mang bộ nhớ đến gần nhất có thể với các phần tử điện toán trong lõi. Trong các lĩnh vực khác, các nhà nghiên cứu đã sử dụng các vật liệu và quy trình sản xuất mới để tạo ra những đổi mới căn bản hơn. Những kỹ thuật này cho phép chính các tế bào bộ nhớ thực hiện các phép tính, về nguyên tắc có thể tăng thêm tốc độ và hiệu quả.
Một con chip khác được giới thiệu vào tháng trước sử dụng điện trở nhớ, một phần tử mạch có thể chuyển đổi giữa điện trở và dây dẫn để tính toán trong bộ nhớ. Bin Gao của Đại học Thanh Hoa, đồng tác giả của nghiên cứu memristor, cho biết: “Phương pháp tiếp cận của cả IBM và chúng tôi đều được kỳ vọng sẽ rút ngắn độ trễ và giảm chi phí năng lượng khi truyền dữ liệu”.
Một cách tiếp cận khác, được phát triển bởi nhiều nhóm, trong đó có một nhóm tại Phòng thí nghiệm IBM ở Zurich, Thụy Sĩ, lưu trữ thông tin bằng cách thay đổi cấu trúc tinh thể của các phần tử mạch điện. Liệu những phương pháp mới hơn này có thể được nhân rộng về mặt kinh tế hay không vẫn còn phải xem xét.