Thủ tướng Anh Rishi Sunak công bố kế hoạch thành lập viện an ninh trí tuệ nhân tạo đầu tiên. Đầu ngày hôm nay, Microsoft, Google, OpenAI và Anthropic đã công bố khoản tài trợ trị giá 10 triệu USD cho Diễn đàn Mô hình Biên giới để đảm bảo sự phát triển an toàn và có trách nhiệm của trí tuệ nhân tạo tổng hợp.
Sunak đã gặp gỡ các nhà lãnh đạo của ngành trí tuệ nhân tạo, cụ thể là OpenAI, Google và Anthropic, vào tháng 5 năm 2023 để thảo luận về các biện pháp bảo vệ công nghệ. Các cuộc gặp với các đại diện của Phố Downing tạo tiền đề cho các sáng kiến nhằm đảm bảo sự phát triển an toàn và có trách nhiệm của trí tuệ nhân tạo tổng hợp (AGI).
Sunak cho biết: "Khi được thực hiện một cách an toàn và bảo mật, trí tuệ nhân tạo có tiềm năng mang lại sự chuyển đổi và tăng trưởng kinh tế."
Sau diễn biến này, chính phủ Anh tuyên bố sẽ tổ chức Hội nghị thượng đỉnh về an ninh trí tuệ nhân tạo vào ngày 1 và 2 tháng 11. Hội nghị thượng đỉnh sẽ quy tụ các công ty AI, chính phủ, xã hội dân sự và các chuyên gia trong lĩnh vực AI với mục tiêu xem xét các rủi ro của AI, đặc biệt là ở lĩnh vực phát triển và thảo luận cách giảm thiểu rủi ro thông qua hành động phối hợp quốc tế.
Hội nghị thượng đỉnh này sẽ tập trung vào Frontier AI, một loại mô hình cơ bản cực kỳ có khả năng hoạt động tương đương hoặc tốt hơn các mô hình hiện có.
Chỉ một tuần trước hội nghị thượng đỉnh, Thủ tướng Anh đã tuyên bố thành lập Viện An ninh Trí tuệ Nhân tạo trong một bài phát biểu tại London, cơ quan đầu tiên thuộc loại này trên thế giới. Theo Sunak, viện sẽ "đánh giá và thử nghiệm cẩn thận các loại trí tuệ nhân tạo mới để chúng tôi hiểu được khả năng của các mô hình mới". Chính phủ Anh cũng đã xuất bản hai tài liệu thảo luận về rủi ro của trí tuệ nhân tạo tiên tiến và các lỗ hổng an ninh mạng do quy mô và tốc độ của các cuộc tấn công AI gây ra. Hai tài liệu cảnh báo rằng trong tương lai, chúng ta có thể thấy các cuộc tấn công mạng được thực hiện và bảo vệ bởi trí tuệ nhân tạo, với sự giám sát của con người được giảm thiểu ở mọi bước.