Gần đây, Demis Hassabis, người sáng lập DeepMind, đã thừa nhận rằng trí tuệ siêu nhân tạo mà ông phát triển có nguy cơ hủy diệt loài người. Cuộc cạnh tranh phát triển AI hiện nay đã đi vào trạng thái không thể ngăn cản và con người khó có thể kiểm soát nó một cách hiệu quả thông qua các phương pháp quản trị bên ngoài. Anh ấy hoàn toàn từ bỏ ý tưởng dựa vào hệ thống và ủy ban đạo đức trước đây để hạn chế AI, đồng thời thừa nhận rằng cơ cấu quản trị sẽ khó phát huy vai trò trong các quyết định quan trọng và anh ấy chỉ có thể dựa vào chính mình để giành được quyền lên tiếng kiểm soát phương hướng an toàn của AI.

Hassabis luôn là người ủng hộ trung thành cho vấn đề bảo mật AI. Trong những năm đầu của mình, ông đã hình dung ra việc tạo ra siêu trí tuệ an toàn tuyệt đối thông qua sự giám sát độc lập cũng như nghiên cứu và phát triển bí mật.


Khi DeepMind được bán cho Google vào năm 2014, nó cũng yêu cầu rõ ràng việc duy trì quyền ra quyết định độc lập về bảo mật AI, thành lập một ủy ban giám sát bên ngoài và cấm các ứng dụng quân sự.

Tuy nhiên, các khái niệm bảo mật này lần lượt thất bại. Musk chuyển sang sáng lập OpenAI sau khi tham gia các cuộc họp liên quan, phá vỡ ý tưởng về một chủ thể duy nhất kiểm soát AI, và các cuộc đàm phán quản trị sau đó với Google cũng kết thúc trong thất bại.

Sự xuất hiện của ChatGPT vào năm 2022 đã làm gián đoạn hoàn toàn tốc độ nghiên cứu và phát triển AI. Google rơi vào tình trạng lo lắng về cạnh tranh. DeepMind sáp nhập với Google Brain, thông số kỹ thuật bảo mật nhường chỗ cho tốc độ nghiên cứu và phát triển, các tuyến phòng thủ bảo mật trước đó dần thất bại.

Hassabis do đó đã hiểu được thực tế. Dưới áp lực cạnh tranh kinh doanh và cạnh tranh công nghệ, cơ chế quản trị phi lợi nhuận dựa vào các doanh nghiệp khổng lồ khó có thể tồn tại.

Bây giờ Hassabis đã thay đổi suy nghĩ của mình. Đề xuất cốt lõi là để mình chiếm giữ vị trí ra quyết định cốt lõi và kiểm soát hướng kỹ thuật tại các nút chính với sự lo ngại về rủi ro AI.

Trong khi thúc đẩy sự phát triển của các mô hình như Gemini, anh ấy tuân thủ điểm mấu chốt về an toàn và cố gắng giảm nguy cơ AI chạy trốn do ảnh hưởng cá nhân của mình.

Các nhà phân tích trong ngành tin rằng sự thay đổi này phản ánh tình hình khốc liệt hiện nay của cuộc cạnh tranh AI toàn cầu. Khó đạt được quản trị thống nhất, cửa sổ an toàn AI tiếp tục bị thu hẹp và nhân loại đang phải đối mặt với những thách thức to lớn liên quan đến sự tồn vong của nền văn minh.