Trong một cuộc phỏng vấn độc quyền gần đây với MIT Technology Review, người đồng sáng tạo DeepMind và người sáng lập InlfectionAI cho biết họ đã loại bỏ tính độc hại của AI và AI tạo ra chỉ là một quá trình chuyển đổi. Trong tương lai, AI sẽ có được sự tự do như con người. Mustafa Suleyman, người đồng sáng lập DeepMind và người sáng lập InflectionAI, đã chấp nhận một cuộc phỏng vấn trực tuyến với MIT Technology Review. Trong cuộc phỏng vấn, ông bày tỏ quan điểm của mình:

AI thế hệ hiện tại chỉ là giai đoạn kỹ thuật, sau đó sẽ bước vào kỷ nguyên AI tương tác: AI sẽ trở thành một robot có thể gọi phần mềm và con người khác hoàn thành công việc theo yêu cầu nhiệm vụ khác nhau của mỗi người dùng.


Mục tiêu của công ty do ông thành lập, InflectionAI, không chỉ là trợ lý trò chuyện mà còn cho phép đại đa số mọi người trên thế giới có được nhiều tài nguyên và thông tin bình đẳng hơn thông qua AI.

Cuối cùng, ông cũng kêu gọi chính phủ tích cực quản lý AI và tin rằng việc quản lý AI theo hệ thống hiện có không khó.

Có thể có nhiều người có quan điểm tương tự như Suleyman, nhưng điều khác biệt với hầu hết mọi người là anh ấy là lãnh đạo của InflectionAI, một công ty trị giá hàng tỷ đô la.

Công ty này có những tài năng hàng đầu từ DeepMind, Meta và OpenAI, đồng thời có nguồn dự trữ năng lượng điện toán phần cứng AI chuyên nghiệp lớn nhất thế giới thông qua hợp tác với NVIDIA.

Chúng tôi đang ở giai đoạn thứ hai trong ba làn sóng công nghệ AI

Theo quan điểm của Sulyman, làn sóng đầu tiên của AI là về phân loại. Deep learning cho thấy con người có thể huấn luyện máy tính phân loại nhiều loại dữ liệu đầu vào: hình ảnh, video, âm thanh, ngôn ngữ.

Bây giờ ở làn sóng thứ hai, AI tạo ra, lấy dữ liệu và tạo ra dữ liệu mới.

Làn sóng thứ ba sẽ là AI tương tác. Ông luôn tin rằng đối thoại là giao diện tương tác của tương lai. Người dùng không chỉ nhấp vào nút và nhập văn bản, người dùng còn có thể trò chuyện trực tiếp với AI.

Những AI này sẽ có thể hoạt động tự chủ. Chỉ cần đưa ra một mục tiêu chung, cuối trận và AI sẽ sử dụng tất cả các công cụ để đạt được mục tiêu đó.

Họ nói chuyện với người khác, nói chuyện với AI khác. Đây là những gì anh ấy sẽ sử dụng Pi để đạt được.

Đây là một bản nâng cấp lớn về khả năng kỹ thuật. Đây là một khoảnh khắc vô cùng sâu sắc trong lịch sử công nghệ và ông tin rằng nhiều người đã đánh giá thấp tiềm năng của công nghệ.

Công nghệ AI vẫn ở trạng thái tĩnh. Về cơ bản nó thực hiện mọi việc theo cách bạn nói.

Nhưng công nghệ sẽ trở nên khả thi. Nếu người dùng cho AI đủ tự do thì AI có thể sử dụng quyền tự do này để thực hiện hành động.

Đây thực sự là một bước nhảy vọt trong lịch sử loài người khi chúng tôi đang tạo ra các công cụ có loại khả năng tác nhân thông minh này.

Nhân loại sẽ luôn là người dẫn đầu. Con người cần xác định giới hạn ranh giới mà AI không thể vượt qua và đảm bảo rằng những ranh giới đó mang lại sự bảo mật có thể chứng minh được, từ mã thực tế, đến tương tác với AI hoặc con người khác, cho đến động lực và động lực của các công ty tạo ra công nghệ.

Tác động của những trải nghiệm ban đầu đến giá trị và tinh thần kinh doanh của anh ấy

Khi được hỏi về sự nghiệp độc đáo của anh ấy Trải nghiệm hoàn toàn khác với "phong cách Thung lũng Silicon" truyền thống. Khi được hỏi về tác động của những trải nghiệm này đối với hoạt động kinh doanh của anh ở Thung lũng Silicon, Suleyma trả lời:

Anh ấy luôn quan tâm đến quyền lực, chính trị, v.v. Anh ấy cảm thấy rằng những nguyên tắc cơ bản của con người là sản phẩm của sự thỏa hiệp. Nó dựa vào sự cân bằng động có thể đạt được thông qua đàm phán liên tục giữa các lực lượng khác nhau và xung đột.

Mặc dù con người không ngừng giải quyết vấn đề-nhưng con người vẫn bị giới hạn bởi những thành kiến ​​và điểm mù nhận thức của chính mình.

Các tổ chức dân sự, chính quyền địa phương, chính quyền trung ương, tổ chức quốc tế, v.v.—tất cả đều có những hạn chế riêng và không thể hoạt động hiệu quả và không mắc sai lầm.

Hãy tưởng tượng điều gì sẽ xảy ra nếu con người không mắc sai lầm?

Anh ấy cho rằng con người có thể xây dựng AI phản ánh thực sự lợi ích của chính họ và cuối cùng tạo ra sự đánh đổi tốt hơn thay mặt cho mọi người một cách nhất quán và công bằng hơn.

(Năm 1984, Sulyman sinh ra ở phía bắc London với cha là người Syria và mẹ là người Anh. Anh lớn lên trong hoàn cảnh nghèo khó. Khi anh 16 tuổi, cha mẹ anh ly thân và cả hai đều di cư. Bên ngoài, anh và em trai phải tự lo cho bản thân.

Sulyman theo học tại trường Queen Elizabeth (trường dạy ngữ pháp dành cho nam sinh ở Barnet) Sulyman cho biết anh và Demis Hassabis thường thảo luận về việc họ sẽ tác động như thế nào đến thế giới AGPH6


Sau đó anh được nhận vào Đại học Oxford để học triết học và thần học, nhưng đã bỏ học sau một năm.

.

Sau đó, cùng với người bạn đại học Mohammed MAMDani, anh đã thành lập Đường dây trợ giúp Thanh niên Hồi giáo, một dịch vụ tư vấn qua điện thoại đã trở thành dịch vụ hỗ trợ sức khỏe tâm thần cho người Hồi giáo lớn nhất Vương quốc Anh. Change" sử dụng các phương pháp giải quyết xung đột để giải quyết các vấn đề xã hội.

Là nhà đàm phán và hòa giải, Suleyman đã làm việc cho nhiều khách hàng bao gồm Liên hợp quốc, chính phủ Hà Lan và Quỹ Động vật hoang dã Thế giới. )

Suleyma cho biết anh đã trở nên tự do về mặt tài chính kể từ khi rời DeepMind. Bạn không cần phải khởi nghiệp hay viết sách để kiếm tiền nuôi sống bản thân.

Tiền chưa bao giờ là động lực làm việc. Tiền là sản phẩm phụ của công việc.

Đối với anh, mục tiêu công việc chưa bao giờ thay đổi, đó là làm thế nào để biến thế giới thành một nơi tốt đẹp hơn và làm thế nào để đưa thế giới tiến lên một cách lành mạnh và thỏa mãn.

Ngay cả vào năm 2009, khi bắt đầu cân nhắc việc tham gia vào ngành công nghệ, anh ấy đã thấy rằng công nghệ AI là một cách cung cấp dịch vụ công bằng và chính xác trên thế giới.

(Suleyman đồng sáng lập công ty trí tuệ nhân tạo DeepMind Technologies với Hasabiss và giữ chức giám đốc sản phẩm. DeepMind được Google mua lại vào năm 2014, ông trở thành người đứng đầu bộ phận trí tuệ nhân tạo ứng dụng của DeepMind


Vào tháng 1 năm 2022, Suleyman rời Google và gia nhập Greyl. InflectionAI với Reid Hoffman của Greylock. Công ty được thành lập với mục tiêu sử dụng “trí tuệ nhân tạo để giúp con người nói chuyện với máy tính”.

Sau đó, vào tháng 7 năm nay, nó đã nhận được 1,5 tỷ USD đầu tư từ Microsoft, Nvidia, Bill Gates và người sáng lập LinkedIn Reid Hoffman. Sau khi AGPH42InflectionAI nhận được tài trợ, ông đã ngay lập tức mua GPU Nvidia H100 trị giá 1,3 tỷ USD và xây dựng một trong những cụm GPU lớn nhất thế giới

Trước đó. năm nay, anh ấy đã phát hành một sản phẩm có tên là Đối thủ cạnh tranh cho ChatGPT của Pi. Anh ấy cũng là đồng tác giả một cuốn sách về tương lai của AI có tên The Coming Wave: Technology, Power, and the Biggest Dilemma of the 21st Century)

T AGPH47

Cách nhìn nhận tác động tiêu cực của công nghệ

Ông tin rằng không có ích gì khi quá bận tâm đến việc ai là người lạc quan hay bi quan. Đây là một cách nhìn thiên vị về mọi thứ. Ông chỉ muốn bình tĩnh phân tích lợi ích và thách thức.

Từ quan điểm của ông, có thể thấy rất rõ rằng khi quy mô của các mô hình ngôn ngữ lớn ngày càng tăng lên, chúng trở nên dễ kiểm soát hơn.

Vì vậy, hai năm trước, quan điểm - mà anh ấy tin là sai vào thời điểm đó - là "Ồ, họ sẽ tạo ra nội dung độc hại, trào ngược, thiên vị và phân biệt chủng tộc."

Nhưng những tình huống này chỉ là tạm thời. Mọi người bỏ qua sự tiến bộ không ngừng của công nghệ và không thực sự hiểu được quỹ đạo phát triển về phía trước của công nghệ.

Các mô hình như Pi hiện có khả năng điều khiển rất cao. InflectionAI có thể ngăn Pi tạo ra nội dung phân biệt chủng tộc, kỳ thị đồng tính, phân biệt giới tính – bất kỳ dạng nội dung độc hại nào.

có thể cho phép nó từ chối dạy người dùng chế tạo vũ khí sinh học hoặc hóa học hoặc khuyến khích người dùng đập vỡ cửa sổ nhà hàng xóm của họ.

Về cách đạt được nó, Suleyma không muốn tiết lộ quá nhiều chi tiết kỹ thuật, nhưng anh ấy nói, hãy mạnh dạn thử nghiệm! Pi hiện đã trực tuyến và người dùng có thể thử tất cả các cuộc tấn công có thể.

Mọi jailbreak, tip hack hay bất cứ thứ gì dành cho Pi sẽ không hoạt động. Đây là một thực tế khách quan.

InflectionAI có đội ngũ mạnh nhất thế giới và đã tạo ra tất cả các mô hình ngôn ngữ lớn nhất trong ba hoặc bốn năm qua.


Đây là một nhóm rất giỏi làm việc trong một môi trường rất hiệu quả với nhiều tài nguyên máy tính.

Ngay từ đầu họ đã đặt an toàn lên hàng đầu nên Pi không “hot” như mẫu của các hãng khác.

Hãy xem Character.ai. (Nhân vật là một chatbot mà người dùng có thể thiết kế các "nhân vật" khác nhau và chia sẻ chúng với những người khác trực tuyến để trò chuyện. Tạo liên kết) Chức năng của nó chủ yếu được sử dụng để tạo ra các nhân vật giàu trí tưởng tượng, nhưng InflectionAI ngay từ đầu đã cảm thấy rằng đây không phải là một hướng đi tốt - họ sẽ không làm chức năng như vậy.

Pi sẽ rất tôn trọng bạn. Nếu bạn bắt đầu phàn nàn về việc những người nhập cư trong cộng đồng của bạn đã lấy đi công việc của bạn, Pi sẽ không đổ lỗi cho bạn hay bảo bạn phải làm gì.

Pi sẽ quan tâm hỏi thăm và hỗ trợ bạn bằng lời nói và tâm lý. Nó cố gắng hiểu cảm xúc của bạn đến từ đâu và nhẹ nhàng khuyến khích bạn đồng cảm với người khác. Đây là những giá trị mà tôi đã suy nghĩ suốt 20 năm.

Nhưng tôi được hỏi tại sao không mở nguồn các công nghệ này nếu chúng có thể làm cho thế giới trở thành một nơi tốt đẹp hơn.

Sulyman nhấn mạnh rằng dù sao thì anh ấy cũng đang điều hành một công ty và phải kiếm tiền để hỗ trợ mọi người. Trước đó, anh đã mua GPU trị giá 1,3 tỷ USD của Nvidia và phải kiếm tiền để đáp ứng yêu cầu lợi nhuận của nhà đầu tư.

Hiện nay hệ sinh thái nguồn mở đang bùng nổ và hoạt động khá tốt, cộng đồng nguồn mở đã phát hiện ra các phương pháp tương tự. Suleyman chỉ cho rằng họ còn nhiều nhất là sáu tháng nữa.

Cách điều chỉnh AI

Đối với ông, việc phát triển công nghệ tự cải tiến đệ quy AI cần phải được điều chỉnh. Sẽ rất nguy hiểm nếu các AI nhỏ cập nhật mã của riêng chúng mà không có sự giám sát của bạn. Có lẽ đây thậm chí phải là một hành vi cần có sự cho phép.

Có lẽ cần phải có một cơ chế chuyên biệt để điều chỉnh hành vi này, giống như bệnh than hay vật liệu hạt nhân.

Anh ấy cũng tin rằng việc sợ hãi AI là hoàn toàn không cần thiết. Giám sát AI hoàn toàn có thể nằm trong khuôn khổ pháp lý hiện hành. AI chỉ là một thành phần khác của hệ thống quản trị.

Con người làm rất tốt việc bình thường hóa những thứ siêu phức tạp. Lấy Cục Hàng không Liên bang làm ví dụ: Tất cả chúng ta đều quen bay ở độ cao 40.000 feet trong những ống nhôm này và đó là một trong những hình thức vận chuyển an toàn nhất từng được tạo ra. Đây là một ví dụ về quy định thành công.

Hoặc ô tô: mọi bộ phận đều phải trải qua quá trình kiểm tra căng thẳng cực độ và người dùng phải có bằng lái xe để lái nó.

Một số ngành - như hãng hàng không - tự điều chỉnh tốt ngay từ đầu. Bởi họ biết rằng nếu không làm tốt công tác an toàn thì mọi người sẽ lo sợ và sẽ mất việc kinh doanh.