Tạp chí phụ Cell đăng một bài báo phê bình rằng AI khó có thể tạo ra ý thức trong thời gian ngắn

tương tác với các mô hình ngôn ngữ lớn (LLM), chúng ta luôn có cảm giác mơ hồ rằng có thể chúng thực sự có ý thức. Tuy nhiên, từ góc nhìn của các nhà thần kinh học, quan điểm này có vẻ khó được chấp nhận. Gần đây, trong một bài báo đăng trên tạp chí phụ Tế bào Xu hướng trong khoa học thần kinh, ba học giả từ khoa học máy tính, sinh học và khoa học thần kinh đã tiến hành phân tích chuyên sâu về câu hỏi "Trí tuệ nhân tạo có thể tạo ra ý thức không?" .

Tóm lại, tất cả họ đều đồng ý: LLM không thể có ý thức ở dạng hiện tại. Quan điểm chắc chắn như vậy đến từ đâu? Chúng ta hãy xem lời giải thích chi tiết của họ.

▷Nguồn: Ô

Từ lâu, mọi người đã hỏi loài động vật nào có ý thức và thực thể nào ngoài động vật có ý thức. Sự xuất hiện gần đây của LLM đã mang đến một góc nhìn mới cho vấn đề này. Nó cho chúng ta thấy khả năng đàm thoại siêu việt của nó (là biểu hiện của ý thức con người), đồng thời cũng khiến chúng ta bắt đầu định nghĩa lại và suy nghĩ về ba khái niệm “hiểu”, “trí thông minh” và “ý thức”.

LLM là mạng thần kinh nhân tạo nhiều lớp phức tạp với hàng tỷ trọng số kết nối được đào tạo trên hàng chục tỷ từ dữ liệu văn bản, bao gồm cả các cuộc hội thoại bằng ngôn ngữ tự nhiên giữa con người với nhau. Bằng cách đặt câu hỏi qua văn bản, người dùng sẽ được làm quen với bối cảnh mô phỏng hấp dẫn. Nếu bạn dành thời gian sử dụng các hệ thống này, thật khó để không bị ấn tượng bởi độ sâu và chất lượng hiển thị bên trong mạng của chúng. Hãy hỏi nó một câu hỏi và câu trả lời của nó thường giống một cách tinh tế với câu trả lời mà một cá nhân có ý thức có thể đưa ra. Vì vậy, là một cá nhân sâu sắc, có ý thức, chúng ta có thể dễ dàng kết luận rằng phản hồi mà tôi nhận được được tạo ra bởi một cá nhân cũng “có ý thức” không kém, có khả năng suy nghĩ, cảm nhận, lý luận và có kinh nghiệm.

Dựa trên kết quả "Thử nghiệm Turing" như vậy, chúng tôi không thể không hỏi, liệu LLM đã có ý thức hay sắp có ý thức? Tuy nhiên, câu hỏi này đến lượt nó sẽ dẫn đến một loạt vấn đề nan giải về mặt đạo đức, chẳng hạn như liệu việc tiếp tục phát triển LLM liên tục lơ lửng trên bờ vực của sự thức tỉnh “ý thức” có hợp đạo đức hay không? Trong cộng đồng khoa học thần kinh ngày nay, mọi người thường không chấp nhận ý tưởng rằng LLM có "ý thức", nhưng khi khả năng của hệ thống trí tuệ nhân tạo tiếp tục được cải thiện, các cuộc thảo luận về ý tưởng này chắc chắn đã quay trở lại bàn thảo. Ngoài ra, các phương tiện truyền thông lớn cũng đang thảo luận rộng rãi về vấn đề này, khiến các nhà khoa học thần kinh đưa ra những cách giải thích ưu và nhược điểm khách quan về vấn đề này từ quan điểm chuyên môn của chính họ.

Ý tưởng cho rằng LLM có khả năng nhận thức thường được hỗ trợ bởi một cơ sở quan trọng, đó là kiến ​​trúc của LLM phần lớn được lấy cảm hứng từ các đặc điểm của bộ não (Hình 1), và bộ não hiện là đối tượng duy nhất mà chúng ta có thể tự tin cho là "có ý thức". Trong khi các mạng thần kinh nhân tạo ban đầu được thiết kế dựa trên các phiên bản đơn giản của vỏ não, thì LLM hiện đại được thiết kế và điều chỉnh ở mức độ cao cho các mục đích cụ thể và không còn giữ được sự tương đồng sâu sắc với các cấu trúc não đã biết. Trên thực tế, nhiều đặc điểm của lộ trình giúp LLM trở nên mạnh mẽ về mặt tính toán (Hình 1) có cấu trúc khác biệt với các hệ thống mà chúng ta hiện cho là có sức mạnh nhân quả trong sự xuất hiện và hình thành ý thức của động vật có vú. Ví dụ, nhiều lý thuyết khoa học thần kinh liên quan đến sự xuất hiện của ý thức tin rằng hệ thống vỏ não và hệ thống kích thích đóng vai trò trung tâm trong quá trình xử lý có ý thức. Tuy nhiên, LLM hiện đại không sở hữu hai hệ thống này.

Hình 1: Sự khác biệt vĩ mô giữa não động vật có vú và mô hình ngôn ngữ lớn Nguồn: TrendsinNeurosciences

Lúc này, ai đó có thể hỏi, tại sao kiến ​​trúc LLM lại bắt chước đặc điểm của bộ não? Điều này có quan trọng lắm không?

Theo quan điểm của chúng tôi, Lý do chính là: hiện tại chúng ta chỉ có thể chắc chắn về sự tồn tại của một loại ý thức và nó đến từ một bộ não được gắn trong một cơ thể phức tạp. Người ta có thể nghĩ rằng, theo nghĩa chặt chẽ, lập luận này có thể chỉ áp dụng cho con người, mặc dù nhiều đặc điểm ở cấp độ hệ thống được cho là đóng vai trò quan trọng trong ý thức chủ quan có mặt khắp nơi trong quang phổ sinh học, mở rộng đến cả động vật có vú và thậm chí cả động vật không xương sống.

Như đã nói, hãy bắt đầu với ý nghĩa chính xác của “ý thức”. Sau đó, chúng tôi sẽ trình bày ba lập luận chống lại ý kiến ​​cho rằng các hệ thống trí tuệ nhân tạo hiện tại đang hoặc sẽ sớm có ý thức trong tương lai:

1. Ý thức gắn liền với một dòng cảm giác có ý nghĩa đối với cơ thể;

3. Ý thức có thể không thể tách rời khỏi tổ chức sinh học phức tạp của các hệ thống sinh học.

Ý thức là gì?

Ý thức là một khái niệm phức tạp và định nghĩa của nó đã gây tranh cãi. Trong bối cảnh con người có khả năng giao tiếp, tương tác với nhau thì khả năng giao tiếp, đối thoại là yếu tố bản năng trong việc đánh giá xem một người có ý thức hay không.

Đối thoại tương tác dựa trên ngôn ngữ với LLM thường nuôi dưỡng cảm giác trực quan, đây cũng là điểm khởi đầu để đánh giá liệu LLM có thể có ý thức hay không. Tuy nhiên, mặc dù khả năng đối thoại tương tác của LLM rất xuất sắc nhưng nó không đạt được thước đo khách quan chính thức về ý thức mà chỉ là bằng chứng sơ bộ về trí thông minh.

LLM Sự xuất hiện của LLM đòi hỏi chúng ta phải đánh giá lại liệu một người có thể tạo ra ý thức trực tiếp từ tương tác bằng lời nói với người khác hay không. Vì vậy, một quan điểm mới cho rằng chúng ta cần xác định lại tiêu chí đánh giá khả năng và đặc điểm giống con người.

Từ “ý thức” thường có nhiều nghĩa khác nhau. Ví dụ, các nhà thần kinh học thường đề cập đến “mức độ ý thức”, trước tiên đánh giá xem một người có ý thức hay không và sau đó, theo cách tinh tế hơn, đánh giá mức độ hoặc trạng thái ý thức cụ thể. Ngược lại, các nhà tâm lý học lại chú ý nhiều hơn đến nội dung của ý thức: tức là những trải nghiệm, ký ức và suy nghĩ cụ thể về thế giới nội tâm của một cá nhân. Hơn nữa, có sự khác biệt giữa các nội dung khác nhau của ý thức. Trải nghiệm của chúng ta có thể được mô tả dưới dạng hiện tượng hoặc trải nghiệm (chẳng hạn như nhìn thấy hoặc ngửi một quả táo, hoặc chạm vào cánh tay của bạn) hoặc ở những dạng trừu tượng hơn (ví dụ: cách chúng ta tưởng tượng, hình dung hoặc vận hành bằng trí nhớ khái niệm).

Câu hỏi liệu hệ thống trí tuệ nhân tạo có ý thức hay không có thể được trả lời thông qua nhiều phương pháp thử nghiệm khác nhau: bằng cách tập trung vào một số ý nghĩa nhất định của ý thức hoặc bằng cách tập trung đồng thời vào tất cả ý nghĩa của ý thức. Trong phần tiếp theo, chúng tôi tập trung vào ý thức hiện tượng và khám phá xem liệu máy móc có thể trải nghiệm thế giới một cách phi thường hay không.

Giới thiệu về môi trường

Bộ phận của sinh vật có thể được sử dụng trong quá trình nhận thức thế giới bên ngoài được gọi là môi trường của nó. Ví dụ, võng mạc của con người phản ứng với ánh sáng có bước sóng 380nm–740nm, nghĩa là võng mạc có thể cảm nhận được quang phổ từ xanh lam đến đỏ. Nếu không có sự hỗ trợ của công nghệ bên ngoài, con người không thể phát hiện được ánh sáng hồng ngoại (>740nm) hoặc tia cực tím (<380nm) ngoài dải bước sóng này. Chúng ta cũng có một môi trường tương tự về thính giác, cảm giác cơ thể và cảm giác tiền đình, cụ thể là miền thính giác tương ứng (tai người có thể nghe được âm thanh từ 20 Hz đến 20.000 Hz), miền cảm giác cơ thể (con người có thể phân biệt các kích thích trong khoảng 1 mm của một số bộ phận nhất định của cơ thể) và miền tiền đình (cấu trúc 3D của các ống bán khuyên của con người được kết nối với nhau để mang lại cho chúng ta cảm giác cân bằng bên trong). Đồng thời, các loài khác trong tự nhiên có khả năng phát hiện tín hiệu ở các dải khác của phổ điện từ. Ví dụ, ong có thể nhìn thấy ánh sáng trong phạm vi tia cực tím và rắn có thể phát hiện tín hiệu bức xạ hồng ngoại bên cạnh các tín hiệu hình ảnh truyền thống hơn.

Nói cách khác, Cơ thể và bộ não của các loài động vật khác nhau có thể cảm nhận môi trường xung quanh với độ nhạy khác nhau. Nhà tâm lý học người Mỹ Gibson gọi khả năng hành động của một sinh vật trong một môi trường cụ thể là "khả năng chi trả" (với sự thâm nhập của công nghệ Internet, khả năng chi trả đã bắt đầu được sử dụng để giải thích việc ứng dụng công nghệ kỹ thuật số trong thực tiễn truyền thông và tương tác hàng ngày của con người).

Theo định nghĩa này, môi trường của LLM là gì? LLM có khả năng chi trả gì? Theo bản chất của thiết kế thuật toán, LLM chỉ có chế độ mã hóa nhị phân, chỉ có thể nhận đầu vào thông tin nhị phân và thực thi thêm thuật toán mạng vốn có trong cấu trúc máy biến áp phức tạp, cấu thành nên kiến ​​trúc hoạt động của LLM ngày nay. Mặc dù việc truyền nơ-ron thần kinh cũng có thể mã hóa các tín hiệu tương tự đến thành tín hiệu số (tức là tín hiệu nhị phân), luồng thông tin được truyền đến LLM có tính trừu tượng cao và bản thân các luồng thông tin có tính trừu tượng cao này không có bất kỳ kết nối chặt chẽ nào với thế giới bên ngoài. Văn bản và giọng nói được mã hóa dưới dạng chuỗi chữ cái đơn giản là không thể sánh được với tính phức tạp năng động của thế giới tự nhiên, tức là môi trường của LLM (thông tin nhị phân được cung cấp cho nó) về cơ bản khác với thông tin đi vào não và trải nghiệm tiếp theo khi chúng ta mở mắt hoặc giao tiếp trong một cuộc trò chuyện. Các tài liệu triết học truyền thống đã nhấn mạnh tính độc đáo của các luồng thông tin giữa các loài (ví dụ: sự khác biệt giữa con người và loài dơi) và đặc điểm hiện tượng học của những trải nghiệm này. Chúng tôi tin rằng thông tin đầu vào mà LLM thu được có thể cho thấy những khác biệt đáng kể hơn, mặc dù hiện tại không có phương pháp chính xác nào để định lượng sự khác biệt này.

Nói như vậy, đầu vào của hệ thống trí tuệ nhân tạo chắc chắn sẽ trở nên phong phú hơn trong tương lai. LLM trong tương lai có thể được trang bị các loại đầu vào khác nhau phù hợp hơn với các loại tín hiệu (tức là số liệu thống kê về thế giới tự nhiên) mà các tác nhân có ý thức có thể truy cập hàng ngày. Vì vậy, liệu môi trường có sẵn cho các hệ thống trí tuệ nhân tạo trong tương lai có rộng hơn môi trường dành cho con người không?

Khi trả lời câu hỏi này, chúng ta phải nhận ra rằng trải nghiệm có ý thức và tiềm thức của con người không chỉ được xác định bởi thông tin đầu vào từ giác quan. Ví dụ, hãy tưởng tượng rằng khi chúng ta đang nằm trong bể phao, chúng ta vẫn có ý thức mặc dù thiếu trải nghiệm giác quan bình thường. Điều này nhấn mạnh khái niệm rằng môi trường giả định trước một quan điểm chủ quan vốn có, tức là bắt đầu từ một chủ thể. Tương tự như vậy, khả năng chi trả phụ thuộc vào đặc tính bên trong của đối tượng, cụ thể là động cơ và mục tiêu của đối tượng. Điều này có nghĩa là ý thức không thể phát sinh từ môi trường (dữ liệu đầu vào cho LLM). Do đó, việc chỉ cung cấp cho hệ thống AI một luồng dữ liệu khổng lồ sẽ không khiến hệ thống thông minh tự nhận thức được.

Quan điểm này có thể khiến chúng ta phải suy nghĩ lại về một số giả định cơ bản trong khoa học về ý thức. Cụ thể, khi các hệ thống trí tuệ nhân tạo dần thể hiện những khả năng ngày càng phức tạp, các nhà nghiên cứu sẽ phải đánh giá lại sự cần thiết của các quá trình liên quan đến bản thân và tác nhân cơ bản hơn được đề xuất bởi một số lý thuyết về ý thức đối với sự xuất hiện của ý thức.

Sự "Tích hợp" của Ý thức

Hiện tại, đã có nhiều nghiên cứu tương quan thần kinh về ý thức trong cộng đồng học thuật, trong đó có nhiều lý thuyết khác nhau về mạch thần kinh xử lý ý thức. Một số nhấn mạnh rằng ý thức được củng cố bởi mạng lưới vỏ não-vỏ não dày đặc, có tính kết nối cao. Mạng lưới vỏ não bao gồm các vùng vỏ não, các kết nối vỏ não và các phần nhô ra khác nhau của các hạt nhân đồi thị cao hơn đến các vùng vỏ não. Cấu trúc cụ thể này của hệ thống vỏ não hỗ trợ quá trình xử lý suy nghĩ lặp đi lặp lại và phức tạp làm nền tảng cho ý thức và sự tích hợp của nhận thức (tức là Ý thức được thống nhất mặc dù phát sinh ở các vùng não khác nhau). Tuy nhiên, các lý thuyết khác nhau có quan điểm khác nhau về cách đạt được sự tích hợp của ý thức.

Theo lý thuyết không gian làm việc nơ-ron thần kinh toàn cầu (GNW), ý thức dựa vào không gian làm việc trung tâm bao gồm các hệ thống vỏ não trán đỉnh phân bố. Không gian làm việc này tích hợp thông tin từ các bộ xử lý vỏ não cục bộ và sau đó phân phối nó trên toàn cầu đến tất cả các bộ xử lý cục bộ vỏ não, với việc phân phối toàn cầu phân biệt các quá trình có ý thức và vô thức. Các lý thuyết khác về ý thức cho rằng sự tích hợp của ý thức đạt được nhờ các quá trình thần kinh khác. Ví dụ, lý thuyết tích hợp đuôi gai (DIT) cho thấy sự tích hợp ý thức xảy ra thông qua hiện tượng đồng bộ hóa tần số cao giữa các vùng vỏ não khác nhau. Tùy thuộc vào vùng vỏ não liên quan, hiện tượng này có thể liên quan đến các chức năng khác nhau bao gồm nhận thức, nhận thức hoặc lập kế hoạch vận động.

▷ Hình 2: Sơ đồ cấu trúc thần kinh của sự tích hợp ý thức dựa trên lý thuyết tích hợp đuôi gai thần kinh (DIT) Nguồn: TrendsinNeuros khoa học

Lưu ý: Trong lý thuyết DIT (Hình 2), các nhà nghiên cứu tin rằng sự tích hợp ý thức toàn cầu cũng phụ thuộc vào sự tích hợp cục bộ của các tế bào thần kinh hình chóp lớp 5 của vỏ não, là những tế bào thần kinh kích thích lớn chiếm vị trí trung tâm trong cả mạch vỏ não và vỏ não. Loại tế bào thần kinh này có hai cấu trúc chính (Hình 2, hình trụ màu cam và màu đỏ), mỗi cấu trúc xử lý các loại thông tin hoàn toàn khác nhau: cấu trúc cơ bản (màu đỏ) xử lý thông tin cơ bản bên ngoài, trong khi cấu trúc đỉnh (màu cam) xử lý thông tin được tạo ra bên trong. Theo lý thuyết DIT, ở trạng thái ý thức, hai cấu trúc này được ghép nối với nhau, cho phép thông tin chảy qua các vòng đồi thị-vỏ não và vỏ não-vỏ não, từ đó đạt được sự tích hợp thông tin và tạo ra ý thức trên toàn hệ thống.

Điều đáng chú ý là kiến ​​trúc của LLM ngày nay và các hệ thống trí tuệ nhân tạo khác thiếu các tính năng được các lý thuyết này nhấn mạnh: LLM hiện tại không có tế bào thần kinh hình chóp cấu trúc kép tương đương, cũng như không có kiến ​​trúc đồi thị tập trung, không gian làm việc toàn cầu hoặc nhiều tính năng của hệ thống kích thích đang trỗi dậy. Nói cách khác, các hệ thống trí tuệ nhân tạo hiện tại thiếu các đặc điểm của não mà cộng đồng khoa học thần kinh hiện đang coi là hỗ trợ cho sự xuất hiện của ý thức. Mặc dù não của động vật có vú không phải là cấu trúc duy nhất có khả năng hỗ trợ sự xuất hiện của ý thức, nhưng bằng chứng từ sinh học thần kinh cho thấy rằng sự hình thành ý thức của động vật có vú được xác định bởi các nguyên tắc cấu trúc rất cụ thể: các kết nối đơn giản giữa tế bào thần kinh tích hợp và tế bào thần kinh kích hoạt. Nói theo cấu trúc liên kết, cấu trúc của các hệ thống trí tuệ nhân tạo hiện tại cực kỳ đơn giản, đó là một trong những lý do khiến chúng ta không nghĩ rằng các hệ thống trí tuệ nhân tạo hiện tại có ý thức phi thường.

Vì vậy, liệu các mô hình AI trong tương lai cuối cùng có thể kết hợp quá trình “tích hợp” vốn là trung tâm của nhiều lý thuyết về ý thức? Để giải quyết vấn đề này, khái niệm “tích hợp” do lý thuyết GNW đề xuất cung cấp một phương pháp thực hiện tương đối đơn giản. Trên thực tế, một số hệ thống AI gần đây đã kết hợp một thứ gì đó giống như không gian làm việc toàn cầu được chia sẻ bởi các bộ xử lý cục bộ. Do quá trình tính toán chuyển giao toàn cầu có thể được thực hiện trong các hệ thống trí tuệ nhân tạo nên theo lý thuyết này, các hệ thống trí tuệ nhân tạo sử dụng phương pháp tính toán này sẽ chứa các thành phần cốt lõi của ý thức tiềm năng.

Tuy nhiên, như đã đề cập ở trên, không phải tất cả các lý thuyết về ý thức đều đồng ý rằng phương pháp tích hợp này là chìa khóa cho sự xuất hiện của ý thức. Ví dụ, lý thuyết thông tin tích hợp về ý thức cho rằng các hệ thống trí tuệ nhân tạo dựa trên phần mềm được triển khai trên các máy tính hiện đại điển hình không thể có ý thức vì các máy tính hiện đại không được thiết kế phù hợp để đạt được khả năng suy luận nhân quả cần thiết để tích hợp đầy đủ thông tin. Do đó, chúng tôi sẽ xem xét khả năng thứ ba, đó là về nguyên tắc, ý thức có thể đạt được nhưng nó có thể yêu cầu mức độ tính toán cụ thể vượt xa các hệ thống trí tuệ nhân tạo hiện tại (và có thể cả tương lai).

Ý thức là một quá trình sinh học phức tạp

Việc hình thành ý thức không chỉ phụ thuộc vào kiến ​​trúc của hệ thống. Ví dụ, khi chúng ta ngủ sâu hoặc gây mê, cấu trúc của hệ thống vỏ não không thay đổi nhưng ý thức sẽ biến mất. Ngay cả trong giấc ngủ sâu, các phản ứng thần kinh cục bộ và hoạt động của dải gamma ở các vùng cảm giác cơ bản cũng tương tự như ở trạng thái ý thức. Điều này cho thấy rằng ý thức dựa vào các quá trình thần kinh cụ thể, nhưng các quá trình thần kinh này khác nhau ở não có ý thức và não vô thức.

Để minh họa sự khác biệt chi tiết giữa xử lý có ý thức và vô thức, trước tiên chúng ta hãy quay lại Lý thuyết tích hợp đuôi gai (DIT). Lý thuyết DIT kết hợp một số sắc thái sinh học thần kinh liên quan đến các quá trình thần kinh liên quan đến quá trình xử lý có ý thức và vô thức. Lý thuyết DIT đề xuất rằng sự khác biệt chính giữa quá trình xử lý có ý thức và vô thức nằm ở sự tích hợp của hai cấu trúc ngăn của các tế bào hình chóp (Hình 2). Như đã đề cập trước đó, trong quá trình xử lý có ý thức, hai cấu trúc này tương tác với nhau, cho phép toàn bộ hệ thống vỏ não xử lý và tích hợp thông tin phức tạp. Tuy nhiên, khi gây mê, nhiều loại thuốc gây mê khác nhau sẽ gây ra sự tách rời chức năng giữa hai cấu trúc của tế bào thần kinh đốt sống. Nói cách khác, mặc dù các tế bào thần kinh hình chóp này còn nguyên vẹn về mặt giải phẫu và có thể tạo ra các điện thế hoạt động, nhưng khả năng tích hợp đuôi gai của chúng bị hạn chế nghiêm trọng về mặt sinh lý, nghĩa là thông tin phản hồi từ trên xuống không thể ảnh hưởng đến quá trình xử lý. Các nghiên cứu đã chỉ ra rằng sự ghép đuôi gai này được điều khiển bởi các thụ thể metabotropic, tuy nhiên cấu trúc này thường bị bỏ qua trong các mô hình tính toán và mạng lưới thần kinh nhân tạo. Hơn nữa, các nghiên cứu đã chỉ ra rằng các hạt nhân đồi thị cao hơn sẽ kiểm soát hoạt động của thụ thể metabotropic này trong tình trạng này. Do đó, các quá trình sinh học thần kinh cụ thể có thể chịu trách nhiệm bật và tắt ý thức trong não. Điều này cho thấy chất lượng trải nghiệm trong não động vật có vú có liên quan phức tạp đến các quá trình cơ bản tạo ra ý thức.

Mặc dù những lập luận lý thuyết này đủ thuyết phục nhưng chúng gần như chắc chắn mờ nhạt so với sự hiểu biết đầy đủ về sự phức tạp của các quá trình thần kinh hình thành nên ý thức. Những giải thích hiện tại của chúng ta về ý thức dựa trên các lý thuyết như không gian làm việc toàn cầu, thông tin tích hợp, xử lý theo chu kỳ, tích hợp đuôi gai, v.v., nhưng các quá trình sinh học tạo ra ý thức thực sự có thể phức tạp hơn nhiều so với những lý thuyết này được hiểu hiện nay. Thậm chí có khả năng là các ý tưởng ở cấp độ tính toán trừu tượng hiện đang được sử dụng để cấu trúc các cuộc thảo luận về nghiên cứu ý thức có thể đơn giản là không tính đến các chi tiết tính toán cần thiết để giải thích ý thức.

Nói cách khác, sinh học rất phức tạp và hiểu biết hiện tại của chúng ta về tính toán sinh học còn hạn chế (Hình 3), vì vậy có lẽ chúng ta thiếu các công cụ toán học và thí nghiệm phù hợp để hiểu về ý thức.

TA GPH27▷Hình 2: Sơ đồ cấu trúc thần kinh của sự tích hợp ý thức dựa trên lý thuyết tích hợp đuôi gai thần kinh (DIT) Nguồn: TrendsinN eurosciences

Lưu ý: Trong lý thuyết DIT (Hình 2), các nhà nghiên cứu tin rằng sự tích hợp ý thức toàn cầu cũng phụ thuộc vào sự tích hợp cục bộ của các tế bào thần kinh hình chóp lớp 5 của vỏ não, là những tế bào thần kinh kích thích lớn chiếm vị trí trung tâm trong cả mạch vỏ não và vỏ não. Loại tế bào thần kinh này có hai cấu trúc chính (Hình 2, hình trụ màu cam và màu đỏ), mỗi cấu trúc xử lý các loại thông tin hoàn toàn khác nhau: cấu trúc cơ bản (màu đỏ) xử lý thông tin cơ bản bên ngoài, trong khi cấu trúc đỉnh (màu cam) xử lý thông tin được tạo ra bên trong. Theo lý thuyết DIT, ở trạng thái ý thức, hai cấu trúc này được ghép nối với nhau, cho phép thông tin chảy qua các vòng đồi thị-vỏ não và vỏ não-vỏ não, từ đó đạt được sự tích hợp thông tin và tạo ra ý thức trên toàn hệ thống.

Để hiểu rõ hơn về độ phức tạp sinh học, cần nhấn mạnh rằng các quá trình sinh học xảy ra ở cấp độ tế bào và hệ thống được mô tả ở trên phải xảy ra trong cơ thể sống và cả hai không thể tách rời. Các sinh vật sống khác với máy móc và thuật toán AI ngày nay ở chỗ chúng có thể liên tục duy trì bản thân ở các cấp độ xử lý khác nhau. Hơn nữa, các hệ thống sống có lịch sử tiến hóa và phát triển nhiều mặt, và sự tồn tại của chúng phụ thuộc vào hoạt động của chúng ở nhiều cấp độ tổ chức. Ý thức có mối liên hệ mật thiết với việc tổ chức các hệ thống sống. Tuy nhiên, điều quan trọng cần lưu ý là các máy tính ngày nay không có khả năng nắm bắt được sự phức tạp về mặt tổ chức của các hệ thống sống (tức là sự tương tác giữa các cấp độ khác nhau của hệ thống). Điều này cho thấy rằng các thuật toán trí tuệ nhân tạo hiện đại không có bất kỳ ràng buộc nào ở cấp độ tổ chức và không thể hoạt động hiệu quả như một hệ thống sống. Điều này có nghĩa là chừng nào AI còn dựa trên phần mềm thì nó có thể không phù hợp để có ý thức và trí thông minh.

Khái niệm về độ phức tạp sinh học cũng có thể được phản ánh ở cấp độ tế bào. Tế bào thần kinh sinh học không chỉ là một thực thể trừu tượng có thể được nắm bắt hoàn toàn trong một vài dòng mã. Ngược lại, tế bào thần kinh sinh học có tổ chức nhiều lớp và dựa vào các tầng tiếp theo của các quá trình sinh lý phức tạp bên trong tế bào thần kinh. Lấy "chu trình Krebs" làm ví dụ. Nó là cơ sở của hô hấp tế bào và là quá trình quan trọng trong việc duy trì cân bằng nội môi tế bào. Hô hấp tế bào là một quá trình sinh học quan trọng cho phép tế bào chuyển đổi năng lượng được lưu trữ trong các phân tử hữu cơ thành dạng năng lượng mà tế bào có thể sử dụng. Tuy nhiên, quá trình này không thể “nén” vào phần mềm vì các quá trình sinh lý như hô hấp tế bào cần phải dựa trên các phân tử vật lý thực sự. Tất nhiên, điều này không có nghĩa là ý thức cần có một "chu trình Krebs", nhưng nó nhấn mạnh rằng quá trình tìm hiểu ý thức có thể liên quan đến những thách thức tương tự, tức là có lẽ ý thức không thể tách rời khỏi cơ chế cơ bản.

Tuy nhiên, chúng tôi không hoàn toàn đồng ý rằng ý thức không thể được tạo ra bởi các hệ thống thông minh, nhưng chúng ta phải xem xét mối tương quan giữa ý thức và tổ chức sinh học phức tạp đằng sau sự sống. Kiểu tính toán nắm bắt được bản chất của ý thức có thể phức tạp hơn nhiều so với hiểu biết lý thuyết hiện tại của chúng ta (Hình 3). Gần như không thể "sinh thiết" ý thức và loại bỏ nó khỏi các mô. Ý tưởng này mâu thuẫn với nhiều lý thuyết hiện nay về ý thức, cho rằng ý thức có thể nảy sinh ở cấp độ tính toán trừu tượng. Bây giờ giả định này cần được cập nhật trong bối cảnh các hệ thống trí tuệ nhân tạo hiện đại: để hiểu đầy đủ về ý thức, chúng ta không thể bỏ qua sự phụ thuộc lẫn nhau trên quy mô chéo và sự phức tạp về tổ chức được quan sát thấy trong các hệ thống sống.

Mặc dù các hệ thống AI bắt chước các đối tác sinh học của chúng ở cấp độ điện toán mạng, nhưng trong các hệ thống này, tất cả các cấp độ xử lý khác trong các quá trình sinh học có liên quan chặt chẽ đến ý thức trong não đều đã bị loại bỏ. Do đó, các hệ thống AI hiện tại có thể đã tự trừu tượng hóa ý thức. Bằng cách này, LLM và các hệ thống trí tuệ nhân tạo trong tương lai có thể bị mắc kẹt trong vô số đặc điểm mô phỏng của ý thức, nhưng hoàn toàn không có bất kỳ ý thức hiện tượng nào. Nếu ý thức thực sự có liên quan đến các cấp độ xử lý khác này hoặc với sự tương tác của chúng ở các quy mô khác nhau, thì chúng ta vẫn còn lâu mới có khả năng có ý thức do máy tạo ra.

Tóm tắt

Ở đây, chúng tôi khám phá khả năng của ý thức trong LLM và các hệ thống trí tuệ nhân tạo trong tương lai từ góc độ khoa học thần kinh. Bất chấp sự hấp dẫn của chúng, LLM không có ý thức và sẽ không trở nên như vậy trong tương lai gần.

Đầu tiên, chúng tôi minh họa sự khác biệt to lớn giữa môi trường của động vật có vú ("phần nhỏ" của thế giới bên ngoài mà chúng có thể cảm nhận được) và môi trường cực kỳ nghèo nàn và hạn chế của LLM. Thứ hai, chúng tôi lập luận rằng cấu trúc liên kết của LLM, mặc dù rất phức tạp, nhưng về mặt thực nghiệm rất khác với các chi tiết sinh học thần kinh của các mạch liên quan đến ý thức của động vật có vú, và do đó không có lý do chính đáng nào để nghĩ rằng LLM có thể tạo ra ý thức phi thường (Hình 1). Hiện tại không thể trừu tượng hóa ý thức khỏi sự phức tạp của mô sinh học vốn có trong các hệ thống sống nhưng rõ ràng là không có trong các hệ thống trí tuệ nhân tạo. Nhìn chung, ba điểm mấu chốt trên khiến LLM không thể có ý thức ở dạng hiện tại. Chúng chỉ đơn giản bắt chước các đặc điểm giao tiếp bằng ngôn ngữ tự nhiên của con người được sử dụng để mô tả sự phong phú của trải nghiệm có ý thức.

Thông qua bài viết này, chúng tôi hy vọng rằng các quan điểm được nêu ra có thể có một số tác động và suy nghĩ tích cực (xem các câu hỏi chưa được giải quyết) và không chỉ thể hiện sự phản đối. Đầu tiên, những lo ngại về mặt đạo đức tiềm tàng hiện nay về khả năng tri giác của LLM mang tính giả thuyết hơn là thực tế. Hơn nữa, chúng tôi tin rằng sự hiểu biết sâu sắc hơn về những điểm tương đồng và khác biệt giữa LLM và cấu trúc liên kết não của động vật có vú có thể thúc đẩy những tiến bộ trong học máy và khoa học thần kinh. Chúng tôi cũng hy vọng sẽ thúc đẩy cộng đồng học máy và khoa học thần kinh bằng cách bắt chước các đặc điểm của tổ chức não và tìm hiểu cách các hệ thống phân tán đơn giản xử lý các luồng thông tin phức tạp. Vì những lý do này, chúng tôi lạc quan rằng sự hợp tác trong tương lai giữa các nhà nghiên cứu AI và nhà thần kinh học có thể mang lại sự hiểu biết sâu sắc hơn về ý thức.

Các câu hỏi tiếp theo chưa được giải quyết:

1. Đánh giá ý thức trong LLM và trí tuệ nhân tạo thường dựa vào các bài kiểm tra dựa trên ngôn ngữ để phát hiện ý thức. Có thể đánh giá ý thức chỉ dựa trên ngôn ngữ (tức là văn bản) không? Có đặc điểm đánh giá nào khác có thể giúp xác định liệu một hệ thống nhân tạo có ý thức hay không?

2. Cơ sở thần kinh của ý thức động vật có vú có liên quan đến hệ thống vỏ não-vỏ não. Làm thế nào hệ thống đồi thị-vỏ não có thể được triển khai trong trí tuệ nhân tạo? Những chức năng và nhiệm vụ cụ thể nào sẽ được hưởng lợi từ hệ thống vỏ não?

3. Hệ thống kích thích đi lên cũng đóng một vai trò quan trọng trong việc tạo ra ý thức ở sinh vật, đóng một vai trò phức tạp và nhiều mặt trong việc hình thành động lực học thần kinh. AI cần bắt chước các quá trình khác nhau này ở mức độ nào để đạt được lợi thế tính toán của hệ thống kích thích tăng dần?

4. Chi tiết sinh học có thể nâng cao khả năng của hệ thống AI không? Ngoài hệ thống vỏ não, đuôi gai đóng một vai trò quan trọng trong một số lý thuyết về ý thức được thảo luận trong bài viết này. Có phải đuôi gai chỉ là một yếu tố làm tăng độ phức tạp/hiệu quả tính toán của mạng lưới thần kinh sinh học hay còn hơn thế nữa?

5. Sự phức tạp về mặt tổ chức của các hệ thống sống có liên quan đến ý thức không? Các hệ thống sống bao gồm các cấp độ xử lý khác nhau tương tác với nhau. Sự phức tạp về mặt tổ chức của các hệ thống sống có thể được giải thích chi tiết hơn không? Có cần thiết phải có các khuôn khổ toán học mới để xử lý các hệ thống như vậy nhằm làm sáng tỏ hơn về các quá trình sinh học mà qua đó nhận thức có ý thức phát sinh?

6. Một số lý thuyết cho rằng ý thức và cơ quan không thể tách rời. Để hiểu ý thức phát sinh như thế nào từ hoạt động sinh học, người ta có cần hiểu tác nhân không?