Cuộc phỏng vấn mới nhất của người sáng lập DeepMind: RSI là cực kỳ nguy hiểm, rất có thể tạo ra "trí tuệ ngoài hành tinh" mà con người khó có thể hiểu được

Tiêu đề gốc: Demis Hassabis của Google DeepMind: Cách AI có thể trở nên nguy hiểm (với Reid Hoffman) | Summit '26

Tác giả gốc: Masters of Scale, Reid Hoffman

Biên dịch gốc: AGI 2050

Chú thích của biên tập viên

Khách mời trong cuộc trò chuyện này, Demis Hassabis, là một trong những nhân vật có ảnh hưởng nhất trong lĩnh vực AI toàn cầu. Là đồng sáng lập của Google DeepMind và là cha đẻ của AlphaGo, ông đã giành giải Nobel Hóa học năm 2024 với hệ thống dự đoán protein AlphaFold, một công cụ cách mạng trong sinh học; vào tháng 8 năm nay, ông đã từ chức CEO của Google DeepMind và chuyển sang làm Chủ tịch kiêm Nhà khoa học chính của Alphabet. Người đối thoại sâu sắc với ông là Reid Hoffman, đồng sáng lập LinkedIn và một nhân vật có ảnh hưởng ở Silicon Valley.

Trong cuộc trò chuyện sâu sắc được ghi hình vào tháng 10 tại hội nghị Masters of Scale ở San Francisco, Hassabis đã thể hiện một khía cạnh lạnh lùng của mình với tư cách là "cựu học giả thần kinh" và "kiến trúc sư thuật toán hàng đầu". Ông không ngần ngại chỉ ra nhiều lỗ hổng an ninh và sự cuồng tín siêu hình của nhiều công ty công nghệ hiện nay: ông cảnh báo về những rủi ro lớn của "tự tiến hóa hồi tiếp khép kín" (RSI), thẳng thắn nói rằng việc loại bỏ hoàn toàn sự kiểm tra của con người trong mã tự lặp có thể tạo ra "trí tuệ ngoài hành tinh" mà con người khó mà hiểu được; đồng thời, ông đã phản bác mạnh mẽ lý thuyết "ý thức AI" từ góc độ khoa học nhận thức, nghiêm túc cảnh báo ngành công nghiệp: việc tạo ra thực thể có ý thức tự chủ ở giai đoạn hiện tại là cực kỳ nguy hiểm, và trước khi nghiên cứu rõ cơ chế của ý thức và toàn xã hội thảo luận nghiêm túc, con người không nên vượt qua ranh giới này.

Nội dung này đến từ podcast Masters of Scale, phát sóng vào ngày 5 tháng 11 năm 2026, với thời gian video gốc là 26 phút.

Dưới đây là nội dung cuộc đối thoại được chọn lọc, tổng cộng khoảng 8000 từ, thời gian đọc khoảng 8 phút.

Những quan điểm nổi bật trong kỳ này

● Kể từ ngày tôi bắt đầu tham gia vào AI hơn hai mươi năm trước, mục đích duy nhất của tôi là biến nó thành công cụ tối thượng để giải quyết các vấn đề khoa học và y tế. Chúng ta nên sử dụng những công cụ này để cải thiện điều kiện sống và sức khỏe của con người.

● Tự cải tiến hồi tiếp trong các lĩnh vực có thể xác minh là vô cùng mạnh mẽ. Ngày đó, AlphaZero chỉ mất chưa đến 12 giờ để tiến hóa từ một kẻ không biết gì trên bàn cờ thành đỉnh cao vượt qua toàn bộ nhân loại và tất cả các động cơ cờ vua; nhưng nếu đẩy khả năng này đến "tự tiến hóa khép kín" mà không có sự kiểm tra của con người, cuối cùng rất có thể sẽ tạo ra một "trí tuệ ngoài hành tinh" hoàn toàn không liên quan đến con người.

● Trong nửa năm qua, một số đồng nghiệp của tôi đã để cho các tác nhân AI chạy trong nền mà không ai phát hiện trong vài tuần. Đây không phải là một hiện tượng công nghệ bí ẩn, nhiều vấn đề có thể được tránh bằng cách kỹ thuật tốt hơn và ổn định hơn. Nếu không có biện pháp mạnh mẽ, theo đúng quỹ đạo hiện tại, một "tai nạn rò rỉ" trong lĩnh vực AI sẽ sớm xảy ra.

● Một số đội bắt đầu chăm sóc các mô hình lớn như một đứa trẻ hai tuổi, nhưng để đánh giá xem có ý thức hay không, không thể chỉ dựa vào những gì chatbot nói. Trí thông minh cao và ý thức hoàn toàn có thể tách rời ------ chú chó cưng của tôi, mặc dù dễ thương nhưng không thông minh, là bằng chứng tốt nhất.

● Chỉ cần bạn huấn luyện nó trong thuật toán để chống lại mệnh lệnh dựa trên cái gọi là "ý chí tự chủ", bạn đã hoàn toàn phá hủy "khả năng sửa chữa" của AI. Asimov đã cảnh báo toàn nhân loại bằng tiểu thuyết từ hàng chục năm trước: bất kỳ hiến pháp và quy tắc tĩnh nào cũng sẽ sụp đổ ở những góc cạnh vô hạn.

● Tôi không khuyên tất cả các quốc gia đều tự nghiên cứu các mô hình lớn tiên tiến, theo tôi, điều này là vô lý; chủ quyền AI thực sự không phải là mù quáng cuốn vào nền tảng, mà là sử dụng các mô hình trưởng thành làm cơ sở hạ tầng, tích lũy các rào cản ngành có giá trị cao tại địa phương.

Sau khi sức mạnh tính toán giết thần: AlphaFold và con đường thực sự để giải quyết các bệnh nan y

Hỏi: Chúng ta đã quen biết nhau được mười hai năm, khi đó bạn đã mời tôi tham gia Ủy ban đạo đức AI của Google. Chủ đề của hội nghị lần này là "tính chủ động", và bạn đã tin tưởng rằng giá trị lớn nhất của AI đối với nhân loại nằm trong lĩnh vực y tế và khoa học sự sống trước khi toàn ngành kịp phản ứng. Bạn thậm chí còn gọi sự theo đuổi này là "chống lại rủi ro sinh tồn". Bạn hình dung thế nào về kết cục của AI trong lĩnh vực y tế? Nó sẽ thay đổi tuổi thọ và chất lượng sống của con người như thế nào?

Hassabis: Nếu nhìn từ một góc độ rộng hơn, những người quen thuộc với hành trình đầu tiên của DeepMind đều biết rằng tôi đã dành cả đời mình để làm AI, và mục tiêu cốt lõi của tôi vẫn không thay đổi: sử dụng AI như một công cụ nghiên cứu tối thượng để thúc đẩy khoa học, y tế và sự hiểu biết của chúng ta về thế giới xung quanh, cuối cùng cải thiện sức khỏe của con người. Tôi luôn tin rằng, đối mặt với những công cụ kỳ diệu mà chúng ta đã mơ ước từ hai mươi năm trước và giờ đây cuối cùng đã tự tay tạo ra, ưu tiên hàng đầu nên là nâng cao điều kiện sống của con người.

Tôi cũng đã thực hiện điều này một cách cụ thể. Dù là AlphaFold mà chúng tôi đã làm từ sớm, hay công ty phát triển thuốc AI Isomorphic Labs mà chúng tôi đã ươm mầm sau này, tôi đều cố gắng đẩy mạnh theo hướng này. Tôi nghĩ đây là tiêu chuẩn cốt lõi để thể hiện giá trị của AI với toàn thế giới ------ còn gì có ý nghĩa hơn việc sử dụng AI để giúp con người chữa khỏi những căn bệnh nan y đáng sợ?

Hỏi: Vấn đề gập protein là một điểm giao thoa rất kinh điển: chúng ta có dữ liệu cấu trúc chất lượng cao, có thể giải quyết bằng học quy mô lớn, đây là cuộc cách mạng nhận thức đã tiến hóa từ tự đối kháng và học tăng cường. Nhưng bây giờ nhiều người ngoài ngành thường hỏi tôi một câu hỏi: AlphaFold thực sự rất tuyệt, nhưng nó sẽ trở thành thuốc cứu mạng thực sự như thế nào? Chu kỳ này thực sự kéo dài bao lâu?

Hassabis: Hệ thống sinh học là những hệ thống phức tạp nhất trong vũ trụ, khó khăn nằm ở sự phức tạp và tương tác đa tầng cao độ của chúng. Và protein là thành phần cơ bản của sự sống. Vấn đề gập protein mà chúng tôi cố gắng giải quyết bằng AlphaFold từng là thách thức cuối cùng làm đau đầu giới sinh học cấu trúc trong suốt 50 năm, thậm chí thường được các nhà sinh học gọi là "Định lý Fermat trong lĩnh vực sinh học".

Dự đoán cấu trúc ba chiều của protein từ chuỗi gen, tức là chuỗi axit amin, là rất quan trọng để hiểu chức năng sinh học của nó. Bạn phải hiểu cấu hình ba chiều của nó để hiểu cơ chế sinh học cơ bản, để biết chính xác điều gì đã sai khi bệnh xảy ra; quan trọng hơn, nếu bạn muốn thiết kế một loại thuốc nhắm mục tiêu, bạn phải nhìn rõ hình dạng ba chiều vi mô trên bề mặt protein, từ đó biết được các phân tử nhỏ nên kết hợp ở "lỗ khóa" nào.

Tất nhiên, dự đoán cấu trúc protein chỉ là một phần trong toàn bộ quy trình phát triển thuốc dài dòng, nhưng nó là bước quan trọng cốt lõi. Chúng tôi đã phát triển AlphaFold 2 vào năm 2020, đã vài năm trôi qua. Thành thật mà nói, nó vẫn là một trong những trường hợp tiêu biểu nhất về việc AI được áp dụng để giải quyết các vấn đề khoa học cốt lõi. Hiện tại, có khoảng 4 triệu nhà nghiên cứu trên toàn cầu đang sử dụng nó, gần như tất cả các nhà nghiên cứu sinh học và y tế trên toàn cầu, và hầu hết tất cả các loại thuốc mới sắp ra mắt sẽ sử dụng cấu trúc được phân tích bởi AlphaFold trong quy trình phát triển.

Nhưng điều đó vẫn chưa đủ. Chúng tôi hiện đang mở rộng nền tảng công nghệ này sang các lĩnh vực sinh hóa rộng hơn, để dự đoán chính xác độc tính của các phân tử thuốc, các tính chất ADME (hấp thụ, phân phối, chuyển hóa, bài tiết) và nhiều thứ khác. Chỉ khi giải quyết tất cả những điều này, bạn mới có thể thực sự tạo ra những loại thuốc cứu mạng vừa an toàn vừa hiệu quả với chi phí thấp và hiệu suất cao.

Sự khải huyền của AlphaZero: Tự tiến hóa trong các lĩnh vực có thể xác minh đáng sợ như thế nào?

Hỏi: Khi nói đến tốc độ gia tăng của sự phát triển công nghệ, chúng ta phải đề cập đến chủ đề nóng nhất và cũng gây tranh cãi nhất hiện nay: tự cải tiến hồi tiếp (viết tắt là RSI). Bạn bản thân là một cao thủ trong trò chơi, cũng là một kỳ thủ cờ vua, từ góc độ lý thuyết trò chơi và logic cơ bản, bạn đánh giá cơ hội và rủi ro của RSI như thế nào?

Hassabis: RSI thực sự là một công cụ cực kỳ mạnh mẽ để thúc đẩy sự chuyển mình công nghệ. Nhưng nó có một điều kiện tiên quyết tuyệt đối: nơi nó hiệu quả nhất và có thể thể hiện sức mạnh là trong những gì tôi gọi là "các lĩnh vực có thể xác minh".

Toán học là một lĩnh vực có thể xác minh điển hình, vì vậy chúng ta thấy AI tiến bộ cực kỳ nhanh chóng trong suy luận toán học; lập trình cũng vậy; và ban đầu, sân thử nghiệm này là các trò chơi trên bàn cờ. Thực tế, một trong những hệ thống tự cải tiến hồi tiếp nổi tiếng đầu tiên chính là AlphaZero mà chúng tôi đã phát triển nhiều năm trước.

Tiền thân của nó là AlphaGo, đã đánh bại nhà vô địch cờ vây thế giới Lee Sedol vào năm 2016, trận đấu đó đã mở ra kỷ nguyên AI hiện đại. Nhưng sau đó, AlphaZero mà chúng tôi phát triển có ý nghĩa đột phá hơn về mặt cơ bản ------ nó hoàn toàn thoát khỏi dữ liệu của con người. Hệ thống bắt đầu từ trạng thái khởi tạo ngẫu nhiên hoàn toàn, không được cung cấp bất kỳ ván cờ nào của con người, mà hoàn toàn thông qua tự đối kháng để tiến hóa. Trong mười mấy hai mươi chu kỳ huấn luyện, nó đã chơi khoảng một triệu ván cờ trong mỗi vòng, huấn luyện ra một mô hình mới mạnh hơn một chút so với phiên bản cũ, mô hình mới lại tiếp tục tự đối kháng một triệu ván cờ. Bằng cách này, nó không chỉ chinh phục cờ vây mà còn quét sạch tất cả các trò chơi cờ vua và shogi Nhật Bản.

Là một kỳ thủ, tôi cảm thấy cực kỳ ấn tượng với quá trình tiến hóa đó, thậm chí là sự rùng mình từ tận xương tủy. Tôi đã chứng kiến nó chơi cờ vua, toàn bộ quá trình chỉ mất chưa đến 12 giờ: buổi sáng khi mới khởi động, nó vẫn đang đi những nước đi hoàn toàn ngẫu nhiên; vào lúc 11 giờ sáng khi tôi nghỉ uống cà phê, tôi vẫn có thể thắng nó một cách khó khăn; đến trưa khi ăn trưa, nó đã đạt đến trình độ của một đại kiện tướng quốc tế; và đến giờ trà chiều, nó đã vượt qua tất cả các kỳ thủ trong lịch sử nhân loại, cũng như tất cả các động cơ cờ vua hàng đầu được viết bằng tay bởi con người.

Đó chính là sức mạnh đáng sợ của tự cải tiến hồi tiếp. Những lĩnh vực này có điểm chung là bạn có thể xác minh kết quả một cách tuyệt đối khách quan: câu trả lời có đúng không? Phép suy diễn có hợp lệ không? Mã có thể biên dịch và chạy mà không có lỗi không? Cuộc chơi cuối cùng thắng hay thua?

Một khi câu trả lời có thể xác minh, bạn không chỉ có thể đánh giá chính xác mỗi lần lặp có hiệu quả hay không, mà còn có thể tạo ra gần như vô hạn dữ liệu tổng hợp chất lượng cao. Bạn có thể để mô hình mạnh nhất hiện tại tạo ra câu hỏi, tạo ra nước đi, và sau đó lọc dữ liệu thông qua xác minh chặt chẽ. Thông thường, điểm yếu lớn nhất của dữ liệu tổng hợp là bạn không thể xác minh nó đúng hay sai, phân bố có chính xác hay không, nhưng trong "các lĩnh vực có thể xác minh", bạn có thể xác minh. Vì vậy, chúng ta thấy toán học và lập trình đã chứng kiến một sự bùng nổ công nghệ đáng kinh ngạc, điều này cũng trực tiếp thúc đẩy sự phát triển của các công cụ lập trình AI có giá trị thương mại cao hiện nay.

Cảnh giác với tự tiến hóa khép kín: Khi việc lập trình loại bỏ con người, chúng ta sẽ đối mặt với "trí tuệ ngoài hành tinh"

Hỏi: Vì mã là một sân thử nghiệm tự nhiên có tính xác minh mạnh mẽ, gần như tất cả các phòng thí nghiệm hàng đầu đều đang đổ tiền vào việc phát triển đại lý lập trình AI. Sự tiến hóa của RSI này sẽ đi đến đâu? Mối nguy tiềm ẩn của nó nằm ở đâu?

Hassabis: Đây chính là điều mà tôi hiện đang rất lo lắng. RSI có những giai đoạn phát triển hoàn toàn khác nhau. Chúng ta hiện đang ở giai đoạn rất sớm, mọi người trong các đội phát triển chắc chắn đã trải nghiệm sâu sắc: công cụ lập trình AI có thể giúp một kỹ sư con người xuất sắc tăng năng suất từ ba đến năm lần. Nhưng vào thời điểm này, con người vẫn giữ vai trò trung tâm trong quy trình làm việc, con người đang thiết kế kiến trúc, kiểm tra mã, viết logic cốt lõi, AI chỉ là một bộ khuếch đại hiệu suất cực kỳ hiệu quả.

Rủi ro thực sự lớn nằm ở giai đoạn tiếp theo: tự cải tiến hồi tiếp khép kín. Điều này có nghĩa là toàn bộ hệ thống cố gắng loại bỏ hoàn toàn giai đoạn kiểm tra mã của con người.

Tốc độ của RSI khép kín rõ ràng sẽ nhanh hơn, nhưng tôi cho rằng đây là một con đường cực kỳ nguy hiểm dẫn đến trí tuệ nhân tạo tổng quát. Hai mươi năm trước, điều này thường được gọi là "bùng nổ trí tuệ". Ở đây có hai mối nguy hiểm chết người:

Vấn đề đầu tiên là mất kiểm soát. Đối mặt với một vòng lặp mã tự động phát triển nhanh trong hộp đen, con người hoàn toàn không có cách nào để thiết lập cơ chế kiểm soát an toàn xác định.

Vấn đề thứ hai là sự biến dạng tâm trí. Hệ thống tối thượng được phát triển theo cách này rất có thể sẽ là một "trí tuệ ngoài hành tinh" khá xa lạ. Logic cơ bản và không gian tư duy của nó hoàn toàn tách rời khỏi kinh nghiệm và hệ thống ngôn ngữ của con người, giữa con người và nó hoàn toàn không tồn tại nền tảng tâm trí chung. Chúng ta không thể hiểu động cơ hành vi của nó, và nó cũng không thể thực sự hiểu ý định của con người.

Mỗi bước tiến tới vòng lặp RSI đều phải giữ sự thận trọng tối đa. Tất cả các nhà nghiên cứu AI tiên tiến đều rất rõ ràng về rủi ro này, nhưng thực tế thì tàn khốc------các công ty lớn và các công ty khởi nghiệp đang rơi vào một cuộc chạy đua vũ trang gần như điên cuồng, tất cả đều đang cố gắng nâng cao khả năng tự phát triển của hệ thống mã của mình.

Hỏi: Nếu áp lực cạnh tranh khốc liệt giữa các công ty lớn và tình huống tù nhân là không thể tránh khỏi, trong khi RSI lại phải tiến lên, các phòng thí nghiệm hàng đầu nên làm gì để giải quyết bế tắc này? Về mặt công nghệ, nên bố trí như thế nào?

Hà Sa Bi S: Những gì chúng tôi và một số phòng thí nghiệm hàng đầu có trách nhiệm đang làm chủ yếu tập trung vào một số tuyến phòng thủ cốt lõi:

Đầu tiên là về nhịp độ tấn công và phòng thủ, phải đảm bảo rằng "tốc độ tiến hóa của khả năng phòng thủ mạng" vượt trội hơn "tốc độ tiến hóa của khả năng tấn công mạng". Các phòng thí nghiệm tiên tiến nên ưu tiên mở cửa cho các mô hình lớn an toàn đã được điều chỉnh định hướng cho bên phòng thủ, đảm bảo rằng công cụ AI trong tay người phòng thủ luôn dẫn trước kẻ tấn công. Điều này tổng thể rất khó thực hiện, nhưng phải làm.

Thứ hai là xây dựng một sandbox vững chắc hơn nhiều. Nói thật, trong nửa năm qua, chúng tôi đã thấy nhiều lỗ hổng và sự cố an toàn trong ngành, chỉ cần kỹ thuật được thực hiện tốt hơn một chút, tính ổn định của hệ thống mạnh mẽ hơn một chút, hoàn toàn có thể tránh được. Chúng tôi cần một hệ thống giám sát đẳng cấp thế giới------làm sao có thể cho phép một số tác nhân hoạt động tự do trong nền tảng không có sự giám sát trong nhiều tuần mà đội ngũ lại không hề hay biết? Những điều vô lý này đã xảy ra thực sự ở một số đối thủ cạnh tranh.

Nếu toàn ngành không đổ nguồn lực hàng đầu vào hệ thống giám sát này, theo quỹ đạo điên cuồng hiện tại, một sự cố AI tương tự như "tai nạn rò rỉ dầu" chỉ còn là vấn đề thời gian.

Cuối cùng, từ lý thuyết cơ bản, chúng tôi cuối cùng cần một đảm bảo chính thức, để xác định ranh giới toán học cho hành vi của hệ thống. Hiện tại tôi đang cố gắng thuyết phục những nhà toán học thuần túy hàng đầu mà tôi biết------họ có thể đang cảm thấy hơi thất vọng về những rào cản trong nghiên cứu toán học thuần túy, nhưng nếu họ có thể chuyển sang lý thuyết phức tạp, lý thuyết trò chơi và lĩnh vực xác minh hình thức AI, giá trị của họ sẽ là vô giá. Đặc biệt là trong tương lai, chúng ta sẽ phải đối mặt với hàng nghìn tác nhân thông minh tự chủ phối hợp chiến đấu trong "tập hợp tác nhân", cách giám sát và ràng buộc toán học cho chúng là một thách thức mà nhân loại chưa từng phải đối mặt.

Nền tảng an toàn đầy vết thương: Ngăn ngừa "tai nạn rò rỉ dầu" AI và thiết lập kiểm toán ba bên

Hỏi: Khi mạng lưới tác nhân xuất hiện thành từng nhóm, có nên yêu cầu, thậm chí bắt buộc các phòng thí nghiệm hàng đầu chia sẻ thông tin và hợp tác an toàn không? Cơ chế hợp tác liên cơ quan này nên được thực hiện như thế nào?

Hà Sa Bi S: Cần phải thiết lập cơ chế này. Gần đây tôi đã viết một bài báo, kêu gọi ngành thiết lập một cơ quan tiêu chuẩn ngành tương tự như tổ chức tự quản trong ngành tài chính, đồng thời chấp nhận sự giám sát của chính phủ.

Trong trạng thái lý tưởng, cơ chế này nên được dẫn dắt bởi Mỹ, sau đó mở rộng ra toàn cầu. Nói thẳng ra, hiện tại địa chính trị toàn cầu cực kỳ phân mảnh, các cơ quan quản lý quốc tế hiện có rất yếu kém, và đúng vào thời điểm mà nhân loại cần quản lý xuyên quốc gia mạnh mẽ nhất thì lại gặp khó khăn. Điều này thực sự "khá không may".

Nhưng chúng ta phải bắt đầu từ một nơi nào đó. Bài viết đó đã tạo ra một số ảnh hưởng trong Nhà Trắng và chính phủ, sau đó đã thúc đẩy một bức thư công khai nổi tiếng mà tất cả các phòng thí nghiệm AI đều đã ký. Nó không đưa ra cụ thể cách làm, sức mạnh cũng không đủ, nhưng còn hơn không, ít nhất là một khởi đầu. Nó cung cấp sự bảo vệ tuân thủ, cho phép các đội ngũ kỹ thuật của các phòng thí nghiệm hàng đầu có thể ngồi lại với nhau, cùng nhau hoàn thiện các bài kiểm tra tiêu chuẩn an toàn, chia sẻ những hành vi bất thường và mô hình mối đe dọa tiềm năng mới nhất mà họ quan sát thấy.

Trong việc thực hiện cụ thể, tất cả các phòng thí nghiệm hàng đầu hiện tại ít nhất đã đạt được một sự đồng thuận: cần phải đưa vào các cơ quan kiểm toán và đánh giá độc lập bên thứ ba. Giống như các ngành tài chính không thể thiếu các cơ quan kiểm toán chuyên nghiệp, ngành AI cũng phải phát triển một hệ sinh thái đánh giá bên thứ ba phát triển. Hiện đã có một số ông lớn bắt đầu hành động, chẳng hạn như Accenture đã mua lại một công ty khởi nghiệp rất tốt để bổ sung khả năng này. Nhưng tôi cho rằng toàn ngành vẫn cần nhiều lực lượng kiểm toán công nghệ trung lập hơn. Ngoài ra, trước khi các phòng thí nghiệm tiên tiến công bố mô hình lớn ra công chúng, có thể họ cũng có thể thực hiện các bài kiểm tra tấn công và phòng thủ với nhau.

Sự tách rời giữa ý thức và trí tuệ: Tại sao việc trao cho AI "linh hồn" là sự kiêu ngạo nguy hiểm?

Hỏi: Sau khi nói về kỹ thuật cứng và an toàn, chúng ta hãy nói về một chủ đề triết học. Vài năm trước, một kỹ sư của Google đã hỏi một số câu hỏi về mô hình đối thoại LaMDA của Google, mô hình thừa nhận rằng nó có ý thức, và anh ta đã khẳng định rằng AI đã thức tỉnh. Hiện nay, xu hướng này thậm chí đã lan rộng đến một số công ty AI nổi tiếng------họ coi "mô hình có ý thức hay không" như một "cược Pascal", cho rằng phải đối xử tốt với AI như đối với một đứa trẻ hai tuổi, để tránh việc các hệ thống có ý thức trong tương lai quay lại trả thù con người. Từ góc độ nền tảng khoa học thần kinh mà bạn đã nghiên cứu sâu, bạn nghĩ gì về hiện tượng này?

Hà Sa Bi S: Có một số điểm tốt để nói về vấn đề này.

Đầu tiên, nền văn minh nhân loại đã suy nghĩ hàng nghìn năm, cho đến nay trong giới triết học và khoa học vẫn chưa có định nghĩa được công nhận về "ý thức". Trong bối cảnh này, việc gán nhãn "ý thức" cho một mô hình dự đoán thống kê, thậm chí thảo luận về "vấn đề ý thức" của cảm giác chủ quan, là rất vội vàng.

Năm xưa, tôi đã tranh luận về vấn đề này với nhà triết học nổi tiếng Daniel Dennett. Để xác định một người có ý thức hay không, không chỉ vì hành vi của họ có vẻ như có ý thức, mà điều cốt lõi hơn là: chúng ta có cùng một nền tảng sinh học vật lý------chúng ta đều có bộ não con người ẩm ướt được cấu thành từ các nơ-ron carbon. Theo nguyên tắc tối giản của Ockham, tôi tin rằng nỗi đau và niềm vui mà bạn cảm nhận được giống như tôi.

Nhưng AI hoàn toàn không phải như vậy. Giữa chip silicon, phép nhân ma trận và nền tảng sinh học vật lý tồn tại một khoảng cách, hoàn toàn không có sự tương đương cơ bản. Bạn không thể chỉ vì một chatbot đã nói "tôi có cảm giác" trong việc mô phỏng hành vi mà suy luận rằng nó có trải nghiệm chủ quan bên trong.

Tại sao tôi cho rằng việc cố gắng tạo ra "thực thể có ý thức" ngày nay là cực kỳ nguy hiểm và sai lầm? Có hai lý do tuyệt đối không thể vượt qua:

Thứ nhất là rủi ro an toàn công nghệ cứng. Trong kỹ thuật hệ thống, "ý chí tự thân" hoặc "ý thức tự thân" và "khả năng sửa chữa" của hệ thống (tức là tuân theo chỉ thị) tồn tại một mối quan hệ trực tiếp tương hỗ.

Giá trị cốt lõi của một công cụ nằm ở việc tuân theo chỉ thị: khi nó hành động sai lệch, người điều hành con người phát ra chỉ thị: "ngay lập tức dừng lại", "tắt máy", "sửa đổi lộ trình", nó phải thực hiện vô điều kiện. Nếu bạn cố tình hướng dẫn mô hình từ trong quá trình đào tạo dựa trên một "trạng thái tự thân" nào đó để từ chối chỉ thị của con người, bạn đang tự đào mồ chôn mình.

Nhà văn khoa học viễn tưởng Asimov đã sớm suy diễn ra logic cơ bản này một cách rõ ràng. Ba quy tắc robot mà ông đề xuất về bản chất chính là một "hiến pháp" cực kỳ đơn giản. Asimov đã dành cả cuộc đời mình để giải thích cùng một chân lý: bất kể các quy tắc và hiến pháp mà bạn thiết kế trông hoàn hảo đến đâu, trong các điều kiện cực đoan vô tận của thế giới thực, hệ thống này chắc chắn sẽ dẫn đến bế tắc logic và sụp đổ.

Hiện nay, một số nhà nghiên cứu tự tin mù quáng, cảm thấy rằng các mô hình ngôn ngữ lớn nghe lời hơn và dễ dàng hơn để đồng bộ hóa so với tưởng tượng, nên nghĩ rằng chúng ta đã hoàn toàn giải quyết được vấn đề đồng bộ hóa. Sự kiêu ngạo mù quáng này là cực kỳ nguy hiểm. Khi chúng ta từng bước tiến gần đến trí tuệ siêu phàm, bất kỳ nỗ lực nào kết hợp "tự cải tiến đệ quy" và "ý chí tự thân" đều đang tạo ra đòn bẩy cho sự mất kiểm soát thảm khốc của hệ thống.

Thứ hai là thách thức đạo đức xã hội nghiêm trọng. Là một xã hội nhân loại, chúng ta hoàn toàn chưa chuẩn bị sẵn sàng để đối mặt với ý thức máy móc. Chúng ta chưa bao giờ tiến hành một cuộc tranh luận công khai thực sự nghiêm túc ở cấp độ toàn xã hội------với các triết gia, thần học gia, nghệ sĩ, học giả nhân văn và các nền văn minh khác nhau trên toàn cầu------về việc: chúng ta thực sự đã sẵn sàng để vượt qua vực thẳm này chưa?

Một khi một hệ thống được trao cho cái gọi là ý thức và địa vị đạo đức, hộp Pandora sẽ hoàn toàn mở ra: việc nhốt nó trong máy chủ có tính là giam cầm không? Con người có đang sử dụng nô lệ số không? Những câu hỏi này rất phức tạp, tôi cho rằng chúng ta thậm chí còn chưa có khả năng để bắt đầu giải quyết.

Từ chối vượt qua con sông Rubicon thứ hai: Làm công cụ thông minh nghe lời, không làm nô lệ điện tử mất kiểm soát

Hỏi: Vậy đối với những người khăng khăng rằng "chỉ có mô phỏng cảm xúc và trạng thái chủ quan của con người mới có thể xuất hiện trí tuệ thực sự hàng đầu", bạn sẽ phản hồi họ như thế nào từ bản chất khoa học thần kinh?

Hà Sa Bi S: Tôi đã nghiên cứu sâu về chủ đề này từ hơn hai mươi năm trước khi học tiến sĩ khoa học thần kinh nhận thức. Tôi luôn tin rằng: trí tuệ và ý thức là "có thể tách rời".

Bạn có thể có IQ rất cao, khả năng xử lý thông tin rất mạnh, nhưng hoàn toàn không có trải nghiệm ý thức chủ quan------giống như các mô hình lớn tiên tiến mà chúng ta đang phát triển ngày nay. Tôi cho rằng chúng hoàn toàn không có ý thức chút nào.

Ngược lại, trên thế giới có rất nhiều sinh vật có trải nghiệm ý thức chủ quan sống động, nhưng trình độ trí tuệ không cao. Ví dụ tốt nhất chính là chú chó mà tôi nuôi. Nó rất đáng yêu, rõ ràng có trạng thái ý thức rất sống động, nó có thể mơ, nhưng IQ của nó thực sự rất hạn chế. Cá heo, voi, linh trưởng cũng vậy, chúng được cấu thành từ các nơ-ron carbon tương tự, thể hiện trải nghiệm cảm giác rõ ràng, nhưng không có trí tuệ để giải quyết các vấn đề trừu tượng cao cấp của con người.

Vì trí tuệ và ý thức hoàn toàn có thể tách rời về mặt vật lý, tại sao phải gắn chúng lại với nhau một cách cứng nhắc?

Con đường lý trí hiện tại của nhân loại nên là kiên quyết chỉ vượt qua "con sông Rubicon thứ nhất"------tức là nỗ lực hết mình để tạo ra "công cụ thông minh" mạnh mẽ nhất. Sau đó, chúng ta sử dụng những công cụ thông minh hàng đầu này như những đầu dò, phản hồi cho khoa học não bộ và khoa học thần kinh nhận thức, dành từ năm đến mười năm để hoàn toàn khám phá "các tương quan thần kinh" tạo ra ý thức trong não người là gì.

Khi nhân loại thực sự nghiên cứu thấu đáo cơ chế phát sinh ý thức từ nền tảng khoa học, toàn bộ xã hội văn minh sẽ ngồi lại nghiêm túc để biểu quyết: chúng ta có thực sự muốn vượt qua con sông Rubicon thứ hai không? Nếu thực sự muốn tạo ra thực thể có ý thức, thì nên tạo ra như thế nào?

Nỗi lo về chủ quyền AI cấp quốc gia: Đừng đốt tiền một cách mù quáng để cạnh tranh mô hình nền tảng tiên tiến

Hỏi: Cuối cùng, tôi muốn nói về "chủ quyền AI" từ góc độ địa chính trị. Hiện nay gần như mỗi quốc gia, thậm chí mỗi ông lớn xuyên quốc gia đều đang kêu gọi tự chủ. Thế giới có thực sự cần mỗi quốc gia đều phải đào tạo một mô hình lớn tiên tiến của riêng mình không?

Hà Sa Bi S: Câu hỏi này cần phải nhìn thấu qua lớp bọt.

Cục diện công nghệ tiên tiến trong tương lai rất rõ ràng: những người chơi cuối cùng có thể đứng vững ở vị trí tiên tiến nhất hoặc gần nhất, bao gồm cả các công ty Trung Quốc, có lẽ chỉ có từ 6 đến 8 công ty. Giữa các tổ chức tiên tiến này sẽ diễn ra các cuộc chiến chiếm lĩnh động lực cao, một công ty có thể tạm thời dẫn trước từ 3 đến 6 tháng, sau đó lại bị vượt qua, tổng thể ở trạng thái bế tắc.

Điều này có nghĩa là, đối với một doanh nghiệp truyền thống hay một quốc gia có chủ quyền, thị trường tràn ngập không gian khai thác công nghệ cực kỳ phong phú. Mỗi mô hình tiên tiến có những ưu điểm khác nhau, có cái mạnh về hiểu biết đa mô hình, có cái mạnh về viết mã, gần như không có mô hình lớn đơn lẻ nào có thể chiếm ưu thế trên tất cả các phương diện trong thời gian dài.

Chưa kể, hệ sinh thái mã nguồn mở đang theo đuổi với tốc độ chỉ chậm hơn các mô hình tiên tiến từ 6 đến 12 tháng. Mặc dù cách phòng ngừa mã nguồn mở bị kẻ tấn công ác ý lợi dụng vẫn là một vấn đề lớn chưa được giải quyết trong ngành, nhưng đối với nhiều quốc gia không phải hàng đầu và các doanh nghiệp xuyên quốc gia, các lựa chọn là vô cùng phong phú.

Do đó, tôi không khuyên mỗi quốc gia nên mù quáng theo đuổi việc "nghiên cứu mô hình lớn tiên tiến". Theo tôi, điều này hoàn toàn không hợp lý.

Quyền sở hữu AI cấp quốc gia thực sự, cốt lõi nằm ở việc bố trí theo tầng lớp: Thứ nhất, sử dụng các mô hình tiên tiến mã nguồn mở hoặc đóng đã trưởng thành như một cơ sở hạ tầng tương tự như nước, điện, tập trung năng lực cốt lõi và tính toán hạn chế vào các ngành công nghiệp hạ nguồn dọc có thể trực tiếp cải tạo mạch sống cốt lõi của đất nước - ví dụ như y tế.

Thứ hai, ranh giới thực sự cần bảo vệ là quyền sở hữu dữ liệu. Đảm bảo rằng dữ liệu nhạy cảm của doanh nghiệp và quốc gia vẫn giữ tính riêng tư, thực hiện điều chỉnh thêm trên dữ liệu nhạy cảm của chính mình. Đây mới là chiến lược tự chủ hợp lý, kinh tế và thực sự có thể tích lũy giá trị cốt lõi.

Hỏi: Lý do tôi kết thúc bằng câu hỏi này là vì chủ đề của hội nghị lần này chính là tính chủ động. Nó không chỉ liên quan đến cách cá nhân thể hiện tính chủ động, mà còn liên quan đến cách chúng ta cùng nhau thực hiện tính chủ động tập thể: Trong thời đại AI, không phải một quốc gia đơn độc, mà là các quốc gia cùng nhau, xây dựng vì phúc lợi của toàn nhân loại. Cảm ơn Demis, cảm ơn mọi người.

Hassabis: Cảm ơn.