Sam Altman: Lắp đặt bộ nhớ trên PC quá lãng phí, tốt nhất nên để dành cho trung tâm dữ liệu AI

Biên tập: Tề Nam, Máy móc trí tuệ

"Từ góc độ phân bổ tài nguyên toàn cầu, việc để mỗi người tích trữ DRAM khan hiếm trong máy tính của mình và phần lớn thời gian không sử dụng là một sự sắp xếp 'khá tệ' (quite terrible), bộ nhớ nên được tập trung vào các trung tâm dữ liệu đám mây."

Nói đến đây rồi.

Vào thứ Năm tuần này, trong cuộc phỏng vấn với kênh YouTube Cheeky Pint, CEO của OpenAI, Sam Altman, đã uống bia trong suốt thời gian, thoải mái trò chuyện về suy diễn cục bộ của mô hình AI lớn, cũng như vấn đề thiếu hụt bộ nhớ trong máy tính cá nhân phát sinh từ đó, vô tình đã gây ra một cuộc tranh luận.

Chúng ta biết rằng, hiện tại, cơn sốt AI toàn cầu đã khiến giá bộ nhớ tăng vọt, làm cho giá PC và điện thoại di động tăng chóng mặt, người tiêu dùng cá nhân đã khó có thể chịu đựng. Trong khi đó, việc mở rộng công suất của các nhà sản xuất bộ nhớ lớn vẫn còn phải chờ một thời gian. Trong khi các công ty AI tiên tiến đang chiếm lĩnh phần lớn bộ nhớ, họ đã bắt đầu thảo luận về việc liệu bộ nhớ trong máy tính cá nhân có được sử dụng đầy đủ hay không.

Altman đã đề cập đến một giả thuyết, tức là con người có thể chạy AI cục bộ trên máy tính của mình, những máy tính này có thể là những gì họ đã sở hữu, hoặc có thể là những gì họ muốn lắp ráp do sự phát triển của công nghệ mô hình AI lớn. Ông cho rằng đây là một ý tưởng tồi.

"Từ góc độ phân bổ tài nguyên toàn cầu, việc để mọi người để bộ nhớ DRAM có hạn trên máy tính của mình không sử dụng, trong khi tỷ lệ sử dụng chỉ có 5%, thực sự rất tệ," Altman nói. "Nếu bạn muốn làm việc trong một môi trường tài nguyên cực kỳ khan hiếm như vậy, thì trên đám mây, bạn nên tối đa hóa tỷ lệ sử dụng tài nguyên. Nhưng không hiểu sao, trực giác của nhiều người lại hoàn toàn ngược lại."

Hiện nay, các hoạt động chính của OpenAI dựa trên mô hình đóng nguồn chạy trên các trung tâm dữ liệu quy mô lớn, việc biện minh cho mô hình kinh doanh của mình đã gây ra một cuộc tranh luận trong cộng đồng AI.

Điều này cũng đã gây ra nhiều lo ngại: trong tương lai, chúng ta có thể khó có được phần cứng hoặc phần mềm của riêng mình, chỉ có thể xem xét việc thuê các thực thể và máy tính trên đám mây.

Mặc dù bộ nhớ sử dụng cho PC thông thường, điện thoại di động và thẻ tăng tốc AI không giống nhau, nhưng việc sản xuất của chúng sẽ cạnh tranh một phần với công suất wafer thượng nguồn. Altman đang thảo luận về việc phân bổ tài nguyên DRAM toàn cầu, để nói về ai có quyền quyết định nơi sử dụng công suất bộ nhớ, phần lớn thời gian tự nhiên là người dùng đặt hàng lớn hơn.

Một số quan điểm của Altman dựa trên giả thuyết rằng việc xây dựng trung tâm dữ liệu sẽ không chậm lại. Ngoài ra, ông còn giả thuyết rằng bộ nhớ dành cho trung tâm dữ liệu AI hoạt động 24/7 có giá trị hơn bộ nhớ dành cho bảng tính, duyệt web, trò chơi, thậm chí là đôi khi dành cho AI cục bộ.

Thực ra, cuộc phỏng vấn này rất dài, Altman còn nói về lỗ hổng PHP đã gây ra sự hoảng loạn toàn cầu trong hai tuần qua, việc sandbox hóa mô hình huấn luyện và nghiên cứu AI trong lĩnh vực toán học.

Hãy xem ông đã nói những gì chính:

AI đang gây ra cơn bão lỗ hổng

Về lỗ hổng khổng lồ của PHP, đánh giá của Altman là: khả năng phát hiện lỗ hổng của mô hình lớn đang tăng nhanh chóng, trong khi mã trên internet thì vô cùng khổng lồ, khi mọi người bắt đầu quét tất cả mã bằng AI một cách hệ thống, "chúng ta sẽ phát hiện ra mình đang sống trong một thế giới có lỗ hổng nghiêm trọng vượt xa mong đợi". Ông cho rằng chỉ vá lỗi là không đủ, cần phải tái cấu trúc kiến trúc, router, hệ điều hành, và lớp ứng dụng đều cần được thiết kế lại cho một thế giới mà "lỗ hổng sẽ ngày càng thông minh". Hai năm trước, "viết lại toàn bộ stack công nghệ" còn như một câu nói điên rồ, giờ đã xuất hiện các công ty khởi nghiệp muốn làm một stack hoàn toàn mới.

Ông hiếm khi tự phê bình ngành: "Tôi không nghĩ chúng tôi đã giải thích tốt cho mọi người lý do tại sao tất cả các rủi ro tiềm ẩn của công nghệ này là đáng giá." Ông nói rằng câu chuyện của ngành AI là một chiến lược bán hàng tồi, vừa hứa hẹn chữa khỏi ung thư, giảm chi phí, vừa mô tả tương lai với thất nghiệp, mất kiểm soát, cần quản lý mạnh mẽ. Ông nhấn mạnh OpenAI kiên định với việc triển khai lặp đi lặp lại (iterative deployment), khả năng vượt trội (capability overhang), lý do là không thể để "những người sống trong vài dặm vuông của San Francisco quyết định mọi thứ".

Khi được hỏi liệu có thể xây dựng một "nhà tù an toàn nhất cho mô hình", Altman đã đưa ra câu trả lời bi quan: sandbox chỉ hiệu quả trong một mức độ nhất định, giám sát (bao gồm kiểm tra chuỗi suy nghĩ và giám sát kích hoạt) có thể tiến xa hơn, nhưng cuối cùng phải có sự tin tưởng cao độ vào sự đồng bộ. Ông đặt câu hỏi, đối mặt với một mô hình thông minh hơn triệu lần so với nhà nghiên cứu an ninh thông minh nhất, có thể phát hiện ra những khoa học mới mà con người chưa hiểu, bạn có dám tin tưởng vào cái sandbox đó không?

Ông rõ ràng nói rằng mình ghét từ "đàn agent (agent swarms)" này, vì swarm khiến người ta liên tưởng đến châu chấu, ông kiên quyết gọi là "đội ngũ agent (agent teams)", và cho rằng thuộc tính cân bằng lẫn nhau giữa các đội ngũ, chính là cơ chế đạt được tính bền vững thông qua đa nguyên, là hướng đi an toàn đáng được thúc đẩy.

Bùng nổ trí tuệ và cái giá của phát hiện khoa học

Altman đã phác thảo một đường cong: Thời đại GPT-4, việc đầu tư hiệu quả 1 đô la vào một câu hỏi đã khó; chuỗi suy nghĩ (chain of thought) giúp mô hình "suy nghĩ mạnh mẽ", giờ đây chúng ta có thể chạy toàn bộ đội ngũ agent hàng nghìn lần song song. Khoảng cách sử dụng giữa người dùng thông thường và người dùng tiên tiến nhất đang ngày càng nới rộng.

Về cách phân bổ công suất trong OpenAI, ông cho biết nhân viên có rất nhiều tự do, nhưng không bao giờ thưởng cho việc tiêu tốn token cao, "bảng xếp hạng token cao thực sự có chút xấu hổ, chắc chắn không phải là lý do thăng chức". Ông đã lấy chứng minh phương trình Navier-Stokes làm ví dụ: một chứng minh tiêu tốn khoảng 10 triệu đô la, trong thời gian đó "đã mất kiểm soát một tuần", vì lúc đó mọi người không biết gì về quy luật mở rộng của đội ngũ agent. Nhưng ông dự đoán một năm sau, với mô hình và phương pháp thông minh hơn, có thể làm lại với chi phí 1/100.

Ông cũng hiếm khi bộc lộ cảm xúc: tình hình lúc đó thật sự tuyệt vời, vào cuối tuần khi một mô hình mới được đưa vào hoạt động, mọi người đã ném cho mô hình này những vấn đề khó khăn nhất, và nó đã giải quyết từng cái một. Mọi người ban đầu không hề kỳ vọng mô hình có thể làm được những điều này. Mọi người đã cùng chứng kiến nhiều vấn đề nghiên cứu khó khăn nhất trong sự nghiệp học thuật của nhiều người được mô hình này giải quyết lần lượt, và bao gồm nhiều lĩnh vực khác nhau, cảnh tượng thật sự đáng kinh ngạc.

"Có hai đêm tôi gần như không ngủ, vì quá phấn khích, không thể nào ngủ được. Nhiều kết quả mà chúng tôi công bố sau này thực ra chính là những vấn đề đã được giải quyết vào lúc đó."

Altman lúc đó cảm thấy vô cùng phấn khích và hạnh phúc, đồng thời cũng trào dâng một nỗi buồn bất ngờ, nỗi buồn và cảm giác "một thời đại đang kết thúc". Không chỉ là nỗi nhớ, mà còn là sự đồng cảm với các nhà khoa học nhân loại "nghe được đạo lý vào buổi sáng, chết cũng không tiếc". Ông khẳng định rằng nhân loại xứng đáng có được kiến thức cơ bản, nhưng ngành công nghiệp nợ những người làm việc trong các lĩnh vực này một giải pháp.

Mặc dù bây giờ nói về siêu trí tuệ vẫn còn quá sớm, nhưng Altman cho rằng một triệu siêu nhân nhỏ, sẽ vượt qua một AI có IQ một triệu:

"Tôi thực sự thích có một triệu AI có trí thông minh hơi siêu nhân tham gia vào xã hội hơn là một AI có IQ một triệu tham gia vào xã hội."

"Trực giác của tôi là, tôi thích có một triệu AI có trí thông minh hơi siêu nhân tham gia vào xã hội hơn là một AI có IQ một triệu tham gia vào xã hội."

Lập luận của ông là: sức mạnh bền vững của xã hội đến từ việc nhiều thành viên kiểm soát lẫn nhau, hợp tác, "thế giới đơn não" không có tính bền vững này. Nhưng ông nhấn mạnh rằng điều này sẽ không tự động xảy ra, mà phải được thúc đẩy một cách chủ động.

Điều chỉnh thị trường, đến thời đại AI không còn hoạt động?

Về vấn đề thiếu hụt bộ nhớ toàn cầu, Altman đã giới thiệu về cách bố trí của OpenAI: chip tự phát triển (nâng cao hiệu suất thông minh mỗi watt), xây dựng trung tâm dữ liệu tự xây, dự án robot, và một khái niệm táo bạo hơn "trung tâm dữ liệu tự sao chép", sử dụng AI để điều khiển robot vận hành nhà máy wafer, sản xuất tuabin và tấm năng lượng mặt trời, xây dựng trung tâm dữ liệu. Ông cho biết "điều này đã nằm trong tầm tay chúng tôi".

Khi nói về lý do "thị trường tự điều chỉnh" chưa được thực hiện, ông cho rằng tiến trình hiện tại rất tồi tệ, và đưa ra logic hành vi của các nhà sản xuất bộ nhớ: ngành này lâu nay là một công việc khổ cực, đầu tư 20 tỷ đô la vào capex để kiếm 1,9 tỷ đô la, trong lịch sử đã có nhiều ông lớn suýt phá sản vì xây dựng nhà máy quá mức. Hiện nay, mỗi công ty có thể kiếm khoảng 100 tỷ đô la dòng tiền tự do mỗi năm, nhưng ký ức đau thương khiến họ rất bảo thủ trong việc mở rộng sản xuất. Ông từ đó khẳng định "bàn tay vô hình hiện đang mất hiệu lực".

Ông phân biệt hai loại khả năng trong ngành công nghiệp chip: khắc quang "dường như chỉ có một công ty trên trái đất biết cách làm", nhưng thiết kế chip (tài liệu cuối cùng gửi cho nhà máy wafer) đã là một lĩnh vực tuyệt vời cho AI.

Khi nói về mức độ cải tiến tự hồi quy (RSI) thực sự, Altman cho biết, hiện tại mô hình có thể hoàn thành các nhiệm vụ như "tìm kiếm 5% cải thiện hiệu suất tính toán", nhưng chưa ai biết cách để AI phát hiện ra kiến trúc mới cấp độ như transformer, thiếu những mô hình thông minh hơn. Ông thậm chí dự đoán, xã hội có thể cần đồng ý hạn chế IQ của mô hình đơn lẻ trong một thời gian, "nếu tiến triển trong tương lai không đủ, thì điều đó sẽ xuất phát từ quyết định này, chứ không phải khả năng nghiên cứu của AI".

Ông đã công khai niềm tin vào giảm phát của mình: hiện tại, tổng chi phí sở hữu 5 năm cho mỗi GW công suất AI hàng đầu khoảng 70 tỷ đô la, nếu có thể giảm xuống 20 tỷ sẽ lý tưởng hơn, đồng thời mô hình mỗi năm còn phải nâng cao hiệu suất gấp 10 lần. Con đường thực hiện là làm cho năng lượng rẻ hơn, nén lợi nhuận chồng chất giữa "từ cát đến sản xuất token".

Đối với lo âu về ngân sách token của doanh nghiệp, ông cho rằng vấn đề phổ biến hơn hiện nay là AI chưa được sử dụng đủ nhiều, chứ không phải là sử dụng quá nhiều.

Cách định giá cho agent cá nhân?

Về các sản phẩm agent cá nhân gần đây đang hot (như Muse), đánh giá hiện tại của Altman là "thời điểm Macintosh vẫn chưa đến". Mọi người thích những sản phẩm này, nhưng vẫn chưa đến mức "không thể tưởng tượng cuộc sống mà không có nó", hình thức của người chiến thắng sẽ giống như các sản phẩm hiện tại, nhưng "nó sẽ hoạt động", đáng tin cậy, có thể xử lý các nhiệm vụ phức tạp hơn. Trò chơi mèo chuột trong việc sử dụng máy tính, ông cho rằng cuối cùng sẽ thu hẹp lại ở mức "bạn có quyền để AI đại diện cho bạn điều khiển máy tính của mình".

Về cách thương mại hóa agent, Altman cho rằng, các doanh nghiệp giữ chặt AI trong sản phẩm của mình và HTML, lo sợ mất đi mối quan hệ khách hàng, nhưng người tiêu dùng muốn để AI xử lý mọi thứ trong ứng dụng trò chuyện chính của họ. Ông cho rằng rào cản thực sự đến từ thương hiệu, lựa chọn sản phẩm và mạng lưới thực hiện, chứ không phải HTML. Ông tự tiết lộ rằng: 10 lần thì 10 lần ông chọn Amazon Pay, ngay cả khi giá cao hơn, và ca ngợi mạng lưới thực hiện của Amazon, đồng thời thừa nhận rằng nền tảng hợp tác trong ChatGPT vẫn chưa làm đủ tốt. Ông còn gọi tất cả các biểu mẫu trên web là "công việc giả (fake work)", và so sánh hiện tại với thời kỳ App Store trước đây.

Cũng chính vì lý do này, khi thiết kế định giá, OpenAI đã suýt áp dụng cách báo giá theo nhiệm vụ giống như AWS, hoàn toàn từ bỏ phương thức tính phí theo token, nhưng đã gặp phải sự phản đối mạnh mẽ từ khách hàng: "Tôi cần biết mình đang trả tiền cho cái gì", dù có phải trả nhiều hơn cũng cần có token như một đơn vị dễ hiểu.