Huang Renxun: Các trạm phát sóng viễn thông trong tương lai có khả năng phát triển thành mạng lưới AI phân tán, tất cả các nhà cung cấp dịch vụ viễn thông sẽ cung cấp sức mạnh tính toán AI
Vào ngày 21 tháng 10, Giám đốc điều hành của NVIDIA, Huang Renxun, đã phát biểu tại hội nghị GTC tổ chức tại Berlin rằng trong tương lai, tất cả các nhà cung cấp dịch vụ viễn thông sẽ cung cấp sức mạnh AI, và các trạm phát sóng viễn thông có khả năng phát triển thành mạng AI phân tán. Ông so sánh kinh tế AI với một chiếc bánh năm tầng được cấu thành từ năng lượng, sức mạnh tính toán, nhà máy AI, mô hình và ứng dụng, và trong buổi trình bày, ông chỉ ra rằng chỉ có biểu tượng của công ty NVIDIA xuất hiện ở tầng sức mạnh tính toán. Các tầng khác bao gồm các công ty năng lượng như Siemens Energy, Schneider Electric, nhà thầu xây dựng nhà máy AI Nscale và Firebird, cũng như các công ty mô hình AI châu Âu như Mistral, công ty AI pháp lý Legora và công cụ dịch thuật DeepL. Huang Renxun cũng cho biết, chi phí xây dựng một trung tâm dữ liệu 1 GW hiện khoảng 50 tỷ USD, bao gồm chi phí đất đai, điện, xây dựng, thiết bị tính toán, lưu trữ và làm mát.
Trong khi đó, NVIDIA đã ra mắt nhà máy AI DSX Pod, tăng tốc triển khai cơ sở hạ tầng AI ở châu Âu; DSX Pod có thể rút ngắn thời gian triển khai xuống còn nhanh nhất là 14 ngày; hệ sinh thái công nghiệp châu Âu hợp tác với NVIDIA DSX để tạo ra nhà máy AI có hiệu suất năng lượng cao nhất toàn cầu.
Theo thông tin, nền tảng nhà máy AI DSX của họ sử dụng làm mát bằng nước kín và bộ làm mát khô, giảm lượng nước làm mát xuống gần như bằng không, có thể tiết kiệm lên đến 54 triệu lít nước mỗi ngày ở quy mô 2 GW. Phần mềm DSX MaxLPS có thể giúp các nhà cung cấp giảm tối đa 30% mức tiêu thụ điện năng với cùng một đầu ra token.
NVIDIA đã ra mắt kiến trúc tham chiếu OpenShell, tích hợp cơ sở hạ tầng Vera Rubin, bộ xử lý trung tâm Vera (CPU), bộ xử lý dữ liệu BlueField-4 (DPU) và phần mềm thời gian chạy an toàn OpenShell, giúp các doanh nghiệp xây dựng, vận hành và quản lý các tác nhân AI quy mô lớn, đồng thời thực hiện giám sát và ràng buộc an toàn đối với hành vi của chúng. Kiến trúc này liên tục giám sát hành vi của các tác nhân thông qua khung an toàn NVIDIA Sentry chạy trên BlueField-4 và thực hiện các chính sách an toàn ở cấp độ phần cứng. Khi các tác nhân cố gắng vượt qua các ranh giới do phần mềm thiết lập, hệ thống có thể cách ly và ngừng hoạt động trong vòng mili giây. NVIDIA cho biết, hệ thống Vera Rubin NVL72 có thể đạt được thông lượng mỗi megawatt gấp 30 lần so với trước đây dưới tải công việc của các tác nhân, và NVIDIA Sentry có thể nâng cao khả năng chịu tải của các tác nhân lên tối đa 20%. Kiến trúc này hỗ trợ các môi trường doanh nghiệp như Linux, Kubernetes, Microsoft Windows và có thể mở rộng đến các thiết bị biên. Các công ty như Microsoft, Google Cloud, Dell Technologies, Cisco, OpenAI, Anthropic đang tham gia hợp tác liên quan.
Cập nhật trong.......