DeepSeek khung suy diễn mã nguồn mở toàn diện DeepInfer tương thích với Huawei Ascend

DeepSeek thông báo đã mở mã nguồn hoàn toàn cho khung suy diễn nội bộ DeepInfer, và đồng thời mở mã nguồn cho thành phần mã hóa và giải mã Token cấp sản xuất deepseek-recipe. DeepInfer tích hợp các toán tử hiệu suất cao và động cơ suy diễn tối ưu sâu, hỗ trợ suy diễn phân tán, giải mã suy đoán, SWA Bounded Replay và đầu ra có cấu trúc, tương thích với nền tảng của NVIDIA và Huawei Ascend.

DeepSeek cho biết, đã dựa trên DeepInfer để triển khai dịch vụ suy diễn quy mô lớn với thông lượng cao và độ trễ thấp cho DeepSeek V4.1 Flash, mã suy diễn và tối ưu cho các mô hình mới trong tương lai cũng sẽ được cập nhật liên tục tại đây. deepseek-recipe hoàn toàn đồng bộ với logic xử lý API chính thức của DeepSeek, nhằm đảm bảo cộng đồng có được trải nghiệm nhất quán với triển khai chính thức. Kho mã nguồn mở và báo cáo kỹ thuật đã được phát hành đồng thời.