DeepSeek công bố mã nguồn mở DeepGEMM
Deepseek đã công bố mã nguồn mở của DeepGEMM vào ngày thứ ba của Tuần lễ Mã nguồn mở. DeepGEMM là một thư viện được thiết kế đặc biệt cho phép nhân ma trận tổng quát (GEMM) FP8 ngắn gọn và hiệu quả, với khả năng mở rộng chi tiết, như được đề xuất trong DeepSeek-V3. Nó hỗ trợ cả GEMM nhóm thông thường và Mixture of Experts (MoE). Thư viện được viết bằng CUDA, không yêu cầu biên dịch trong quá trình cài đặt và biên dịch tất cả các kernel trong thời gian chạy bằng cách sử dụng một mô-đun Just-In-Time (JIT) nhẹ. Thư viện FP8GEMM cung cấp hỗ trợ cho huấn luyện và suy luận V3/R1.
Tuyên bố miễn trừ trách nhiệm: Mọi thông tin trong bài viết đều thể hiện quan điểm của tác giả và không liên quan đến nền tảng. Bài viết này không nhằm mục đích tham khảo để đưa ra quyết định đầu tư.
Bạn cũng có thể thích
Thịnh hành
ThêmGiá tiền điện tử
Thêm
