DeepSeek оголошує про відкриття вихідного коду DeepGEMM

Deepseek оголосила про відкриття вихідного коду DeepGEMM на третій день Тижня відкритого коду. DeepGEMM — це бібліотека, спеціально розроблена для лаконічного та ефективного множення загальних матриць (GEMM) у форматі FP8 з можливостями тонкого масштабування, як запропоновано в DeepSeek-V3. Вона підтримує як звичайні, так і згруповані GEMM з використанням Mixture of Experts (MoE). Бібліотека написана на CUDA, не вимагає компіляції під час встановлення та компілює всі ядра під час виконання за допомогою легкого модуля Just-In-Time (JIT). Бібліотека FP8GEMM забезпечує підтримку навчання та інференсу V3/R1.