DeepSeek开源第三弹：开源FP8通用矩阵乘法库DeepGEMM
下载客户端
独家抢先看
独家抢先看
鞭牛士 2月26日消息，DeepSeek公布开源周第三天的开源项目——DeepGEMM。
据介绍，DeepGEMM是一个支持密集型和混合专家（MoE）通用矩阵乘法（GEMM）运算的 FP8 通用矩阵乘法库，它为V3/R1模型的训练和推理提供支持。
DeepGEMM在英伟达Hopper系列GPU上可实现高达1350以上的FP8每秒万亿次浮点运算（TFLOPS）；完全即时编译；核心逻辑代码约300行——但在大多数矩阵规模下，其性能超过了经过专家优化调整的内核；支持密集型布局以及两种混合专家（MoE）布局。
“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。
Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”
推荐0
为您推荐
算法反馈已显示全部内容
精品有声
热门文章
精彩视频
凤凰网科技官方微信
