Day-0支持:摩尔线程完成智谱GLM-5.2极速适配
科技
科技 > 人工智能 > 正文

Day-0支持:摩尔线程完成智谱GLM-5.2极速适配

6 月 17 日消息,智谱今日宣布上线并开源 GLM-5.2。在全球百万用户参与盲测的前端开发评估系统 Code Arena 上,GLM-5.2 取得全球可用模型第一的表现。摩尔线程今日宣布在 AI 训推一体全功能 GPU 智算卡 MTT S5000 上,完成对智谱新一代开源旗舰模型 GLM-5.2 的 Day-0 极速适配

据介绍,摩尔线程技术团队基于 SGLang-MUSA 推理引擎及 TileLang-MUSA 算子编程语言,完成了模型结构适配、关键算子优化、框架拉起与部署验证,在 MTT S5000 上实现 GLM-5.2 的高效、高精度推理。摩尔线程还表示,MTT S5000 从硬件算力、软件栈到开源框架进行了全链路适配与深度优化:

支撑超长上下文

GLM-5.2 的 Solid 1M 上下文与长程任务能力,使长 Prompt 编码、上下文读入与 KV Cache 生成成为推理链路中的关键环节。长输入请求在进入生成阶段前,需要先完成大规模 Prefill 计算;这一阶段高度依赖并行矩阵计算、Attention 算子效率、显存容量与访存带宽。

MTT S5000 凭借硬件级原生 FP8 加速,单卡稠密算力高达 1000 TFLOPS,配备 80GB 大容量显存与 1.6TB/s 超高带宽,可在长输入 Prefill 阶段集中释放高吞吐优势,为百万 token 级上下文处理提供充足缓存空间和稳定数据吞吐。依托 MUSA C++、Triton-MUSA 与 TileLang-MUSA 等工具链,GLM-5.2 相关算子结构可快速迁移并针对长序列场景持续优化,帮助降低长上下文请求的首 Token 等待时间(TTFT),提升 AI Coding、RAG 和长文档分析等场景的在线推理效率。

赋能前沿 Coding 与 Agent 能力

面向 GLM-5.2 重点强化的编程、智能体和长程任务场景,摩尔线程基于 GLM 家族多代模型的适配与优化经验,将模型结构适配、算子优化、框架拉起和部署验证能力快速迁移至 GLM-5.2。通过原生算子定制、TileLang-MUSA 编程优化和 SGLang-MUSA 推理框架协同,MTT S5000 能够在保障模型精度的前提下提升推理吞吐、降低响应延迟,为客户提供面向 AI Coding、Agent 工作流和长文档分析的高效推理服务。

IT之家附开源链接如下:

GitHub:https://github.com/zai-org/GLM-5

Hugging Face:https://huggingface.co/zai-org/GLM-5.2

ModelScope:https://modelscope.cn/models/ZhipuAI/GLM-5.2

亲爱的凤凰网用户:

您当前使用的浏览器版本过低,导致网站不能正常访问,建议升级浏览器

第三方浏览器推荐:

谷歌(Chrome)浏览器 下载

360安全浏览器 下载