华为云徐强：大模型混合云，加速企业智能化转型

12月24日，由湘潭钢铁集团有限公司联合湖南华菱云创数智科技有限公司、中国信息通信研究院、华为技术有限公司举办的“走进湘钢・行业智能化高端研讨会”隆重举行。会上，华为混合云数据智能领域总经理徐强发表了题为《大模型混合云加速企业智能化转型》的演讲，分享了华为云大模型混合云在项目实践中的成果与思考。

华为混合云数据智能领域总经理徐强

徐强表示，钢铁行业大模型应用是一个复杂系统工程，还面临诸多困难和挑战。尤其是在AI平台，企业需要构建一个高效的开发“流水线”，让模型开发工作由浅入深，由表及里。华为云推出业界首个大模型混合云华为云Stack，通过坚实算力底座、使能百模千态、赋能千行万业，帮助企业一站式建设自己的专属大模型。

大模型混合云，加速智能跃迁

随着人工智能技术的不断突破，行业专属大模型日渐成为政企智能化的主要落地方向。因兼顾数据安全与隐私、训推效率与开发成本，混合云成为行业大模型落地的最优解，正迅速应用在金融、矿山、政务、制造等多个领域。

华为云坚持AI for Industry，推出盘古大模型5.0，并深入生产一线与客户联合创新，帮助行业“解难题、做难事”。同时，面向政府、金融、钢铁、矿山等行业大型政企客户，华为云提供华为云Stack方案，并于2023年推出业界首个大模型混合云，通过坚实算力底座、使能百模千态、赋能千行万业三大能力，帮助企业一站式建设自己的专属大模型，加速智能跃迁。

今年6月，华为云发布大模型混合云十大创新技术，包括多样性算力调度、云边协同、AI-Native存储、增强AI网络、算子加速、全链路数据工程、统一数据编码、精细视觉神经网络、无感断点续训、安全护栏，从基础设施、算法架构和工程能力多维度创新，解决数据安全、训推效率及开发成本等问题，让技术不难用。

重塑AI开发平台，让大模型落地更高效

徐强指出，人工智能从“小模型”向“大模型”演进，给AI平台带来了新的挑战。在大模型时代，需要应对大规模数据中心的集群性能、向量数据处理、自动运维等问题，对存储与网络输出速率、自动化调度及容错能力也提出了更高要求。这意味着尤其是在AI平台，企业需要构建一个高效的开发“流水线”，让模型开发工作由浅入深，由表及里。

基于此，华为云Stack提供ModelArts一站式AI开发平台，面向数据工程师、模型工程师、应用工程师等不同类型的开发者，提供基础平台、数据工程、模型训练、模型推理、模型评测、资产管理、RAG工程、Agent工程等八大能力，让大模型构建、训练和部署更简单。

基础平台服务：通过对基础平台底座持续瘦身，实现从通算到智算平滑演进，资源平台服务化，实现算力高效管理。针对AI大模型在数据准备、模型训练、部署运营等环节存在的数据安全风险，ModelArts一站式AI开发平台提供大模型混合云安全解决方案，端到端防护满足合规要求；此外通过ManageOne云管平台以及昇腾云脑、CCAE实现分钟级感知任务异常，支持跨域监控运维，训推资源0隐患。

数据工程服务：数据质量对模型的成功至关重要。ModelArts将智能能力融入数据加工、数据标注、数据评估和数据发布全流程，实现AI for Data。例如数据标注环节，基于AI4Data的预置脚本快速实现数据的智能标注和模板化处理；数据评估也支持人工评估和自动评估，最后在发布环节还支持数据胶囊，确保数据的端到端安全性。

模型训练服务：平台提供全场景、零代码、高可靠的模型训练体验，让企业在平台上一站式训练专属模型。提供增训和微调两种训练模式，适配领域知识从零构建和特定任务优化全场景训练任务；开放兼容，业界唯一兼容5类模型训练，预置20多个场景化训练工作流。在训练任务管理上，平台提供业界领先的SFS Turbo加速、断点续训能力，保证训练高效率、高可靠。

模型推理服务：平台支持多场景的部署形态，通过云边协同架构，可以实现中心训练、边缘推理，同时异常及时回传实现常训常新。通过训推共池，利用智能调度算法实现资源的动态分配与高效利用，提升算力利用率。

模型评测服务：平台提供完整的评测标准、数据与方案，自动化率达70%以上，提供多个评测任务的切分并行管理，提高评测执行效率。

资产管理服务：平台提供资产、角色、空间三大模块，适配企业级工程化开发，满足内部分工管理诉求。

RAG工程服务：平台提供多模态智慧搜索能力，通过大模型与语义检索以及向量数据库结合，替换原来人为检索、整合多源信息的过程，降低人力开销，提升人员工作效率。

Agent工程服务：将AI和业务逻辑灵活组合，实现分钟级创建行业应用。支持0代码开发，Prompt模板可以智能生成和填充，执行效率能够提升50%，成功率提升5%；而且涵盖知识问答、接口调用、数据分析和代码助手4大类场景应用，企业可以使用可视化、托拉拽、预置10多个编排组件，5分钟完成1个原生AI应用创建。

深入行业场景，重塑千行万业

大模型想要在行业实现应用，场景化能力必不可少。今年9月，华为云发布大模型混合云TopN场景，首批面向5大行业，共计发布20个领域、80多个行业场景基线。并且发布的场景基线都是基于已落地的项目，有方案、有服务、有伙伴，能够广泛推广和复制。

徐强还选取几个典型场景介绍了大模型混合云在场景化方面的实践。在钢铁行业，针对钢铁热轧宽展预测场景，华为云Stack基于数据工程套件帮助钢铁企业打造包含时序数据、工艺参数在内的高质量数据集，通过盘古预测大模型进行预训练，只需要3-4小时就可以完成参数的精准预测。

在油气行业，针对测井流体识别场景，盘古预测大模型仅需小样本数据训练，即可实现从小范围解释，向跨区块的高泛化智能解释跃升，精度达到了95%，并让每个区块解释耗时从周降低到天。

在煤炭行业，掘进工作面是矿山最危险的作业场所，需多人、多工序协同配合。华为掘进面作业序列智能监测方案以机器视觉目标识别和动作检测技术为基础，结合传感及设备运行状态数据实现对掘进面作业的智能化分析、告警提醒及联动控制能力，实现了关键工序的全时段全方位自动监管，保障安全高效生产。

在政务办公领域，通过华为云政务办公大模型，为每位公务员打造了专属的智能办公助手，实现了“一句话”办事、办文、办会的极致体验，办事效率大幅提升，拟文效率提升3倍，纪要效率提升2倍以上。

最后，徐强表示：“未来已来，华为云大模型混合云坚持三件事情——坚实算力底座、使能百模千态、赋能千行万业，希望与各位伙伴一起探索更多有价值的场景，为国家从工业大国到工业强国的转变贡献自己的力量。”