华为云发布大模型混合云十大创新技术-华为云模型训练

小稿 • 2024年9月21日上午1:51 • 投稿

[中国，东莞，2024年6月22日]今日，在华为开发者大会2024期间，以“大模型混合云，十大创新技术引领政企智能升级”为主题的高峰论坛成功举办。会上，华为主机上云军团CEO、混合云总裁尚海峰发布大模型混合云十大创新技术，通过聚焦根技术突破，帮助政企客户抓住大模型战略机遇，加速迈向智能世界。

尚海峰表示：“大模型的创新除了模型本身，更要脚踏实地深入千行万业，创造业务价值。华为云Stack将持续围绕AI-Native开展系统性创新，在场景上广泛探索，在技术上形成突围，携手共赢AI的黄金时代。”

华为主机上云军团CEO、混合云总裁尚海峰

大模型混合云成为最优解

大模型技术正在催生新一轮的技术创新和产业变革，行业专属大模型正在成为大模型应用落地的重要方向。

作为大模型行业应用的主力军和排头兵，政企客户通常业务场景复杂多样，对数据安全、训推效率和开发成本都有极致的要求。能够兼顾安全合规与成本的大模型混合云，正在成为越来越多企业的优先选择。

2023年，华为云推出业界首个大模型混合云华为云Stack，帮助企业一站式建设自己的专属大模型。

第一，坚实算力底座：华为云Stack从计算、存储、网络、安全和运维5大维度打造坚实的算力底座。在算力层面，通过多样性算力调度和算子加速能力，实现异构算力融合，算力利用率提升50%以上；结合高性能存储的多层缓存机制、高吞吐无阻塞AI网络，让算力发挥最大价值；四道大模型安全防线，可以智能拦截90%新兴攻击；打破硬件、模型、应用碎片化的运维体系，实现全链路可观测，故障1分钟发现、10分钟定界、30分钟恢复。

第二，使能百模千态：华为云Stack提供ModelArts一站式开发平台，支持大规模异构集群调度管理、分布式训练、云边协同部署及全流程工作流，并提供模型开发套件、全链路数据工程套件、应用开发套件3大套件，加速数据、模型、应用的一站式开发。同时，华为云Stack原生集成超过30个业界主流的基础模型，实现开箱即用。

第三，赋能千行万业：华为云Stack将与政企客户联合创新中的经验和能力固化下来，形成6大阶段30多个专业服务，覆盖大模型从规划设计到建设运营的全流程，让大模型从可用到好用。

10大创新技术发布！

大模型的应用是一个复杂的系统工程，不仅仅在于单点技术的持续演进，更需要基于场景和需求匹配合适的技术，通过全链路、多技术融合的系统性创新整体推进。峰会上，尚海峰正式发布大模型混合云十大创新技术，包括：多样性算力调度、云边协同、AI-Native存储、增强AI网络、算子加速、全链路数据工程、统一数据编码、精细视觉神经网络、无感断点续训、安全护栏，覆盖从云基础设施到AI开发平台以及模型层，通过系统性创新加速政企大模型应用进程。

随后，华为混合云数智领域总经理徐强结合动画演示向大家详细介绍大模型混合云十大创新技术。徐强在演讲中表示：“华为云Stack将持续深耕根技术，帮助更多的政企客户，建好大模型、用好大模型、加速迈向智能世界！”

华为混合云数智领域总经理徐强

四项全能，构筑最佳云化算力底座

随着大模型能力不断变强，模型参数不断增加，对端、边、云算力协同的整体架构设计提出了更高的要求。华为混合云CTO刘征辉在会上发表《打造最优混合云底座，使能大模型创新》主题演讲。

华为混合云CTO刘征辉

刘征辉表示，依托全系列产品研发经验，华为云Stack通过系统性创新，为政企客户打造大规模、高性能、高可靠、云边协同四项全能的云化算力底座，加速大模型应用进程。

在大规模方面，华为云Stack支持大规模AI集群和大容量训练数据，支撑千亿模型训练集群部署。

在高性能方面，无阻塞互联RoCE网络可实现训练效率提升50%，利用高性能存储的多层缓存机制，小文件加载效率提升了20倍。

在高可靠方面，通过软硬协同分钟级故障感知定界，实现月级长稳训练；智能化的运维管理，覆盖80%+故障场景、提升故障恢复能力，结合业界最成熟的安全运营方案、全覆盖的AI数据安全方案以及最高安全等级的算力平台，打造高安全算力。

在云边协同方面，华为云Stack提供多种边缘轻量化部署形态，AI高效赋能生产场站；并通过多云合一的管理架构，多云择优的调度策略实现多云算力管理。

深入场景，共筑商业成功

华为云持续深入行业场景，理解业务痛点，采用系统化思维，联合客户、开发者、同行、合作伙伴等上下游，持续构筑大模型的商业成功。目前，华为云Stack大模型混合云已应用于政府、金融、煤矿、交通、电力等10多个行业。

在政府，华为云联合广州、绍兴、深圳福田等客户一起基于大模型探索提升政务服务效率，优化城市管理。

广州市政务服务和数据管理局副局长梁文谦发表《数智引领未来，AI共绘蓝图》主题演讲。梁文谦表示，广州政数局勇于探索，实现算力、数据、算法三位一体协同发展，通过模式创新、技术引领，实现广州跨越式发展，老城市焕发新活力，打造数字经济引领型国际一流智慧城市。

广州市政务服务和数据管理局副局长梁文谦

目前，广州联合华为等头部企业，成立数字广州创新实验室，率先启动大模型合作创新。在政务服务领域，推进“智能办公”“智能导办”等大模型试点应用场景落地，构建市区统筹的一体化大模型开发运营平台；实现政务事项精准问询导办，边聊边办，24小时服务不打烊；办公全程有帮手，智能生成摘要，推荐历史审批数据，实现辅助批示，整体办公效率大幅提升，加速实现国际一流智慧城市发展目标。

在工业，华为云联合鄂尔多斯、山能等客户，探索通过矿山大模型加云边协同帮助矿山增安提效，同时推进矿山大模型、工业互联网平台的融合发展，赋能矿山产业集群的智能化。

鄂尔多斯市创新投资集团有限公司副总经理廉咏梅出席峰会并发表演讲。廉咏梅在演讲中分享，为了加速煤矿产业智能化发展，鄂尔多斯市政府与华为联合打造内蒙古首个以行业AI大模型为核心的工业互联网平台，向煤企和伙伴提供开发、销售、运营等一站式服务，实现300+煤企统一接入，提供统一的AI算力资源和创新平台，赋能生态企业。