HDC2024华为云还有新动作,发布大模型混合云十大创新技术
【环球网科技综合报道】6月22日,在华为开发者大会2024期间,华为主机上云军团CEO、混合云总裁尚海峰发布大模型混合云十大创新技术。尚海峰表示:“大模型的创新除了模型本身,更要脚踏实地深入千行万业,创造业务价值。华为云Stack将持续围绕AI-Native开展系统性创新,在场景上广泛探索,在技术上形成突围,携手共赢AI的黄金时代。”
2023年,华为云推出业界首个大模型混合云华为云Stack,帮助企业一站式建设自己的专属大模型。
华为云Stack从计算、存储、网络、安全和运维五大维度打造了坚实的算力底座。通过多样性算力调度和算子加速能力,实现了异构算力的融合,算力利用率显著提升超过50%。结合高性能存储的多层缓存机制和高吞吐无阻塞AI网络,使得算力发挥最大价值。同时,四道大模型安全防线能智能拦截90%的新兴攻击,确保了数据的安全可靠。
华为云Stack提供ModelArts一站式开发平台,支持大规模异构集群调度管理、分布式训练、云边协同部署及全流程工作流,并提供模型开发套件、全链路数据工程套件、应用开发套件3大套件,加速数据、模型、应用的一站式开发。同时,华为云Stack原生集成超过30个业界主流的基础模型,实现开箱即用。
大模型的应用是一个复杂的系统工程,不仅仅在于单点技术的持续演进,更需要基于场景和需求匹配合适的技术,通过全链路、多技术融合的系统性创新整体推进。在此次华为开发者大会上发布的十大创新技术中,包括多样性算力调度、云边协同、AI-Native存储等,这些技术覆盖了从云基础设施到AI开发平台及模型层的全方位创新。华为混合云数智领域总经理徐强在演讲中详细介绍了这些技术的特点和应用,并表示华为云Stack将持续深耕根技术,助力更多政企客户建好、用好大模型,加速智能化转型。
随着大模型能力不断变强,模型参数不断增加,对端、边、云算力协同的整体架构设计提出了更高的要求。华为混合云CTO刘征辉表示,依托全系列产品研发经验,华为云Stack通过系统性创新,为政企客户打造大规模、高性能、高可靠、云边协同四项全能的云化算力底座,加速大模型应用进程。
在应对大规模需求时,华为云Stack凭借对AI集群和海量训练数据的支持,成功实现了数十亿至千亿级别的模型训练集群部署。谈及性能提升,RoCE网络的无阻塞互联设计将训练效率提高了50%,而高性能存储的多层缓存机制则使小文件的加载效率飙升了20倍。在可靠性上,软硬协同技术能够在极短时间内感知并界定故障,确保月级长稳训练。同时,智能化的运维管理策略覆盖了80%以上的故障场景,显著提高了故障恢复能力。结合业界领先的安全运营和AI数据安全方案,以及最高安全等级的算力平台,华为云Stack为用户提供了无与伦比的高安全算力。在云边协同领域,华为云Stack推出了多种边缘轻量化部署模式,使AI能够高效地赋能生产现场。此外,通过其独特的多云合一管理架构和多云择优调度策略,实现了对多云算力的优化管理。
目前,华为云Stack大模型混合云已在政府、金融、煤矿、交通、电力等多个行业得到广泛应用。在政府领域,华为云联合广州、绍兴等城市,通过大模型提升了政务服务效率和城市管理水平;在金融领域,实现了大模型在信贷、远程银行等业务领域的深度应用;在煤矿领域,通过大模型推动了矿山的安全和效率提升。