昇思MindSpore 2.3版本发布，大模型开发训推更高效

2024-03-24 15:41 由环球网发表于 #科技

【环球网综合报道】随着人工智能技术的飞速发展，人工智能框架作为软件领域的基础技术，已经成为推动AI大模型开发和产业智能化发展的关键动力。3月22日，昇思MindSpore社区发布了昇思MindSpore 2.3版本。

昇思MindSpore作为国内主流的开源AI框架，通过建立一个充满活力的开发者社区，旨在推动AI根技术的持续创新，并共同构建一个全新的人工智能开源生态系统，不断推动中国人工智能产业的前进。

昇思MindSpore 2.3版本的发布，标志着大模型开发和训练的简化、稳定性和效率的显著提升。昇思MindSpore通过创新的并行技术和优化策略，显著提高了集群的线性度和算力利用率。此外，针对集群故障率高和恢复时间长的问题，昇思采用了编译快照和确定性CKPT技术，实现了快速故障恢复。

在大模型部署方面，昇思通过架构升级实现了训练和推理的统一，大幅缩短了Baichuan2-13B模型的推理部署时间。同时，通过LLM Serving技术，推理吞吐量提升了两倍多；金箍棒2.0模型压缩工具的升级，使得千亿级别的大模型能够压缩至原来的十分之一。

为了降低开发者的入门门槛，昇思持续升级MindSpore TransFormers大模型套件，并推出了MindSpore One生成式套件，实现了全流程的开箱即用，使开发者能够在一周内完成大模型的全流程开发。

中国工程院院士、中国人工智能学会副理事长何友表示，中国人工智能学会与昇思MindSpore的紧密合作，以及与鹏城实验室共同推进的学术基金2.0项目。这些合作旨在加速基于昇思的原创学术创新和论文发表，发挥学术人才的创新潜力，并结合昇思的技术原创力，为人工智能产业的繁荣提供学术支持。

华为ICT Marketing总裁周军认为，AI框架的并行计算能力、简洁编程能力和便捷部署能力等，已经成为大模型训练成功的关键因素。昇思将继续创新，专注于根技术的发展，以更开放的技术体系，支持合作伙伴和开发者更灵活地实现大模型创新，并加速大模型应用的规模化落地。

2021年图灵奖得主、田纳西大学计算机科学杰出教授Jack Dongarra分享了计算和框架的发展趋势，他认为开源具有许多优势，能够为未来提供更强大的软件基础，而昇思MindSpore的开源框架正是推动软件性能提升的重要力量。

中国科学院院士、中国空气动力学会理事长唐志共介绍了基于昇思MindSpore的生成式气动设计大模型平台，该平台打破了传统的设计模式，将设计周期从月缩短到分钟，满足了概念设计的需求。未来，该平台预计将扩展到航空、航天、船舶、高铁、能源、汽车等多个行业，推动工业装备设计和制造能力的飞跃。

昇思MindSpore还致力于创新AI与科学计算的结合，孵化科学领域的基础大模型。在AI生物计算领域，昇思MindSpore与顶级科研机构和合作伙伴共同打造了包含蛋白质结构预测和生成在内的20多个SOTA模型，加速了相关领域的创新进程。

昇思MindSpore开源社区理事长丁诚在大会上宣布了昇思赋能学术与生态的四项行动，包括学术论文基金2.0、开发板应用创新行动、原生大模型孵化以及开源社区实习活动，旨在支持学术研究和开发者的成长。

昇思MindSpore自2020年3月由华为开源以来，受到了国内外开发者的热烈响应，访问量达到数千万，下载安装使用超过687万次，在码云千万开源项目中综合排名第一，服务企业超过5500家，合作高校达到360所。2023年以来，基于昇思框架发表的顶级会议论文数量超过1200篇，在所有AI框架中排名中国第一、全球第二，昇思MindSpore已经成为国内最具创新活力的AI开源社区。