华为云昇腾AI云服务正式上线,支持“百模千态”高效创新

来源:东方网    2023-09-21 14:14
来源: 东方网
2023-09-21 14:14 
分享
分享到
分享到微信

9月21日,在华为全联接大会2023现场,华为常务董事、华为云CEO张平安以“共建智能世界云底座,让AI重塑千行万业”为题发表主旨演讲。张平安宣布,华为云昇腾AI云服务正式上线,所有企业可即刻在华为云官网上购买和使用。

全智能时代,AI算力需求讲迎来爆发式增长。华为预计,到2030年通用计算能力将增长10倍,AI计算能力将增长500倍。然而,由于AI服务器的功率密度远超通用服务器,单机柜功耗是传统机柜的6至8倍,并需专用液冷系统散热,且大模型训练需要百卡、千卡甚至万卡,服务器之间的互联、时延、可靠性、运维极为复杂,自建AI数据中心面临诸多挑战。

为更好地支持大模型的“百模千态”创新,华为云在贵安、乌兰察布、芜湖打造了3大AI云算力中心,为企业提供澎湃昇腾AI算力,让企业再也不需要高价抢购GPU,也不需要担心GPU未来潜在的供应连续性挑战。

同时,华为云昇腾AI云服务百模千态专区已正式上线,让企业和开发者可以快速创建自己的大模型应用,在大模型时代快人一步。

华为云昇腾AI云服务百模千态专区收录了业界主流开源大模型,如LLAMA,GLM等,并全面基于昇腾AI云服务进行适配和优化,精度和性能显著提升。同时,专区提供丰富的应用开发的工具链,开发工具已经全部实现了云化,免去繁琐的配置流程,实现一键接入,即开即用。

在云上,华为云提供了高效长稳的大模型训练环境和完备的工具链:实现千卡训练连续30天不中断,任务恢复时长小于30分钟;通过30多个可视化调优和部署工具,帮助企业更高效进行数据处理、模型微调、Prompt工程等,完成一个千亿参数的行业模型端到端开发,从过去需要5个月缩短到现在1个月,整体速度提升5倍。

  昇腾AI云服务百模千态专区

此外,专区还提供了丰富的使用指导,企业和个人开发者只需要登录专区,自助申请体验。审核通过后,即可通过点击相应的开源大模型进入控制台进行部署,并发布成在线服务进行推理调用。

在大模型训练数据安全方面,华为云采用了数据传输与存储加密、数据安全清除、数据访问控制、数据水印防泄露等多重技术,确保大模型训练数据的全生命周期安全。

免责声明:该文章系我网转载,旨在为读者提供更多新闻资讯。所涉内容不构成投资、消费建议,仅供读者参考。
【责任编辑:钟经文】
中国日报网版权说明:凡注明来源为“中国日报网:XXX(署名)”,除与中国日报网签署内容授权协议的网站外,其他任何网站或单位未经允许禁止转载、使用,违者必究。如需使用,请与010-84883777联系;凡本网注明“来源:XXX(非中国日报网)”的作品,均转载自其它媒体,目的在于传播更多信息,其他媒体如需转载,请与稿件来源方联系,如产生任何问题与本网无关。
版权保护:本网登载的内容(包括文字、图片、多媒体资讯等)版权属中国日报网(中报国际文化传媒(北京)有限公司)独家所有使用。 未经中国日报网事先协议授权,禁止转载使用。给中国日报网提意见:rx@chinadaily.com.cn