中国电子云联合天数科技、清程极智发布国产芯训推优化解决方案

来源:东方网    2025-05-06 12:14
来源: 东方网
2025-05-06 12:14 
分享
分享到
分享到微信

2025年4月29日,第八届数字中国建设峰会在福州开幕。本届峰会由国家发展改革委、国家数据局、工业和信息化部、福建省人民政府共同主办,福州市人民政府和相关单位承办,以“二十五载奋进路 数字中国谱新篇——数智引领高质量发展”为主题。

峰会期间,中国电子云携手天数智芯、清程极智联合发布国产芯训推优化解决方案。中国电子云联合天数智芯、清程极智对芯片算力、训推引擎进行极致优化,并通过完备的平台产品为业务保驾护航。为建设自主可控的AI产业生态提供高性能、低成本的解决方案,为数字经济高质量发展注入澎湃算力动能。

中国电子云AI产品线研发总监刘鑫介绍,大模型作为人工智能领域前沿技术,具有强大的数据处理能力,能够优化传统产业的生产流程和供应链管理,提高生产效率。当前,大模型面临着能源消耗与算力成本的不断攀升、数据隐私与安全、技术与应用的鸿沟等诸多亟须解决的问题。

基于当前大模型技术发展现状,中国电子云认为构建一个好用的大模型应该具备以下几个建设思路:

◆  应用场景满足度高;

◆  可通过数据飞轮让大模型持续给业务提供价值;

◆  通过L1大模型+场景小模型高效解决实际问题;

◆  推理引擎和芯片深度优化,提升应用落地的性价比。

为实现以上四个目标,中国电子云联合天数智芯、清程极智从芯片、AI-Infra(智能基础设施)、模型、工具链、应用5个层面进行了布局优化。

在芯片层面,天数智芯与中国电子云通用芯片对大模型算子的指令集、矩阵乘、片上缓存以及流水线进行了深度优化,充分发挥通用架构在灵活性、兼容性与扩展性上的优势。通过软硬协同,显著提升训推效率与资源利用率,目前在同等并发情况下,芯片成本可以下降15%;

AI-Infra:中国电子云联合清程极智推出并行加速框架以及AI编译器,并协助芯片厂商对通信库以及芯片编程语言进行了优化,在不损失精度前提下,极致优化推理效率,在同等硬件配置下,并发提升10倍以上,响应延迟降低50%;

在模型、工具链及应用层面:中国电子云主导设计了最优的匹配方案,中国电子云L1模型相比业界的SOTA模型冷启动时间缩短至1天,冷启动的效果提升20%以上;并提供系统级的支撑优化,模型开发时间可缩短了70%;使得党政及关键行业用户可通过中国电子云提供的工具平台构建相应的智能体应用。

中国电子云联合天数智芯以及清程极智芯片和训推引擎的整体优化,实现了在分布式训练场景下加速效果接近2倍,推理吞吐量提升10倍,单机硬件成本下降10%以上。

当前,中国电子云已经构建了端到端的AI解决方案,中国电子云的大模型应用是基于异构算力平台、模型开发平台、大模型应用平台构建。其中算力平台支持异构算力的统一调度与管理。模型开发平台、大模型应用平台通过各种工具加速智能体应用的生产,上层应用分为通用应用和行业应用,通用主要解决客户跨行业的通用需求,行业应用主要是针对具体的行业,需要深入行业,了解行业know-how和行业的知识才能构建的应用。

目前,中国电子云AI解决方案已经成功在石家庄、天津红桥、湖北江陵、南航、湖北机场集团、深圳龙岗城投集团、山东公用集团等政企行业客户进行了落地应用。未来,中国电子云将深化AI技术与解决方案在千行百业落地应用,助力千行百业向“全要素、全流程、全场景”智能化迈进。

免责声明:该文章系我网转载,旨在为读者提供更多新闻资讯。所涉内容不构成投资、消费建议,仅供读者参考。
【责任编辑:钟经文】
中国日报网版权说明:凡注明来源为“中国日报网:XXX(署名)”,除与中国日报网签署内容授权协议的网站外,其他任何网站或单位未经允许禁止转载、使用,违者必究。如需使用,请与010-84883777联系;凡本网注明“来源:XXX(非中国日报网)”的作品,均转载自其它媒体,目的在于传播更多信息,其他媒体如需转载,请与稿件来源方联系,如产生任何问题与本网无关。
版权保护:本网登载的内容(包括文字、图片、多媒体资讯等)版权属中国日报网(中报国际文化传媒(北京)有限公司)独家所有使用。 未经中国日报网事先协议授权,禁止转载使用。给中国日报网提意见:rx@chinadaily.com.cn