新华三灵犀智算解决方案,以全栈技术革新激发AI潜能

来源:东方网    2024-04-22 13:38
来源: 东方网
2024-04-22 13:38 
分享
分享到
分享到微信

当前,人工智能与产业的融合发展已迈入“换挡提速”阶段,各行业对新型基础设施的需求日益升级,引发了新一轮数智化转型热潮。近日,紫光股份旗下新华三集团以“×AI”为主题举办2024媒体与分析师沟通会,以“算力x联接”为基石,依托“1+N”大模型策略(百业灵犀私域大模型+N个优选生态大模型),正式发布全栈灵犀智算解决方案。

“算力×联接”,重塑AIGC时代算力全新体验

随着AIGC技术发展进入爆发期,算力需求也随之水涨船高,百行百业的数智化转型不仅需要充足的算力支撑,更要考虑如何让算力可以被更灵活地调度和释放,给模型的训练、推理带来更高效、更稳定的支持。对此,新华三集团提出,将充分发挥 “算力多元化”和“联接标准化”的乘数效应,助力AIGC应用发挥更大潜能。

◆  开放生态,更多元算力选择:新华三可提供CPU和GPU的多元化选择,以异构融合、统一调度、开放兼容等优势,可实现异构纳管、异构迁移、异构混训等服务,降低算力部署和应用成本,满足不同行业客户的市场需求。

◆  原生无损,更强大互联网络:新华三积极推动联接标准化,注重开放性和灵活扩展,通过负载均衡和自愈技术提升网络带宽利用率与降低故障恢复时间,为不同规模的算力联接提供最优选择,具备强大生态解耦能力和优秀的算力网络性能,是异构GPU互联的最佳选择。

◆  全栈可视,更智能算力管理调度:全新升级的傲飞算力平台可为异构GPU提供强大的算力资源管理和调度能力,全面拥抱"算力即服务";同时支持自动端到端的拓扑呈现,便于算力管理,助力客户实现算力效率“最优解”。

灵犀应用使能平台,让模型使用更自由

新华三灵犀智算解决方案通过一站式灵犀应用使能平台(LinSeer Hub)可实现多元模型组合管理、AI Agent开发、模型服务等功能,能够灵活兼容新华三百业灵犀私域大模型及其它国内外主流模型,帮助客户快捷构建智能应用,实现“模型使用自由”。   

◆  更简单:以完备的工具链降低大模型应用过程中的理解和使用成本,并以提示词持续优化提升大模型推理效果。工作流可实现组件可视化编排,并可将工作流固化为自定义插件,通过指令灵活调用。

◆  更通用:依托标准的南北向API和通用的管理功能,兼容不同推理平台和大模型。北向对应用侧统一开放大模型推理调用API,用户可对应用授权,具有增强会话、知识检索、指令调用等功能;南向适配不同推理平台,兼容商业大模型和开源大模型,可进行统一管理和推理部署。

◆  更安全:内置安全防护提示词,可对所有场景下大模型生成内容进行安全限制,支持基于用户需要增强,可针对所有出入流量和内容进行安全审计和敏感信息拦截,为用户信息和数据安全保驾护航。

◆  更智能:通过提示词管理、编排和使用,可明确大模型对应用场景的目标、策略和约束,并通过向量存储和检索让大模型具备记忆力,满足专业性和准确性需求。

人工智能作为新质生产力,正在重塑百行百业的业态模式与商业逻辑。面向未来,新华三集团将持续秉持“精耕务实,为时代赋智慧”的理念,充分发挥作为AIGC时代数字化解决方案领导者的责任与担当,助力百行百业加速拥抱AIGC技术,为我国数智化产业快速发展贡献力量。

免责声明:该文章系我网转载,旨在为读者提供更多新闻资讯。所涉内容不构成投资、消费建议,仅供读者参考。
【责任编辑:钟经文】
中国日报网版权说明:凡注明来源为“中国日报网:XXX(署名)”,除与中国日报网签署内容授权协议的网站外,其他任何网站或单位未经允许禁止转载、使用,违者必究。如需使用,请与010-84883777联系;凡本网注明“来源:XXX(非中国日报网)”的作品,均转载自其它媒体,目的在于传播更多信息,其他媒体如需转载,请与稿件来源方联系,如产生任何问题与本网无关。
版权保护:本网登载的内容(包括文字、图片、多媒体资讯等)版权属中国日报网(中报国际文化传媒(北京)有限公司)独家所有使用。 未经中国日报网事先协议授权,禁止转载使用。给中国日报网提意见:rx@chinadaily.com.cn