城市
输入数字
首页>文章>行业新闻

算力工厂赋能AI应用落地

2025-01-21

算力是集数据传输、计算、存储于一体的新型生产力,更是培育新质生产力,推动智能化转型的核心驱动力。

“大模型如何进一步发展,就是应用落地。”浪潮信息人工智能与高性能产品部副总经理张强说道。如今,浪潮信息元脑算力工厂包含了数据处理、AI大模型、业务应用、研发测试等多个集群,为全球服务器压力测试、大模型开发应用、智能化转型等业务应用提供算力支撑。

算力工厂赋能AI

张强指出,在推动大模型落地应用领域,针对网络通信效率瓶颈,元脑算力工厂采用 X400 超级 AI 以太网方案,为大模型训练提效降本,提升了大规模GPU训练性能,成为新型AI训练网络解决方案。其吞吐量51.2T为业界高,较前代提升4倍,相比传统RoCE网络性能提升1.6倍,通信时延降低30%,能大幅提升大模型训练效率,缩短训练时长并降低训练成本。

元脑算力工厂搭载企业大模型开发平台“元脑企智”EPAI,连接多元算力、多元模型与应用层,实现模型高效微调与跨平台无感迁移,加速大模型在各个行业落地应用。同时,元脑算力工厂助力企业智能化转型,智能编程助手、智能投标助手、智能客服、供应链大脑、智能工厂等系列智能创新成果相继落地,赋能业务智能化转型。

在提升大模型训练效率方面,张强向C114介绍,元脑算力工厂通过算力开发平台 AIStation 对算力进行有效调度。在实际算力使用中,AI应用有不同算力需求,在这多用户、多任务场景下,对算力需求不同,AIStation能对算力集群进行有效调度,降低成本、提高算力利用率,保障算力集群安全、可靠运行,实现智能、高效、低成本运维。

(264)
版权声明:本文仅代表作者观点,不代表集号吧立场。本文系网络编辑发表,如有不实请联系集号吧客服。
靓号经纪人 刘玉姣
电话/微信:18611969567

为您推荐进入列表

下一页>
相关文章更多
热门文章
微信小程序 联系我们 靓号中介 在线咨询