在2025AI容器应用落地与发展论坛上,华为公司副总裁、数据存储产品线总裁周跃峰博士在论坛上正式发布AI容器技术——Flex:ai,同时 ,华为联合上海交通大学 、西安交通大学与厦门大学共同宣布,将此项产学合作成果向外界开源。
本次发布并开源的Flex:ai XPU池化与调度软件,是基于Kubernetes容器编排平台构建 ,通过对GPU、NPU等智能算力资源的精细化管理与智能调度,实现AI工作负载与算力资源的匹配,可大幅提升算力利用率。
当前 ,AI产业高速发展催生海量算力需求,但全球算力资源利用率偏低的问题日益凸显 。
有业内人士对《科创板日报》记者表示,行业内算力资源的平均利用率仅为30%至40% ,甚至低于30%。小模型任务独占整卡导致资源闲置,大模型任务单机算力不足难以支撑,大量缺乏GPU/NPU的通用服务器更是处于算力“休眠”状态。
AI时代如何唤醒并高效利用算力集群资源 ,成为整个行业一大难题 。而容器技术作为一种轻量级虚拟化技术,可以将模型代码、运行环境等打包成一个独立的 、轻量级的镜像,实现跨平台无缝迁移。容器还可以按需挂载GPU、NPU算力资源,按需分配和回收“资源” ,提升集群整体资源利用率。
Gartner的分析师表示,目前AI负载大多都已容器化部署和运行,据预测 ,到2027年,75%以上的AI工作负载将采用容器技术进行部署和运行 。
在AI容器领域,业界已经有多家企业推出了不同产品。此前 ,英伟达于以7亿美元(约合人民币49.7亿元)收购了以色列AI公司Run:ai。这家公司核心产品,正是基于Kubernetes构建的软件平台,用于调度GPU的计算资源 ,通过动态调度、池化 、分片等技术,实现GPU资源利用率的优化,让深度学习训练与推理任务在企业级环境中高效运行 。
本次华为发布并开源的Flex:ai XPU池化与调度软件 ,与Run:ai公司的核心产品相比,在虚拟化、智能调度等方面实现了突破。
具体来看,针对AI小模型训推场景中“一张卡跑一个任务 ”的资源浪费问题,华为与上海交通大学联合研发XPU池化框架 ,可将单张GPU或NPU算力卡切分为多份虚拟算力单元,切分粒度精准至10%。这一技术实现了单卡同时承载多个AI工作负载,且通过弹性灵活的资源隔离技术 ,可实现算力单元的按需切分,“用多少,切多少” ,使此类场景下的整体算力平均利用率提升30%,提高单卡服务能力 。
针对大量通用服务器因缺乏智能计算单元而无法服务于AI工作负载的问题,华为与厦门大学联合研发跨节点拉远虚拟化技术。该技术将集群内各节点的空闲XPU算力聚合形成“共享算力池” ,一方面为高算力需求的AI工作负载提供充足资源支撑;另一方面,可让不具备智能计算能力的通用服务器通过高速网络,可将AI工作负载转发到远端“资源池 ”中的GPU/NPU算力卡中执行 ,从而促进通用算力与智能算力资源融合。
面对算力集群中多品牌、多规格异构算力资源难以统一调度的痛点,华为与西安交通大学共同打造Hi Scheduler智能调度器。该调度器可自动感知集群负载与资源状态,结合AI工作负载的优先级 、算力需求等多维参数,对本地及远端的虚拟化GPU、NPU资源进行全局最优调度 ,实现AI工作负载分时复用资源 。
周跃峰介绍,Flex:ai的发布主要希望推动AI平民化。“此前AI行业化落地的时候,医院的某一个科室往往买8张卡 ,最多是16张卡。这样小集群就很难进行粗放的GPU或NPU利用和调度 。能不能把一张卡虚拟化成多张卡,以更小的算力单元进行调度,让每一张卡的算力能力能够充分释放出来 ,让AI能够平民化,这是Flex:ai软件希望解决的问题。”
周跃峰表示,Flex:ai将在发布后同步开源在魔擎社区中。此外 ,华为还希望通过开源推动形成以AI容器技术为载体的资源高效利用新范式 。开源的Flex:ai可以在产学研各界开发者的参与下,共同推动异构算力虚拟化与AI应用平台对接的标准构建,形成算力高效利用的标准化解决方案。
(文章来源:财联社)
杠杆炒股是什么意思:郑州股票配资平台-1927亿美元!风投史上首次:AI领域年内“吸金”占比过半
正规股票配资平台官网:股票是怎么加杠杆的-Arm与英伟达联手推进NVLink 剑指AI芯片互联行业标准
公司买自己股票:股票新手平台-特朗普:美英签署历史性科技协议 英伟达的英国AI合作伙伴揭晓
普通人如何加杠杆炒股:专业股票配资利息-AI医疗重磅!华为+瑞金医院宣布 开源核心模型 概念股曝光
股票配资集中网站:股票十杠杆正规平台-华为手机上新!部分搭载新款麒麟芯片 首发多款技术
杠杠配资查询平台:杠杆股票有哪些-中信建投:预计AI推动的算力投资未来依然强劲
有关股票的app:经营杠杆率-华为、阿里等巨头捧场 智元、宇树新秀助阵 中国移动这场大会“AI+”含金量高
杠杆炒股指平台:股票开户网上可以-“A+H”股加速扩容!月内27家A股上市公司披露赴港IPO进展 900亿AI算力芯片龙头在列
道正网官网-股票配资平台_在线炒股平台排名提示:文章来自网络,不代表本站观点。
道正网官网-股票配资平台_在线炒股平台排名㉖合规的股票配资平台会加强与其他金融机构的合作,共同推动金融市场的健康发展,为投资者创造更多投资机会。
2025年3月24日下午三点A股收盘后,港股科技板块持续走强至四点十分收盘。消息面上,一方面美元相对于人民币连续3个交易...
3月24日,AI眼镜概念股开盘拉升,瀛通通讯直线涨停,明月镜片涨超10%,比依股份、博士眼镜、恒玄科技、国光电器等跟涨。...
3月12日,汇丰发布对于中国投资市场的最新观点。汇丰环球私人银行及财富管理中国首席投资总监匡正表示,DeepSe...
文/吴治邦3月24日早盘,在2024年年底压哨实施完毕重整计划的*ST花王股价继续跌停。自2025年1月...
3月24日,易方达国证自由现金流ETF公开发售。该产品跟踪国证自由现金流指数,这个指数是什么?有哪些优势?投资价值如何?...
记者王珍中国国际经济交流中心副理事长、国务院发展研究中心原副主任王一鸣周一在“中国发展高层论坛2025...
2025年3月25日,倍轻松(688793.SH)公告称,公司股东宁波倍松投资有限公司(简称“宁波倍松”)拟通过大宗交易...
国海富兰克林基金国富深化价值基金经理刘晓日前发表了对 2025 年市场的展望。刘晓指出,国内经济正处于复苏通道,市场大幅...
记者闫桂花 王珍中国社会科学院学部委员、中国社会科学院原副院长高培勇周日在“中国发展高层论坛2025年...
3月24日,海洋王照明科技股份有限公司(以下简称“海洋王”,002724.SZ)早盘一字跌停,此后股价拉涨,尾盘封涨停板...
记者辛圆3月25日,博鳌亚洲论坛旗舰报告《亚洲经济前景及一体化进程2025年度报告》(以下简称《报告》...
记者辛圆给补贴、建平台,为了吸引更多高层次人才,各地纷纷放出“大招”。据央广网周一发布消息,湖...
记者|赵阳戈年初,证监会就修改《证券发行与承销管理办法》部分条款向社会公开征求意见,市场也将注意力投向了...
近日,开源证券大连分公司遭大连证监局处罚,暂停其办理需要合格投资者认定相关业务六个月。该惩处力度在近年来券商分支机构中并...
近日,厦门金融租赁有限公司(以下简称“厦门金租”)收到监管罚单。国家金融监督管理总局厦门监管局(简称“厦门监管局...