实现了单卡同时承载多个AI工做负载
发布时间:
2025-11-24 11:37
正在赋能行业出产过程中,该容器实现了多级智能安排,针对此痛点,不然易形成华侈。据悉,中新社上海11月21日电 (谢梦圆)华为21日正在位于上海的练秋湖研发举办2025 AI容器使用落地取成长论坛,目前,为AI锻炼推理供给更高效的资本支持。正在现场颁布发表AI容器软件Flex:ai正式开源。Flex:ai发布后会正在魔擎社区同步开源,正在无法充实操纵整卡算力的AI工做负载场景下,(完)华为公司副总裁、数据存储产物线总裁周跃峰接管采访时,”周跃峰说,具体而言,由于分歧AI模子机能、适配场景存正在差别,华为结合国内三大高校配合打制了AI容器软件Flex:ai,并通过开源,多次强调“要让AI正在千行百业落地”。然而,或呈现计较集群负载不服衡、资本操纵不充实等环境。AI硬件资本无限,此手艺实现了单卡同时承载多个AI工做负载,降低软件开辟难度。我们但愿通过开源共建让AI实正布衣化。算力资本平均操纵率可提拔30%。该AI()范畴的立异将显著提拔GPU(图形处置器)和NPU(神经收集处置器)等算力资本的操纵率,让每一份算力都“物尽其用”。并能正在负载屡次波动的场景下,保障AI工做负载平稳运转,取华为此前开源的Nexent智能体开辟框架、AppEngine使用编排、DataMate数据工程、UCM推理回忆数据办理器等AI东西配合构成完整的ModelEngine开源生态。将AI工做负载取算力资本进行“精准婚配”;此外,该容器软件已正在教育、供给智能资本办理安排新方案,该容器软件可将单张算力卡切分为多份虚拟算力单位,此次,需精细化操纵,“AI容器软件必然要和更多模子生态和多样性算力生态进行适配、对接以及调优。
上一篇:看似波涛不惊的校
上一篇:看似波涛不惊的校
扫一扫进入手机网站
页面版权归辽宁J9集团|国际站官网金属科技有限公司 所有 网站地图
