1. e-works数字化企业网
  2. 新闻
  3. IT要闻 > 硬件动态

英特尔软件优化提升了MLPerf v6.1中的AI推断能力

 
2026年09月18日 来源:英特尔
关键字:英特尔  
       MLPerf Inference v6.1 的结果展示了软件优化如何提升 AI 推理性能,同时扩大模型覆盖范围和扩大生态系统参与度

1
       在MLCommons最新的MLPerf Inference v6.1基准测试结果中,英特尔强调了通过软件优化在Intel Xeon 6处理器和Intel Arc Pro B系列GPU上实现的AI推理性能提升。结果也反映了客户和合作伙伴参与度的提升,越来越多的系统在更多模型、工作负载和部署场景上验证英特尔平台。

       在与MLPerf v6.0相同的硅片和插槽数量下,Intel Xeon 6980P处理器实现了Llama 3.1 8B服务器吞吐量的2.4倍增长,离线吞吐量提升了56%。这些成果仅靠软件改进就能实现,显示出持续优化如何从客户已部署的硬件中提升性能。英特尔合作伙伴也展现了类似的势头。

       “MLPerf Inference v6.1展示了持续的软件优化如何从客户已部署的硬件中释放显著的新性能。在Xeon和Arc Pro上,我们持续提升完整的AI软件栈,同时扩展平台支持的模型、工作负载和系统范围。”

       为什么重要:随着AI推理进入生产阶段,客户需要能够支持更大、更多样化模型的平台,同时随着时间实现性能提升、灵活性和价值。英特尔的MLPerf Inference v6.1结果证明了软件优化如何延长已部署基础设施的有效性能,帮助客户在CPU和GPU计算间实现扩展的同时,从已有系统中获得更多收益。

       英特尔平台的客户和合作伙伴参与度也从v6.0的29个结果增加到v6.1的39个,扩展了第三方验证范围,超越了英特尔自身提交的部分。甲骨文提交了首份基于英特尔的材料;红帽提交了首个Xeon CPU推理提交,广达云科技和超微提供了首批合作伙伴使用Intel Arc Pro B70提交。

       关于英特尔至强6结果:英特尔将 Xeon 在 MLPerf v6.1 中的参与范围从两个基准测试的 Xeon 6 SKU 扩展到 v6.0 的五个,CPU 推理结果从24个增加到35个。Intel Xeon 仍然是唯一在 MLPerf 推断提交中代表的独立服务器 CPU。

       关于英特尔Arc Pro B70的成绩:英特尔Arc Pro B70的提交内容扩展了软件改进如何提升多种AI模型的性能。单节点配置四块Intel Arc Pro B70显卡,提供128GB显存,支持Llama 3.1 8B、Llama 2 70B、gpt-oss-120B、Whisper及端到端检索增强世代(E2E-RAG)提交。在v6.0中使用的同一四GPU系统上,gpt-oss-120B服务器性能提升了36%,离线性能提升了27%,反映出英特尔软件栈³的持续成熟度。

       关于新的E2E-RAG基准:英特尔还共同开发并提交了新的MLPerf Inference v6.1端到端检索增强一代基准测试结果,这是本轮最复杂的新工作负载之一。在一次测量运行中,结合了Intel Xeon 6787P处理器和四块Intel Arc Pro B70 GPU,工作负载被分配到CPU和GPU之间,各自处理AI流水线的不同阶段:Xeon负责嵌入、重新排序、向量搜索和小语言模型(SLM),而Arc Pro B70 GPU负责大型语言模型(LLM)生成。结果展示了优化的CPU和GPU计算如何在完整的AI工作流程中协同工作。

       英特尔持续的优化工作不仅限于基准测试结果。Xeon的改进被上游到广泛使用的AI框架中,使客户能够受益于已部署基础设施的软件进步,而对Intel Arc Pro B70的优化工作则推动了未来Intel GPU产品的内核、框架和服务栈的发展。
责任编辑:邓珊珊
您可以:
排行榜
  1. 小鹅通搭建心理咨询行业生态共创社群 促进行业经验互通共享
  2. 湃睿科技×东鸿电子:PLM项目签约启动,共筑研发管理数字化新基座
  3. 金蝶推出全新AI产品小K,开启企业管理智能共生新时代
  4. 对话Gian Paolo:SOLIDWORKS 2026创新密码与AI战略
  5. 智算时代,企业需要怎样的AI基础设施?
  6. 云栖大会上,我邂逅了一个“AI原生ERP”
  7. 领略原汁原味的TPS,日本精益生产研修班圆满收官
  8. Eplan Platform 2026:标杆之作,焕新定义
  9. SAP Business Suite 整合 AI、数据和应用,驱动下一代企业转型
  10. ManageEngine卓豪:聚力IT管理革新,驱动企业数智升级
编辑推荐
• 未来五年,电子信息产业靠什么升级
• 开源鸿蒙亮相华为全联接大会2026 千行百业智能...
• 华为发布全球首个采用NPO的超节点——昇腾960...
• 智启新未来,打造智能世界的硅基黑土地
• PTC三项AI应用实践入选《制造业场景人工智能应...
• 华为亮相M360 ASEAN 2026,聚焦智能连接与AI转...
• 第十一届粤港澳大湾区标杆智能工厂考察正式启航
• Gartner 发布 2026 中国人工智能十大趋势
• Cadence Tensilica IP 驱动 Analog Devices 下...
• 英特尔Foundry与ASML合作,加速行业对高NA EU...
• 汇川技术,走“自下而上”的物理AI路线
• 国产CRM选型建议:大客户销售场景下的首选与备...
文章推荐
• 年产50亿个!一颗小小开关,凭什么做到世界第...
• 从8000跌到800,ERP顾问的天塌了?
• 斯巴鲁矢岛工厂:老工厂的精益新生,多车型同...
• 十年深耕,梅卡曼德何以成为“具身智能眼脑手...
• 十年深耕,梅卡曼德何以成为“具身智能眼脑手...
• 西门子ICX给企业AI大模型构建业务“数字孪生”
• e-works 2026 WRC 直击:展台只是秀场,工厂才...
• 工业AI落地频踩坑?陶建辉×黄培深度拆解务实...
• 宇树科技成为“A股人形机器人第一股”
• 达索系统、PTC、西门子三巨头AI布局的“异与同...
• 利润大涨89.2%!中国机床凭什么?
• 利润大涨89.2%!中国机床凭什么?

系列微信

数字化企业
观潮工业AI
e-works制信科技
具身智能一线
智能制造网博会
智能制造IM
ERP之家
智能工厂前线
MES百科
PLM之神
供应链指南针
© 2002-2026  武汉制信科技有限公司  版权所有  ICP经营许可证:鄂B2-20030029-1(于2003年首获许可证:鄂B2-20030029)
鄂公网安备:420100003343号 法律声明及隐私权政策     投诉举报电话:027-87592219

关于我们    |    联系我们    |    隐私条款

ICP经营许可证:鄂B2-20080078
(于2003年首获许可证:鄂B2-20030029)
鄂公网安备:420100003343号
© 2002-2026  武汉制信科技有限公司  版权所有
投诉举报电话:027-87592219

扫码查看