Arm为下一代智能体AI提供统一的计算底座

       智能体 AI 对 AI 基础设施的需求。随着 AI 从推理迈向行动阶段，智能体不仅需要进行推理，还要检索数据、调用工具，并与数据库及其他智能体协同交互。这一趋势正在推动数据中心内基于 CPU 的计算需求显著增长。不过，不同工作负载对基础设施的要求并不相同。对于横向扩展（scale-out）和数据面（data plane）等应用场景而言，更倾向于追求最大化吞吐效率；而对于智能体和其他性能关键型应用，则需要具备高响应能力的 CPU 性能。如今，Arm 已在数据中心实现大规模部署。IDC 报告显示，基于 Arm 架构的机架级服务器市场规模已经超越 x86，成为加速计算领域的主流平台。
　　
　　今天在Arm Everywhere China 的年度大会上，Arm 分享了其如何进一步推动这一改变。由于 AI 基础设施并不存在适用于所有场景的统一方案，Arm 为客户提供灵活选择，帮助其根据不同工作负载需求选择最适合的方案。借助全新的 Neoverse 计算子系统（CSS）N4，客户可以打造针对最高吞吐量效率优化的芯片；而 Arm AGI CPU 则提供面向高响应智能体 AI 的量产就绪芯片。两者均构建于统一的 Neoverse 平台和软件生态系统之上。
　　
　　借助 Neoverse CSS N4 加速差异化芯片开发
　　
　　随着 AI 基础设施朝着更加异构化的方向演进，部分部署场景需要针对特定系统架构或功能定制芯片，涵盖定制化计算平台、数据处理单元（DPU）、网络以及其他专用设计。
　　
　　Neoverse CSS 将 Arm 的能力扩展到这些设计领域，为微软（Microsoft）、云豹智能等合作伙伴提供经过验证的一体化计算底座。合作伙伴可围绕不同用例进行灵活配置，同时降低工程投入和集成风险，并缩短芯片开发周期。Neoverse CSS N4 将这些能力进一步提升，成为 Arm 迄今为止可配置性最高的 CSS 平台，提供从 CSS 到芯片最快的开发路径。
　　
　　Neoverse CSS N4 单颗裸片（die）最高可搭载 128 个内核，支持 LPDDR6 内存与 PCIe Gen 7 互连。与 Neoverse CSS N3 相比，其性能最高可提升至两倍，每瓦性能最高可达 1.25 倍，内存带宽最高可达 1.75 倍。随着智能体 AI 推动系统内更大规模的数据流动、加速器协同调度以及并发计算，上述这些性能的提升提供了所需的计算密度，以及高速内存和 I/O 能力。鸿钧微电子是首批采用 CSS N4 开发基于 Arm 架构的差异化基础设施芯片的合作伙伴之一。
　　
　　与此同时，Arm 全面设计（Arm Total Design）生态项目通过更早阶段的 IP 验证和软件开发，进一步加快产品量产进程。目前，Arm 正将这一协作模式扩展至物理 AI 领域。
　　
　　Arm CPU 驱动大规模智能体 AI 发展
　　
　　市场上并非每一家客户都需要打造定制芯片。对于希望部署量产就绪算力的客户而言，Arm AGI CPU 也能提供 Neoverse 平台具备的卓越性能与能效。
　　
　　自推出以来，AI 生态系统中的众多企业，包括 OpenAI、Meta、Cloudflare、Oracle、SAP、联想、Supermicro 和 Verda，均已围绕 Arm AGI CPU 开发相关解决方案。
　　
　　联想集团副总裁、中国基础设施业务群总经理陈振宽表示：“联想和 Arm 对算力基础设施未来的发展方向有着共同的愿景——打造 Token 驱动的 AI 基础设施。Arm AGI CPU 为下一代云计算和 AI 基础设施提供了强大的技术底座，而联想则在系统设计、制造、部署以及客户合作方面拥有深厚积累。通过发挥双方优势，我们能够将技术创新真正转化为客户价值，满足中国市场快速增长的 AI 算力需求。”
　　
　　在更广泛的云生态系统中，众多企业已开始借助 Arm 平台支撑智能体 AI 应用的发展。Google Cloud 已在基于 Axion 的 GKE 环境中部署智能体沙箱；Microsoft Azure 利用 Cobalt 200 加速智能体沙箱中的工具调用与执行；NVIDIA Vera 则面向智能体工作负载进行了专门优化。
　　
　　字节跳动旗下云计算业务火山引擎正在基于 Arm 平台构建其下一代云服务，并将首批基于 Arm AGI CPU 的智能体沙箱解决方案推向市场，为大规模智能体工作负载提供安全、弹性可扩展的运行环境。
　　
　　火山引擎云基础产品经理负责人李越渊表示：“我们对 Arm AGI CPU 的早期评估表明，其在主流云工作负载中展现出良好的性能潜力。随着 AI 智能体的发展，市场对安全、隔离且能够弹性扩展的大规模执行环境需求不断增长。我们认为，Arm AGI CPU 为下一代云服务和智能体沙箱场景提供了坚实基础。我们期待与 Arm 持续合作，共同推动面向 AI 时代的高效、可扩展和高性价比基础设施建设。”
　　
　　面向未来，筑就下一代技术根基
　　
　　Arm 也正在与新紫光集团深化战略合作，共同推动中国下一代 AI 基础设施的发展。双方的合作将涵盖 Arm AGI CPU 和 Arm 计算子系统（CSS）等 Arm 技术。结合 Arm 在高能效计算及全球软件生态系统方面的领先优势，以及新紫光集团在芯片设计、系统开发和中国市场方面的能力积累，双方还计划在中国成立联合通用人工智能创新中心，围绕 AI 智能体编排、CXL 内存池化、机架级系统架构以及边缘 AI 等技术方向开展探索与创新，致力于打造面向中国市场、具有差异化优势、覆盖多代演进路线图的 AI 基础设施解决方案体系。
　　
　　智能体 AI 仍处于发展初期。随着智能体应用大量普及，基础设施需要处理更多数据、协同/调度更多加速器，并支持更大规模的并发计算。因此，如何从每一瓦电力、每个机架以及每一笔投资中释放最大价值，变得愈发重要。
　　
　　整个行业正逐步将 Arm 作为下一代智能体 AI 的通用计算平台。借助 Arm AGI CPU 和 Neoverse CSS N4，客户既能根据自身基础设施需求灵活选择发展路径，又能共享统一的技术基础，兼顾性能、能效与软件兼容性。