大算力芯片时代下，Arm CPU生态初具规模

众所周知，2000年手机移动时代的发展带动了Arm架构的繁荣。随着行业进入由5G、工业互联网、物联网、人工智能等驱动的数字化时代，Arm似乎又再次迎来了“风口”。短短4年内亚马逊云科技（AWS）的定制芯片Graviton系列CPU已经发展到第三代；Ampere宣布每年推出基于Arm架构高核心数服务器CPU；英伟达发布了面向AI及高性能计算 (HPC) 的Grace CPU；VMware运用DPU开展Monterey项目；包括AWS、微软、谷歌、阿里巴巴、甲骨文等主流的公有云厂商都在使用DPU来支撑云工作负载。所有这些都可谓是按需构建的定制化芯片。

一个定制化芯片的时代正在开启。

Arm Neoverse：一个或将颠覆现代计算的架构

当前，全社会数据总量爆发式增长，数据存储、计算、传输、应用的需求大幅提升，对算力的需求也越来越高。CPU不仅需要处理通用计算类任务，还需要承担网络、存储、安全等任务，有效算力在总体算力中的占比逐渐下降，行业亟需在特定领域更高算力的芯片的支撑。而随着Arm Neoverse架构的发布，整个行业迎来了巨变。

2018年Arm首次发布了Arm Neoverse平台。目前，Neoverse平台主要包括三个IP系列：分别是V系列、N系列和E系列。据Arm官网介绍，Neoverse V系列主打极致性能，适合执行高计算需求和存储器密集型应用的系统，主要应用场景包括高性能计算 (HPC)、云计算和AI/ML加速型工作负载；Neoverse N系列主打可高扩展的性能表现，提供均衡的最佳化CPU设计、出色的性能功耗比和性能成本比，应用场景包括可高扩展的云计算、企业连网、智能网卡/DPU以及客制化ASIC加速器、5G基础设施以及电力和空间受限的边缘场景；Neoverse E系列主打高效率吞吐量，在支持高资料吞吐量的同时，大幅降低功耗，主要应用场景包括网络资料层处理器、低功耗网关的5G部署。

图源：Arm官网

可以看出，这三种内核分别针对三种不同的性能和功耗权衡，这就为各行业实现定制化芯片带来了充分且灵活的施展空间。但光有硬件还远远不够，要打造成功的基础架构解决方案，还需要一个强大的软件生态系统。

在软件生态系统方面，Arm不仅在开源社区有着长期且持续的投入，并在Arm Neoverse平台的设计原则中纳入了构建独一无二的开发者生态系统，目的是赋能开发者顺畅地进行创建、测试以及优化在基于Arm架构上的项目开发，如今，Arm架构得到了所有领先编程语言和运行库的支持，例如Linux操作系统、云原生软件、CI/CD流水线等都已经运行在Arm架构上。从架构、IP到技术库、运行环境和编译器，Arm已启用了主流的基础设施软件。

软硬件充分加持下，Arm Neoverse架构正在吸引一众云服务厂商、CPU厂商、GPU厂商、DPU玩家的青睐。

Arm CPU生态初具规模

首先是云服务厂商的躬身试探，公有云无疑是技术革新的最佳领域。对于不同的云服务厂商来说，由于其构建的生态不同，对芯片的性能需求也是各异。在市场选择不大的情况下，各云厂商选择了自研。

AWS可以说是最早开始自研服务器芯片的云厂商。自2018年至今，AWS的Graviton服务器芯片已经来到第三代。2022年5月下旬，AWS发布了基于Neoverse V1核心的Graviton3，这是第一个支持SVE的通用64位Arm服务器CPU。

无独有偶，在2021年10月份的云栖大会上，阿里巴巴旗下半导体公司平头哥发布自研云芯片倚天710，该芯片基于Armv9架构。这是阿里第一颗为云而生的CPU芯片，将在阿里云数据中心部署应用。

除了云服务厂商自研之外，初创公司Ampere Computing在Arm服务器芯片上的探索则为其他云厂商开辟了另一个选择。Ampere Computing是目前唯一一家为云服务提供商提供商用（独立）Arm服务器芯片的CPU公司，Microsoft Azure、谷歌云、甲骨文云等均使用Ampere Altra产品。

Ampere Computing分别于2020年发布80核的Ampere Altra，2021年发布128核的Ampere Altra Max，两者均基于Arm Neoverse N1内核。Ampere还宣布今年晚些时候将推出采用Arm架构的5nm AmpereOne CPU，但并不是基于Neoverse N1，而是基于Arm ISA自研的核心。不过这对Arm来说是一个极好的迹象，因为Ampere将在公司技术和x86服务器处理器之间进一步扩大服务器CPU空间。

云决策者的两大关键指标是单芯片性能和单线程性能。在这方面，Arm预测，使用Arm Neoverse V1核心的AWS Graviton3可提供最高的单线程性能；Ampere Altra Max和阿里的倚天710能在所有CPU中提供最佳的单芯片吞吐量。

云计算场景之外，5G和边缘领域的芯片厂商也开启试水之路。根据GSA数据显示，现在已有近85个市场提供5G服务，预计到2025年，连接设备将达到约18亿。未来的3-5年依然是5G发展和增强功能交付的关键。在这方面，Marvell最近几年放弃通用服务器业务，转而发展垂直市场，其推出的Thunder服务器芯片已经证明了在超算和商用领域的可行性。在世界移动通信大会 (MWC) 上，戴尔与Marvell宣布强强联手；此外，诺基亚也与Arm在基于Neoverse CPU上进行合作，开发了ReefShark芯片组，如今已全面使用。

在高性能计算（HPC）领域，英伟达是一大代表，2022年3月22日，英伟达宣布推出首款面向AI基础设施和高性能计算的基于Arm Neoverse V2的数据中心的定制CPU Grace，它专为AI和HPC应用程序而设计。Grace专注于IO和内存带宽，与GPU共享主内存，通过NVlink将英伟达的GPU和Grace CPU连接，可扩展到现在需要数天才能运行的超大型AI模型。

早在2013年，亚马逊云科技 (AWS) James Hamilton就提出了一项双论点：其一，鉴于使用Arm架构的芯片出货数量，他确信Arm最终一定能设计出优异的服务器CPU；其二，James注意到，随着时间的推移，越来越多的功能逐渐从主板迁移到SoC上。手机领域已现端倪，服务器方面自然也会效仿。

而如今这两个论点正在实现，在一众厂商的大力推动下，采用Arm Neoverse平台的产品已创下了多项行业第一：第一个总内存带宽超过每秒1TB的CPU；第一个单块裸片上能配置超过100个核心的CPU，核心数达到128个；第一个将DDR5和PCIe Gen5.0推向市场的CPU；第一个在SPEC CPU 2017基准测试中打破500整型跑分的CPU。

Arm Neoverse在全球市场表现不菲，不仅是国际大厂，Arm Neoverse也为广大初创企业创造了良好的发展机遇。

国产CPU和DPU初创企业嗅到商机

近年来正值中国基础设施的计算升级新浪潮，因此，国内服务器芯片赛道也迎来了蓬勃兴起。国内一众初创企业如鸿钧微、遇贤微等将Arm Neoverse作为其服务器芯片的创新基础，甚至新兴的DPU企业也开始率先踏上探索之路。

鸿钧微电子是服务器芯片领域新兴的一员。在鸿钧微电子首席执行官沈荣看来：“数据中心的规模越来越大，其占地与体积随之将变得更大，这意味着要花费更多的资金投入，所以性能密度、功耗效率这些指标便显得尤为重要，而Arm Neoverse符合云计算所需的多核解决方案，具有优异的总拥有成本 (TCO) 优势，让我们找到能真正为客户提供具成本效益的整体解决方案。”据悉鸿钧微电子基于Neoverse N2的服务器CPU产品预计将在明年年底面世。

遇贤微电子是一家正在面向中国云计算市场打造弹性云原生服务器CPU的初创公司，采用的也是Neoverse N2平台。遇贤微电子首席执行官罗勇博士表示：“云计算的巨大增长是新一波科技浪潮的趋势，它将会是全球范围内最大的增量市场之一。而且，云计算生态系统已经是个相对成熟的环境，能让像Arm Neoverse这类的新架构来取代x86，最终用户能够从一致性的Arm Neoverse CPU上获益，也可以加速遇贤微电子产品的部署。”

不止是CPU和GPU这两类芯片，DPU芯片厂商也看中了Arm Neoverse的潜力。DPU (Data Processing Unit) 是最近几年新发展起来的一种专用处理器，被称之为数据中心继CPU和GPU之后的“第三颗主力芯片”。目前DPU主流方案亦开始以Arm Neoverse平台为设计基础。Arm基础设施事业部全球副总裁邹挺表示，“我们认为ASIC系统级芯片是普遍的最后DPU目标产品形态，而从能耗和性能的要求上来看，Arm Neoverse平台将是DPU中ASIC系统级芯片方案的最佳选择。”

国内DPU芯片头部企业云豹智能最新的DPU SoC产品上就采用了大量的Arm CPU，尤其是Neoverse CPU与其高性能互连技术。云豹智能首席芯片架构师及联合创始人莫志城指出：“现阶段数据中心正在快速地从以CPU为中心转变为以DPU为中心。云豹DPU不仅要能处理网络控制面和数据面的卸载，具备高度灵活和可编程能力；同时必须非常高效地处理运维和业务管理。因此我们的可编程DPU必须依赖非常高性能且低功耗的CPU，例如新一代的Neoverse。”据悉，云豹这款DPU产品预计于2023年初流片。

可以看出，由于高性能、低能耗、优异的性能比以及总拥有成本等特点，尤其是完善的自身生态，Arm架构正在吸引广大中国初创芯片企业的涌入，生态“朋友圈”逐渐扩大。另一方面，如Arm Neoverse这样的平台也为这些初创企业提供了很好的发展机会，并在加速芯片进入市场的时间窗口，如上文所述，国内几家初创企业基于Arm Neoverse的产品大多将于明年问世。

总结

全球基础设施领域的建设和升级兴起了新的浪潮，基础设施的未来必将改头换面，定制芯片将是这一变革必需的产物，未来十年，Arm架构的CPU进军智能计算市场已呈不可阻挡之势。这对所有人来说都是一个巨大的机会，处于产业链上的国产芯片企业应该乘着发展的东风，奋力前行。

编辑：黄飞