软件定义+硬件加速，赛灵思诠释可组合式的数据中心

“数据中心并不存在模板，因为其工作负载是持续动态变化的，并不存在单一应用主导数据中心，因此现在数据中心在需求和应用上面临着持续的变化，在保持可扩展性的同时还必须保证敏捷性，可以不间断运行变化的应用，而无需硬件的升级和扩展。”在赛灵思数据中心的春季媒体沟通会上，数据中心市场总监Ed Wright说道。

Ed Wright
赛灵思数据中心事业部市场营销总监

 

本次沟通会上，赛灵思的主题是可组合性，着重介绍了可组合式的智能NIC、smart world AI视频分析平台以及加速交易算法。
 
可组合式的智能NIC

针对以上的需求，赛灵思推出了新型数据中心解决方案，业界首款硬件可组合式的智能NIC——Alveo SN1000。在10G以下的级别中，市面上多用标准的NIC，因为服务器、网络到存储都不需要精心加速，但是在10G到25G级别上，CPU的内核会开始出现一些卡顿，这才出现了卸载NIC减轻CPU负担。但这类卸载NIC往往为ASIC，不能重新编程，而且对网络数据的卸载也只能满足10到25G这个级别，到了50G乃至100G这样的端口速率下，CPU内核资源会被网络数据包的处理大幅占用，这才是可编程智能NIC的设计目的。
 
赛灵思在超大规模数据中心客户中发现，CPU和ASIC很难满足他们差异化的需求，CPU和SoC的实现方案则无法满足硬件加速的性能要求。SN1000是一个2x 100GB的智能NIC，基于UltraScale+ FPGA架构，另有多核ARM子系统和Vitis Networking功能。有了赛灵思FPGA的灵活应变能力，用户可以通关软件自定义硬件加速，而ARM和Vitis Networking则提供了控制面与数据面的分离和自定义编程。SN1000智能NIC支持开箱即用、即插即用，因为赛灵思已经预想对OVS、网络虚拟化安全和存储等应用进行了加速。

赛灵思数据中心事业部网络与存储产品管理总监Kartik Srinivasan提到，目前的行业预测下，预计2024年这种可编程式的智能NIC将占到整个市场的70%。目前的SN1000已经达到100G的速率，赛灵思也在积极研究下一代的协议和速率。除了数据中心之外，这些需求也会慢慢下沉到云服务供应商、电信运营商和企业等。

Kartik Srinivasan
赛灵思数据中心事业部网络与存储产品管理总监

 

用户既可以采用RTL或是高级综合等传统的FPGA编程方法来对数据面处理，也可以借助第三方来实现，比如在赛灵思的应用商店中购买其他IP的硬件加速功能。赛灵思应用商店是赛灵思搭建的一套客户方案推广平台，合作伙伴可以用这种全新的方式推给相关的客户。该商店支持本地和云端部署，而且可供用户进行评估，由此选择按需付费或永久许可等灵活的部署选项。
 
赛灵思智能世界
 

近些年来，基于AI的视频分析应用开始普及，尤其是在口罩识别、远程会诊等安全健康领域上。但这些应用日益增加复杂程度为其创造了挑战，比如保证确定性的低时延，以及硬件扩充造成的空间和硬件成本。赛灵思为企业和开发者提供了一套名为“赛灵思智能世界”的AI分析平台，既能满足高复杂度/模型数等性能挑战，又可以做到100毫秒以下的低时延。

以视频分析常见的应用场景智能零售为例，零售业由于欺诈每年损失近一千亿美元以上，因此多路摄像头对成本和时延都提出了挑战。而在同条件的测试场景中，赛灵思智能世界的总拥有成本（TCO）与英伟达的竞品T4 GPU相比降低了近30%，比如当处理32个摄像头的数据时，只需要两套赛灵思Alveo卡，但英伟达的T4 GPU则需要用4张。与此同时，端到端的时延与该竞品相比也提速了70%以上。

赛灵思的VMSS平台是一个高度可扩展的视频处理平台，哪怕需要增加信道而扩充一张卡的情况下，也不会影响整体的时延。而且该平台的设计非常灵活，在没有视频推断任务的情况下，可以用作训练、视频处理和数据库处理等。

赛灵思数据中心部亚太区数据中心的战略营销经理Guruprasad M. Parthasarathy给到了几个采用智能世界解决方案的客户案例。比如在智能楼宇的应用上，腾讯的WeLink是一套采用Aupera创新方案的物联网操作系统，而Aupera正是赛灵思智能世界方案的合作伙伴之一。在采用Aupera的边缘AI计算方案后，该系统节省了90%以上的带宽成本，摆脱了全部交由云服务器处理的高成本和高时延。

Guruprasad M. Parthasarathy
赛灵思数据中心部亚太区数据中心战略营销经理

 
Guruprasad也提到VMSS集成了很多Alveo硬件方案，比如视频编码上用的Alveo U30，视频推断采用的是Alveo U50等等。
 
赛灵思加速算法交易
 
Ed Wright指出当今的算法交易主要分为硬件和软件两大交易路径，而且两者在性能和能力上都有着较大差异。硬件较算法需要寻求专业硬件开发商在IT系统上设计架构，然后再提供解决方案，不仅成本颇高，交期也非常长，带来了极大的商业风险。尤其是对于高频交易市场来说，突破微秒级时延壁垒的定制硬件是一条昂贵和耗时的开发路线。

而赛灵思加速算法交易给到了一套可组合的开源交易系统，交易者不仅可以享受毫秒级时延的即时交易。在赛灵思的Vitis软件平台上，开发者可以通过模块化的方式来构建并且部署在基于FPGA的Alveo卡上。Vitis不仅支持各种库的组合，还支持C和C++语言编程，方便将内部应用与第三方应用进行集成。
 
赛灵思的加速算法交易填补了算法交易中CPU或定制硬件开发中的市场空白，在时延和开发周期上做到了两全其美。而且有了现成的Alveo卡，开发者可以免去硬件定制这一流程。只要借助赛灵思的Alveo U50和Alveo U250，就可快捷部署赛灵思的加速交易算法，而且无需许可费用。