新一代数据中心加速卡Alveo U55C最大功耗低至150W

电子说

1.3w人已加入

描述

电子发烧友网报道(文/程文智)近年来,在数字化浪潮的推动下,传感器及其产生的数据量呈现出了爆炸式的增长,对数据处理基础架构的需求也随之增长。根据国际超级计算大会(ISC)的统计,在HPC领域,超算系统架构正变得越来越多元化,在近几年的TOP500超算榜单中,使用GPU、FPGA等加速卡的异构计算系统占比呈上升趋势。

近日,赛灵思(Xilinx)在SC21全球超级计算大会上推出了新的Alveo U55C数据中心加速器卡,以及一款基于标准、API-driven 的集群解决方案,用于大规模部署 FPGA。据赛灵思数据中心事业部高性能计算( HPC )产品经理Nathan Chang介绍,Alveo U55C加速器卡结合了非常多当今HPC和大数据工作负载需要的关键功能。该加速器卡能够提供Alveo 加速器产品系列中的最高计算密度和 HBM2容量。结合赛灵思基于 RoCE v2 的全新集群解决方案,可令运行大规模计算工作负载的各类客户大获裨益,支持其利用现有数据中心基础架构和网络,实现强大的基于 FPGA 的 HPC 集群。

Alveo U55C最重要的特性

Alveo U55C卡融合了当前 HPC工作负载所需的众多关键特性。它能提供更高的数据流水线并行度、卓越的存储器管理、优化的整个流水线的数据迁移,以及Alveo产品系列中最高的单位功耗性能。

Alveo U55C与其前一代产品Alveo U280相比,有了很多升级。从外观上来看,Alveo U55C采用了单插槽、全高半长( FHHL )外形尺寸;从算力上来看,虽然Alveo U55C提供的算力没变,但体积更小了,计算密度得到了很大的提升;从功耗上来看,Alveo U55C的最大功耗为150W,而Alveo U280的功耗为225W。而且,Alveo U55C还将HBM2的容量翻倍至16GB。

Nathan Chang解释说,功耗降低的原因是Alveo U55C去掉了DDR,在存储器卡方面让HBM2增加了一倍,这就相当于让高带宽的数量增加了4倍,由于去掉了DDR,所以Alveo U55C整个TDP功耗也下降了。

在Nathan Chang看来,Alveo U55C有三个非常重要的特性:一是采用了RoCE v2、DCBx,还有MPI,在现有网络和基础架构上,为现在的数据中心提供了最尖端的计算集群。第二,现有的应用开发人员可以利用Vitis平台上的一些已有的API、库以及MPI,来扩展他们的工作负载。第三就是高性能。

据他介绍,通过RoCE v2和 DCBx技术,再结合200 Gbps带宽,Alveo U55C构建的集群解决方案使Alveo网络可在性能和时延方面媲美 InfiniBand 网络,且无需对厂商加锁。MPI (信息传递接口)集成功能使 HPC 开发人员能以赛灵思 Vitis统一软件平台扩展Alveo数据流水线。利用现有开放标准和框架,现在能跨数百张 Alveo 卡上进行性能扩展,无需考虑服务器平台和网络基础架构,同时还能共享工作负载和存储器。

借助面向应用和集群的高层次编程,软件开发者和数据科学家能够运用 Vitis 平台,解锁 Alveo 和自适应计算的优势。赛灵思大力投入于 Vitis 开发平台和工具流程,旨在令不具备硬件专业知识的软件开发者和数据科学家,也能更容易地使用自适应计算。Vitis 平台支持 Pytorch 和 Tensorflow 等主流 AI 框架,还支持 C、C++ 和 Python 等高层次编程语言,使开发者能利用特定 API 和库来构建领域解决方案,或者使用赛灵思软件开发套件,从而在现有数据中心内轻松加速关键 HPC 工作负载。

应用案例

谈到Alveo U55C的应用,Nathan Chang列举了几个常用的应用场景,比如几乎每一家汽车厂商都会用到的碰撞仿真软件LS-DYNA。汽车厂商主要是用它赖进行汽车的撞击测试,以便查看仿真效果,确保汽车在设计方面的安全性和结构方面的完整性。而安全性和结构系统的设计往往取决于模型性能,因其能以计算机辅助设计有限元方法( FEM )仿真来降低物理碰撞测试的成本。FEM求解器是驱动具备数亿个自由度仿真的主要算法,而这些庞大的算法可以细分为更基本的求解器,如 PCG、稀疏矩阵、ICCG。与 x86 CPU 相比,利用超并行数据流水线在大量 Alveo 卡上进行性能扩展,LS-DYNA 能够实现超过 5 倍的性能加速。这能在一个 Alveo 流水线中提高单位时钟周期的工作效率,令 LS-DYNA 客户受益于突破性的仿真时间。

另外,他还介绍了一个图分析的案例,“在加入赛灵思之前,我是一个创业者,当时我处于油气行业,主要做的工作是做地壳震动图解决的AI和机器学习。我们知道,数据工程师、科学家、分析师在处理此类课题的时候,都会寻找数据的一些相关性。在寻找的过程中,我们发现了一个巨大的痛点,那就是数据的孤岛越来越多,如果想要把这些不同孤岛上的数据联系起来,真的非常困难。”他感叹。

不过,Nathan Chang表示,图库数据是科学家认为非常具有颠覆性的一个平台,它能够将数据从孤岛中提取出来,让偶让数据科学家可以专注于数据之间的关系,而不是看单张图。赛灵思的合作伙伴,TigerGraph 是一家图分析平台提供商,他们正使用多张 Alveo U55C 卡为两种最高效算法进行集群与加速,以驱动基于图的推荐和集群引擎。图从信息孤岛中采集数据并重点关注数据间的关系。图领域的下一个前沿是实时查找答案。Alveo U55C 将推荐引擎的查询和预测时间从数分钟缩短至数毫秒。与基于 CPU 的集群相比,使用多张 U55C 卡扩展分析所提供的出色计算能力和存储器带宽,可将图查询速度提升高达 45 倍。质量评分也提升高达 35%,从而显著提升置信度,将误报几率降至低个位数

另外,他还列举了Alveo U55C在信号处理、医疗和金融方面的应用。

总结

随着高性能计算迈向百亿亿级大关,功耗将成为下一个难关。而典型的高性能计算架构,即CPU和GPU的架构,难以提供可接收的单位功耗性能,因此,现在越来越多的高性能计算集群开始采用一机构计算架构,预计未来将会有更多的算力会部署在专门的加速器上,而不是通用CPU上。对于整个HPC服务器集群的降功耗目标来说,使用加速器卡的效果更好,功耗更低。未来加速器卡的市场前景将会更加广阔。

声明:本文由电子发烧友原创,转载请注明以上来源。如需入群交流,请添加微信elecfans999,投稿爆料采访需求,请发邮箱huangjingjing@elecfans.com。

编辑:金巧

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分