基于FPGA的自适应计算创建高性能计算机

描述

  在 COVID-19 大流行导致范式转变之后,我们大多数人仍在通过在线视频会议与我们的同事会面。您可能没有过多考虑从会议中流式传输所有内容和提要需要什么。但是,如果您是数据中心运营商,您可能在过去一年中没有睡很多觉,担心如何应对前所未有的视频流量大流行性激增。

  不仅如此,如今的数据中心还必须处理来自视频会议、流媒体内容、在线游戏和电子商务等广泛工作负载的非结构化数据的爆炸式增长。其中许多应用程序对延迟非常敏感,并且还受制于不断发展的压缩、加密和数据库架构标准。

  这迫使数据中心扩展其基础架构以满足各种苛刻工作负载的性能和延迟要求,同时努力将成本和功耗降至最低。事实证明这是非常困难的,它迫使数据中心运营商重新考虑他们当前的架构并探索本质上更具可扩展性和效率的新配置。

  目前,大多数数据中心都有固定资源集的机架,将 SSD、CPU 和加速器组合在单个服务器中。虽然这确保了计算和存储之间的高带宽连接,但它在资源利用率方面非常低效,因为每台服务器中的存储和计算比率都是固定的。由于工作负载需要不同的计算和存储组合,因此每台服务器中都会留下未使用的资源孤岛。

  可组合基础设施

  一种新的架构正在出现,它有望显着提高资源利用率。它被称为“可组合基础设施”。可组合基础设施需要 解耦 资源,而是将它们汇集在一起​​,让它们可以从任何地方访问。可组合的基础架构可以使用适量的资源来配置工作负载,并通过软件进行快速重新配置。

  一个包含 CPU、SSDS 和加速器池的可组合架构,这些池联网在一起并由基于标准的配置框架控制,有望大大提高数据中心的资源效率。在这样的架构中,不同的工作负载可能有不同的计算、存储和加速要求,这些资源将被相应地分配,而不会浪费硬件。这在理论上听起来不错,但在实践中,有一个大问题:延迟。

  延迟挑战

  当您分解资源并将它们移得更远时,由于 CPU 和 SSD 之间或 CPU 和加速器之间的网络流量,您会产生更多的延迟和减少的带宽。除非您有某种方法可以减少网络流量并以有效的方式互连资源,否则这可能会受到严重限制。这就是 FPGA 在解决延迟挑战中发挥三个主要作用的地方:

  FPGA 充当自适应加速器,可以针对每个工作负载进行定制,以获得最佳性能。

  FPGA 还可以使计算更接近数据,从而减少延迟并最小化所需的带宽。

  FPGA 的适应性强、智能结构可实现资源的有效池化,而不会产生过多的延迟。

  自适应加速度

  基于 FPGA 的计算加速器的第一个显着优势是显着提高了当今需求量很大的工作负载的性能。在实时流媒体应用的视频转码用例中,FPGA 解决方案的性能通常比 x86 CPU 高 30 倍,这有助于数据中心运营商应对同时流媒体数量的巨大增长。另一个例子是基因组测序的关键领域。Xilinx 基因组学最近的一位客户发现,我们基于 FPGA 的加速器提供答案的速度比 CPU 快 90 倍,帮助医学研究人员测试 DNA 样本的时间缩短了过去的一小部分。

  让计算更接近数据

  可组合数据中心中 FPGA 的第二个关键优势是能够使自适应计算接近数据,无论是静止的还是运动的。SmartSSD 计算存储设备中使用的赛灵思 FPGA 可加速高速搜索、解析、压缩和加密等功能,这些功能通常由 CPU 执行。这有助于为更复杂的任务卸载 CPU,但也减少了 CPU 和 SSD 之间的流量,从而减少了带宽消耗并减少了延迟。

  同样,我们的 FPGA 现在用于 SmartNIC,例如我们的新 Alveo SN1000,通过线速数据包处理、压缩和加密服务以及适应特定数据中心或客户的自定义交换要求的能力来加速运动中的数据。

  智能面料

  当您将 FPGA 的自适应计算加速与低延迟连接相结合时,您可以在可组合数据中心更进一步。您可以将计算繁重的工作负载分配给通过适应性强的智能结构互连的加速器集群——按需创建高性能计算机。

  当然,如果您不能使用最佳加速算法对计算加速器、SmartSSD 和 SmartNIC 进行编程,然后为每个工作负载以正确的数量配置它们,那么这一切都是不可能的。为此,我们构建了一个全面的软件堆栈,该堆栈利用 TensorFlow 和 FFMPEG 等特定领域的行业框架,这些框架与我们的 Vitis 开发平台配合使用。我们还看到了 RedFish 等更高级别的供应框架在帮助智能资源分配方面的作用。

  未来是现在

  可组合数据中心的承诺是一个激动人心的变化,Xilinx 器件和加速器卡是这种新型高效架构的关键构建块。凭借快速的可重构性、低延迟和能够适应不断变化的工作负载的灵活架构,Xilinx 完全有能力成为这一演变的主要参与者。

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分