硬件永不止步 · 互连进无止境 | Samtec于Keysight开放日北京站的总结

制造/封装

535人已加入

描述

硬件永不止步 ,

互连进无止境......

Samtec

Samtec China Sr. FAE Manager 胡亚捷在Keysight实验室开放日第二站——北京站做技术分享时,不再单纯地给出问题,而是给出了他的理解和总结。

Samtec

本次活动由Keysight主办,在上海、北京举办开放实验室主题日活动,携手Samtec的技术专家,共同探讨确保AI互连稳健性的趋势、挑战和解决方案。点击AI正在对硬件互连提出“过分”要求 | Samtec于Keysight开放日深度分享,了解上海站详情。

Samtec

北京站分享内容较多,涵盖多个维度,因篇幅有限,本次只总结其中部分亮点。

AI促使硬件向互连提出更高要求

首先,胡亚捷在现场分享了一份来自 NeurIPs(全球顶级 AI 会议)的全球顶级 AI 人才构成的分析。该分析数据来源于以 NeurIPs发表论文的作者群体为样本的研究。结果显示,在 AI 本科生培养方面,中国占比 47%,位居全球之首;而在人才吸引力上,美国则更占据优势。当前,市场对 AI 人才的需求依旧极为旺盛,且主要集中于中美这两大科技强国。

Samtec

他也强调了硬件的重要性:

“为了满足 AI 日益增长的算力需求,各种专门为 AI 工作负载优化的处理器不断涌现,如ASIC、FPGA、或定制的 AI 芯片等。这些硬件的创新和发展,为 AI 的持续进步提供了源源不断的动力。”

Samtec

作为深耕连接器领域多年的工程师,他是这么看待AI和硬件以及互连之间的关系的:

“ 硬件是 AI 发展的根基,就如同高楼大厦的地基。没有强大的硬件支持,AI的各种设想和应用都将成为空中楼阁。完善的基建能为 AI 提供强大的并行计算能力,大大加速了模型的训练和推理过程。

互连则是桥梁,以 AI 数据中心为例,大量的服务器、存储设备以及网络设备之间,需要通过硬件互连实现高效的数据交互。AI 的训练模型需要海量的数据支持,这些数据在不同硬件设备之间的快速、准确传输,全依赖于硬件互连。”

Samtec

是的,如同他所说的那样,在AI走进千家万户的过程中,硬件将承担更大的压力,因此,硬件对于互连的要求越来越“过分”。

“过分”要求的部分拆解

Samtec

胡亚捷在分享中重点拆解了两个应用:

Accelerators(加速卡)

胡亚捷认为:“应对大型模型是人工智能革命的核心,而提供所需的计算能力则是设计人员面临的挑战。传统的计算机设计已有先例。我们熟悉的台式电脑通过将所需的处理工作移交给专业设备来处理数据密集型任务。中央处理器(CPU)负责核心任务,但将图形处理或声音仿真分配给二级专业模块。这就形成了今天我们所熟悉的结构 - 安装在CPU主板上的图形卡和声卡以及其他专业组件。在人工智能领域,加速器也执行着类似的任务。中央处理器继续为整个系统提供处理能力,而加速器则是专业硬件,为最新人工智能系统使用的大型模型提供专用计算能力。”

Samtec

这里的加速器,通常是GPU。因为CPU 虽然是计算机核心,但面对人工智能大量数据并行处理需求,它的架构特性使其在这方面相对受限。而 GPU 拥有大量的计算核心,特别适合大规模并行计算,比如深度学习里的卷积运算等矩阵操作,所以成为了常用的人工智能加速器。传统计算机与单一加速器或GPU的主要区别在于可扩展性。

Samtec

中央处理器与加速卡之间不再是一对一的关系,而是可以在单个中央处理器上安装大量的加速卡。在这种安排下,高效计算取决于加速卡之间以尽可能低的延迟和尽可能高的信号完整性进行数据传输。因此,板卡之间的连接对于这些计算机处理所需数据起着至关重要的作用。

Samtec

Samtec 提供多种解决方案,如 AcceleRate® HD Slim,可实现 32 GT/s PCIe® 5.0 速度,适用于目标 AI - HPC 架构;其 Twinax Flyover® 系统等高速电缆组件,能简化板布局并延长信号传输距离,满足加速卡之间高数据速率、低延迟的瞬时数据结果传输要求,有效提升了加速卡的性能和效率。

DSAs(特定领域架构)

首先,DSA是一种专门针对某种特定计算任务或应用进行优化的硬件架构。与通用计算架构相比(比如 x86 或 ARM),通过定制硬件和指令集来提升特定任务的性能、能效、计算能力和计算效率。通常这种架构会针对某一类操作(比如深度学习、图像处理、网络处理等)进行硬件定制。

Samtec

“事实上,各大科技公司都有在搭建类似概念的集群系统架构。”胡亚捷强调。

Samtec

胡亚捷认为:“人工智能 (AI) 尤其是自然语言处理 (NLP)、计算机视觉和语音处理领域对此尤为关注。这些数据密集型应用可从优化的信道性能中获益,从而支持更高的数据传输速率、更小的占板面积、更长的信号传输距离和更低的延迟。

Samtec

然而,这种“专注化”和“专业化”需要灵活性和可扩展性的支持,这就需要安装额外的处理器或改变配置,以实现新功能的演进。而互连就是关键。为了支持极高的数据传输速率和对灵活配置的需求,Samtec提供了一系列高性能铜缆和光纤布线产品。

Samtec全方面满足各类AI需求

Samtec

现场,胡亚捷还带来了Samtec线缆特别解决方案的讲解:

“Samtec Flyover® 线缆组件系统可在PCB上方直接传输高速数据,从而简化电路板布局并扩大信号覆盖范围。”

Samtec

他介绍到:

“以我们的Eye Speed® 线缆技术为例,它与Samtec的高性能连接器配合使用,信号通过高速电缆组件传输,以提升信号完整性并改善散热性能,可以让数据 “飞跃” PCB进行传输。方案支持112Gbps及更高的数据传输速率,在延长信号传输距离的同时,还能为系统架构设计提供灵活性,而且不会增加整个系统的负担。”

Samtec

而这样的产品,我们还准备了一整个系列!

Samtec

是的!Samtec拥有丰富的产品线和强大的技术研发能力,能够为 AI 硬件互连提供全方位的解决方案。我们的产品不仅性能卓越,而且具有高度的灵活性、可靠性和稳定性。

来自是德科技的观点

Keysight解决方案部经理李凯就当前AI互连技术呈现的趋势以及测试挑战进行了阐述:高速接口技术快速迭代,互连速率从32-64 Gbps向112G、224G甚至448G演进,以满足GPU和XPU间指数级增长的数据交换需求,同时光互连技术的加速落地,以解决铜缆在长距离传输中的带宽和能效瓶颈。

Samtec

Keysight解决方案部经理李凯

AI大模型的快速发展显著推动了高速互联产业的技术迭代以及市场扩张,同时也推动用于AI服务器集群构建的无源铜缆向更高传输速率,更大端口密度的方向发展。Keysight解决方案工程师孙丽晴详细介绍了Keysight针对目前高频、多端口高速铜缆的测试解决方案。

Samtec

Keysight解决方案工程师孙丽晴

Keysight应用工程师于洋介绍了矢量网络分析仪的校准方法。测试数字高速电缆、PCB板等非标准射频接口时,精确的夹具校准一直是头疼的问题。于洋着重介绍了矢网测试校准的原由以及最常使用的SOLT校准方法。随后介绍了通过端口延时、时域门、二级校准的夹具S参数提取及用户自定义校准件等基于SOLT校准方法为基础的夹具补偿和去嵌入的方法,同时指出了各种方法的优缺点。最后详细介绍了两种高精度的非标准接口校准方法:TRL和AFR,其中AFR方法既可以简化夹具设计又可以得到和TRL几乎相同测试精度。

Samtec

Keysight应用工程师于洋

最后,孙丽晴和于洋携手结合Samtec产品进行了基于224Gbps无源铜缆的多端口网分实测演示,并回答用户的现场提问。

Samtec

阶段总结
AI 时代的幕后支柱:硬件 & 互连
 
最后还是想鼓励我们所有的客户、友商以及工程师伙伴们,硬件&互连是摩尔定律红利的传递者。在 AI 蓬勃发展的今天,我们在为 AI 的神奇赞叹不已时,绝不能忽视硬件以及硬件互连所做出的巨大贡献。
 

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 相关推荐
  • 热点推荐
  • Samtec

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分