HBX-G500是一款为AI、计算和网络领域设计的高性能可编程加速器卡。它配备了多通道的高带宽存储和高效能计算能力,以及先进的高速接口解决方案,特别适用于运行大型模型。即便在小批量数据处理时,它的性能也能媲美A100和H100。
该加速器卡搭载了两组PCIe GEN5接口,并配备了两个400GbE和一个200Gbe网络接口,以及32GB的GDDR6存储单元。
它还具备一个包含超过80个节点的2DNOC网络和2560个高度可配置的MLP计算核心,以支持密集型计算任务。2DNOC不仅连接了高速接口和存储单元,而且还连接了Fabric的80个节点,使得用户可以更专注于功能开发。总线路由问题可以简单地通过NOC连接来解决。
板卡功能:
两路PCIe Gen5 ,其中PCIe Gen5X16支持系统接口,PCIeGen5X4可同时支持RC/EP
两路网口,速率可达400Gbe以及200Gbe,且支持向下速率兼容
32GB GDDR6,市面上为数不多的支持GDDR6的FPGA板卡,支持16通路访问,内存带宽可达3.5Tbps
FPGA可支持达1500K LE
FPGA支持2560高性能计算核心(MLP)
每个MLP最大支持32个乘法器,可根据数据位宽的变化做调整
专属内嵌的LRAM/BRAM可缓存数据或者快速反馈结
支持整型(INT16/INT8/INT4)、浮点(FP24/FP16)、BFP
INT8总算力约61Tops
支持通用串行总线(USB)JTAG配置、PCIe加载
支持上电自加载,1GB QSPI闪存 板卡规格:
尺寸:高度:111.15mm 长度:275mm
工作电压:外部两路 +12VDC
适用AI应用的架构特性:
2D NOC的高效路由架构让用户可以集中精力于开发:
它支持广泛采用的AXI4标准接口。
NOC的工作频率可达2Ghz,数据传输宽度为256位。
主机通过PCIe接口,可以直接通过NOC的黄色区域访问16条通道的GDDR6存储。
主机通过PCIe,同样可以通过NOC的黄色区域直接访问连接在NAP上的任意功能单元。
功能单元能够通过NOC直接访问存储资源(GDDR6或DDR)。
不同功能单元之间可以通过NOC进行高效互联。
审核编辑:刘清
全部0条评论
快来发表一下你的评论吧 !