GPGPU市场增长强劲 创新性架构大幅提升AI计算效率！

电子发烧友网报道（文/李弯弯）GPU中文叫图形处理单元，是一种并行处理的硬件，早起只用来渲染复杂的计算机图形环境。随着技术进步，GPU不再局限于图形领域，扩展应用到其他计算密集的领域，被称为GPGPU，成为AI 芯片领域的代表。
 
GPU具有很好的通用性，同时传统的架构也存在一定局限，比如计算密度低、效率低，如何在保证通用性的情况下，又提高它的计算效率成为业界关注的重点。
 
创新架构提高AI计算效率
 
那么应该如何做呢？为了提高GPU的计算效率，GPU知名企业英伟达也进行的相应的尝试，即对原来的GPU架构进行修改，比如增加专门的张量计算单元、增加片上内存器等，这一定程度可以提高AI的计算效率，不过受限于GPU整体架构，问题并没有得到很好的解决。
 

图：传统GPU对AI加速的局限体现在哪些方面（图片来自登临科技分享）

 
成立于2017年的登临科技，从2018年自主研发创新性的GPU+架构，一款由软件定义的、片内异构的支持并行化计算的架构。GPU+架构针对AI应用，具备和GPU一样的可编程能力和通用性。同时通过架构创新，提供更高的计算密度，更快的计算速度，同时大幅降低对外部带宽的需求。而这些是传统GPU芯片无法兼顾的。
 

 
由于GPU良好的通用性，在服务器及云端等使用场景中，会大规模应用 GPU。运行各类神经网络。大量开源生态的应用、大量客户定制化的软件，都是在主流的GPU软件生态上完成。如何保持客户已有的投入，即如何减少客户的使用成本，也是AI技术产业化的重要课题。
 
怎么做呢？登临科技在接受电子发烧友采访的时候表示，登临自主创新的GPU+架构，通过对高效的Tensor引擎和可编程的GPGPU引擎的有机配合，硬件直接兼容CUDA/OpenCL，可无缝接入现有软件生态，大大降低了客户的迁移成本。
 
通过片内异构，GPU+解决了传统的系统级异构计算调度，数据交换的开销大，以及数据的连贯相干性的难题。在整个系统的计算密度极高的基础上，通过软件定义，使针对不同神经网络的应用场景，都能达到硬件性能和能效最大化。
 
登临科技表示，通过大规模客户实测，在同等功耗下，GPU+的性能可以达到国际主流产品3倍以上的能效。
 
打造真正符合市场需求的产品
 
登临科技成立以后，一直思考如何制定真正符合市场需求的技术路线，即上文所谈的如何保持客户已有的投入，减少客户的使用成本，这是登临科技制定产品的价值导向。
 
2018年登临确定了产品的方向：基于GPGPU的高能效计算，并自主研发创新的GPU+架构。经过团队一年多的工作，于2019年6月，公司完成了首款基于GPU+架构的Goldwasser设计，并mpw流片成功。
 
2020年6月Goldwasser成功回片通过测试，开始客户送样，Goldwasser目前已在成熟的12nm/14nm工艺上实现量产。登临Goldwasser已于2021年在智慧城市、互联网等领域顺利实现了商业化落地，并同时与数十家客户在边缘至云端的不同应用场景中进行产品开发、测试。 
 

 

 
登临科技的Goldwasser 系列产品包括：边缘计算产品 Goldwasser UL，功率 25-35W，INT8 算力 32-64TOPS；半高半长的服务器计算卡 Goldwasser L，功耗 40-70W，提供 128-256TOPS 算力；另有一种全高全长的 Goldwasser XL，输出 512TOPS 算力。多种规格的产品，使得客户可以根据自身需求分别部署在边缘侧、云端的各种计算设备中。
 
登临科技方案架构总监郑韬此前在某论坛上也介绍过，Goldwasser覆盖主流系统生态，登临Hamming软件开发包支持主流GPU编程语言，包括CUDA、OpenCL等；适配国内外主流服务器厂家；支持主流国内外AI计算框架，包括PyTorch、百度飞浆、TensorFlow等；适配国内外主流CPU厂家，包括飞腾、龙芯、英特尔、AMD等。
 
在不同的应用场景下，Goldwasser可以支持多种不同的算法实现和落地，如智慧城市、智能交通、语音识别、虚拟客服、智慧工地、智慧车站、机器翻译、工业视觉等，场景覆盖CV、NLP、知识图谱、信号处理和计算等多个领域。Goldwasser可以同时支持训练和推理。
 
登临科技表示，目前Goldwasser正与30多家不同行业的头部企业进行量产导入。同时，登临科技打通供应链上下游相关企业和合作伙伴，确保产品正常交付。
 
小结
 
当前AI技术正快速发展，GPGPU呈现出强劲的增长势头，根据有关数据预测，到2025年，我国GPGPU芯片板卡的市场规模将达458亿元，年复合增长率高达32%，未来市场可观。
 
目前国际巨头占据大部分市场，与之相比国内厂商还存在差距，不过近几年不少国内GPU厂商通过自主创新，在技术上逐渐取得进展，产品也逐步走向落地商用，比如登临科技。
 
另外，对于政府目前重点关注的降碳增效，登临科技表示，对计算芯片而言关键指标是能效比，而这也是公司产品的最重要的优势之一，登临将继续通过对传统GPU的架构创新，不断提升异构硬件的算力，达到非常显著的能效比优势，为降碳和增效做贡献。