深鉴科技基于FPGA技术的人工智能芯片设计

嘉德IPR 发表于 2020-10-25 11:37:43 收藏 已收藏
赞(0) •  评论(0
400万+工程师在用
400万+工程师在用

深鉴科技基于FPGA技术的人工智能芯片设计

嘉德IPR 发表于 2020-10-25 11:37:43

深鉴科技发明的人工智能芯片,结合了神经网络专用处理器和通用处理器的芯片结构,不仅可以提供一个灵活的系统,并且可以适用于复杂的神经网络。

近年来,随着人工智能领域的兴起,越来越多的AI芯片公司出现在了人们的视野之中,AI芯片被广泛应用于金融、购物、安防、早教以及无人驾驶等领域。而这其中,深鉴科技也凭借着先进的技术在市场中崭露头角。

深鉴科技的AI芯片基于FPGA设计,其设计的亚里士多德架构是针对卷积神经网络而设计的,其设计的笛卡尔架构是专为处理DNN/RNN网络而设计的,可对经过结构压缩后的稀疏神经网络进行极致高效的硬件加速。

在人工智能领域,卷积神经网络尤其在图像处理领域有着非常广泛的应用,其具有训练方法简单、计算结构统一的特点。但是神经网络存储计算量都很大。工程师们试图在FPGA上搭建或者直接设计专用芯片来实现人工智能芯片,但是,这种专用神经网络加速器的硬件还是不够灵活,且能够完成的任务较为单一。

为了解决这样的问题,深鉴科技在16年8月19日申请了一项名为“通用处理器与神经网络处理器的协同系统设计”的发明专利(申请号:201610695285.4),申请人为北京深鉴科技有限公司。

根据该专利目前公开的资料,让我们一起来看看这项人工智能芯片专利吧。

深鉴科技基于FPGA技术的人工智能芯片设计

如上图,为把人工神经网络模型部署在专用硬件上的流程示意图,这是一套为了加速神经网络训练过程,从优化流程的硬件架构的角度提出了一整套的技术方案,其中显示了如何压缩CNN模型以减少内存占用和操作数量,同时最大限度地减少精度损失。

这种硬件架构包括PS和PL两个模块,其中:PS为通用处理系统,其中包含有CPU和外部存储器;PL为可编程逻辑模块,其中包含有DMA、计算核、输入输出缓冲以及控制器等。计算核包括多个处理单元,其负责在人工智能网络的卷积层以及全连接层的大多数计算任务,是实现人工智能芯片的核心部件。

值得一提的是,在这种架构中,虽然DMA分布在PL一侧,但是却直接被CPU所控制,并且将数据从外部存储区内搬运到PL中。同时,这种硬件架构仅仅是进行了功能上的划分,PL和PS之间的界限并不绝对,例如PL和CPU都可以仅仅实现在SOC上,而外部存储器可以由另一个存储器芯片实现并于SOC芯片中的CPU相连接。

深鉴科技基于FPGA技术的人工智能芯片设计

如上图为优化人工神经网络的整体流程图,首先要对于模型进行压缩,压缩可以对CNN模型进行修剪,而网络修剪是一种有效的方法,可以减少网络的复杂性和过度拟合。其次,进行数据定点量化,目的是为了将浮点数转换为定点数的同时得到最高精度。

之后再通过编译,通过这样的结构设计得到人工神经网络加速器,从而可以做到输入图像、语音、文字,即可输出识别的结果。这样进行精简后的结构有利于硬件设计,同时省去了较为复杂的运算,进一步提高了人工智能芯片进行运算的效率。


深鉴科技基于FPGA技术的人工智能芯片设计

如上图,为使用CPU和专用加速器的协同设计来实现人工神经网络的硬件架构,在这种硬件架构中,CPU控制DMA,由DMA来负责调度数据,具体而言,CPU可以控制DMA将外部存储器中的指令搬运到FIFO(缓冲器)中,随后,这种为神经网络设计的加速器从FIFO中取出指令并执行。

在运行的时候,CPU需要时刻监控DMA的状态:当输入缓冲区的数据未满时,需要把数据从DDR中搬运到输入缓冲区中;当输出缓冲区不为空时,需要将数据从输出缓冲区中搬运回DDR中。

此外,这种结构中使用的专用加速器包括:控制器、计算核以及缓冲区,计算核包括卷机器、加法器树和非线性模块,这些结构保证了人工智能芯片完成深度神经网络的运算,从而可以完成不同的复杂的人工智能任务。

以上就是深鉴科技发明的人工智能芯片,这种结合神经网络专用处理器和通用处理器的芯片结构,可以为人工智能应用提供一个灵活的系统,并能够适用于复杂的神经网络。并且该方案实现了控制器与存储器的分离,控制器和存储器可以使用不同的SOC芯片完成,进而保证了系统的稳定性。

关于嘉德


深鉴科技基于FPGA技术的人工智能芯片设计

深圳市嘉德知识产权服务有限公司由曾在华为等世界500强企业工作多年的知识产权专家、律师、专利代理人组成,熟悉中欧美知识产权法律理论和实务,在全球知识产权申请、布局、诉讼、许可谈判、交易、运营、标准专利协同创造、专利池建设、展会知识产权、跨境电商知识产权、知识产权海关保护等方面拥有丰富的经验。
       责任编辑:tzh

打开APP阅读更多精彩内容

收藏

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容图片侵权或者其他问题,请联系本站作侵删。 侵权投诉

相关话题

评论(0)

加载更多评论
相关文章

分享到

QQ空间 QQ好友 微博
取消