加速边缘设备中计算机视觉和语音的AI推理模型

描述

  加速AI推理模型已成为一项基本任务,因为我们正朝着创建更复杂,更高效的AI应用程序迈进。灵活和完整的AI辅助是在快速增长的AI领域取得成功的关键组成部分。

  RISC-V被设计为模块化的,有几个基本部分和可能的附加部分。ISA的基础和扩展是工业界,学术界和研究界之间合作努力的结果。指令及其编码、控制流、寄存器、内存和寻址逻辑操作和辅助功能都在库中指定。通过完整的软件支持,包括通用编译器,仅基础就可以创建简化的通用计算机。标准扩展旨在与所有标准基础一起工作,并相互兼容,而不会引起任何冲突。

  Deep Vision ARA-1 处理器围绕完整的软件工具套件构建,是需要高计算、模型灵活性和能源经济性的边缘应用的明确选择。该解决方案还旨在支持当今最复杂、最具成本效益的边缘 AI 应用,同时消耗最少的功率。

  RISC-V计算的创始人和领导者SiFive最近宣布,边缘AI处理器公司Deep Vision将把SiFive RISC-V处理器IP整合到其下一代推理加速器中,以便在边缘设备中实现更完整的计算机视觉和语音。结合这两项超高效服务,深度视觉将授权SiFive智能X280和SiFive Essentia S7处理器IP,以提高其解决方案的灵活性和功能,使客户能够为智能城市,智能零售,汽车和其他行业创建应用程序。

  得益于SiFive智能X280处理器,深度视觉加速器现在能够支持更广泛的神经网络模型,并包括浮点优化。张量流精简版和各种 AI/ML 数据格式(包括 BFLOAT16)由 SiFive 智能处理器上的 SiFive 智能扩展提供支持。

  SiFive Intelligence X280 处理器作为应用类 AI 处理器的灵活性和可编程性扩展了 Deep Vision 加速器久经考验的功能和性能,可快速支持硬件中新的和不断发展的 AI 推理模型,以及图像缩放、颜色转换和白噪声减除等 AI 预处理任务。

  SiFive 基本型 S7 处理器与其他 SiFive RISC-V 处理器一起,提供实时、确定性的处理功能,允许异构计算集群中的命令和控制应用。SiFive Essential S7 处理器架构具有更好的安全性和实时确定性,同时提供面积高效的每瓦性能,使其成为延迟敏感型边缘计算应用的理想选择。

  将SiFive智能RISC-V处理器的特性与深度视觉推理加速器相结合,是为快速增长的AI处理器行业快速高效地制造新硬件的自然方式。SiFive 智能扩展和 RISC-V 矢量(如 SiFive 智能 X280 中实现的那样)非常适合当前 AI 应用的需求。得益于SiFive业界领先的RISC-V处理器IP产品组合,SiFive在有效帮助人工智能公司构建以市场为中心的系统方面具有独特的优势。

  此外,凭借同类最佳的 11+ SPECint2k6/GHz 基准测试结果,SiFive 性能 P650 将其业务范围扩展到极高端领域,使其成为性能最高的可授权 RISC-V 处理器。凭借多达 16 个内核的多核、多集群 CPU 配置和最近批准的虚拟机管理程序扩展,SiFive Performance P650 可提供可扩展的性能。随着时间的推移,SiFive计划扩展其路线图,以包括多集群功能,在单个SoC中支持128个或更多内核。

  RISC-V 加速了当前的 AI 推理模型

  SiFive将RISC-V处理器IP引入其下一代AI推理加速器,为边缘设备中的计算机视觉和语音提供更快,更高效的计算能力。RISC-V处理器的高灵活性和强大功能使客户能够以比传统技术更简单,更快的速度创建复杂的AI应用程序,如智能城市,智能零售和汽车。

  审核编辑:郭婷

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分