携手生态伙伴，Imagination GPU助力边缘生成式AI

9月 10 日，奕斯伟计算开发者伙伴大会在北京亦庄举办。大会以“绿色、开放、融合”为主题，汇聚了 EICT 领域的专家、学者等重磅嘉宾，共同探讨 AI 时代背景下 RISC-V 的发展机遇。Imagination 作为重要生态合作伙伴受邀出席活动，与奕斯伟等业界伙伴携手加速 RISC-V 在各行各业的深度融合和应用落地。

 

 

活动现场，Imagination 产品管理高级总监 Stephen Barton 从芯片 IP 的角度，分享了Imagination 如何通过RSIC-V 和PowerVR 助力边缘生成式 AI 的发展。

 

 

首先，他表示，深度学习已成为推动大型计算机工作的有效方法，这一点在传统的高性能计算方法中是无法实现的。而边缘设备并非大型计算机，未来 AI 在小型计算机上将如何发展？对此，他探讨了两种方式，一是通过更大的计算机、晶体管调度、芯粒（chiplet）堆叠、减少数值方法等提升计算性能。另一种是确保计算可以轻松扩展，并且是通用的。RISC-V 则是很好的示例，作为一个不断发展的开放标准，专注于 RISC-V 解决方案可以让你充分利用系统的潜力。同时，CPU 是通用的，可以用于多种场景。

 

 

在边缘端，功耗、带宽等资源受限，更需要确保边缘计算的高效扩展。当运行生成式 AI 推理时，可能专注于峰值TOPS 和带宽，游戏也可能会占用大量的 GPU 资源，同时还可能有一些加密操作占用了大量 CPU 时间。为了保证通用性运行工作负载，并减少系统的核数量，可以通过 NPU 牺牲一些灵活性以实现高性能；也可以通过 GPU 牺牲一些芯片面积来获得更好的 PPA 并扩展加速能力。

 

 

与此同时， RISC-V 在边缘计算中也发挥着重要作用。Stephen 讲到，向量引擎和向量扩展已成为标准的一部分。当涉及到机器学习工作负载时，RISC-V 具有很大的灵活性，不需要 API 可直接使用。同时 AI 领域中 RISC-V 具有最低的面积开销，等等。

 

最后，Stephen 特别提及到 Imagination 与奕斯伟、SiFive 的合作——奕斯伟 EIC77 系列，涵盖单Die RISC-V边缘计算芯片EIC7700及更高算力版本EIC7700X，双 Die RISC-V AI PC 芯片 EIC7702 及更高算力版本 EIC7702X。该系列中的图形和计算加速功能由 Imagination 的 GPU IP、SiFive 的 CPU IP，以及奕斯伟计算的专有神经网络单元 NPU 无缝集成而成，可为从机器视觉应用（如行为识别和人脸识别）到大型语言模型等各种边缘计算应用提供出色的性能。同时 Stephen 表示将全力支持奕斯伟提出并倡导的 RDI 生态系统建设。

未来 Imaginaiton 期待与更多伙伴合作，在边缘计算、AI PC 和 AI 加速等领域打造更多高性能产品，共同推动RISC—V 数字基础设施生态创新和产业发展。