千芯科技推出了针对芯来RISC-V平台的AI部署工具包(tinyAI SDK),使用户可以基于该先进技术快速部署基于芯来RISC-V内核的AIoT应用。在芯来UX600上,实测的AI应用实现11.01倍(相较原生AI算法)的显著推断性能提升。千芯科技的tinyAI SDK成为首个支持芯来UX600图像AI计算部署与加速的工具包。
千芯科技tinyAI SDK
一直以来,端侧RISC-V以其灵活可裁剪高性价比的优势,不断扩展其在各个领域的应用。随着各类型科技巨头逐渐入局RISC-V应用产品,RISC-V的AIoT应用成为业界关注的重点。以往基于端侧RISC-V开发AI应用,要面对缺少开发包、部署复杂、AI性能不理想等痛点问题。这使得端侧RISC-V在AIoT上的部署一度面临困境。
千芯科技本次推出的tinyAI SDK,基于芯来科技的UX600开发板,成功搭载了基于端侧RISC-V内核进行人脸检测与人脸识别的AI应用,证明了端侧RISC-V芯片在AIoT领域广阔的应用前景。
演示中使用的人脸检测算法基于UX600实现的人脸检测,输入两张包含人脸的图片,检测并输出人脸区域:
tinyAI SDK在芯来UX600上运行人脸检测并输出人脸区域
部署了tinyAI SDK的UX600,能够高效的进行AI计算/人脸识别。在人脸检测后,进行了人脸识别,并输出人脸特征值的相似度。
tinyAI SDK在芯来UX600上运行人脸识别/比对的输出结果如图所示:
tinyAI SDK 在芯来UX600上运行人脸识别/比对的输出结果
相较原生算法,tinyAI使得端侧人脸识别的性能提到11.01倍。
千芯科技的tinyAI SDK将AI模型剪枝、量化等先进技术整合入工具包,并针对RISC-V内核的存储、架构特点进行了针对性的特定优化。千芯科技的tinyAI,不仅方便了AI算法在端侧RISC-V平台的部署,更大大加速了AI算法的性能,使得端侧AI应用实用化。
本次Demo实测使用的硬件平台是芯来科技提供的加载UX600内核的 FPGA 板卡:
芯来UX600平台
千芯科技与芯来科技的本次合作为RISC-V生态的发展注入了新的活力,为端侧RISC-V生态拓展出更加广阔的AI空间。
责任编辑:xj
原文标题:千芯科技助力芯来RISC-V平台AIoT应用
文章出处:【微信公众号:芯来科技】欢迎添加关注!文章转载请注明出处。
全部0条评论
快来发表一下你的评论吧 !