电子说
近两个月来,由于国际局势导致海思的芯片供应链出现问题,海思的安防芯片缺口逐渐扩大,从华南地区逐步扩散至其他城市,从高端型号延伸到中低端型号,价格一路飙涨,能否有持续稳定的货源成为了从业者的心头病。
算法模型迅速、高效化的工业化落地,是当前行业的面临的一大问题。原本学术界与工业界就存在较大 GAP,加上 NPU 芯片的突然兴起,说是为了提高工业界的效率,事实上很多常规的的学术界模型都较难快速部署到 NPU 芯片上。本质原因是芯片产品的迭代周期往往以年为计数单位,且NPU属于低可编程性ASIC芯片,很多NPU没有较完整的指令集,直接对寄存器进行操作;而学术界的各种 Operator 是以季度为单位在更新,因此模型算子不支持的问题在NPU部署场景预期会长期存在,现在业界对NPU部署很多基于较为传统的模型或者基于NPU可支持的操作选型模型。
为了解决AI边缘应用开发部署遇到的真实问题,OPEN AI LAB的边缘AI推理框架Tengine团队今年全力投入到赋能 AI 芯片的工作中,打通从算法到AI芯片部署的环节,助力解决开发者自行适配难、效率低、性能差的问题。
Tengine团队也在今年八月开始了对RV1109/RV1126的适配支持,目前Tengine已经完美适配 RV1109/RV1126 芯片。Tengine 对RV1109/1126的适配做到了算子级的封装调度,框架自动对底层算力资源进行调度,包括NPU、CPU用于神经网络推理以及2D图形加速用于神经网络图片前后处理。
责任编辑:YYX
全部0条评论
快来发表一下你的评论吧 !