OPPO自研推理引擎ShaderNN加入LF AI&Data基金会

近日，OPPO 宣布向 LF AI&Data 基金会无偿捐赠一项 AI 项目——ShaderNN，它是业界首个支持 OpenGL 和 Vulkan 全图形栈的高效轻量推理引擎, 面向移动端图形、图像、游戏实时 AI 应用。
 
目前，越来越多的深度学习推理任务从云端转移到移动端，移动平台上的深度学习推理场景需要解决硬件平台、驱动、编译优化、模型压缩、算子算法优化和部署等诸多问题，现有的推理平台与第三方库和硬件平台又通常存在驱动适配、模型验证、数据交互等问题，导致对应的优化部署和维护升级过程繁琐。同时，移动平台对图形图像类应用的实时性和功耗要求越来越高。
 
ShaderNN 应运而生， ShaderNN 专注于通过 GPU 着色器进行推理加速，它基于原生 OpenGL ES 和 Vulkan 构建，可以轻松与图形渲染管线深度集成，最大限度地利用计算资源，适用于渲染、图像/视频和游戏 AI 实时应用，它具有通用性、高性能、可移植性、可扩展性，其推理时间及平均功耗比同行业推理引擎在典型场景有显著优势。
 
ShaderNN 加入 LF AI&Data 基金会沙箱项目后，通过在基金会内部的合作，可以为开发者带来更快捷的开发体验，让手机用户获得更流畅、更沉浸真实的体验。