取之于开源,贡献于开源:进迭时空AI计算生态开源贡献

描述

开放创新是进迭时空的企业价值观之一,公司的软硬件技术栈构建在开源之上,同时也积极在操作系统、编译器、AI计算生态等领域为开源做贡献。

 


 

opencv是最具影响力的机器视觉开源工程。今年进迭时空和opencv社区进行合作,基于进迭时空的RISC-V AI CPU芯片K1,优化了opencv的基础视觉算法在RISC-V vector1.0 的性能,取得了显著的性能提升,平均性能提升超过200%,相关代码都已经合入主支。


 

AI

部分算法性能数据


 

AI

opencv官方社区的报道


 

 

Llamacpp


 

llamacpp是最具影响力的大模型端侧推理库。进迭时空已经将基于RISC-V AI CPU芯片K1的优化实现开源到社区,并已合入官方主支。开发者直接使用开源版本,就可以在K1开发板上获得极致的推理性能。


 

AI

llamacpp提交patch


 


 

其他开源贡献


 

此外,我们在进迭时空官方社区开源了适配onnxruntime的加速后端spacemit-ep和量化工具xslim。使用onnxruntime进行推理的时候,加上后端spacemit-ep,开发者就可以在K1芯片上获得优异的推理性能;叠加使用xslim量化的模型,可以获得更优的推理性能。


 

进迭时空AI计算生态的开源贡献才刚刚开始,后续我们将把triton、基础算子库等工作继续开源出来。欢迎广大开发者们共同参与。


 


 

AI苏州速显微电子科技有限公司将参加 2 月 28 日在北京举办的 2025 玄铁 RISC-V 生态大会!点击下方海报,预约您的参会席位,与速显微面对面交流玄铁目前已陆续发布C930、C920等多款面向高性能场景的处理器,欢迎登录玄铁官网(xrvm.cn),了解更多玄铁产品及技术内容。


 

附录:


 

opencv社区报道:https://opencv.org/blog/introducing-hal-riscv-rvv-unleashing-the-power-of-risc-v-cpus-with-rvv-1-0/

opencv提交patch:opencv/opencv

llamacpp提交patch:ggml: riscv: add riscv spacemit backend by alex-spacemit · Pull Request #15288 · ggml-org/llama.cpp

进迭时空官方社区:https://github.com/spacemit-com/

spacemit-ep地址:https://github.com/spacemit-com/onnxruntime/tree/spacemit-dev-1.21.0

xslim地址:https://github.com/spacemit-com/xslim


 


苏州速显微电子科技有限公司将参加 2 月 28 日在北京举办的 2025 玄铁 RISC-V 生态大会!点击下方海报,预约您的参会席位,与速显微面对面交流玄铁目前已陆续发布C930、C920等多款面向高性能场景的处理器,欢迎登录玄铁官网(xrvm.cn),了解更多玄铁产品及技术内容。

 

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分