澎峰科技亮相2024年RISC-V欧洲峰会

描述

2024 年RISC-V 欧洲峰会于德国慕尼黑盛大举行,来自全球的专家、学者以及企业汇聚于此,共同探讨 RISC-V 的创新技术和发展前景。

澎峰科技CEO张先轶博士在RISC-V欧洲峰会上发表演讲:“PerfXLM : a High Performance LLM Inference Engine on RISC-V CPUs”。

PerfXLM是澎峰科技推出的一款专用大模型推理引擎,它旨在为各种主流模型提供快速适配多种异构硬件的解決方案。作为一款强大的推理引擎,支持云端GPU算力,还能兼容端侧轻量级处理器,同时集成了异构计算支持、多卡并行处理以及极致性能优化等多重功能。用户只需通过一键部署,即可轻松享受PerfXLM带来的便捷与高效。

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分