2024 年RISC-V 欧洲峰会于德国慕尼黑盛大举行,来自全球的专家、学者以及企业汇聚于此,共同探讨 RISC-V 的创新技术和发展前景。
澎峰科技CEO张先轶博士在RISC-V欧洲峰会上发表演讲:“PerfXLM : a High Performance LLM Inference Engine on RISC-V CPUs”。
PerfXLM是澎峰科技推出的一款专用大模型推理引擎,它旨在为各种主流模型提供快速适配多种异构硬件的解決方案。作为一款强大的推理引擎,支持云端GPU算力,还能兼容端侧轻量级处理器,同时集成了异构计算支持、多卡并行处理以及极致性能优化等多重功能。用户只需通过一键部署,即可轻松享受PerfXLM带来的便捷与高效。
全部0条评论
快来发表一下你的评论吧 !