星环科技Sophon LLMOps全面支持DeepSeek R1版本

描述

  星环科技近日宣布,其企业级大模型运营管理平台Sophon LLMOps现已全面支持DeepSeek R1的全参版本以及蒸馏版本。这一消息标志着星环科技在AI大模型管理领域迈出了重要一步。

  Sophon LLMOps作为一款功能强大的企业级平台,致力于为用户提供全面的大模型运营管理解决方案。该平台支持大模型与小模型的统一管理,能够轻松纳管开源及商业化大模型,满足用户多样化的需求。同时,Sophon LLMOps还具备底层国内外GPU/NPU(ARM/x86)异构算力的混合部署能力,实现了资源的精细化切分及高效调度,进一步提升了系统的灵活性和性能。

  此外,Sophon LLMOps还提供了模型及应用效果评估、全局状态监控及预警等功能,帮助用户实时掌握模型运行状况,确保系统的稳定运行。这些功能的加入,使得Sophon LLMOps成为了一款真正意义上的企业级大模型运营管理平台,为用户提供了从模型部署到运行管理的全方位支持。

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分