来源:硅基流动
今天,硅基流动联合沐曦集成电路(上海)股份有限公司(简称“沐曦”),全球首发基于沐曦曦云 C550 集群的月之暗面 Kimi-K2 大模型商业化服务部署。该服务运行于汇天网络科技有限公司(简称“汇天网络”)运营的沐曦曦云C550 三千卡通用 GPU 国产集群。此次合作标志着硅基流动正式将该国产集群纳入算力网络,进一步为大模型产业落地提供充沛的高性能国产算力。
技术突破层面,三方通过芯片层、框架层、模型层的深度协同优化,显著提升了 Kimi-K2 在曦云 C550 集群上的推理效率。沐曦自主研发的曦云 C550 通用 GPU 为模型提供了高性能、高稳定的核心硬件支撑,可以大幅增加集群算力,缩短大模型计算及推理时间;硅基流动将曦云 C550 集群接入一站式算力纳管平台,丰富了算力资源,并依托自研推理加速引擎,将集群利用率提升至业界领先水平,最终在其大模型云服务平台提供金融级高可靠性、高速响应、高性价比的 Kimi-K2 推理服务。
此次落地在汇天网络的沐曦国产 GPU 集群,是华北地区首个专为大模型规模化商用设计的高性能算力基础设施。该集群纳入硅基流动大模型云服务平台后,将重点服务于金融、政务、教育、科研等领域的头部客户,提供企业级 AI 推理部署解决方案。
下一步,硅基流动、汇天网络与沐曦三方将围绕"北京国产万卡集群"建设目标,持续推进集群硬件扩容与绿色 AIDC 技术研发。同时,三方将深化与国内主流大模型企业的生态合作,通过"算力-算法-应用"的全链路协同创新,突破产业链应用瓶颈,助力“国产算力+大模型产业”实现从技术突破到商业化落地的跨越式发展。
关于沐曦
沐曦致力于自主研发全栈高性能GPU芯片及计算平台,为智算、通用计算、云渲染等前沿领域提供高能效、高通用性的算力支撑,助力数字经济发展。
全部0条评论
快来发表一下你的评论吧 !