龙芯中科与文心系列模型开展深度技术合作

 

 

 

 

 

6月30日，文心4.5系列模型正式开源。龙芯中科在文心大模型开源首日启动技术合作，双方将共同推进国产算力基础设施与大模型技术的融合创新，为AI产业化应用提供安全可控的“中国芯”解决方案。

强强联合！自主架构赋能大模型训练

文心大模型

文心4.5系列模型均使用飞桨深度学习框架进行高效训练、推理和部署。在大语言模型的预训练中，模型FLOPS利用率(MFU)达到47%。实验结果显示，该系列模型在多个文本和多模态基准测试中达到SOTA水平，在指令遵循、世界知识记忆、视觉理解和多模态推理任务上效果尤为突出。核心技术点：
 

(1)多模态混合专家模型预训练

(2）高效训练推理框架

(3)针对模态的后训练

龙芯3C6000
 

龙芯3C6000系列处理器具有高性能、高可靠、高安全、全自主等特点，可满足通算、智算、存储、工控、工作站等多场景的计算需求。目前，3C6000系列处理器已获《安全可靠测评公告》当前最高等级认证，可确保关键领域应用安全。

 

此次龙芯3C6000与文心大模型4.5系列开源模型的技术合作，标志着龙芯CPU在AI算力领域取得实质性突破。未来，双方将持续推动大模型在生产场景中的规模化应用，为促进国产AI生态繁荣发展贡献力量。