描述
6月30日,百度正式开源文心大模型4.5系列等10款模型,并实现预训练权重和推理代码的完全开源,兆芯率先与文心系列模型展开深度技术合作。
兆芯高性能处理器与文心大模型在开源首日展开适配,积极响应对文心系列大模型的快速适配、无缝衔接。
文心大模型
文心4.5系列开源模型共10款,均使用飞浆深度学习框架进行高效训练、推理和部署。在大语言模型的预训练中,模型FLOPS 利用率达到47%。实验结果显示,该系列模型在多个文本和多模态基准测试中达到SOTA 水平。模型权重按照Apache2.0协议开源,支持开展学术研究和产业应用。该模型具有以下
技术优势:
多模态混合专家模型预训博
高效训练推理框架
针对模态的后训练
开启新适配
兆芯与产业链生态伙伴紧密合作、协同创新,已经构建了丰富的AI PC 、台式机、笔记本、一体机、云终端、工作站、服务器以及物联网计算平台等产品,为政务、金融、教育、通信与广播电视、能源、交通、医疗、工业制造等行业持续提供高性能、高稳定、高可靠、体验优越的产品和解决方案。
兆芯积极寻求更多生态合作伙伴,共同推动自主通用处理器的软硬件生态建设,提供生态兼容性互认证服务。
关于兆芯
兆芯坚特自主创新、生态完善、好用不贵的发展理念,掌握自主通用处理器及其系统平台芯片研发设计的核心技术,全面覆盖其微架构与实现技术等关键领域,构建了健全的知识产权体系,支撑国家产业信息安全和国家数宇经济实现高质量发展。
打开APP阅读更多精彩内容