昆仑万维天工大模型3.0将于4月17日公测,参数量高达4000亿

描述

  4 月 2 日,昆仑万维集团明确表示,“天工”大模型历经一年升级锻造后,全新版本 3.0 将于下周一即 4 月 17 日发布公测,并将同步实现开源计划。新的“天工 3.0”采用 4000 亿级参数的 MoE(混合专家模型),这一数值为全球 MoE 模型中质量最高、性能最优者之一。据公司描述,该模型的性能显著超越了现有的Grok 1.0。

  对比前代“天工 2.0”MoE 大模型,“天工 3.0”展现出在模型语义理解、逻辑推理方面的“惊人”实力提升,以及在通用性、泛化性、不确定性知识和学习能力等多个领域的进步。其模型的技术知识能力提升达到了 20%以上,而数学/推理/代码/文创能力则提升超过 30%。

  除了原有功能外,“天工 3.0”还具备搜索增强、研究模式、调用代码及绘制图表等特性,以及多次调用联网搜索的能力。此外,它还特别针对Agent功能进行了个性化训练。这个能力让模型能独立规划、调用外部工具与信息,甚至能执行产业分析、产品对比等多种复杂任务。

  “天工 3.0”被誉为全球首个多模态“超级模型”,汇集了 AI 搜索、AI 写作、AI 长文本阅读、AI 对话、AI 语音合成、AI 图片生成、AI 漫画创作、AI 图片识别、AI 音乐生成、AI 代码写作、AI 表格生成等众多强大能力。公司对此诠释道,这无疑是“大模型时代的超级应用”。

  值得一提的是,早在去年 10 月,昆仑万维就已开放了百亿级大语言模型“天工”Skywork-13B 的开源项目,同时还引入了大约 600GB 和 150B Tokens 的开源中文数据集作为配套支持。该项目如今已经涵盖了两部分主要内容,分别是 Skywork-13B-Base 模型和 Skywork-13B-Math 模型,它们各自都具有高达 130 亿的参数规模。

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分