墨芯人工智能发布大模型算力方案的最新成果

描述

7月6日,在世界人工智能大会WAIC上,墨芯人工智能发布了大模型算力方案的最新成果,宣告进入“千亿”时代:墨芯AI计算平台率先支持高达千亿参数的大语言模型,并在吞吐、延时等多项指标上表现优异,创下又一里程碑。

在活动现场,墨芯展台成为全场热点:1760亿参数的大语言模型Bloom在墨芯AI计算平台的推理引擎支持下,能够快速、流畅地回答各类问题,并完成诗歌创作、文案撰写等多项语言生成任务,赢得现场观众的关注与赞叹。

墨芯在千亿参数大模型上的卓越表现,不仅再次彰显出众的产品技术优势,更是意义重大的行业性突破:

当前,算力瓶颈已成为大模型落地应用的普遍痛点。墨芯针对大模型打造更高性能、更优化的方案,缓解算力之困,为AIGC等大模型应用释放巨大空间,真正带来“好用”、“用得起”的大模型算力方案。

千亿参数大模型在墨芯AI计算平台支持下的

推理效果

这对AIGC产业发展具有重要意义——

表明墨芯能够为行业带来新的前景:为企业、科研机构提供高效的算力支持,有力助推AIGC等大模型成果走向社会、走向更多行业;同时帮助AI企业建立先发优势,加入AIGC潮流。

一起来了解,墨芯的“千亿时刻“,所包含的重要突破——

在WAIC现场,墨芯还展示了MLPerf冠军产品——墨芯AI卡计算卡、AI集成架构方案等众多展品,吸引了众多嘉宾、观众与媒体的好评。

墨芯在千亿参数大模型上的突破,再次显示出稀疏计算的巨大优势,有效解决算力资源不足、功耗等运营成本巨大等行业痛点。墨芯率先将稀疏化算法与硬件结合落地,深度挖掘与释放了稀疏计算在大模型上的潜力与价值,为行业带来大模型算力的“最佳实践”。

这不仅为AI算力的未来发展带来了可行的创新路径,为将来更大模型、更复杂应用的发展奠定基础,更为AIGC等大模型应用的广泛落地打开了空间,为新一轮智能革命提供加速引擎,推动AIGC的发展迎来新天地。

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分