从千卡集群卡到万卡集群,燧原科技打造更好的AI算力底座

电子说

1.3w人已加入

描述

电子发烧友网报道(文/吴子鹏)算力是新质生产力的代表,随着以ChatGPT为代表的Transformer架构大模型的参数规模越来越大,对计算资源的需求显著增长。在2024年世界人工智能大会(以下简称:WAIC 2024)上,不仅有国内各大模型厂商同场竞技,也有丰富的算力基础设施展示,其中包括专注人工智能领域云端算力产品的燧原科技。
 
算力
燧原科技展台

从千卡集群到万卡集群

 除了里程碑产品展示外,燧原科技今年在展台重点展示了其落地标杆案例——宜昌点军智算中心。根据燧原科技工作人员的介绍,当前燧原科技已在四川成都、湖北宜昌和甘肃庆阳展开了千卡规模智算中心的建设,紧跟国家东数西算的大战略。宜昌点军智算中心是其中的代表,仅用1年时间完成了300P国产算力建设和交付,正式运行仅5个月,点军智算中心就已经满载运行,300P算力被全部消纳,客户群体包括无问芯穹、爱奇艺、贝式计算、启智社区等,这是燧原科技在智算中心建设新范式的一次成功探索
 
算力
宜昌点军智算中心落地成果展示

WAIC 2024期间,燧原科技也宣布了与清程极智的战略合作。双方致力于共同打造超大规模智算集群的训练方案,针对大模型实际应用场景进行软硬协同的开发与优化。在满足基础大模型的预训练、行业大模型的微调和大模型推理部署等不同的应用场景和多元的算力需求,提供更高性能、更高效率、更高性价比的万卡集群算力方案。
 

打造更好的AIGC体验

统计数据显示,2024年我国AIGC的应用市场规模达到200亿;预计到2030年,我国AIGC应用将成为万亿规模市场,五年(2024-2028年)里的年复合增长率超过30%。和去年的WAIC一样,WAIC 2024期间燧原科技同样在展台展示了非常丰富的AIGC应用案例,包括编程助手、AI视频生成、3D生成等。
 
其中一款案例是由燧原科技和智谱AI合作的大模型编程助手一体机,基于云燧i20推理加速卡,能为软件开发企业提供代码生成、代码翻译、代码注释、代码补全、智能问答等多种服务。AIGC智能编程作为一种利用人工智能技术提高软件开发效率的方法,已经在实际中得到了广泛的应用,这款大模型编程助手一体机的主要优势要体现在相关输出的反应速度,以及代码的准确率等。
 
另一款案例是燧原科技与无问芯穹携手带来的游戏体验项目,通过适配不同的大模型为用户带来流畅和趣味的体验。
 
还有一款案例是燧原科技MaaS平台服务产品“燧原曜图”的升级版,WAIC 2024上,燧原科技展示的是“燧原曜图”2.0版本。根据燧原科技工作人员的介绍,去年“燧原曜图”主要展示文本生成图像的能力,构建了从算力到云服务、模型,再到用户去使用的一体化流程。“燧原曜图”2.0版本则带来了更细分的功能,以及更好的用户体验。“燧原曜图”2.0版本支持文生图、视频生成、3D生成、自拍相机等多个子应用。在视频生成方面,“燧原曜图”2.0版本提供独特的文生图片,然后图生视频的生成流程,让用户能够在图片阶段自由调整,降低视频修改的繁琐性。
 

结语

燧原科技成立6年来,从千卡集群到万卡集群,从算力基础设施到AIGC,每一年的WAIC上,都能看到燧原科技的技术实力和商业落地能力不断稳健成长。随着新一代推理加速产品的推出,相信燧原在在本土算力领域终将芯火燎原。
打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分