燧原科技“系统+软件”一体化方案帮助客户实现人工智能快速落地

 

 

 

 

WAIC 2022开展第二天，燧原科技的展台人声鼎沸。展台之外，一场高能输出的主题演讲也吸引了众多观众和媒体的目光。

燧原科技创始人兼COO张亚林在9月2日上午的“AI领SHOW”上进行了“智算集群构筑绿色低碳数字底座”的主题演讲。

他指出超大模型训练的算力需求与单芯片算力之间的差距越来越大，显然单芯片已经无法满足超大模型的训练要求，因此需要通过大规模算力集群来解决，其中系统和软件是算力服务应用的关键。燧原可以提供“系统+软件”一体化方案，作为数字底座赋能千行百业，帮助客户实现人工智能应用的快速落地。

 

张亚林在“AI领SHOW”发表主题演讲

吸引观众的除了在开展首日发布的首个“AI芯+元宇宙”虚拟现实空间——燧原·宇宙展区（可戳链接回顾），还有核心展品区以及实力与趣味并存的落地应用展示区。

展区之光

本次WAIC亮相的，除了燧原科技第二代人工智能训练与推理芯片双骄——邃思2.0、邃思2.5和对应的加速卡产品云燧T20、T21、i20之外，还有一台装载8张云燧T21人工智能训练OAM模组的液冷开放加速计算服务器。该服务器通过液冷板等高效热传导部件将被冷却对象的热量传递到冷媒中，支持50℃中高温水运行，采用先进变频流量系统，大幅提高流量变化范围、降低能耗，拥有架构简约、系统可靠、更低成本、更低PUE等特性。

展台最瞩目的位置，还有台神秘的“庞然大物”——从正面看：它有着燧原标志性LOGO和红色，液晶屏上罗列着产品诸多优异的参数与性能；从背面看：有数条红蓝光带规律地穿梭其中，仿佛流水在设备间灵活地游走。

AI互动

经过四年多的发展，燧原科技成为国内第一家完成人工智能训练和推理产品迭代的科技公司，并在互联网、绿色智算中心、智慧城市和智慧金融等行业和场景取得广泛落地。我们挑选了几个有趣的落地应用场景在WAIC现场进行演示或互动，就跟随小编一起看看吧。

-智慧交通-

观众可以看到基于云燧人工智能推理加速卡的两个实际应用。

场景一展示了通过道路边的探测设备对过往车辆的车牌、颜色和型号等信息进行实时监测、识别、标注，追踪动态轨迹，并通过不同角度的设备画面建立了3D数字孪生世界。

场景二则是AI在交通事件检测方面的应用。在对监控场地的拍摄同时进行画面捕捉、违章判定和利用文字识别输出牌照信息，交管部门可以减少大量人工重复工作，自动获得违章车辆信息，更高效更自动化地进行管理。

 

云燧推理产品为AI在智慧交通的应用提供了国产化的、可靠、稳定且更高速的算力支撑，将人力资源从日益繁重复杂的交通管理工作中解放出来。

-智慧问诊-

燧原科技的展台上，有不少观众在排队“照镜子”。只见这面来自生态伙伴喜马医疗的“魔镜”对观众进行了面部检测、对伸出的舌头区域进行分割和识别、引导观众发声、还附有日常作息和症状的问答。短短几分钟的问诊，“AI老中医”就根据镜子捕捉的数据，给出了详尽的健康诊断和调理建议。

 

这面“魔镜”之所以能够像一位经验丰富的资深中医一样对观众进行诊断，离不开云燧推理产品提供的强大算力。喜马医疗的智慧问诊系列产品已经在上海静安某社区卫生服务中心投放使用，也许不久以后大家也可以在身边体验到这位“AI老中医”的快速问诊服务。

-AI写诗-

展区的“AI写诗”仿佛埋头造芯理工男和理工女证明自己也拥有浪漫细胞的最后倔强。不过展台爆棚的人气的确也证明了应用效果的不同凡响。观众随手写下一句五言或七言诗词，这个聪明的页面一顿操作猛如虎，一眨眼的功夫就创作出了一首对仗且工整的四行诗，读一读还别有一番韵味。

 

 

现场的理工男孩、女孩还贴心地为观众解释了原理：运用AI，把中文文本转换成从左到右按顺序排列的形式，得到一个中文词语料库。通过基于此的预训练生成语言模型GPT2进行多次迭代训练，将中文诗词生成问题转换为条件概率建模问题，从而得到这个浪漫证明器（诗词生成模型）。

-大模型的训练-

这个展区运用生动形象的视频，短短几分钟就将几个复杂的问题清晰地为观众做了透彻的讲解：为什么需要大模型、大模型对硬件和软件的挑战、燧原科技对预训练大模型提供的软硬件支持以及集群产品可以支持的应用场景。现场观众看得津津有味，不断听到此起彼伏地发出“噢”、“原来如此”等等感叹。　　

      审核编辑：彭静