在上海新氦类脑智能,一个个手写体数字得到精准识别,正飞速在屏幕上闪出。MNIST数字识别场景可以说是图像识别的“hello world”,而在曦智科技Hummingbird 处理器上运行新氦类脑智能SNN(Spiking Neural Network)类脑神经网络算法,可使MNIST数字识别分类精度达到90%以上。
MNIST数字分类识别
新氦类脑智能总经理梁龙飞表示:“作为一个功能型平台,新氦类脑智能的使命是创新、研发和转化新型架构AI芯片和片上智能系统。经过长时间的合作,新氦类脑智能与曦智科技共同打造以片上光网络(oNOC)技术和Hummingbird计算卡为基础的类脑计算、图像识别、大语言模型对话等落地应用PoC (Proof of Concept),取得了良好的效果。”
曦智科技创始人、首席执行官沈亦晨博士表示:“从光子矩阵计算(oMAC)、片上光网络(oNOC)、片间光网络(oNET)三大核心技术出发,曦智科技打造了光子计算与光子网络两条产品线,并且始终致力于为客户持续提供更具创造性的高效算力支撑。通过与新氦类脑智能的合作,光电混合计算的优越性得到了进一步验证。”
光电混合助力机器学习性能表现显著提升
曦智科技Hummingbird计算卡
在晶体管密度提升放缓的背景下,制程工艺迭代所能带来的性能提升愈发有限,单个节点的算力提升出现了多种思路。比如通过在单个封装内互连多个芯粒来获得更高的算力。然而,由于这种方式还是采用电互连,每个电芯片只与最近邻芯片相连,限制了软件可编程性,进而限制了计算效率。
Hummingbird计算卡可以将电信号转化为光信号,经由光芯片中的光波导网络进行数据通信。结合曦智科技的软件开发工具包,该计算卡可以充分利用oNOC技术的优势。在此基础上,客户可实现算力和内存扩展,降低延时,拓展互连带宽,拓扑结构的选择也将更加灵活,从而深度赋能机器学习和人工智能工作负载的性能提升。
oNOC技术赋能三大PoC使用场景
除了类脑计算,新氦类脑智能使用8张曦智科技Hummingbird计算卡并行计算实现了8路1080P视频的图像识别应用,识别效率、准确率表现良好,运行稳定可靠。
Hummingbird计算卡进行并行计算
在大语言模型的浪潮下,新氦类脑智能采用曦智科技光电混合计算方案,已经成功运行来自复旦大学的MOSS 160亿参数大语言模型。目前,该项目仍在进行中。
新氦类脑智能实际使用的PoC案例,证明了曦智科技的oNOC技术及Hummingbird计算卡的应用可行性,充分发挥了该技术在算力扩展方面所具有的低延时和低功耗等优势。借助oNOC技术,在单颗电芯片上扩展算力及数据交换带宽成为可能。
使用曦智科技Hummingbird计算卡运行大语言模型
新氦类脑智能在支持初创及科技创新企业发面发挥了研发与转发功能型平台的积极作用,汇聚下游应用场景及高校资源,为革命性新型硬件、器件技术提供了实验性平台并在实际应用场景中落地。PoC方面的合作让创新型技术可以在实际应用方面进行产品化及商业化,最终把技术和产品推向市场。
作为全球光电混合计算领军企业,曦智科技近日连续发布了Photowave、Hummingbird等全新产品,产品的应用性及优越性进一步得到客户认可。接下来,曦智科技将继续坚持以客户需求为导向,提供“端到端”的定制化完整解决方案,进而建立围绕软硬件、开发者、产业三大生态的完整光电混合计算新生态。
曦智科技、NeuHelium新氦原创内容,未经允许,不得转载
关于曦智科技
曦智科技(Lightelligence)成立于2017年,是全球光电混合计算领军企业。公司凭借在集成光子领域的开创性技术和全球顶尖的集成电路技术研发团队,致力于在计算需求爆发的时代,为客户提供一系列算力跃迁解决方案,与客户共建更智能、更可持续的世界。曦智科技从光子矩阵计算(oMAC)、片上光网络(oNOC)和片间光网络(oNET)三大核心技术出发,打造光子计算和光子网络两大产品线,与大数据、云计算、金融、自动驾驶、生物医药、材料研究等领域客户开展紧密合作,持续为客户提供更具创造性的高效算力支撑。
审核编辑:彭菁
全部0条评论
快来发表一下你的评论吧 !