曦智科技携手合作伙伴共同建立光电混合计算的大生态

 

光电混合技术是催生下一个大模型发展的底层技术之一。

——沈亦晨博士

我们认为需要从物理底层机制入手，寻求一种不同的解决方案来突破现有的（算力）限制。这就是我们提出光子计算概念的原因。

——孟怀宇博士

2023年7月6日至8日，世界人工智能大会（WAIC）在上海召开。曦智科技创始人、首席执行官沈亦晨博士受邀出席“从‘端’到‘云’，勇攀‘芯’高峰”——WAIC芯片主题论坛，在圆桌论坛环节以“围绕新应用，打造新生态”为主题，分享了曦智科技的见解和实践。曦智科技联合创始人、首席技术官孟怀宇博士则受邀出席WAIC AI开发者领袖论坛，以2022年WAIC云帆奖得主身份参与圆桌对话，就大模型时代范式转变中的机遇和挑战分享了他的洞见。

 

随着ChatGPT横空出世，以大模型为代表的新应用不断涌现，对AI芯片以及产业链产生了诸多影响。

在WAIC 芯片主题论坛上，沈亦晨博士就此发表了他的观点。他认为，产业应用会驱动底层技术的创新，在大模型出现之前，AI的发展已然推动了许多底层技术的发展。然而，从传统计算到大模型等AI计算产生，该级别的AI对算力、存储、带宽的需求激增，对现有的数据中心和边缘设备提出了更高挑战。

沈亦晨博士说：“从曦智科技的角度来看，光电混合技术是催生下一个大模型发展的底层技术之一，光子技术与电混合在一起形成新的异构计算方式，可以提供更高效的算力解决方案。一方面，光电混合技术具备高带宽、低功耗的特点，让更多的计算节点之间高效传输，完成更大规模的计算；另一方面，光电混合技术也将改变产业链和供应链，如何让不同厂商、不同技术共享一种语言，遵循一个通用协议，将是提升算力必须探讨的重要议题。”

面对大模型热潮，行业该如何通过应用创新去适应当前的市场情况，同样是各界关注的焦点问题之一。

在这一方面，曦智科技基于大规模光电集成技术的计算新范式，发展出纵向单节点算力提升与横向多节点算力提升的解决方案，形成光子矩阵计算（oMAC）、片上光网络（oNOC）、片间光网络（oNET）三大核心技术。同时，曦智科技还成立了曦智研究院，并且已对外发布《大规模光电集成赋能智能算力网络白皮书》。“期待能够与大家有更多合作，共同建立光电混合计算的大生态，助推技术发展。”沈亦晨博士说。

曦智科技三大核心技术

在WAIC AI开发者领袖论坛上，针对“大模型热”，孟怀宇博士表示，随着摩尔定律的放缓，算力提升已遭遇瓶颈。在这样的背景下，从业者更需要思考能做些什么，该如何应对。

“我们认为需要从物理底层机制入手，寻求一种不同的解决方案来突破现有的限制。这就是我们提出光子计算概念的原因。光信号也是电磁波，但其频率约为200THz，因此几乎没有串扰，在计算过程中几乎不受频率影响，也没有欧姆发热等问题。当然，光子计算也存在一些局限性，但只有通过改变，才有可能突破现有的限制。”孟怀宇博士说。

 

孟怀宇博士在AI开发者论坛圆桌会话环节发表他对于大模型热潮的看法

在当天的论坛上，其他与会嘉宾指出，当前的深度计算变慢，变成宽度计算。对此，孟怀宇博士进一步阐释说：“这是因为从逻辑上讲，从电芯片的层面来看，目前，单个芯片计算能力的提升无法跟上模型规模的增长速度，所以必须使用越来越多的计算资源。然而，我们知道对于电来说，并行计算的规模是有限的，1加1小于2，2加2小于4，4加4远远小于8。”

在有限的计算资源情况下，又该如何更好地利用资源，使计算能力尽量接近线性增长？孟怀宇博士给出了他的解决方案：“这就需要更好地优化整个互连状态。从理论上讲，如果在一个大规模计算中，比如万卡的情况下，每个芯片都能在任何时刻立即获得所需的数据，那么我们就可以实现线性增长。然而，目前的互连架构还无法达到这个水平，我们需要尽量通过技术手段接近这个目标，光互连具有高带宽、低延迟、低功耗等特性，同时对于传播距离不敏感，我们认为，光可以成为一种更好的解决方案，我认为这一点可能比GPU本身的性能提升更为关键。”

与此同时，目前已经投入商用的，GPU之间的大带宽、低延迟互连解决方案依然数量有限。“世界应该是多样的，解决方案也应该是多样的，曦智科技也希望我们的光电混合计算成为其中的一个解决方案。”孟怀宇博士在分享时，也表达了他的期望。