重大突破!在光学芯片上直接训练人工神经网络

描述

斯坦福大学研究人员已经证明,在光学芯片上直接训练人工神经网络是可能的。这一重大突破表明,光学电路可以执行基于电子技术的人工神经网络的关键功能,并且可以更便宜、更快和更节能的方式来执行诸如语音或图像识别等复杂任务。
研究人员已经证明,神经网络可以使用光学电路(图中的蓝色矩形)进行训练。在整个网络中,会有几个连接在一起。激光输入(绿色)信息,通过光学(黑色)芯片。该芯片使用非均匀波束执行对人工神经网络至关重要的操作,它是由曲线段表示的。这些部分将两个相邻的部分连接在一起,并通过调整光学相位(红色和蓝色物体)的设置来调谐,它们的作用就像可以在训练期间调整以执行给定任务的“转轨”。这一研究结果由斯坦福大学研究组的Tyler W. Hughes所证明。
“使用光学芯片比数字计算机更有效地执行神经网络,可以解决更复杂的问题。”斯坦福大学研究小组的Shanhui Fan说。“例如,这将增强人工神经网络执行自动驾驶汽车所需任务的能力,或者对口头问题作出适当的反应。它还能以我们现在无法想象的方式改善我们的生活。”
人工神经网络是一种人工智能,它使用连接的单元以类似于大脑处理信息的方式处理信息。使用这些网络来执行一个复杂的任务,例如语音识别,需要对算法进行关键步骤的训练,以适应不同的输入,如不同的单词。
尽管光学人工神经网络最近被实验证明,但训练步骤是在传统的数字计算机上使用一个模型进行的,然后将最后的设置输入到光学电路中。在光学学会的拥有很高影响力的研究杂志上,斯坦福大学报告了一种直接在设备中训练这些网络的方法,这种方法是通过实现“光学模拟”算法来实现的,这是训练常规神经网络的标准方法。
“使用物理设备而不是计算机模型进行训练可以使训练过程更加精确。”Hughes说。“此外,由于训练步骤是神经网络实现过程中非常昂贵的部分,因此执行这一步骤对于提高人工网络的计算效率、速度和功耗至关重要。”
基于光的网络
虽然神经网络处理通常使用传统计算机执行,但仍有大量工作要设计专门为神经网络计算而优化的硬件。基于光学的设备有很大的兴趣,因为它们可以并行执行,同时使用比电子设备更少的能量。
在这项新的工作中,研究人员通过设计一种传统计算机训练神经网络的方法设计了一种光学芯片,这对实现全光神经网络提出了重大挑战。
一个人工神经网络可以被认为是一个黑匣子,有大量的人工神经网络。在训练过程中,每个训练单元都会有一些变化,然后对系统进行测试,看看算法的性能是否有所提高。
“我们的方法不仅可以帮助你预测转向哪个方向,而且还可以帮助你预测你应该把每一种方法都转化成更接近预期的性能。”Hughes说。“我们的方法大大加快了训练的速度,特别是对于大型网络,因为我们并行地获得了关于每种方法的信息。”
片上训练
新的训练协议工作在光路上,通过改变光学相位的设置来调整光路。将待处理的激光束编码信息发射到光路中,通过光束进行光路传输,并对其进行调整,以训练神经网络算法。
在新的训练协议中,激光器首先通过光路输入。在设备上,计算与预期结果的差异。然后,该信息被用来产生一个新的光信号,该光信号通过光网络以相反的方向发送回来。在这个过程中,研究人员通过测量每个光束周围的光强度,展示了如何并行地检测神经网络性能将如何随着光束的设置而变化。根据这些信息可以改变相位设置,并且过程可以重复,直到神经网络产生期望的结果。
研究人员通过教授一种执行复杂功能的算法,例如在一组点内提取复杂的特征,用光学模拟测试了他们的训练技术。他们发现,光学实现功能与传统计算机相似。
“我们的工作证明,你可以利用物理定律来实现计算机科学算法,”Fan说。“通过在光领域对这些网络进行训练,它表明光神经网络系统可以单独使用光学来实现某些更高的性能。”
目前,研究人员正计划进一步优化该系统,并希望利用它实现神经网络任务的实际应用。他们设计的一般方法可用于各种神经网络体系结构和其他应用,如光学。
打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分