认识类脑计算与工程——海量数据、计算资源与类脑逻辑 (一)

描述

近十年来,对类脑计算的足够重视,使得一系列与类脑技术相关的研究组织应运而生。2020年末,IOP英国物理学会出版社推出全新期刊《类脑计算与工程》(NCE),SynSense时识科技联合创始人、首席科学家、苏黎世神经信息研究所所长Giacomo Indiveri教授担任主编,斯坦福大学Brains in Silicon创始人Kwabena Boahen、清华大学吴华强教授、约翰斯霍普金斯大学计算感知运动系统实验室创始人Ralph Etienne-Cummings、浙江大学唐华锦教授等组成国际编委会。

NCE创刊后,Giacomo Indiveri教授撰写社论“Introducing neuromorphic computing and engineering”。


文章认为,在摩尔定律终结背景下,类脑技术所面临的机遇尤其值得探究。文章还解释了在“neuromorphic”从提出至今三十余年间,信息通信技术的“大爆炸”又如何让其所指代的意义、所涉及的技术社区、与之紧密相连的研发领域发生了变化。

本文将分为两部分,第一部分将展示类脑技术在科技整体背景中的位置,第二部分将介绍类脑领域新材料、新技术及跨学科发展所带来的机遇。

摩尔定律

“我们正处于一个激动人心的时代,在这个时代,摩尔定律的终结、对神经网络的新的关注以及对低功耗、可持续‘绿色AI’的需求等汇聚,都指向了类脑计算和工程领域蕴藏着巨大潜力。”

Introducing 'Neuromorphic 

Computing and Engineering'

Giacomo Indiveri

当前,计算的标准性正受到一系列问题的挑战,这些问题开始阻碍技术进步。为了解决其中部分问题,开发新颖的、受生物大脑启发的处理方法和技术被提出,并被用于各种应用场景。这一研究极具挑战性,需要多个学科的研究人员共同努力,同时协同设计处理方法,支持计算架构及其底层技术。

1.类脑计算与工程

作为总编,我很高兴宣布在《类脑计算与工程》(NCE)上发表第一篇内容。本篇社论旨在通过指出当前信息和通信技术所面临的挑战,来表明NCE在解决这些挑战中所扮演的角色,以及创办这样一本期刊的必要。


虽然几十年来摩尔定律一直推动着技术进步,但直到最近几年,我们才开始收获这一进步的多项成果:信息和通信技术(ICT)正在变得无孔不入,并在全球范围内影响我们日常生活的方方面面:从全球通信到教育和健康,从金融到自动化、交通和气候变化等等。随着社会的数字化,人们能够获取更多的个性化信息,而计算技术和电子设备每年都在产生越来越多的电子数据。


为了应对这场技术革命所带来的需求,并且利用数据可用性所创造的机会,新的数据科学、机器学习和人工智能算法已经出现。AI算法通常使用神经网络和深度学习技术来解决模式识别任务,并已被证明从大量数据中提取信息非常成功。其训练方法需要大量的数据和计算资源,这反过来对能源提出需求。

然而,无论是从全球电力供应还是计算的碳足迹来看,这种能源都不可持续。例如,据估计,训练AI神经网络,如GPT-3,需要在单台计算机上花费超过27年的处理时间,并且这些计算总共会产生超过35000公斤的二氧化碳排放量。

摩尔定律

Figure 1. (a)CMOS芯片上的晶体管数量变化 (b)苏黎世大学、苏黎世联邦理工类脑芯片

这些高昂的成本源于当前的计算技术基于经典的冯·诺依曼结构,其非神经网络并行处理这一特性的绝佳匹配。另一方面,生物大脑在功耗要求、训练数据的样本数量以及适应新的和意外情况方面优于人工智能系统。这尤其适用于那些对计算机和人工智能算法来说仍非常困难,但对人类和动物来说轻松完成的任务,如少量样本的在线学习、与环境互动、感知和运动控制。

一种极具潜力的方法是通过“类脑计算和工程”领域的研究开发新的计算范式和ICT系统,这类系统能够智能地与环境交互,弥合自然智能和人工智能之间的差距,解决未来计算面临的许多开放性挑战。我们现在正处于一个非常激动人心的时代,在这个时代,摩尔定律的终结、对神经网络的重新关注以及对低功耗和可持续的“绿色AI”需求等汇聚,都指向了类脑计算和工程领域蕴藏着的巨大潜力。

2. 类脑计算与工程

主题领域

“类脑”这个词最初是由卡弗·米德在20世纪80年代末在加州理工学院创造的,用来描述包含电子电路的超大规模集成电路(VLSI),这些电路模仿了神经系统中存在的神经生物学结构。

然而,随着时间的推移,这个词的原始含义已经发生了“变形”,开始用来描述更广泛的概念和方法。除了原始的“类脑工程”之外,这个词也开始用来描述“类脑计算”系统,这些系统包含纯数字电路或传统处理器,用于模拟脉冲神经网络和神经计算模型。

与此同时,同样的术语也开始用来指代由新兴存储技术领域开发的纳米级“记忆电阻器”设备组成的系统。今天,这个术语也被用来指代算法和机器学习方法,模拟具备生物可解释性和硬件友好的脉冲神经网络及学习机制。

2.1 集成在CMOS技术中的神经电路和系统

最初的类脑工程主要目标是通过使用在弱反或亚阈值模式下操作的晶体管,直接模拟生物神经网络的计算物理特性。这种方法旨在以动物大脑中神经系统所使用的相同组织原则来构建人工神经元、突触、网络和感知系统。其具有双重目标:既通过构建真实神经电路的物理仿真来理解神经计算,又开发与当代标准数字计算机所不同的小型低功耗感知处理和计算体系结构。鉴于这种方法的高风险和基础研究方面,今天仍在追求这一方法的学术团体数量很少。这一社区主要专注于开发小规模原型芯片,探索神经计算的不同方面,从感知系统到具有生物可解释性的神经动力学可重构网络,到基于脉冲的学习和可塑性电路。

摩尔定律

近年来,“类脑”这个词也被用来描述混合信号和纯数字的VLSI系统,以实现可以用于模拟脉冲神经网络模型的计算平台。这一方向主要受到了计算和集成电路技术进步的可能性驱动,旨在构建大规模的专用类脑计算系统。例如,欧盟人脑计划支持开发了晶圆级集成系统,旨在准确再现包含大量神经元的神经科学建模研究模拟。

与此相似,人脑计划支持开发的SpiNNaker系统,是一个多核计算机,旨在实时模拟大量的脉冲神经元。在其目前的发展状态下,SpiNNaker堆叠600个印刷电路板(每个搭载48个SpiNNaker处理器)而构建,支持数亿神经元的模拟。IBM提出了另一种扩大模拟脉冲神经网络规模的策略,即在2014年推出了“TrueNorth”神经形态系统,该系统在同一芯片上集成了4096个核,每个核包括纯数字的异步电路,能够模拟256个神经元和256×256的突触连接。


这是该领域的一项重大突破,因为它展示了先进的技术节点,如三星28纳米块状CMOS工艺,可以支持集成大量硅神经元,同时保持极低的总体功耗(例如,实时运行典型循环网络时平均功耗为70毫瓦,比运行相同网络的传统计算机低了四个数量级)。

2.2 忆阻器及新兴存储技术

3. 开放性挑战

4. 结论与展望

关于SynSense时识科技  SynSense时识科技(原名aiCTX)创立于2017年,是全球领先的类脑智能与应用解决方案提供商。 SynSense时识科技专注类脑智能的研究与开发,以苏黎世大学和苏黎世联邦理工学院20+年全球领先的研发经验和技术积累为基石,聚焦边缘计算应用场景,提供横跨感知与计算的类脑智能应用与解决方案。  SynSense时识科技率先实现了类脑芯片商业化应用零的突破,为人工智能向认知智能发展,万物互联向万物智联发展迈出了关键一步。SynSense将和伙伴一起,共同构建“端到芯”“物与物”“物与人”万物智联的认知生态,引领全球类脑智能应用与发展,为人类未来美好生活创造福祉。            

审核编辑 :李倩

 

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分