浅析人工智能芯片的架构创新

在2018全球CEO峰会上，中国半导体行业协会IC设计分会理事长、清华大学微纳电子系魏少军教授带来“智能时代中国半导体市场需求”的主题演讲。内容涵盖人工智能正向我们走来、架构创新是人工智能芯片的必由之路、软件定义芯片及芯片智能化、理性看待中国芯片产业走向智能化以及结束语五个部分。

魏少军教授指出，这些年人工智能非常热，原因是一些重要事件的出现。最重要的是AlphaGo战胜了韩国棋手李世石和中国棋手柯洁。这件事告诉我们，机器和人在很多时候比赛竞争，机器可能会赢人。为什么？李世石要吃饭、要睡觉，AlphaGo则可以在他吃饭睡觉的时候不吃不睡地下一万盘，第二天早上就已经不是第一天的AlphaGo了。过了半年再和柯洁下棋的时候，AlphaGo可能又已经不是和李世石下棋时的AlphaGo了。因此，凡是规则清晰的情况下，机器一定赢过人。人工智能的发展非常快，最重要的原因是深度神经网络的出现。

现在无行业不AI、无应用不AI、无芯片不AI。现在大家想申请国家项目、申请地方的资助，不提AI都不好意思拿出东西。

魏教授认为，有些人对人工智能的发展充满恐惧，不是他们对这件事产生恐惧，而是对人工智能无节制的发展会怎么样产生恐惧。“如果我们对人工智能有各种各样不切实际的想法，有可能人工智能是人类最后一个发明。我们不需要发明什么东西，人工智能就可以自己发明。”他认为，在人工智能的发展过程中，架构创新很重要。

架构创新是人工智能芯片的必由之路

图灵奖的获得者John L. Hennessy和David A. Patterson在讨论AI时，把架构问题放得非常高。他们特别讲明，今天我们处在架构创新的黄金年代。人工智能的崛起有三个基本要素：算法、数据和算力。

魏教授说，这三点之间有些已经存在，有些还在不断发展，有些我们可以介入，有些我们没法介入。芯片更多是考虑算力的问题。算法研究不是做芯片的人应该做，而是搞算法研究的人做的事情。即便是今天做算法的人，也解决不了以下两个问题。

将人类大脑与人工逻辑（天河-II超级计算机）作对比，大脑中有140亿个神经元，工作频率200Hz，大脑皮层很大，可以完成大概1016CPS运转，重量1.2-1.6kg。电的传导速度是300,000km/s，天河-II工作频率4.2GHz，把芯片堆积起来可以实现比人脑快得多的运算能力，但是占地面积720m2，重5吨，耗电42MW（需要一个发电站那么大的功耗）。

我们一直追求算力，但拥有超过人脑的算力不是我们的终极目标——把做人工智能芯片归结到追求算力就错了。“很多时候算力不是我们的目标，太容易达到。包括前面讲到的超级计算机，我们已经达到了。”他指出，“我们更多需要智能的计算引擎，也就是说本身的计算需要有智能化。”但是这个智能化有很多的内容，只举三点，如下。

“智能计算”芯片应该具备以下一些基本要素：

这样的芯片现在还不存在。如下图所示，我们今天用的芯片基本在第二、三、四象限。第二象限有ASIC和SoC等，有很强的软件可编程性，硬件不太可编程。专用集成电路基本在第三象限，它的最大好处是能量效率、计算效率都很高。第三类是FPGA和EPLD等，是硬件可编程，软件不需要。第一象限不知道是什么，我们就有了一些想象空间（见后）。

软件定义芯片与芯片智能化的关系

软件定义芯片的概念很有意思。首先我们得了解，“规格”定义不出芯片产品的差异化，如下。

回到“软件定义芯片”话题，它指的是软件和硬件均可以编程，而且是混合颗粒度。“我无法摆脱作为硬件工程师的心态，但是它给我们打开另外一扇窗，这扇窗存在的话，很可能走出全新的道路。”魏教授说。

软件定义芯片是怎么工作呢？“我们知道，今天的应用都用软件实现。不考虑代码复杂性的情况，假如有一个软件和硬件完全一致的结构，这种实现方式是最直接的。再设想一下，我的应用是C或者C++写出来的。每次变换C和C++，我的硬件自动跟着变换，而且永远是一样的结构，这样的效率是最高的。”魏教授解释说，“这是美好的想法，但并不是如此，软件可以很复杂，硬件可以有边界。直接的是我把软件分块，一块一块做。按照所谓的任务依赖关系，那就要求硬件一定要能够动态地按照软件实时地改变它的架构，这就是软件定义芯片最原始的想法。当然不那么简单，当你有硬件以后要改变它，改变什么？有很多内容要研究。这个想法是不是可以通过这种方式打通从应用到芯片之间的通道呢？我们有一个软件，通过某种东西实现一个硬件，让硬件随时跟着软件变。只要我能够让软件实现智能化的功能，硬件就可以实现智能化，这个直接推理很清晰。”

是不是我们一家独自在做这件事？并不尽然。美国去年启动电子复兴计划，6个计划中有1个是软件定义硬件。其中的内容基本上和上述所谈软件定义芯片一致。“它提出一个指标，要变换的是300-1000ns，只要这个时间变换都属于他们的要求。我们做的远好于它。我们只要花1/10的时间，而且早10年做完了。”魏教授说。

“我们用软件定义芯片的架构实现AI芯片的方式，全世界都没有用这种方式做，只有我们用这种方式做。我们做了以后，今年年初专门对我们的芯片进行报道。报道告诉我们，这是中国取得所谓的Crowning   Achievement，给我们很高的评价。”魏教授补充说，你在架构上如果不按照传统的方式走，去找新的途径，很可能会起到事半功倍的效果，但是没有太多的规则。

我们需要理性看待中国芯片产业走向智能化。

总结

魏教授总结说，现在很麻烦的是太多人吹牛，所以我们会看到“吓尿体”盛行。实际上，无论是吓尿体还是被吓尿体，都没有冷静看到目前实际的情况。实际情况远没有想象那么好。虽然我们有些地方做得不错，但是总体来看既不像有些人说得那么差，也没有像有些人说得那么好，还是需要努力。什么是我们真正要关注的？这个行业最重要的是关注应用。应用是王；能不能找到应用的发展方向，特别是具体的技术发展方向，这是我们的关键。