人工神经网络的本质探讨

　　一、 人工神经网络的概念

　　人工神经网络（ArTIficial Neural Network，ANN）简称神经网络（NN），是基于生物学中神经网络的基本原理，在理解和抽象了人脑结构和外界刺激响应机制后，以网络拓扑知识为理论基础，模拟人脑的神经系统对复杂信息的处理机制的一种数学模型。该模型以并行分布的处理能力、高容错性、智能化和自学习等能力为特征，将信息的加工和存储结合在一起，以其独特的知识表示方式和智能化的自适应学习能力，引起各学科领域的关注。它实际上是一个有大量简单元件相互连接而成的复杂网络，具有高度的非线性，能够进行复杂的逻辑操作和非线性关系实现的系统。

　　神经网络是一种运算模型，由大量的节点（或称神经元）之间相互联接构成。每个节点代表一种特定的输出函数，称为激活函数（acTIvaTIon funcTIon）。每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重（weight），神经网络就是通过这种方式来模拟人类的记忆。网络的输出则取决于网络的结构、网络的连接方式、权重和激活函数。而网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。神经网络的构筑理念是受到生物的神经网络运作启发而产生的。人工神经网络则是把对生物神经网络的认识与数学统计模型相结合，借助数学统计工具来实现。另一方面在人工智能学的人工感知领域，我们通过数学统计学的方法，使神经网络能够具备类似于人的决定能力和简单的判断能力，这种方法是对传统逻辑学演算的进一步延伸。

 

从数学的角度讲，人工神经网络的本质从机器学习的过程可理解为通过参数求最佳解得过程。同样也是一个负反馈的过程，以最简单的负反馈神经网络bp神经网络（back propagation）为例，其本质可以形象的理解为这样一个过程：我们假设这个刚搭建的好的机器人叫“小明”（假设他刚出生），他的硬件软件等我们不需要考虑的部分全部是最先进的，小明的大脑里现在是最纯净的，除了一个学习的算法什么都没有，就像一个刚出生的婴儿一样。

现在，小明饿了，想吃东西。那么如何才能吃到东西呢？在什么都不知道的情况下，小明开始探索如何才能不饿。他可能会伸手，或者笑、哭，于是母亲喂了他吃的，从逻辑上可以这么理解：然后他每次饿了，都开始伸手-笑-哭，然后就有吃的了。突然，有一天他自己也不知道怎么搞的，直接哭了。然后---有吃的了！

这时他才明白这一个逻辑：这时候，机器人“小明“明白，其实达到一个目的很简单，但是需要不断尝试。再后来，小明又饿了，这回他懒得动，稍微小哭了一下等吃的，结果妈妈没来喂他！这是为啥？然后他就哭的超级大声，妈妈看他这样子以为是病了，急冲冲的送她去诊所，结果啥病也没有，小明迷惑，这是为什么？

逻辑可以这么理解：然后他把哭声再稍微降低以点，变成了很正常的哭，这时妈妈终于恍然大悟，喂他吃的。小明终于明白，想吃东西，首先需要哭，然后若哭声小，不起作用，需要调大哭声，若哭声过大，会起反作用，需要把哭声再降小一点，就有吃的了。

以上就是人工神经网络的本质，通过不断尝试引入各种参量，最终得到允许误差范围内的解，并通过引入参量系数，最终得到最优解——喂食=哭。通过负反馈机制，当参量所占权重过小，以当前参量所得结果为参考依据适当增加参量权重比例，增加的比例的系数随机。通过第二次的结果和第一次的结果选择更合适的权重系数，最后经过不断的“尝试“得到最优解。以上过程即是bp负反馈神经网络的算法思想。