深度解析机器学习算法——人工神经网络

　　从算法的角度看，机器学习有很多种算法，例如回归算法、基于实例的算法、正则化算法、决策树算法、贝叶斯算法、聚合算法、关联规则学习算法和人工神经网络算法。很多算法可以应用于不同的具体问题；很多具体的问题也需要同时应用好几种不同的算法。由于篇幅有限，我们仅介绍其中（可能是公众心目中名气最大的）一种：人工神经网络。

　　人工神经网络：

　　既然人工智能要模拟人类的思考过程，一些人工智能科学家想，不如我们先看看人类是怎样思考的吧？

　　人类的大脑是一个复杂的神经网络。它的组成单元是神经元。每一个神经元看起来很简单，它们先接收上一个神经细胞的电信号刺激，再向下一个神经细胞发出电信号刺激。

　　虽然科学家还没有完全搞清楚人类大脑的神经网络的运作方式，但人工智能科学家想，不理解没关系，先在计算机中模拟一组虚拟的神经网络试试看，这就是人工神经网络。

　　在人工神经网络中，每一个小圆圈都是在模拟一个"神经元"。它能够接收从上一层神经元传来的输入信号（也就是一堆数字）；根据不同神经元在它眼中的重要性，分配不同的权重，然后将输入信号按照各自的权重加起来（一堆数字乘以权重的大小，再求和）；接着，它将加起来结果代入某个函数（通常是非线性函数），进行运算，得到最终结果；最后，它再将这个结果输出给神经网络中的下一层神经元。

　　人工神经网络中的神经元看起来很简单，只知道傻傻地将上一层神经元的输入数据进行简单的运算，然后再傻傻地输出。没想到这一套还真的很管用，运用一系列精巧的算法，再给它投喂大量的数据之后，人工神经网络居然能够像人脑的神经网络一样，从复杂的数据中发现一系列"特征"，产生"聪明的思考结果"。

　　那么人工神经网络是怎么学习的呢？所谓的学习，本质上是让人工神经网络尝试调节每一个神经元上的权重大小，使得整个人工神经网络在某一个任务的测试中的表现达到某个要求（例如，识别汽车的正确率达到90%以上）。

　　请回忆一下前面讲过的"梯度下降法"。人工神经网络尝试不同的权重大小，相当于在一个参数空间的地图上四处游走。每一种权重的组合对应的人工神经网络执行任务时的错误率，相当于这个地图上的每一点都有一个海拔高度。寻找一组权重，使得人工神经网络的表现最好，错误率最低，就相当于在地图上寻找海拔最低的地方。所以控制工程网版权所有，人工神经网络的学习过程，常常要用到某种"梯度下降法"，这就是为什么如果将来你要学习人工智能，第一个要掌握的就是"梯度下降法"。