3.3　前馈神经网络

前馈神经网络（Feedforward Neural Network）是一种最简单的神经网络，如图3-4所示，各神经元分层排列，从网络的第一层输入层开始直至最后层输出层，每个神经元只与前一层的神经元相连，接收前一层的输出，并输出给下一层，各层之间没有反馈。

图3-4　前馈神经网络

在前馈神经网络中，输入层节点负责接收输入向量中的各个元素值，隐藏层节点是核心，负责接收前一层传来的数据后进行计算，产生一个输出值，继续向前传递给下一层各节点。输出层负责向外界输出最终处理结果。

前馈神经网络有两种，一种是使用十分广泛的反向传播网络（Back Propagation Networks，BP），另一种是径向基函数（Radial Basis Function，RBF）神经网络。

径向基函数神经网络是一种以径向基函数为激活函数的神经网络，具有近似模拟能力强、分类能力强和学习速度快等优势，径向基函数是一个取值仅仅依赖于离原点距离的实值函数。

反向传播网络在按层向前传递计算结果之后，将最后的输出结果与期望结果进行比较，得到网络的误差值。为了修正缩小误差，从最后的输出层开始，将误差值反向传递给前一层，让前一层根据误差值调整网络参数，以缩小误差值，如此逐层反向传递，直至输入层。这样的算法称为误差反向传播算法。

3.4节中的感知器就属于反向传播网络。