21单神经元网络

21单神经元网络内容摘要：

       jjjjjjjjjnn wxxwxxxxxykuykuy139。 39。 239。 39。 11kkk BP网络的优缺点 BP网络的优点为： （ 1） 只要有足够多的隐层和隐层节点 ， BP网络可以逼近任意的非线性映射关系； （ 2） BP网络的学习算法属于全局逼近算法 ， 具有较强的泛化能力。 （ 3） BP网络输入输出之间的关联信息分布地存储在网络的连接权中 ， 个别神经元的损坏只对输入输出关系有较小的影响 ， 因而 BP网络具有较好的容错性。 BP网络的主要缺点为： （ 1） 待寻优的参数多 ， 收敛速度慢； （ 2） 目标函数存在多个极值点 ， 按梯度下降法进行学习 ， 很容易陷入局部极小值； （ 3） 难以确定隐层及隐层节点的数目。 目前 ，如何根据特定的问题来确定具体的网络结构尚无很好的方法 ， 仍需根据经验来试凑。 • 由于 BP网络具有很好的逼近非线性映射的能力 ，该网络在模式识别 、 图像处理 、 系统辨识 、 函数拟合 、 优化计算 、 最优预测和自适应控制等领域有着较为广泛的应用。 • 由于 BP网络具有很好的逼近特性和泛化能力 ，可用于神经网络控制器的设计。 但由于 BP网络收敛速度慢 ， 难以适应实时控制的要求。 BP网络逼近仿真实例 使用 BP网络逼近对象： BP网络逼近程序见 23)1(1)1()()(kykykuky BP网络模式识别 • 由于神经网络具有自学习、自组织和并行处理等特征，并具有很强的容错能力和联想能力，因此，神经网络具有模式识别的能力。 • 在神经网络模式识别中 ， 根据标准的输入输出模式对 ， 采用神经网络学习算法 ， 以标准的模式作为学习样本进行训练 ， 通过学习调整神经网络的连接权值。 当训练满足要求后 ， 得到的神经网络权值构成了模式识别的知识库 ， 利用神经网络并行推理算法对所需要的输入模式进行识别。 • 当待识别的输入模式与训练样本中的某个输入模式相同时 ， 神经网络识别的结果就是与训练样本中相对应的输出模式。 当待识别的输入模式与训练样本中所有输入模式都不完全相同时 ， 则可得到与其相近样本相对应的输出模式。 当待识别的输入模式与训练样本中所有输入模式相差较远时 ， 就不能得到正确的识别结果 ， 此时可将这一模式作为新的样本进行训练 ，使神经网络获取新的知识 ， 并存储到网络的权值矩阵中 ， 从而增强网络的识别能力。 BP网络的训练过程如下：正向传播是输入信号从输入层经隐层传向输出层 ， 若输出层得到了期望的输出 ， 则学习算法结束；否则 ， 转至反向传播 以第 p个样本为例 ， 用于训练的 BP网络结构如图 711所示。 图 211 BP神经网络结构 网络的学习算法如下： （ 1） 前向传播：计算网络的输出。 隐层神经元的输入为所有输入的加权之和： 隐层神经元的输出 采用 S函数激发 ： iiijj xwx39。 jxjxjxjj exfx 11)(39。 )1( 39。 39。 39。 jjjj xxxx则 输出层神经元的输出： jjjll xwx39。 网络第 个输出与相应理想输出 的误差为： 第 p个样本的误差性能指标函数为： 其中 N为网络输出层的个数。 0lxlll xxe  0Nllp eE1221l（ 2） 反向传播：采用梯度下降法 ， 调整各层间的权值。 权值的学习算法如下： 输出层及隐层的连接权值 学习算法为： jlw39。 jljllljlpjl xewxewEw  jljljl wkwkw  )()1(其中 隐层及输入层连接权值 学习算法为： ijw  Nl ijllijpij。