车辆工程毕业设计论文-基于c语言的bp神经网络预测程序开发(编辑修改稿)内容摘要:
多激励输入一样,人工神经元也应该有许多的输入信号 (图中每个输入的大小用确定数值 Xi 表示 ),它们同时输人神经元 k。 生物神经元具有不同的突触性质和突触强度,其对输入的影响是使有些输入在神经元产生脉冲输出过程中所起的作用比另外一些输入更为重要。 基本单元的神经元模型包括三个基本要素:一组求和函数 (对应于生 物神经元的突触 )—连接强度由各连接上的权值表示,权值为正表示启动,为负表示抑制;一个求和单元 —用于求取各输入信号的加权和 (线性组合 );一个非线性启动函数 —起非线性映射作用并将神经元输出幅度限制在一定范围内 (一般限制在 (0, l)或 (1, +l)之间 )。 此外还有一个阈值 k(或偏置 ),见图。 图 基本神经元模型 以上作用可分别以数学表达式表达出来 : 1 , , )pk ij j k k k k kju w x v u y v ( 式中: 1 2 px x x, , ..., 为输入信号, k 1 k 2 kpw w w, , ... ,为神经元 k 的权值, ku ……….. Y )(f k ky ij 8 ku 为线性组合结果, k 为阈值, f(.)为启动函数,为神经元 k 的输出。 若把输入的维数增加一维,增加一个新的连接,输入为 x。 =1(或 +1),权值为 0kw = k (或 k ),则可把阈值 k 包括进去。 例如 0 , ( )pk kj j k kju w x y v 启动函数 f ()可以有以下几种形式: 阈值型变换函数 (图 ),单极性函数用下式定义: 1( 0)() 0( 0)xfx x 具有这一作用方式的神经元称为阈值型神经元,是神经元模型中最简单的一种,经 典的 MP 模型就属于这一类。 图 阈值型变换函数 ( 2)非线性变换函数 非线性变换函数为实数域 R 到 [0, l]闭集的非减连续函数,代表了状态连续型神经元模型。 最常用的非线性变换函数是单极性的 Sigmoid 函数曲线,简称 S型函数 (图 ),其特点是函数本身及其导数都是连续的,因而在处理上十分方便。 单极性 S 型函数定义如下: 1() 1 xfx e 有时也常采用双极性 S 型函数等形式 1 1 1 0 0 F(x) F(x) x x ( ) ( ) 9 21( ) 111xxxefx ee ( 3)非线性变换函数 该函数的特点是神经元的输入与输出在一定区间内满足线性关系。 由于具有分段线性的特点,因而在实现上比较简单。 这类函数也称为伪线性函数,单极性分段线性变换函数的表达式如下: 式中, c 为线段的斜率,如图。 图 S 型变换函数 图 分段线性变换函数 ( 4)概率型变换函数 采用概率型变换函数的神经元模型其输入与输出之间的关系是不确定的,需要一个随机函数来描述其输出状态为 1 或为 0 的概率。 设神经元输出为 1 的概率为 : 0 F(x) x x ( ) ( ) F(x) 10 /1(1) 1 xTP e 式中, T 称为温度参数。 由于采用该变换函数的神经元输出状态分布与热力学中的玻尔兹曼分布相类似。 人工神经网络模型 神经细胞是构筑神经系统和人脑的基本单元,它既具有结构和功能的动态特性,又具有时间和空间的动态特性,其简单有序的编排构成了复杂的大脑。 神经细胞之间的通信是通过其具有可塑性的突触祸合实现的,这使它们成为一个的整体。 人工神经网络就是通过对人脑的神经细胞一一的建模和连接,来探索模拟人脑神经系统功能的模型,其任务是具有学习、联想、记忆和模式识别等信息处理功能的系统。 在各种智能信息处 理模型中,人工神经网络是最具有大脑风格的智能信息处理模型,许多网络都能反映人脑功能的若干基本特性,但并非生物系统的逼真描述,只是对其局部电路的某种模仿、简化和抽象。 大量神经元组成庞大的神经网络,才能实现对复杂信息的处理与存储,并表现出各种优越的特性。 神经网络的强大功能与其大规模并行互连、非线性处理以及互连结构的可塑性密切相关。 必须按一定规则将神经元连接成神经网络,并使网络中各神经元的连接权按一定规则变化。 生物神经网络由数以亿计的生物神经元连接而戒,而人工神经网络限于物理实现的困难和为了计算简便,是由相对少量的神经元按一定规律构成的网络。 人工神经网络中的神经元常称为节点或处理单元,每个节点均具有相同的结构,其动作在时间和空间上均同步。 人工神经网络的模型有很多种,可以按照不同的方法分类。 其中常见的两种分类方法是:按网络连接的拓扑结构和按网络内部的信息流向分类。 ( 1)网络拓扑结构类型 神经元之间的连接方式不同,网络的拓扑结构也不同。 根据神经元之间连接方式,可将神经网络结构分为层次型结构 (图 )、互连型结构 (图 )两大类。 ( 2)根据神经网络内部信息的传递方向,可分为前馈型、反馈型网络两种类型。 ( ) 11 图 层次结构示意图 图 互联结构示意图 人工神经网络的学习 学习定义为:根据与环境的相互作用而发生的行为改变,其结果导致对外界刺激产生反应的新模式的建立。 学习的过程离不开训练,学习的过程就是一种经过训练而使个体在行为上产生较为持久改变的过程。 学习效果随着训练量的增加而提高,这就是通过学习获得的进步。 关于学习的神经机制,涉及神经元如何分布、处理和存储信息。 这样的问题单用行为研究是不能回答的,必须把研究深入到细胞和分子水平。 在大脑中,要建立功能性的神经元 连接,突触形成是关键。 神经元之间的突触联系,其基本部分是先天就有的,但其他部分是由于学习过程中频繁地给予刺激而成长起来的。 突触的形成、稳定与修饰均与刺激有关,随着外界给予的刺激性质不同,能形成和改变神经元间的突触联系。 人工神经网络的功能特性由其连接的拓扑结构和突触连接强度,即连接权值决定。 神经网络全体连接权值的可用一个矩阵 W 表示,它的整体反映了神经网络对于所解决问题的知识存储。 神经网络能够通过对样本的学习训练,不断改变网络的连接权值以及拓扑结构,以使网络的输出不断地接近期望的输出。 这一过 12 程称为神经网络的学 习或训练,其本质是可变权值的动态调整。 当大量处理单元集体进行权值调整时,网络就呈现出 “智能 ”特性。 其中有意义的信息就分布地存储在调节后的权值矩阵中。 神经网络的学习算法可以归纳为三类 :一是有导师学习:学习模式采用的是纠错规则,学习训练过程中需要不断地给网络成对提供一个输入模式和一个期望网络正确输出的模式,将神经网络的实际输出同期望输出进行比较,并按一定的规则调整权值。 另类是无导师学习:学习过程中,需要不断地给网络提供动态输入信息。 网络能根据特有的内部结构和学习规则,在输入信息流中发现任何可能存在的模式和规律 ,同时能根据网络的功能和输入信息调整权值,使网络能对属于同一类的模式进行自动分类。 第三类是灌输式学习:将网络设计成能记忆特别的例子,以后当给定有关该例子的输人信息时,例子便被回忆起来。 本章小结 本章主要是对神经网络模型建立的基本阐述。 是在生物神经细胞的基础上建立起来的。 最重要的是神经元得建立,然后是网络模型的确定。 现在主要是 BP模型,为下面的设计做理论支持。 13 第 3 章 BP 神经网络结构及数学模型 BP 神经网络结构 目前国外在工程上获得实际应用的神经元模型,大部 分是 BP 网络。 这种网络的可靠性及成熟性可以满足工程应用的要求。 如图 所示。 图 BP 神经网络结构示意图 在人工神经网络发展历史中,很长一段时间里没有找到隐层的连接权值调整问题的有效算法。 直到误差 反向传播算法 ( BP 算法)的提出,成功地解决了求解非线性连续函数的 多层前馈神经网络 权重调整问题。 BP (Back Propagation)神经网络,即误差反传误差反向传播算法的学习过程,由信息的正向传播和误差的反向传播两个过程组成。 输入层各神经元负责接收来自外界的输入信息,并传递给中间层各神经元;中间层是内部信息处理层,负责信息变换,根据信息变化能力的需求,中间层可以设计为单隐层或者多隐层结构;最后一个隐层传递到输出层各神经元的信息,经进一步处理后,完成一次学习的正向传播处理过程,由输出层向外界输出信息处理结果。 当 实际输出与期望输出不符时,进入误差的反向传播阶段。 误差通过输出层,按误差梯度下降的方式修正各层权值,向隐层、输入层逐层反传。 周而复始的信息正向传播和误差反向传播过程,是各层权值不断调整的过程,也是神经网络学习训练的过程,此过程一直进行到网络输出的误差减少到可以接受的程度,或者预先设定的学习次数为止。 BP 神经网络模型 BP 网络模型包括其输入输出模型、作用函数模型、误差计算模型和自学习模型。 ............... ............ ..... ... 14 BP 神经元 图 给出了第 j 个基本 BP 神经元(节点),它只模仿了生物神经元所具有的三个最基本也是最重要的功能 :加权、求和与转移。 其中 x x2…x i…x n 分别代表来自神经元 2…i…n 的输入; wj wj2…w ji…w jn 则分别表示神经元 2…i…n 与第 j 个神经元的连接强度,即权值; bj 为阈值; f(.)为传递函数; yj 为第 j 个神经元的输出。 第 j 个神经元的净输入值 Sj 为: jjijini bxwxw 1js 图 BP 神经元 其中: Tni xxxxX ]. . .. . .[ 21 , ]......[ 21 jnjijjj wW 若视 1x0 , jj bw0 ,即令 x 及 jw 包括 ox 及 0jw ,则 Tnxxxxx ]...[ 210 , ]. . . .. . .[ 210 jnjijjj j 于是节点 j 的净输入 Sj 可表示为: xwxws jijinij 0 净输入 Sj 通过传递函数( Transfer Function) f()后,便得到第 j 个神经元的输出 yi: )()()( 0 xwFxwfsfy jijinijj ( ) )(f 1x.. ix..nx ij jb js jy ( ) ( ) 15 式中是单调上升函数,而且必须是有界函数,因为细胞传递的信号不可能无限增加,必有一最大值。 BP 网络 BP 算法由数据流的前向计算(正向传播)和误差信号的反向传播两个过程构成。 正向传播时,传播方向为输入层 → 隐层 → 输出层,每层神经元的状态只影响下一层神经元。 若在输出层得不到期望 的输出,则转向误差信号的反向传播流程。 通过这两个过程的交替进行,在权矢量空间执行误差函数梯度下降策略,动态迭代搜索一组权矢量,使网络误差函数达到最小值,从而完成信息提取和记忆过程。 正向传播 图 三层神经网络的拓扑结构 设 BP 网络的输入层有 n 个节点,隐层有 q 个节点,输出层有 m个节点,输入层与隐层之间的权值为 kiv ,隐层与输出层之间的权值为 jkw ,如图 所示。 隐层的传递函数为 f1(),输出层的传递函数为 f2(),则隐层节点的输出为(将阈值写入求和项中): )( 01 ikjnik xvfz k=1, 2, …… q ( ) 输出层节点的输出为: )(y 02j kjknk zwf j=1, 2, ……m ( ) 1x ....... ix ......nx n q m 1y 1z V my。车辆工程毕业设计论文-基于c语言的bp神经网络预测程序开发(编辑修改稿)
阅读剩余 0%
本站所有文章资讯、展示的图片素材等内容均为注册用户上传(部分报媒/平媒内容转载自网络合作媒体),仅供学习参考。
用户通过本站上传、发布的任何内容的知识产权归属用户或原始著作权人所有。如有侵犯您的版权,请联系我们反馈本站将在三个工作日内改正。