神经网络在模式识别中的简单分析及应用毕业论文(编辑修改稿)

神经网络在模式识别中的简单分析及应用毕业论文(编辑修改稿)内容摘要：

模式识别系统示意 在两个模块中都需要数据的预处理，而数据预处理功能是多方面的，如除去噪声信号的边缘影响；将研究有关的模式分离；对模式样品标准化等。 训练模式样本的特征数据输入过程，就是将已知的模式样品进行数值化后载入计算机。 这样对于输入样品进行分析，除去对分类无用或者易造成混淆的特征，尽量保留对分类判别有效的数值特征，于是完成模式识别的特征选择。 接下来就是按照设定的分类判别模型对给定的训练样品进行训练，得到分类的判别规则，有了判别规则就可以进行模式识别过程，最后得到输出识别结果。 模式识别的主要方法 模板匹配方法、 结构模式识别和统计模式识别是目前常用的模式识别方法。 模板匹配模式识别是通过比较待识别模式和已有模式的相似程度来达到识别模式的目的，也是应用最早最简单的模式识别形式。 随着科学技术的发展和研究对象的深入，模式识别问题也变得非常复杂多变 ，这就要求人们对于事物的识别不仅局限于简单的模式分类，还需要应对模式结构作全面完善的描述，从而需要运用结构模式识别方法。 但是目前，研 未知模式数据获取 数据预处理 未知模式特征提取和选择 模式分类决策 训练样品特征数据输入 训练样本特征提取和选择 确定判别规则 调整特征提取与选择 改进判别规则 数据预处理 误差检测 识别结果 究最多也较为深入的模式识别方法是统计模式识别，神经网络模式识别技术也可以归为到这类方法中。 在统计模式识别中，每一个模式采用多维特征或测量值来表示，最终 的目的是由这些特征构成的空间能将各模式类有效的分离。 统计模式识别主要研究对象的因素包括特征的 提取和优化、分类判别和聚类判别。 如何确定合适的特征空间是设计模式识别系统一个非常重要的问题，对特征空间进行优化可以采用特征选择和特征组合优化两种基本方法。 对于已知若干个样品的类别以及特征，我们需要对分类问题建立一个样品库。 根据这些样品库建立判别分类函数，这就让机器学习来实现，然后对某些未知的新对象分析它们的特征以至决定它们属于哪一类，就需要有监督学习的方法。 有时候，已知若干对象和它们的特征，但不知道每个对象属于哪一 类，而且事先也并不知道究竟分为几类。 这样就可能需要考虑用某种相似性度量的方法，即 运用 “物以类聚，人以群分”的思想，把特征相似或相同的归为同一类，这样就采用了无监督的学习方法。 模式识别 应用 模式识别技术已广泛应用于文字识别、语音识别、图像识别、指纹识别、 身份识别、医学诊断 、 工业产品检测等众多 科学 领域。 模式识别技术 同时也 是人工智能的基础技术。 随着科学技术的不断发展，模式识别不断发展和完善，模糊理论、神经网络、遗传算法和支持向量机等 研究成果也渗透进来，融合形成 了 解决 复杂 问题的一种有效机制。 在运用模式识 别技术中，我们需要根据具体问题与模式识别方法结合起来，同时把人工神经网络、智能计算结合起来，逐步通过模式分类、网络训练、确定优化区域，找到优化准则，从而实现优化、应用 和发展。 经过多年的科学发展，文字识别是模式识别领域发展最为成熟并应用最为广泛的方面。 如手写体阿拉伯数字的识别在邮政信函自动分拣上起到重要的作用。 语音识别的难度和复杂度都很高，因为要提取语音的特征，不仅要分析语音的结构和语音的物理过程，还要涉及听觉的物理和生理过程。 但是，语音识别课题已在不同领域中运用，尤其在身份鉴别中起到很大作用。 同样地，模式 识别在医学上应用也很多，如医学图片分析、染色体的自动分类、癌细胞的分类等领域。 应该可以这样说，模式识别技术在科学 不断 发展的推动下，已 逐渐被人们所认知和认同，并能结合新的有关科学研究技术，可以有效的解决复杂多变的识别问题，提供了一种分析 解决 问题的重要工具。 2 人工神经网络概述 人工神经元模型 神经网络是指用大量的简单计算单元 (神经元 )构成的非线性系统 ,它在一定程度和层次上模仿了人脑神经系统的信息处理、存储及检索功能，因而具有学习、记忆和计算等智能处理功能。 人工神经网络结构和工作原理基本上 是结合人脑的组织结构和活动规律，来反映人脑的某些基本特征，但并不是对人脑部分的真实再现。 人工神经元模型是生物神经元的模拟和抽象。 根据生物神经元的结构和工作原理，构造一个神经元如图 21 所示。 人工神经元是人工神经网络的基本单元，从图中可以看出，它相当于一个多输入单输出的非线性阀值器件。 这里的 1 2 3, , , np p p p表示 n 个神经元的输入； 1 2 3, , , , nw w w w表示与该相连的 n 个突触的连接强度其值成为权值，其每个元素的值可以为正负，正值的表示为兴奋型突触，负值的表示为抑制型突触；1niii wp表示人工神经元的输入总和，也就是激活值，对应于生物神经细胞的膜电位； a 表示该神经元的输出 ；  表示该人工神经元的阀值； f 表示神经元的输入输出关系函数，亦即激 活函数或传输函数。 如果神经元输入的加权和1niii wp大于  ，则该神经元被激活。 这样可以表示神经元的激活函数为1niiia f w p .阀值  一般不是一个常数，是随着神经元的兴奋程度而发生变化的。 激活函数 a 常用的三种类型是：阀值函数、 Sigmoid 函数和分线段性函数。 阀值函 数、 Sigmoid 函数和分线段性函数 激活函数常用的三种类型是：阀值函数、 Sigmoid 函数和分线段性函数。 现简述这三种类型函数。 (1)阀值函数 阀值函数定义为 ：   1, 0 .0, 0tft t   该阀值函数通常称为阶跃函数，若激活函数采用阶跃函数，则该人工神经元模型即为著名的 MP 模型。 这时神经元的输出取 1 或 0，反映了神经元的兴奋或抑制。 此外，符号 sgnt 函数也常作为神经元的激活函数，即表示为：   1, 0sgn .1, 0tt t  (2)Sigmoid 函数 Sigmoid 函数也称为 S 型函数，是人工神经网络中最常用的激活函数。 S 型函数定义为 ：   1 ,1atft e 其中 a 是 S 型函数的斜率参数。 通过调整参数 a ，可以获取不同斜率的 S 型函数。 (3)分线段性函数 分段性函数定义为 ：   1, 1, 1 1.1, 1tf t t tt    该函数在线性区间  1,1 内的放大系数是一致的。 这种形式的激活函数可看作是非线性放大器的近似。 人工神经网络模型 根据神经元之间连接的拓扑结构上的不同，大致可以将神经网络结构分为两种形式，即分层型和相互连接型神经网络。 分层型网络是将一个神经网络中的所有神经元按功能分为若干层，一般有输入层、隐含层和输出层，各层顺序连接。 按 网络的 拓扑结构的不同，可以将分层神经网络细分为简单的前馈型网络、具有反馈型的前馈网络以及层内的互连前馈型网络。 相互连接型的神经网络则是网络中任意两个神经元之间相互连接。 随着人工神经网络技术的发展，人们对神经网络的认识已不断 进步和 完善 ，提出了许多神经网络模型，其 研究应 用广泛的神经网络模型是 BP 神经网络、径向基函数神经网络、自组织竞争神经网络、反馈型神经网络和概率神经网络等。 神经网络 学习特点 人工神经网络与生物神经网络一样，必须要经过学习才具有智能功能。 神经网络学习过程实际是调节权值和阀值的过程。 模仿人 的学习过程，人们提出了多种神经网络的学习方式，其中主要有三种形式：有监督学习、无监督学习和强化学习。 学习往往是一个相对持久的变化过程，也是一个推理的过程。 有监督学习是指在有“导师”指导和考察的情况下进行学习的方式，所图 22 所示。 神经网络学习系统根据一定的学习规则进行学习，每次学习过程完成后。 “导师”都要考察学习的结果是否达到所需的要求，并以此来决定网络是否需要继续学习。 无监督学习是不存在“导师”的指导和考察，是靠学习者或神经网络系统自身完成的，如图 23所示。 其实这是一种自我学习、自我组织过程。 强化学习 就介于有监督学习和无监督学习两种方式之间，如图 24 所示。 输入 p 实际输出ａ 输入 p 实际输出ａ 输入 p 实际输出 ａ ｅ误差条件 评价标准 期望输出 图 22 有监督学习方式 图 23 无监督学习方式 图 24 强化学习方式 人工神经网络在模式识别问题中 应用 优势 人工神经网络，简称神经网络，是对人脑或自然神经网络若干基本特性的抽象和模拟，是一种基于连接学说构造的智能仿生模型，是由大量神经元组成的非 线性动力系统。 以生物神经网络为模拟基础的人工神经网络试图在模拟推理和自动学习等方面发展，使得人工智能更接近人脑的自组织和并行处理功能，它在信息处理、模式识别、聚类分析和智能控制等领域应用广泛。 神经网络的主要特点是： (1)并行协同处理信息。 神经网络中每个神经元都可以根据接受到的信息进行独立的运算和处理，并输出计算结果，同一层的各个神经元的输出结果可以被同时计算出来，然后传输给下一层做进一步处理，体现了神经网络并行处理运算的特点，这使得它具有很强的实时性。 (2)知识的分布存储能力。 在神经网络中，知识不是存 储在特定的存储单元中，而是分布在整个系统中，要存储多个知识就需要更多链接。 在计算机中，只要给定一个地址就可以得到一个或一组数据。 人根据联想记忆可以正确识别图形，人工神经网络就采神经网络学习系统 误差分析 神经网络学习系统 神经网络学习系统 外部环境 用联想记忆的办法来获得存储的知识，保证网络的正确性，提高了网络的容错性和鲁棒性。 (3)对信息的处理具有自组织、自学习特点，便于联想、综合和推广。 神经网络的神经元之间的连接强度用权值大小来表示，这种权值可以通过对训练样本的学习而不断变化，而且随着训练样本量的增加和反复学习，这些神经元之间的连接强度会不断增加，从而提高神经元对这些样本特 征的反映灵敏度。 (4)模式识别能力。 目前有很多神经网络模型可以善于模式识别。 模式识别也是人工神经网络最重要的特征之一。 它不但可以能识别静态信息，对实时处理复杂的动态信息也显示强大的作用。 虽然模式识别往往是非常复杂的，里面的各个因素相互影响，呈现出复杂多变的非线性关系，但是人工神经网络技术为解决这类非线性问题提供了强有力的方法。 纵观人工神经网络特点，神经网络处理模式识别问题上，相比其他传统方法，具有以下优点：首先对所处理的问题的了解要求不是很多；其次就是可以对特征空间进行更为复杂的划分；再次它适用于高速并 行处理系统的实现。 事物发展总是有两面的。 人工神经网络也存在自身固有的弱点，如网络需要更多的训练数据，无法获取特征空间中的决策面，以及在非并行处理系统中的模拟运行速度慢等缺点。 3 神经网络模式识别 基于 BP 神经网络的模式识别 单层 神经网络只能解决线性可分的问题，对于非线性分类问题就需要运用多层神经网络，还需要寻找训练多层神经网络的学习算法。 目前，最著名的多层神经网络学习算法应该是 BP 算法。 BP 算法训练的神经网络就是 BP 神经网络。 在众多人工神经网络模型中，大部分采用 BP 网络或是它的变化形式，可以说 BP 神经网络是前馈型网络的核心部分，体现了人工神经网络最精华的部分。 BP 神经网络采用的是有监督学习方式。 神经网络模型 简述 前馈型神经网络通常含有一个或多个隐层，隐层中的神经元基本均采用 S 型传递函数，输出层的神经元采用线性传递函数。 BP 神经网络属于前馈型神经网络，它具有前馈型神经网络的基本结构。 一个典型的 BP 神经网络如图 31 所示，有一个隐层，隐层神经元数目为 S,隐层采用 S 型神经元函数 logsig( )，具有 R 个输入。 隐层的非线性传递函数神经元可以学习输入输出之间的线性和非线性关系，线性的输出层是为了拓宽网络输出。 输入向量 神经元 图 31 BP 神经网络简单模型 1()n iiia f w p  学习算法 BP 神经网络学习算法解决了多层感知器的学习问题，促进了神经网络的发展。 在BP 网络学习过程主要在两个方面： (1)工作信号正向传播：指的是输 入信号从输入层经隐层神经元，传向输出层，在输出端产生输出信号。 在信号的向前传递过程中的权值是固定不变的，每一层神经元的状态只影响下一层神经元的状态。 如果在输出层不能得到期望的输出，则转入误差信号反向传播。 (2)误差信号反向传播：指的是网络的实际输出与期望输出之间差值即为误差信号，误差信号由输出端开始逐层向前传播。 在此过程中，网络的权值由误差信号反馈进行相应地调节。 通过权值的不断修正使网络的实际输出更接近期望输出。 但是 BP 算法的存在以下主要缺点：收敛速度慢、局部极限、难以确定隐层和隐层节点个数。 针对 BP 算法这些缺点，出现了许多改进算法。 BP 算法的改进主要有两种途径：一种采用启发式学习算法，另一种则是采用更有效的优化算法。