手写数字识别毕业设计

手写数字识别毕业设计内容摘要：

果表明使用神经网络进行字母识别表现良好。 神经网络在模式识别中的应用 人工神经网络是对人脑思维的一种模拟和抽象，是一种由 很多 神经元组成的非线性系统。 以生物 大脑 的 神经网络为基础的人工神经网络的发展，使 计算机 智能更接近人脑的 学习和处理 模式。 它在模式识别 、 聚类分析和专家系统等各个方面表现出了很好的前景。 神经网络可以当作是输入到 输出空间的一个非线性映射。 它能通过对输入样本的学习来发发现输入与输出空间之间的关系，实现对 样本 的分类。 因为神经网络 是一种对数据输入的分布 没有 任何要求的非线性的网络，它能很好的解决非线性的分类问题，因而得到广泛的应用。 人工神经网络具有如下特点 ： 桂林电子科技大学毕业设计（论文）报告用纸 第 3 页 共 37 页 分布存储 及 容错性。 信息不是存储在一个地方，而是 根据 内容分布在整个网络上，网络某一 个地方 不是只存储一个外部信息，而 是 每个神经元存储多种信息的内容。 网络的每部分对信息的存储有等势作用。 这种分布式存储算法是存储区与运算区合为一体的。 在神经网络中，要获得存储的知识则采用“联想 ”的办法，即当一个神经网络 有 输入 时，它要在己存的知识中寻找与该输入匹配最好的存储知识 当作 解。 当然在信息输出时也还要经过 处理。 而不是直接从记忆中取出。 这种存储方式的优点在于若部分信息不完全，就是说或者丢失或者损坏甚至有错误的信息，它仍能恢复出原来正确的完整的信息，系统仍能运行。 这就是网络具有容错性和联想记忆功能，自然是表现出较强的鲁莽性。 人的大脑的容错性是它的一种重要的智慧形式。 人工神经元网络在结构上是并行的，而且网络的各个单元可以同时进行类似的处理过程。 因此，网络中的信息处理是在大量单元中平行而又有层次地 进行 的 ，运算速度高，大大超过传统的序列式运算。 虽然每个神经元的信息传递 (神经脉冲 )速度是以毫秒计算的，比普通序列式计算机要慢很多，但是人通常能在 1 秒内即可作出对外界事物的判断和决策、这就是能神奇地完成所谓“百步”决策。 这按照现有传统的计算机及人工智能技术目前还是做不到的。 自学习、自组织和自适应性。 学习和适应要求在时间过程中系统内部结构和联系方式有改变，神经元网络是一种变结构系统，恰好能完成对环境的活应和对外界事物的学习能力。 神经元之间的连接有多种多样，各神经元之间连接强度具有一定的可塑性，相当于突触传递信 息能力的变化，这样，网络可以通过学习和训练进行自组织以适应不同信息处理的要求。 神经元网络是大量神经元的集体行为，并不是各单元行为的简单的相加，而表现出一般复杂非线性动态系统的特性。 如不可预测性、不可逆性、有各种类型的吸引子 (信息正是“存储”在定点吸引子 )和出现混沌现象等。 正是由于神经网络具有这些特点，所以可以处理一些环境信息十分复杂、知识背景不清楚和推理规则不明确的问题。 例如语音识别和识别、医学诊断以及市场估计等，都是具有复杂非线性和不确定性对象的控制。 在那里，信源提供的模式丰富多彩，有的互相间存在矛盾 ，而判定决策原则又无条理可循。 通过神经元网络学习 (按照学习法则 )，从典型事例中学会处理具体事例，给出比较满意的解答。 由于神经网络具有分布存储信息必并行处理信息的特点，因此它对外界输入数据具有联想记忆的能力。 此种能力通过神经元之间的互连结构和对信息处理的集体性来达到的。 神经网络通过权值和中、连接结构来表达记忆的信息民，这种分布式存储结构使神经网络能够存储较多的复杂模式和记忆模式的能力。 神经网络能通过原来存储的信息和学习进行自我训练学习，可以从不完整的有缺陷的数据中恢愎原始最初的完整的信息，这一能力在数字识别 中具有很大的作用。 神经网络是表达是 非线性的非解析的，输入与输出数据之间的映射规则由网络在学习训练过 程中自动的提取，并且存储在网络之中。 桂林电子科技大学毕业设计（论文）报告用纸 第 4 页 共 37 页 具有非线性映射的能力使神经网络应用非常广阔。 目前 , 随着计算机的 快 速发展，性价比不断 的 提高，模式识别技术己经从理论探讨为主发展到大量的实际应用，人 们将更多的注意力开始转向那些用于语音，图像、机器人以及人工智能 的模式识别实际问题。 解决这些问题的关键是需要进行复杂而庞大的实时数据处理，而 因为 现有计算机的存贮容量及计算复杂性的局限，使得真正 的广泛 应用受阻。 这种面向实时应用的模式 识别问题促使人们开始将并行处理的神经网络应到模式识别，而神经网络模式识别技术又将模式识别实时应用推进了一大步，数字识别就是这种应用的一个很重要的领域。 数字识别是一项极具研究价值的课题，随着神经网络和模糊逻辑技术的发展，人们对这一问题的研究又采用了许多新的方法和手段，也使得这一古老的课题焕发出新的生命力 .目前国际上有相当多的学者在研究这一课题，它包括了模式识别领域中所有典型的问题 :数据的采集、处理及选择、输入样本表达的选择、模式识别分类器的选择以及用样本集对识别器的有指导的训练。 人工神经网络为数字识别提供了 新的手段。 正是神经网络所具有的这种自组织自学习能力、推广能力、非线性和运算高度并行的能力使得模式识别成为目前神经网络最为成功的应用领域。 本文的具体工作 本文给出了一个脱机手写体数字识别系统的设计方案，针对手写体数字识 别中的特征提取、分类器设计两大功能模块进行探索性研究。 并使用神经网络法实现了手写字母的识别以及使用 模板匹配法实现了手写数字的识别。 具体章节安排如下： 第一章 讲 述了数字识别的发展历史 、遇到的问题和困难、脱机手写数字识别研究的意义以及 BP 人工神经网络在脱机手写数字识别中的应用。 第二章 介 绍了人工神经网络的 生物模型，并且介绍了 bp 神经网络的 数学模型和 一些改进方法 ，在最后给出了其实现的流程图。 第三章详细讲述了模板匹配法的数学模型，以及其程序实现流程图。 第四章介绍了本文中使用的特征提取方法，以及特征提取类的设计，及数据的提取方法。 第五章介绍了本文中的数字字母识别系统的具体软件实现，及各个类之间的相互关系。 并且详细介绍了神经网络类的实现。 使用简单模板匹配法实现手写数字的训别。 第六章简要介绍了程序的界面实现。 桂林电子科技大学毕业设计（论文）报告用纸 第 5 页 共 37 页 2 人工神经网络 原理 人工神经网络 人工神经网络简介 神 经系统的基本构造单元是神经细胞，也称神经元。 它和人体中其他细胞的关键区别在于具有产生、处理和传递信号的功能。 每个神经元都包括三个主要部分 :细胞体、树突和轴突。 树突的作用是向四方收集由其他神经细胞传来的信息，轴突的功能是传出从细胞体送来的信息。 每个神经细胞所产生和传递的基本信息是兴奋或抑制。 在两个神经细胞之间的相互接触点称为突触。 神经元网络 的 简单 结构如 下 图所示。 从信息的传递过程来看，一个神经细胞的树突，在突触处从其他神经细胞接受信号。 这些信号可能是兴奋性的，也可能是抑制性的。 所有树突接受到的信号都传到细胞体进行综合处理，如果在一个时间 段 内，某一细胞接受到的兴奋 的 信号量足够大， 从而使该细胞被激活，产生一个脉冲信号。 这个信号将沿着该细胞的轴突传送出去，并通过突触传给其他神经细胞。 神经细胞通过突触的联接形成神经网络。 （ 1）细胞体（ 2）树突（ 3）轴突（ 4）突触 人们正是通过对人脑神经系统的初步认识，尝试构造出人工神经元以组成人工神经网络系统来 模访 人的 智能，甚至是 对 思维行为进行研究 :尝试从理性角度 说 明大脑的高级机能。 经过几十年的努力与发展，己涌现出上百种人工神经网络模型，它们的网络结构、性能、算法及应用领域各异， 但均是根据生物学事实衍生出来的。 由于其基本处理单元是对生物神经元的近似仿真，因而被称之为人工神经元。 它用于仿效生物神经细胞 桂林电子科技大学毕业设计（论文）报告用纸 第 6 页 共 37 页 最基本的特性，与生物原型相对应。 人工神经元的主要结构单元是信号的输入、处理和输出，其输出信号的强度大小反映了该单元对相邻单元影响的强弱。 人工神经元之间通过互相联接形成网络，称为人工神经网络。 神经元之间相互联接的方式称为联接模式，相互之间的联接度由联接权值体现在人工神经网络中，改变信息处理过程及其能力，就是修改网络权值的过程。 目前多数人工神经网络的构造大体上都采用如下的一些原则 : 由一定数量的单元分层联接构成。 每个单元的输入、输出信号以及综合处理内容都比较简单。 网络的学习和知识存储体现在各单元之间的联接 权值 上。 人工神经元模型是生物神经元的模拟与抽象。 如图是一种神经 网络 的一种模型，它是由模拟神经元的细胞体、轴突、突触、树突等各个部分组成 ： 人工神经元相当于一个多输入单输出的非线性阈值器件。 Xn 表示它的 n个输入， Wn表示与之相连的 n个输入的连接权。 WiXi 称为激活值 ，表示此神经元的 输入的总和。 O 表示这个神经元的输出 ， θ 表示此神经元的阈值 ，如果输入的信息超过阈值，则此神经元会被激活，所示神经元的输出可以如下表示：  O f W iX i  f()是 神经元输入和输出之间的关系函数 ，叫做激活函数或都输出函数。 W 为神经元之间的连接的权值。 X1 X2 X3 W3 W2 w1 o f θ WiXi 桂林电子科技大学毕业设计（论文）报告用纸 第 7 页 共 37 页 X为输入向量 : 设 T W X 是 连接权与输入之间的矢量积，则激活函数可写为： ()f。 阈值 θ 不是常数，它是 随神经元的激活而不断调整变化的。 激活函数主要有三种形式：阈值函数， Sigmoid 函数以及分段线性函数。 a. 阈值函数，也可称为阶跃函数，如下： 函数，也称为 S 型函数： 它是人式神经网络中最常用的激活函数。 ： 桂林电子科技大学毕业设计（论文）报告用纸 第 8 页 共 37 页 神经元间的连接方式不同，网络的连接结构也不一样，根据神经元之间的连接方法主要分为层次结构，相互连 接 构。 层次型的神经网络结构把神经元按功能分为许多层，比如有输入层，中间层，输出层，中间层也叫做 隐层，可以有多个中间层。 各个层之间通过合适的权值顺序相连。 如下图所示： 输入层负责接收来自外部的输入数据，然后通过神经元的连接权将信息数据传递中间层 的各个神经元。 中间层处理网络的内部信息，完成信息的变换，根据实际情况可以设计多个层，完成信息处理后由输出层向外界输出网络的处理结果。 b. 互连结构 对于互连结构，网络中任意两个节点之间都可能存在连接。 互连结构，可分为全互连型，局部互连型，稀疏互连型结构。 神经网络的学习 方 法 有三 类：有导师学习、无导师学习、灌输式学习。 有导师学习也 叫做 监督学习，这种学习模式采用的是纠错规则。 在学习训练过程中需要不断的给网络提供一个 标准 模式和一个期望的输出的模式， 叫做 “导师信号”。 将神经网络的实际输出同期望输出进行比较，当网络的输出与期望输出的教师信号不符时，根据差错的方向和大小按一定的规则调整权值，以使下一步网络对于各种给定的输入均能产生所期望的输出时，即认为网络已经在导师的训练下“学会”了训练数据集中包含的知识和规则，可以用来进行工作了。 无导师学习也称为无监督学习，学习过程中，需要不断地给网络提供动态输入信息，网络能根据特有的内部 结构和学习规则，在输入信息流中发现任何可能存在的模式和规律，同时能根据网络的功能和输入信息调整权值，这个过程称为网络的自组织，其结果 桂林电子科技大学毕业设计（论文）报告用纸 第 9 页 共 37 页 是使网络能对属于同一类的模式进行自动分类。 在这种学习模式中，网络权值调整不取决于处来数据信号的影响，可以认为网络的学习评价标准隐含于网络的内部。 BP 神经网络 原理 BP 算法的基本思想是，学习过和中由信号怕正向传播与误反向传播两个过程组成。 正向传播时，输入样本从输入层传入，经各隐层逐层处理后，传向输出层。 若输出层的输出与期望的输出不符，则转入误差的反向传播价段。 误差反向传 播将输出层误差以某中形式通过隐层向输入层受逐层反传，并将误差分摊给各层的所有单元。 从而获得各层单元的误差信号，此误差信号妈作为修正各单元权值的依据。 这各信号正向传播与误差反向传播的各层权值调整过程是周而复始的进行的。 权值不断调整的过程，也就是网络的学习训练。