matlab的神经网络工具箱实用指南(编辑修改稿)

matlab的神经网络工具箱实用指南(编辑修改稿)内容摘要：

[3], p(4)=[4] p(1)=[4], p(2)=[3],p(3)=[2], p(4)=[1] 11 输入 P 应该是一个细胞数组，每一个数组元素都包含了两个同时发生的序列的元素。 P = {[1 4] [2 3] [3 2] [4 1]}。 现在我们就可以模拟这个网络了： A = sim(,P)。 网络输出结果将是： A = {[ 1 4] [4 11] [7 8] [10 5]} 你可以看到，每个矩阵的第一列是由第一组输入序列产生的输出序 列，每个矩阵的第二列是由第二组输入序列产生的输出序列。 这两组序列之间没有关联，好象他们是同时应用在单个的并行网络上的。 下面的图表显示了当我们有 Q 个 TS长度的序列时，在函数 sim 中输入 P 的一般格式。 它函盖了单输入向量的所有的情况。 每一个细胞数组的元素都是一个同步向量矩阵，它对应于每一个序列的同一时间点。 如果有多输入向量，那么在细胞数组中的矩阵里就有多行。 这一节我们我们把同步和异步输入应用到了动态网络中。 在以前的章节中我们把同步输入应用到了静态网络中。 我们也能把异步序列应用到静态网络中。 这不会改变网络的输出响应，但是这会影响训练过的网络的形式。 在下一节你会更清楚的了解这一点。 5．训练方式 在这一节中，我们将描述两种不同的训练方式。 在增加方式中，每提交一次输入数据，网络权重和偏置都更新一次。 在批处理方式中，仅仅当所有的输入数据都被提交以后，网络权重和偏置才被更新。 增加方式（应用与自适应网络和其他网络） 虽然增加方式更普遍的应用于动态网络，比如自适应滤波，但是在静态和动态网络中都可以应用它。 在这一节中我们将示范怎样把增加方式应用到这两种网络中去。 静态网络中的增加方式 继续考虑前面用过的第一个静态网络的例子，我们用增加方式来训练它，这样每提交一次输入数据，网络权重和偏置都更新一次。 在这个例子里我们用函数 adapt，并给出输入和目标序列： 假定我们要训练网络建立以下线性函数： t=2p1+p2 我们以前用的输入是： 目标输出是： t1=[4],t2=[5] ,t3=[7] ,t4=[7] 我们首先用 0 初始化权重和偏置。 为了显示增加方式的效果，我们把学习速度也设为 0。 = newlin([1 1。 1 1],1,0,0)。 {1,1} = [0 0]。 {1} = 0。 为了用增加方式，我们把输入和目标输出表示为以下序列： 12 P = {[1。 2] [2。 1] [2。 3] [3。 1]}。 T = {4 5 7 7}。 前面的讨论中，不论是作为一个同步向量矩阵输入还是作为一个异步向量细胞数组输入，模拟的输出值是一样的。 而在训练网络时，这是不对的。 当我们使用 adapt 函数时，如果输入是异步向量细胞数组，那么权重将在每一组输入提交的时候更新（就是增加方式），我们将在下一节看到，如果输入是同步向量矩阵，那么权重将只在所有输入提交的时候更新（就是批处理方式）。 我们现在开始用增加方式训练网络： [,a,e,pf] = adapt(,P,T)。 由于学习速度为 0，网络输出仍然为 0，并且权重没有被更新。 错误和目标输出相等。 a = [0] [0] [0] [0] e = [4] [5] [7] [7] 如果我们设置学习速度为 ，我们就能够看到当每一组输入提交时，网络是怎么调整的了。 {1,1}.=。 {1,1}.=。 [,a,e,pf] = adapt(,P,T)。 a = [0] [2] [] [] e = [4] [3] [] [] 由于在第一个输入数据提交前还没有更新，第一个输出和学习速率为 0时一样。 由于权重已更新，第二个输出就不一样了。 每计算一次错误，权重都不断的修改。 如果网络可行并且学习速率设置得当，错误将不断的趋向于 0。 动态网络中的增加方式 我们同样也能用增加方式训练动态网络。 实际上，这是最普遍的情况。 让我们用前面用过的那个有输入延迟的线性网络作为例子，我们将初始化权重为 0，并把学习速率设为。 = newlin([1 1],1,[0 1],)。 {1,1} = [0 0]。 = 0。 为了用增加方式，我们把输入和目标输出表示为细胞数组的元素： Pi = {1}。 P = {2 3 4}。 T = {3 5 7}。 这里我们尝试训练网络把当前输入和前一次输入加起来作为当前输出。 输入序列和我们以前使用 sim的例子中用过的一样，除了我们指定了输入序列的第一组作为延迟的初始状态。 现在我们可以用 adapt 来训练网络了： [,a,e,pf] = adapt(,P,T,Pi)。 a = [0] [] [ ] e = [3] [] [] 由于权重没有更新，第一个输出是 0。 每一个序列步进，权重都改变一次。 批处理方式 在批处理方式中，仅仅当所有的输入数据都被提交以后，网络权重和偏置才被更新，它也可以应用于静态和动态网络。 我们将在这一节讨论这两种类型。 静态网络中的批处理方式 批处理方式可以用 adapt 或 train 函数来实现，虽然由于由于采用了更高效的学习算法， train 通常 是最好的选择。 增加方式只能用 adapt 来实现， train 函数只能用于批处理方式。 让我们用前面用过的静态网络的例子开始，学习速率设置为。 = newlin([1 1。 1 1],1,0,)。 13 {1,1} = [0 0]。 {1} = 0。 用 adapt 函数实现静态网络的批处理方式，输入向量必须用同步向量矩阵的方式放置： P = [1 2 2 3。 2 1 3 1]。 T = [4 5 7 7]。 当我们调用 adapt 时将触发 adaptwb 函数，这是缺省的线性网络调整函数。 learnwh是缺省的权重和偏置学习函数。 因此， WidrowHoff 学习法将会被使用： [,a,e,pf] = adapt(,P,T)。 a = 0 0 0 0 e = 4 5 7 7 注意网络的输出全部为 0，因为在所有要训练的数据提交前权重没有被更新，如果我们显示权重，我们就会发现： {1,1} ans = {1} ans = 经过了用 adapt 函数的批处理方式调整，这就和原来不一样了。 现在用 train 函数来实现批处理方式。 由于 WidrowHoff 规则能够在增加方式和批处理方式中应用，它可以通过 adapt 和 train 触发。 我们有好几种算法只能用于批处理方式（特别是 LevenbergMarquardt 算法），所以这些算法只能用 train 触发。 网络用相同的方法建立： = newlin([1 1。 1 1],1,0,)。 {1,1} = [0 0]。 {1} = 0。 在这种情况下 输入向量即能用同步向量矩阵表示也能用异步向量细胞数组表示。 用 train 函数，任何异步向量细胞数组都会转换成同步向量矩阵。 这是因为网络是静态的，并且因为 train 总是在批处理方式中使用。 因为 MATLAB 实现同步模式效率更高，所以只要可能总是采用同步模式处理。 P = [1 2 2 3。 2 1 3 1]。 T = [4 5 7 7]。 现在我们开始训练网络。 由于我们只用了一次 adapt，我们这里训练它一次。 缺省的线性网络训练函数是 trainwb。 learnwh 是缺省的权重和偏置学习函数。 因此，我们 应该和前面缺省调整函数是 adaptwb 的例子得到同样的结果。 {1,1}. =。 {1}. =。 = 1。 = train(,P,T)。 经过一次训练后，我们显示权重发现： {1,1} ans = {1} ans = 这和用 adapt 训练出来的结果是一样的。 在静态网络中， adapt 函数能够根据输入数据格式的不同应用于增加方式和批处理方式。 如果数据用同步向量矩阵方式输入就用批处理方式训练；如果数据用异步方式输入就用增加方式。 但这对于 train 函数行不通，无论输入格式如何，它总是采用批处理方式。 14 动态网络中的增加方式 训练静态网络相对要简单一些。 如果我们用 train 训练网络，即使输入是异步向量。