第11章图象模式识别

第11章图象模式识别内容摘要：

i wxwd x第 19页 第 10讲 章毓晋 (THEEIE) 感知机 • 对模式矢量增加第 n + 1个元素 • 构建一个扩充模式矢量 y，让 yi = xi， i = 1, 2, …, n，且后面加一个元素 yn+1 = 1 其中 y = [y1 y2 … yn 1]T是个扩充模式矢量， w = [w1 w2 … wn wn+1]T是个权矢量 • 关键问题：用模式矢量的给定训练集确定 w ywx T11)(  niii xwd第 20页 第 10讲 章毓晋 (THEEIE) 感知机 1. 线性可分类 由两个线性可分训练集获取权矢量 令 w(1)代表一个任意选定的初始权矢量 如果 y(k)  s1， wT(k)y(k) ≤ 0 如果 y(k)  s2， wT(k)y(k) ≥ 0 否则： )()()1( kckk yww )()()1( kckk yww )()1( kk ww 第 21页 第 10讲 章毓晋 (THEEIE) 感知机 1. 线性可分类 两个训练集，每个包括两个模式 先将模式扩充，对类 s1得到训练集 {[0 0 1]T, [0 1 1]T}，对类 s2得到训练集 {[1 0 1]T, [1 1 1]T} 第 22页 第 10讲 章毓晋 (THEEIE) 感知机 2. 线性不可分类 最小化实际响应和希望响应间的误差 沿 J(w)负梯度的方向逐步增加 w以寻找上述函数的最小值。 最小值应在 r = wTy时出现 通用的梯度下降算法可写成： 2T )(21)( yww  rJ)()()()1(kJkk   )( )()()()()1( T kkkkrkk yy  第 23页 第 10讲 章毓晋 (THEEIE) 感知机 2. 线性不可分类 写成德尔塔（ Delta）校正算法的形式 权矢量的误差 误差的变化量 改变权重能将误差减少 a||y(k)||2，下一轮继续 )()( kke yw  )()()()( T kkkrke yw2T )()()()()( kkekkkee yyy  第 24页 第 10讲 章毓晋 (THEEIE) 支持向量机 1. 线性可分类 线性分类器的设计目的：要设计一个超平面 • 满足条件的超平面 一般不惟一 • 离开两个类都比较 远的超平面分类的结果 会更好些，可能的错误率 也会 更小一些 0)( 0T  wxg xw第 25页 第 10讲 章毓晋 (THEEIE) 支持向量机 1. 线性可分类 对每个朝向，与两个类距离相等的超平面应该是与两个类都有最大距离的超平面 确定能给出类距离 最大的朝向的超平面 从一个点到一个超 平面的距离 w/)( xgd 第 26页 第 10讲 章毓晋 (THEEIE) 支持向量机 1. 线性可分类 对每个类 si，记其标号为 ti，其中 t1 = 1， t2 = –1。 现在问题变为：计算超平面的 w和 w0，在满足下列条件 的情况下最小化 用拉格朗日乘数法来解 Niwt ii . . . ,2,11)( 0T xw221)( wwC Niiii wtwL10TT0 ]1)([21),( xw 第 27页 第 10讲 章毓晋 (THEEIE) 支持向量机 1。