第5章分类技术

第5章分类技术内容摘要：

們稱為中間層，又稱為隱藏層 多層前向式架構類神經網路 169。 2020 台灣培生教育出版 (Pearson Education Taiwan) 類神經網路 (4)  ANN 學習演算法的目的在於決定權重 w，然後得到最小的誤差值平方  ANN 網路的特性如下： – 多層類神經網路至少有一個隱藏層具有普遍逼近 （ universal approximators）的性質 – ANN 可以用來處理多餘的特徵值 – 類神經網對於具有雜訊的訓練資料問題會非常敏感 – 最陡坡降法可用來學習 ANN 中的權重值 – 要訓練 ANN 網路是很耗時的，尤其是當隱藏層節點很多的情形，不過一旦模式建立之後，就能夠很快的針對測試資料進行歸類 169。 2020 台灣培生教育出版 (Pearson Education Taiwan) 支援向量機  支援向量機（ support vector machine， SVM）的分類技術起源於統計學習理論  SVM 也能夠處理高維度資料的問題  可以使用訓練範例的子集合來表示決策界限，就是支援向量（ support vector） 169。 2020 台灣培生教育出版 (Pearson Education Taiwan) 最大邊際超平面  可找到一個超平面（ hyperplane），將兩個類別的資料分開 B1 的邊大於 B2，在這個例子中， B1 是具有最大邊界的超平面 169。 2020 台灣培生教育出版 (Pearson Education Taiwan) 線性的支援向量機：可分割的例子  線性支援向量機：可分割的情況 支援向量機的學習方式可以正式化成以下的限制最佳化的問題：  線性資料可分割的例子 169。 2020 台灣培生教育出版 (Pearson Education Taiwan) 線性支援向量機：不可分割的情形  支援向量機在不可分割類別問題的決策界限  不可分割資料的差額變數 169。 2020 台灣培生教育出版 (Pearson Education Taiwan) 非線性的支援向量機  將原屬於同類空間 x 中的資料轉換成新的空間 ，如此線性決策界限就可在轉換後的空間中分割資料  非線性的支援向量機：非線性的支援向量機的學習可以用以下最佳化問題來表示： 169。 2020 台灣培生教育出版 (Pearson Education Taiwan) kernel trick方法  kernel trick 是一個在轉換空間中使用原始屬性集合來計算相似度的方法  可用在非線性的支援向量機的問題上 – 不用知道正確的對映函數 – 使用 kernel函數計算點乘積比起使用轉換後的屬性集合來得容易 – 因在原始的空間中進行計算，可避免維度問題  使用多項式 kernel 函數的非線性決策界限 169。 2020 台灣培生教育出版 (Pearson Education Taiwan) 支援向量機的特性  支援向量機的學習問題可以轉變成凸型最佳化的問題，可以用來找到目標函數的全域最佳化  支援向量機可藉由最大化決策界限的邊界來執行容量的控制（ capacity control）  支援向量機可以針對每個類別屬性變數建立虛擬變數，使得支援向量機可以應用在類別型資料上  可處理二元與多元分類的問題 169。 2020 台灣培生教育出版 (Pearson Education Taiwan) 整合法  藉由整合多種分類方法以改善分類正確性的方法  這些技術我們稱為整合法或是分類技術的結合法  根據每個分類方法對訓練資料預測結果的投票所建立的整合分類方法  整合分類法的結果比基本分類法好的兩個必要條件 – 基本分類法間要彼此獨立 – 基本分類法應該要比隨機猜測的結果要好才行 169。 2020 台灣培生教育出版 (Pearson Education Taiwan) 基本分類法與整合分類法錯誤率的比較 169。 2020 台灣培生教育出版 (Pearson Education Taiwan) 建立整合分類法的過程 169。 2020 台灣培生教育出版 (Pearson Education Taiwan) 整合的方法  藉由處理訓練資料：可根據樣本分配的狀況，另外產生一些相似的樣本。 樣本的分配將決定所要選取的資料要和訓練資料有多相似，而且有可能和其他訓練資料不一樣  藉由處理輸入的特徵：輸入特徵將被隨機選取、或是經由領域專家的推薦而獲得  藉由處理類別標籤：可用在類別個數太多的情形，其訓練資料可以藉由隨機將類別分到兩個子集合（A0 及 A1）中，將這類問題轉成二元分類。