基于混淆矩陣的分類器選擇集成方法研究.pdf

1、集成學習是機器學習領域的重要研究方向，它通過訓練多個個體分類器并把它們組合起來形成多分類器系統(tǒng)，以此來提高分類性能。但是隨著計算機技術的發(fā)展，數據量的增大，參與集成的分類器也就越來越多，這樣一方面計算量迅速增長，另一方面，分類器之間的差異度也變小，影響了集成的準確性，而一個有效的集成系統(tǒng)需要參與集成的分類器具有比較高的準確性和差異性。研究表明，從訓練產生的基分類器中選擇一部分來集成，這種方法可能比使用全部的基分類器來進行集成效果更好。因

2、此，從大量的基分類器中選擇出具有高差異性的分類器作為代表參與集成，已成為集成學習的一個研究趨勢，需要進行更加深入的研究。
　　本文在集成學習的基礎上，首先介紹了多分類器集成的國內外研究背景和意義，總結了集成學習的國內外研究現狀。其次介紹了集成學習的概念和兩種經典的集成算法Bagging和Boosting算法，接著，分別列舉了乘積規(guī)則、求和規(guī)則等6種集成規(guī)則。然后從差異性度量公式的角度出發(fā)，介紹了差異性度量的概念，以及常用的度量公式

3、。最后提出了一種新的多分類器選擇性方法，具體方法是構造所有基分類器的混淆矩陣作為聚類算法的數據對象，依據各聚類中樣本的分布情況，選擇出一定數量的分類器作為代表，構成新的待集成分類器集合，然后把這個方法應用于 Bagging的訓練過程中。為了驗證本文方法的可行性，在 UCI數據集上進行實驗，將本文的方法應用于Bagging算法的訓練過程得到的實驗結果與使用原始的Bagging算法得到的結果進行比較，表明，該方法可以有效提高集成系統(tǒng)的準確率