數(shù)據(jù)不平衡分類問題研究.pdf

1、在數(shù)據(jù)挖掘和機器學(xué)習(xí)領(lǐng)域，大多數(shù)分類算法建立在各類數(shù)據(jù)分布平衡的假設(shè)之下，然而二類不平衡數(shù)據(jù)廣泛地存在于人們的現(xiàn)實生活和實踐生產(chǎn)中。在很多領(lǐng)域，研究不平衡數(shù)據(jù)具有重要的商業(yè)價值和應(yīng)用價值。傳統(tǒng)的分類學(xué)習(xí)算法在類分布均衡的假設(shè)下以尋求數(shù)據(jù)集總體分類準確率最大為目標，這并不適合不平衡數(shù)據(jù)集的學(xué)習(xí)。目前解決不平衡分類問題的方法大致可以分為兩類，即數(shù)據(jù)層面上的采樣方法和算法層面上的方法。采樣方法在不平衡數(shù)據(jù)集學(xué)習(xí)上的作用是通過改變數(shù)據(jù)分布實現(xiàn)的

2、。之前的研究成果表明，對于一些通用的分類器來說，在平衡數(shù)據(jù)集上所取得的分類性能要好于在不平衡數(shù)據(jù)集上所取得的分類性能。這些實驗性的研究為采樣方法應(yīng)用于不平衡數(shù)據(jù)學(xué)習(xí)提供了契機。
　　 本文首先研究上采樣技術(shù)對不平衡數(shù)據(jù)分類學(xué)習(xí)的作用和影響。在調(diào)研了現(xiàn)有的比較流行的上采樣技術(shù)的特點之后，運用最大間隔理論的方法分析上采樣技術(shù)的優(yōu)缺點，在此基礎(chǔ)之上提出了基于最大化間隔的上采樣算法MSYN。為了減少基于MSYN采樣技術(shù)偏置于最近鄰規(guī)則對

3、分類性能的影響，本文進一步提出了一種分類器假設(shè)間隔的近似計算方法，在此基礎(chǔ)之上對上采樣技術(shù)進行改進和擴展，提出了EMSYN采樣技術(shù)。實驗驗證了使用最大間隔準則分析上采樣技術(shù)的有效性。在算法層次上，處理不平衡數(shù)據(jù)集，用分類錯誤率度量標準是不合適的，ROC曲線下面積（AUC）則是一個有效的度量分類器性能的標準。本文研究以優(yōu)化AUC為目標的線性模型在不平衡數(shù)據(jù)集上的性能并對原有模型進行了兩處修改，提出擴展最大化AUC線性分類算器（EMALC）