基于Fisher判別技術(shù)的不平衡數(shù)據(jù)分類算法研究.pdf

1、現(xiàn)實(shí)世界中數(shù)據(jù)分類的應(yīng)用通常會(huì)遇到數(shù)據(jù)不平衡的問(wèn)題，即數(shù)據(jù)中的一類樣本在數(shù)量上遠(yuǎn)多于另一類，例如欺詐檢測(cè)和文本分類問(wèn)題等。其中少數(shù)類的樣本通常具有巨大的影響力和價(jià)值，是我們主要關(guān)心的對(duì)象，稱為正類，另一類則稱為負(fù)類。正類樣本與負(fù)類樣本可能數(shù)量上相差極大，這給訓(xùn)練不平衡數(shù)據(jù)提出了挑戰(zhàn)。傳統(tǒng)機(jī)器訓(xùn)練算法可能會(huì)產(chǎn)生偏向多數(shù)類的結(jié)果，因而對(duì)于正類來(lái)說(shuō)，預(yù)測(cè)的性能可能會(huì)很差。傳統(tǒng)分類器的設(shè)計(jì)都是基于類分布大致平衡這一假設(shè)的，如果用這些方法來(lái)對(duì)不平

2、衡數(shù)據(jù)進(jìn)行分類就會(huì)導(dǎo)致分類器的性能下降，因而研究用于處理不平衡數(shù)據(jù)集的分類方法顯得相當(dāng)重要。本文對(duì)不平衡問(wèn)題做了深入的研究，力圖在一定程度上解決不平衡數(shù)據(jù)學(xué)習(xí)中的若干問(wèn)題。論文工作的主要成果表現(xiàn)在如下幾個(gè)方面：
　　 （1）提出了一種面向單個(gè)正例的Fisher線性判別分類方法。該方法先找出單個(gè)正例在負(fù)類中的k個(gè)近鄰，然后按照一定規(guī)則依次在單個(gè)正例和它的各個(gè)近鄰的連線上產(chǎn)生合成樣本，并把這些合成樣本添加到原始的正類中，接著用加權(quán)F

3、isher線性分類方法對(duì)新的數(shù)據(jù)集進(jìn)行訓(xùn)練。同時(shí)，為驗(yàn)證算法的有效性，從UCI中選取了8個(gè)數(shù)據(jù)集，對(duì)少數(shù)類進(jìn)行測(cè)試，實(shí)驗(yàn)結(jié)果表明該方法可有效地提高少數(shù)類的分類性能。
　　 （2）提出了一種不平衡數(shù)據(jù)集的核Fisher線性判別模型。首先闡述了核Fisher線性判別的分類機(jī)制下，因樣本不平衡而導(dǎo)致少數(shù)類樣本的核協(xié)方差矩陣難以估計(jì)，從而導(dǎo)致核Fisher線性判別的性能下降。新提出的加權(quán)Fisher線性判別方法(WKFLD)試圖減小樣本