基于聚類正則化的線性判別分析.pdf

1、近些年,多媒體和網(wǎng)絡(luò)技術(shù)發(fā)展迅速,促使了圖像數(shù)據(jù)數(shù)量的大幅度增長,因此如何能夠快速、準(zhǔn)確地獲取圖像數(shù)據(jù)中的有用信息成為急需解決的問題,而維數(shù)約簡技術(shù)作為其中的一種解決方案,現(xiàn)已成為一個(gè)非常熱門的研究方向。到目前為止,最具有標(biāo)志性的兩種方法分別為主成分分析(Principal Component Analysis, PCA)和線性判別分析(Linear Discriminant Analysis, LDA)。
　　LDA是一種有監(jiān)督

2、的維數(shù)約簡方法,其基本思想是找到一個(gè)最佳的投影方向,使投影到該方向上的樣本數(shù)據(jù)的類間離散度最大,同時(shí)類內(nèi)離散度最小。但當(dāng)每個(gè)類別中的訓(xùn)練樣本數(shù)目較少時(shí),LDA方法卻存在著嚴(yán)重的過擬合問題,而造成這種現(xiàn)象的主要原因是根據(jù)有限數(shù)目的訓(xùn)練樣本計(jì)算得到的類間散布矩陣和類內(nèi)散布矩陣與理想的類間散布矩陣和類內(nèi)散布矩陣之間存在著較大的偏差。
　　為了解決這個(gè)問題,本文提出在不增加訓(xùn)練樣本數(shù)目的情況下,充分利用給定訓(xùn)練數(shù)據(jù)自身的結(jié)構(gòu)信息,先運(yùn)用k

3、-均值聚類算法形成新的樣本數(shù)據(jù),計(jì)算新樣本數(shù)據(jù)的類間散布矩陣和類內(nèi)散布矩陣。然后利用新樣本數(shù)據(jù)的類間散布矩陣來歸一化原始樣本數(shù)據(jù)的類間散布矩陣,同時(shí),利用新樣本數(shù)據(jù)的類內(nèi)散布矩陣來歸一化原始樣本數(shù)據(jù)的類內(nèi)散布矩陣。這里,新樣本數(shù)據(jù)的類間散布矩陣和類內(nèi)散布矩陣對結(jié)果的貢獻(xiàn)值是與每個(gè)類別中訓(xùn)練樣本的數(shù)目成反比例關(guān)系的。
　　最后,本文分別在AR人臉數(shù)據(jù)庫和FERET人臉數(shù)據(jù)庫以及Carreira-Perpinan人耳數(shù)據(jù)庫上做了大量的