基于深度學(xué)習(xí)的評價對象抽取.pdf

1、評價對象抽取屬于細(xì)粒度的情感分析子任務(wù)，其目的是從包含觀點(diǎn)的評論文本中抽取細(xì)粒度的評價對象。目前評價對象抽取的研究主要集中于無監(jiān)督的方法和有監(jiān)督的淺層模型，基于深層模型的評價對象抽取方法相對較少。無監(jiān)督的方法和淺層模型能夠表現(xiàn)出良好的性能，但是依賴于人工設(shè)計的規(guī)則或觀點(diǎn)詞詞典，不僅人工代價很高而且泛化能力較差。
　　深度學(xué)習(xí)專注于自動發(fā)現(xiàn)從底層特征到高層概念的抽象過程，無需依賴人工的方法構(gòu)造特征。因此，本文提出利用堆疊自動編碼器的

2、深層模型來抽取評價對象。該模型僅以詞向量作為輸入特征，不需要人工設(shè)計抽取規(guī)則和觀點(diǎn)詞詞典。本文的主要研究內(nèi)容包括:
　　(1)模型構(gòu)建。本文使用的堆疊自動編碼器模型以詞向量作為輸入，自動編碼器作為隱藏層，Softmax回歸模型作為輸出層。模型的訓(xùn)練分為無監(jiān)督的預(yù)訓(xùn)練和有監(jiān)督的參數(shù)調(diào)優(yōu)。
　　(2)模型改進(jìn)。本文利用貪婪算法對堆疊自動編碼器模型進(jìn)行改進(jìn)。原始的堆疊降噪自動編碼器模型是用于分類任務(wù)的模型，本文將評價對象抽取任務(wù)看

3、作序列標(biāo)記任務(wù)。因此利用貪婪算法對模型進(jìn)行改進(jìn)，使原本用于分類任務(wù)的模型適用于序列標(biāo)記任務(wù)。
　　(3)模型選擇。本文設(shè)置多組實(shí)驗(yàn)，對比模型的深度、文本窗口大小等參數(shù)和防止模型過擬合的方法對模型性能的影響。防止模型過擬合的方法包括L2權(quán)重懲罰、稀疏自動編碼器、降噪自動編碼器和Dropout方法。
　　實(shí)驗(yàn)結(jié)果驗(yàn)證了本文所提方法的有效性。本文在SemEval-2014的兩個數(shù)據(jù)集(Laptop和Restaurant)上，與該評