基于網(wǎng)絡(luò)百科的中文實體鏈接研究.pdf

1、隨著時代的發(fā)展、網(wǎng)絡(luò)的普及，互聯(lián)網(wǎng)已經(jīng)成為了一個巨大的信息庫，越來越多的人開始從互聯(lián)網(wǎng)上獲取知識。如何讓用戶快速獲得文本中感興趣詞的信息，如何用已有的知識庫標注網(wǎng)絡(luò)文本中大量的生詞，已經(jīng)成為自然語言處理領(lǐng)域的一個研究熱點。實體鏈接系統(tǒng)是一個從文本中識別出實體并把它鏈接到現(xiàn)有知識庫中相應(yīng)實體上的系統(tǒng)。通過實體鏈接，用戶將更加快速、更加方便的了解文本中實體的信息，進而更加快速的理解文本。同時，實體鏈接還極大的促進了語義網(wǎng)構(gòu)建、知識庫構(gòu)建、信

2、息檢索、問答系統(tǒng)等技術(shù)的發(fā)展。近年來，網(wǎng)絡(luò)上出現(xiàn)了大量的平臺，人們利用這些平臺來進行交流。這其中，就產(chǎn)生了大量的數(shù)據(jù)，這些數(shù)據(jù)都是以文本的形式存在。在短文本中，由于用戶水平的不同，表達方式的不同，這些文本數(shù)據(jù)存在大量的錯別字、簡稱、別名、網(wǎng)絡(luò)用語、口語、昵稱、模糊不清和不規(guī)范的表達，采用傳統(tǒng)的實體識別和鏈接系統(tǒng)對這些短文本進行實體識別和鏈接效果并不好。在長文本中，文中存在大量的共指，如何將這些共指正確的實體指稱鏈接到知識庫，是一個有待解

3、決的問題。
　　本文主要工作如下:
　　(1)研究了網(wǎng)絡(luò)爬蟲技術(shù)。采用了基于模板和正則表達式的方法對網(wǎng)絡(luò)上的代理IP進行自動抽取，該方法滿足了批量獲取代理IP的需求，提升了網(wǎng)絡(luò)爬蟲系統(tǒng)的穩(wěn)定性。同時，針對互動百科、百度百科以及豆瓣網(wǎng)，找到了獲取它們?nèi)縐RL的方法，設(shè)計并實現(xiàn)了網(wǎng)絡(luò)數(shù)據(jù)采集系統(tǒng)。對采集的數(shù)據(jù)源碼進行抽取，構(gòu)建了中文知識庫和同義詞表。另外，從中文知識庫中提取出人名，利用百度知心來擴充同義詞表。
　　(2)

4、針對短文本中實體存在大量縮寫、簡稱的問題，提出了交大中文分詞系統(tǒng)與詞典、在線百科相結(jié)合的實體識別算法。在實體鏈接，采用了同義詞表、維基百科重定向以及改進的PED（拼音編輯距離）與LCS（最長公共子序列）相結(jié)合的方法。在實體消歧中，提出了基于后綴補全的消歧算法和基于在線百科鏈接權(quán)重的消歧算法。
　　(3)針對長文本實體鏈接，提取維基百科的特征構(gòu)建了名稱-實體表。在候選實體生成中，采用了名稱-實體表匹配、拼音匹配、流行度匹配以及基于上