短文本語(yǔ)義相似度計(jì)算的研究.pdf

1、文本挖掘中的語(yǔ)義相似度問(wèn)題一直受到學(xué)術(shù)界和工業(yè)界的高度關(guān)注，它在信息檢索、自動(dòng)問(wèn)答、文本分類、自然語(yǔ)言處理、機(jī)器學(xué)習(xí)等領(lǐng)域一直是研究的熱點(diǎn)。
　　短文本語(yǔ)義相似度計(jì)算，就是計(jì)算兩個(gè)短文本之間語(yǔ)義相似的程度。目前，針對(duì)該問(wèn)題，許多研究者提出了多種類型的相似度量特征，主要包括基于詞共現(xiàn)相似度量，基于語(yǔ)法結(jié)構(gòu)上的相似度量和基于語(yǔ)義的特征度量。其中基于詞共現(xiàn)的方法在短文本上表現(xiàn)效果不佳，因?yàn)槭芟抻诙涛谋镜拈L(zhǎng)度，詞共現(xiàn)方法常出現(xiàn)語(yǔ)義飄離。基

2、于語(yǔ)法結(jié)構(gòu)上的方法，通過(guò)句法解析，賦予不同的句子成分一定的權(quán)重，進(jìn)而提取文本的語(yǔ)法信息。基于語(yǔ)義的特征度量，利用背景知識(shí)來(lái)學(xué)習(xí)詞的語(yǔ)義信息，很適合解決同義詞相似度計(jì)算問(wèn)題，然而在非同義詞和不同句子成分的詞上缺少一致的表達(dá)框架。
　　本文根據(jù)以上問(wèn)題并考慮短文本的特點(diǎn)，通過(guò)構(gòu)造多個(gè)層次的特征，提出了多層次特征融合模型，從文本中獲得更完整的信息，從而提高短文本語(yǔ)義相似度計(jì)算的準(zhǔn)確性。首先，該模型從文本的多個(gè)層面出發(fā)，融合了6大類不同文

3、本相似度量特征。這些特征包括詞匯特征、基于詞嵌入的特征、語(yǔ)法特征、句法特征、多樣化組合特征及其他特征等。然后，在這些多樣特征上進(jìn)行維度規(guī)約，減少文本的冗余特征和噪聲。再次，研究并利用集成學(xué)習(xí)模型Boosting算法，提高模型的泛化能力，訓(xùn)練多分類模型。
　　最后，本文通過(guò)與已有方法進(jìn)行比較，驗(yàn)證本文提出的多層次特征融合模型的有效性和短文本語(yǔ)義相似度計(jì)算效果。實(shí)驗(yàn)結(jié)果表明，本文提出的針對(duì)短文本的多層次特征融合模型能夠有效的提升語(yǔ)義相