CRFs模型下的中文自動分詞研究.pdf

1、中文自動分詞是中文信息處理的一項重要的基礎性任務，是機器翻譯、問答系統(tǒng)、自動文摘等技術的基礎，也是實現(xiàn)中文搜索引擎所必須的關鍵技術之一。然而由于漢語自身的復雜性，分詞問題一直是中文自然語言處理的難題。 本文在已有研究的基礎上，利用條件隨機場(CRFs)模型進行漢語自動分詞的研究。旨在提高漢語分詞系統(tǒng)的性能，為后期詞法分析和其它自然語言處理任務服務。 本文的核心工作可以概括為以下幾個方面： (1)簡要介紹了相關模型

2、理論，并進一步介紹了以最大熵理論為驅動發(fā)展起來的CRFs模型。CRFs模型是目前最為優(yōu)秀的無向圖條件概率模型，主要用于標記和分割序列數(shù)據(jù)。它克服了最大熵等模型的標記偏置問題：同時，能夠考慮節(jié)點之間的聯(lián)系，從而可以利用上下文特征獲得全局最優(yōu)的標注結果。 (2)通過對基于字的CRFs的標注結果進行分析發(fā)現(xiàn)，CRFs模型中的標注錯誤大都擁有較低的邊緣概率，分別使用正向最大匹配(FMM)方法和基于類的隱馬爾可夫模型對這部分邊緣概率較低的

3、樣本綜合邊緣概率較高的樣本進行修正，以優(yōu)化系統(tǒng)的識別效果。實驗證明，在CRFs邊緣概率基礎上進行的分詞其結果明顯好于單純的CRFs的標注結果。 (3)對建立在CRFs模型框架上的，基于字標注的分詞方法和一種新型的基于詞標注的分詞方法進行了綜合比較。并在此基礎上，根據(jù)漢語的特點，嘗試使用角色特征信息，來改善基于詞標注的CRFs方法對未登錄詞的識別。 本文的主要貢獻有：(1)提出了利用CRFs邊緣概率來改善CRFs分詞性能的