基于漢字搭配的中文信息獲取技術(shù)研究.pdf

1、近年來，以關(guān)鍵詞、短語、概念等特征項為基礎(chǔ)的信息檢索、搜索引擎、文本挖掘、信息抽取等信息獲取技術(shù)得到廣泛研究和應(yīng)用。信息獲取可從海量的、良莠不齊的數(shù)據(jù)中獲取粗信息，并從已獲取的粗信息中發(fā)現(xiàn)、判斷并有效識別能反映客觀事物特征、現(xiàn)象、本質(zhì)及規(guī)律描述的有用的信息。由于中文的詞語間沒有分隔符，中文信息獲取受限于漢語自動分詞、特征提取與特征選擇、特征項的索引與存儲等預(yù)處理工作，時間和空間代價很高，結(jié)果正確率較低。隨著信息數(shù)字化、網(wǎng)絡(luò)化的發(fā)展，數(shù)據(jù)

2、的豐富性、多樣性與信息的過載、迷失的矛盾日益突出，為突破中文文本和Web信息獲取的瓶頸，實現(xiàn)信息的快速搜集、準確鑒別和高效運用，利用漢字搭配技術(shù)獲取信息是一條有效途徑。搭配是指兩個或兩個以上的特征項所組成的語言模式，在詞典編撰、信息檢索等工作中已取得初步成效。漢語言的用字特點、詞法規(guī)則、語法關(guān)系蘊含了豐富的信息，漢字搭配是一種語言模式，承載了其中的部分信息。定義漢字關(guān)聯(lián)度的概念，通過引進頻率、互信息、t-檢驗、2 χ統(tǒng)計和漢字關(guān)聯(lián)度等統(tǒng)

3、計量來量化和度量漢字搭配模式，研究表明，互有側(cè)重的四種統(tǒng)計量及漢字關(guān)聯(lián)度多角度地描述了漢字搭配模式。文檔數(shù)據(jù)是人們獲取信息的主要來源。
　　 本研究利用量化的漢字搭配模式定義文本的漢字搭配矩陣，構(gòu)建了非結(jié)構(gòu)化中文文本的三元組表示方法，提出了適用于生語料的文本相似性度量算法M-similarity和基于實例的文本分類反饋學(xué)習(xí)算法G-KNN 等關(guān)鍵算法，構(gòu)建了六元組表示的、基于漢字搭配的信息檢索框架?；跐h字搭配的文本表示方法可以與

4、經(jīng)典的基于特征向量的文本表示法相互轉(zhuǎn)換，但其復(fù)雜度和語義性優(yōu)于經(jīng)典的表示法。實驗結(jié)果顯示，在訓(xùn)練集規(guī)模較小且無需標注的情況下，提出的基于漢字搭配的機器學(xué)習(xí)算法也有較好的應(yīng)用效果。利用漢字搭配信息表示非結(jié)構(gòu)化中文文本，為解決同類問題探索了一種思路。WEB 網(wǎng)頁是人們獲取信息的另一重要來源。將漢字搭配及其相關(guān)統(tǒng)計量和基于漢字搭配應(yīng)用的技術(shù)方法、算法和框架應(yīng)用于Web 信息的獲取研究，針對網(wǎng)頁噪音引起的主題漂移問題，首先定義了Web網(wǎng)頁或塊的

5、語義樹及其操作，提出容錯語義樹構(gòu)造算法SemTreeCreate，解決不規(guī)范的HTML網(wǎng)頁的DOM 解析存在大量的廣告與圖片鏈接噪音及DOM 樹的深度大、結(jié)點層次多、結(jié)點層次和子樹間關(guān)系混亂等問題；然后，利用機器學(xué)習(xí)和信息過濾技術(shù)，設(shè)計一種基于內(nèi)容的Web 網(wǎng)頁噪音塊的識別算法NoisyExploration，解決網(wǎng)頁中大量文字噪音數(shù)據(jù)的識別問題；最后，提出主題發(fā)現(xiàn)和多主題識別策略，在無需額外知識支持的情況下，通過判斷網(wǎng)頁各塊之間、網(wǎng)頁