基于主動學(xué)習(xí)的多示例文本分類研究.pdf

1、多示例學(xué)習(xí)是有別于傳統(tǒng)的監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí)的一種機器學(xué)習(xí)框架。經(jīng)過近幾年的研究，多示例學(xué)習(xí)的應(yīng)用越來越廣，尤其是在基于Web的文本分類上。然而，在多示例學(xué)習(xí)里面，正包里面示例標(biāo)簽在訓(xùn)練時是不明確的，只知道正包包含有至少一個正示例。這種不明確性會大大影響學(xué)習(xí)器的學(xué)習(xí)效果。本文通過引入主動學(xué)習(xí)，利用向Oracle詢問正包里面的某些示例或者某些包的標(biāo)簽的方法，來減少正包里面示例的不明確性，擴大訓(xùn)練集的數(shù)目，以此來提高多示例學(xué)習(xí)在文本分類的分

2、類性能。
　　 主動學(xué)習(xí)研究的是如何用盡量少的帶標(biāo)簽訓(xùn)練樣本來提高學(xué)習(xí)器的學(xué)習(xí)效果。在主動學(xué)習(xí)的訓(xùn)練階段，學(xué)習(xí)器可以通過向Oracle詢問包含更多信息的一個或多個無標(biāo)簽的樣本的標(biāo)簽，從而提高學(xué)習(xí)器的學(xué)習(xí)效果。
　　 本文對如何把主動學(xué)習(xí)應(yīng)用在多示例學(xué)習(xí)上，來提高多示例學(xué)習(xí)的學(xué)習(xí)效果進行研究。根據(jù)多示例學(xué)習(xí)的特點，多示例主動學(xué)習(xí)包含有三種詢問模式：基于示例的詢問，基于包的詢問和基于包與示例的混合詢問。本文研究的側(cè)重點是基于

3、包的詢問的主動學(xué)習(xí)算法，提出了一種利用Fisher信息矩陣的方法作為選擇策略，通過實驗，與一般的不確定性抽樣策略進行對比，取得較好的效果。根據(jù)實驗，本文還分析了正包里面正示例和負示例的比例對多示例主動學(xué)習(xí)的學(xué)習(xí)效果的影響。本文最后提出了一種改進的詢問策略：在向Oracle詢問包的標(biāo)簽時，如果Oracle回答是正包，要求Oracle能同時返回一個在這個正包里面正示例。這種詢問策略在現(xiàn)實的文本分類任務(wù)里是可行的，并且通過實驗驗證，這種策略比