面向實證方法的互聯(lián)網(wǎng)數(shù)據(jù)提取系統(tǒng)研究.pdf

1、在管理研究，特別是在實證研究過程中，研究目標相關數(shù)據(jù)的獲取是一個相當重要的環(huán)節(jié)，它既為研究方向的確立提供基本的現(xiàn)實信息，供研究者進一步地對研究目標進行分析，同時又決定了研究所使用的方法和接下來的研究流程。因此，研究目標相關數(shù)據(jù)的獲取過程在管理研究中起著重要作用。
　　目標數(shù)據(jù)的獲取一直是困擾研究人員的難題，在傳統(tǒng)的數(shù)據(jù)獲取過程中，數(shù)據(jù)的來源相當有限，并且獲取的方式具有局限性，對數(shù)據(jù)進行處理，將原始數(shù)據(jù)提取為可用于分析的數(shù)據(jù)也需要耗

2、費許多人力支出，使得人力成本較高。在當今的大數(shù)據(jù)時代背景下，互聯(lián)網(wǎng)給當今社會帶來了極大的便利，并產(chǎn)生了海量的數(shù)據(jù)，這些數(shù)據(jù)給各類機構帶來價值的同時，也給管理研究人員提供了大量的研究對象，將互聯(lián)網(wǎng)數(shù)據(jù)作為管理研究的數(shù)據(jù)源是理想的選擇。
　　在現(xiàn)階段下，對互聯(lián)網(wǎng)數(shù)據(jù)進行提取的方式主要有手工操作、使用網(wǎng)絡數(shù)據(jù)抓取軟件和編寫爬蟲軟件三種，這些方式各有優(yōu)缺點。如何高效、準確、靈活地獲取互聯(lián)網(wǎng)數(shù)據(jù)用作管理研究，是本文的主要研究目標。本文的主要

3、研究內容是為了達成這一目標而提出一個互聯(lián)網(wǎng)頁面數(shù)據(jù)提取框架，以滿足管理研究過程中對數(shù)據(jù)爬取的多樣性需求。
　　本文對數(shù)據(jù)爬取的整個流程進行了深入地分析，對業(yè)務邏輯進行了詳細地探討，并查閱了現(xiàn)有的相關資料，以此為基礎得到了框架各個模塊的設計方案，框架在整體設計上可以劃分為五個具體的模塊。
　　框架使用了插件化管理的方式以滿足多種形式不同的爬取任務靈活性的要求，并設計了相應的插件管理策略，在滿足了靈活性需求的同時，也簡化了任務的

4、管理流程。
　　通過對數(shù)據(jù)獲取過程中所涉及的各個環(huán)節(jié)進行明確的邏輯劃分，框架設計了相應的流程模塊接口，并根據(jù)這些接口進一步地開發(fā)出了多種幫助研究人員進行各個爬取模塊設計的開發(fā)庫與工具。
　　針對不同形式的網(wǎng)頁數(shù)據(jù)，框架提供了多種數(shù)據(jù)爬取策略，研究人員可根據(jù)具體的數(shù)據(jù)爬取情景來選擇相應的數(shù)據(jù)爬取策略。
　　由于研究人員在數(shù)據(jù)爬取過程中具有不同層次的幫助需要，框架為研究人員提供了多層面的服務，并設計了一個Web平臺用于簡化