基于Twitter Storm的云平臺(tái)監(jiān)控系統(tǒng)研究與實(shí)現(xiàn).pdf

1、云計(jì)算是網(wǎng)格計(jì)算、并行計(jì)算以及分布式計(jì)算的延伸和發(fā)展，它能夠有效解決信息時(shí)代有關(guān)大數(shù)據(jù)處理方面的技術(shù)難題。Hadoop是當(dāng)前主流的云計(jì)算平臺(tái)，通過(guò)集合成千上萬(wàn)臺(tái)廉價(jià)計(jì)算機(jī)或服務(wù)器，它能夠提供每秒萬(wàn)億次的運(yùn)算能力以及大量存儲(chǔ)空間。目前，云計(jì)算技術(shù)已經(jīng)步入實(shí)施階段，各大企業(yè)開(kāi)始建立自己的數(shù)據(jù)中心，正式部署與運(yùn)營(yíng)云計(jì)算平臺(tái)。然而，動(dòng)輒幾百上千臺(tái)的服務(wù)器集群，為運(yùn)營(yíng)管理帶來(lái)巨大挑戰(zhàn)，穩(wěn)定、可靠、高效地云計(jì)算平臺(tái)實(shí)時(shí)監(jiān)控系統(tǒng)成為云集群順利運(yùn)行的基

2、石。
　　本文依托“海洋環(huán)境信息云計(jì)算與云服務(wù)體系框架應(yīng)用研究”項(xiàng)目，構(gòu)建基于TwitterStorm（Twitter即為推特）的云計(jì)算平臺(tái)監(jiān)控系統(tǒng)，使用戶能夠在Web頁(yè)面按需求訂閱監(jiān)控信息，以曲線圖、列表等形式分析集群狀態(tài)。本文還針對(duì)傳統(tǒng)實(shí)時(shí)數(shù)據(jù)處理速度緩慢和數(shù)據(jù)丟失等問(wèn)題提出相應(yīng)的優(yōu)化策略。根據(jù)海洋項(xiàng)目對(duì)數(shù)據(jù)資源、計(jì)算資源和虛擬資源等監(jiān)視需求，首先設(shè)計(jì)系統(tǒng)的整體架構(gòu)情況，列出系統(tǒng)框架圖，然后從數(shù)據(jù)采集、數(shù)據(jù)處理、平臺(tái)展示等模塊

3、逐一說(shuō)明系統(tǒng)的設(shè)計(jì)及實(shí)現(xiàn)。數(shù)據(jù)采集模塊是系統(tǒng)數(shù)據(jù)流的源頭，它利用Ganglia等技術(shù)按照用戶設(shè)置的訂閱信息實(shí)時(shí)采集相關(guān)數(shù)據(jù)，以XML數(shù)據(jù)格式進(jìn)行傳遞;數(shù)據(jù)處理模塊是系統(tǒng)的核心部分，本文從多種模式展開(kāi)計(jì)算拓?fù)?Topology)的設(shè)計(jì)，依照Storm提供的相關(guān)API進(jìn)行實(shí)現(xiàn)，使系統(tǒng)在接收到數(shù)據(jù)后，能夠精確計(jì)算并實(shí)時(shí)返回處理結(jié)果。另外，該模塊還提供了數(shù)據(jù)的持久化功能，為用戶后續(xù)對(duì)集群歷史情況的分析提供依據(jù);平臺(tái)展示模塊是用戶與系統(tǒng)溝通的窗口