物聯(lián)網(wǎng)大數(shù)據(jù)平臺是通過無線網(wǎng)絡，以視頻為核心，將各種傳感器采集到的數(shù)據(jù)匯聚到大數(shù)據(jù)平臺，進行數(shù)據(jù)分析統(tǒng)計，以一張圖的形式，對當前狀態(tài)和未來趨勢進行概況展示，讓決策者可以實時全局掌控系統(tǒng)內(nèi)的各項關鍵數(shù)據(jù)，并根據(jù)對歷史數(shù)據(jù)的統(tǒng)計分析，預測未來趨勢，輔助決策者及時做出準確的判斷和決策。
一個物聯(lián)網(wǎng)大數(shù)據(jù)平臺需要具備哪些功能？與通用的大數(shù)據(jù)平臺相比，它需要具備什么樣的特征呢？我們來仔細分析一下。
1.必須是高效的分布式系統(tǒng)。物聯(lián)網(wǎng)產(chǎn)生的數(shù)據(jù)量巨大，僅中國而言，就有5億多臺智能電表，每臺電表每隔15分鐘采集一次數(shù)據(jù)，一天全國智能電表就會產(chǎn)生500多億條記錄。這么大的數(shù)據(jù)量，任何一臺服務器都無能力處理，因此處理系統(tǒng)必須是分布式的,水平擴展的。為降低成本，一個節(jié)點的處理性能必須是高效的，需要支持數(shù)據(jù)的快速寫入和快速查詢。
2.必須是實時處理的系統(tǒng)?；ヂ?lián)網(wǎng)大數(shù)據(jù)處理，大家所熟悉的場景是用戶畫像、推薦系統(tǒng)、輿情分析等等，這些場景并不需要什么實時性，批處理即可。但是對于物聯(lián)網(wǎng)場景，需要基于采集的數(shù)據(jù)做實時預警、決策，延時要控制在秒級以內(nèi)。如果計算沒有實時性，物聯(lián)網(wǎng)的商業(yè)價值就大打折扣。
3.需要運營商級別的高可靠服務。物聯(lián)網(wǎng)系統(tǒng)對接的往往是生產(chǎn)、經(jīng)營系統(tǒng)，如果數(shù)據(jù)處理系統(tǒng)宕機，直接導致停產(chǎn)，產(chǎn)生經(jīng)濟有損失、導致對終端消費者的服務無法正常提供。比如智能電表，如果系統(tǒng)出問題，直接導致的是千家萬戶無法正常用電。因此物聯(lián)網(wǎng)大數(shù)據(jù)系統(tǒng)必須是高可靠的，必須支持數(shù)據(jù)實時備份，必須支持異地容災，必須支持軟件、硬件在線升級，必須支持在線IDC機房遷移，否則服務一定有被中斷的可能。
4.需要高效的緩存功能。絕大部分場景，都需要能快速獲取設備當前狀態(tài)或其他信息，用以報警、大屏展示或其他。系統(tǒng)需要提供一高效機制，讓用戶可以獲取全部、或符合過濾條件的部分設備的新狀態(tài)。
5.需要實時流式計算。各種實時預警或預測已經(jīng)不是簡單的基于某一個閾值進行，而是需要通過將一個或多個設備產(chǎn)生的數(shù)據(jù)流進行實時聚合計算，不只是基于一個時間點、而是基于一個時間窗口進行計算。不僅如此，計算的需求也相當復雜，因場景而異，應容許用戶自定義函數(shù)進行計算。
6.需要支持數(shù)據(jù)訂閱。與通用大數(shù)據(jù)平臺比較一致，同一組數(shù)據(jù)往往有很多應用都需要，因此系統(tǒng)應該提供訂閱功能，只要有新的數(shù)據(jù)更新，就應該實時提醒應用。而且這個訂閱也應該是個性化的，容許應用設置過濾條件，比如只訂閱某個物理量五分鐘的平均值。
7.實時數(shù)據(jù)和歷史數(shù)據(jù)的處理要合二為一。實時數(shù)據(jù)在緩存里，歷史數(shù)據(jù)在持久化存儲介質(zhì)里，而且可能依據(jù)時長，保留在不同存儲介質(zhì)里。系統(tǒng)應該隱藏背后的存儲，給用戶和應用呈現(xiàn)的是同一個接口和界面。無論是訪問新采集的數(shù)據(jù)還是十年前的老數(shù)據(jù)，除輸入的時間參數(shù)不同之外，其余應該是一樣的。
微信二維碼