消防大數據平臺依托政務網、公安網和互聯網,建立“研判評估、預知預警、輔助決策、指導實戰、加強監督、改革創新”消防工作新機制。通過大數據中心,建立數據模型和消防應用平臺;通過大數據采集平臺,實現與行業部門之間的數據交換,以“智慧城市”大數據中心為基礎,按照信息資源交換規范,實現數據匯聚和同步;通過消防安全工作平臺、消防設施聯網監測平臺和安全服務云平臺,融合物聯網、云計算、移動互聯網等技術手段,實現人和物的動態實時監管和研判,規范監督消防工作,推動消防安全管理能力的新提升。
消防大數據平臺以“城市大數據中心”為基礎,充分利用現有信息化平臺資源,按照信息資源交換規范的總體要求,分期分批匯聚政府各部門管理數據、公共服務機構業務數據、公安專業數據、社會單位基礎數據、互聯網數據,全面整合應用,建立數據中心。通過大數據平臺,統一數據標準,優化數據采集和維護機制,確保數據質量、數據實時高效。
大數據基礎平臺對大規模數據集(海量數據),提供底層分布式計算和分布式存儲技術,可以擴展到數以千計的存儲和計算節點,提供高可用服務的大數據集群。沃達德大數據平臺具備數據的可靠性、安全性和高可用性,是構建整個大數據技術架構的基礎平臺。產品特性包括:分布式計算、分布式存儲、支持數以千計的存儲和計算節點、高可用服務,以及保證數據的可靠性、安全性和高可用性。
數據是一種寶貴的資源。利用新技術新方法挖掘現有數據的價值,找到數據間的關聯關系,提高基礎數據的利用率,并預測未來趨勢及行為,是國內面臨的迫切問題。一批新興的數據處理、挖掘與分析技術不斷涌現,如沃達德大數據平臺、數據倉庫、分布式數據庫、數據挖掘平臺、大數據可視化,使分析處理海量數據變得更加容易、更加便捷。
大數據平臺進行數據采集時通常要面對數據結構、業務規則、技術特性(網絡、安全、性能約束)等方面的綜合挑戰。如果數據源和大數據平臺處于相同的網絡環境,具有類似的數據結構和編碼映射,可以通過工具配置或腳本進行采集,如使用Sqoop。當需要面對和對接第三方的數據生產系統,需要遵循對方的抽取協議,以及跨網段的數據訪問,從而需要對采集應用進行一定程度上的定制,可以使用Java NIO、Netty或Mina。
Hadoop是一個成熟的大數據處理框架,允許在集群中使用簡單的編程模型對大規模數據集進行分布式計算。它被設計為可以從單一服務服務器擴展到數以千計的本地計算和存儲節點,并且Hadoop會在應用層面監測和處理錯誤,而不依靠硬件的高可用性,所以Hadoop能夠在一個每個節點都有可能出錯的集群之上提供一個高可用服務。
基于沃達德大數據平臺,通過對海量數據采集、處理、存儲、分析和數據挖掘,根據數據的特性,采用合適的可視化方式,將數據直觀地展現出來,以幫助人們認識數據、理解數據,同時找出包含在海量數據中的規律或者信息,預測未來發展趨勢,進行智能化決策分析,使得數據資產成為核心競爭力。