大數據在智慧城市中的應用及其發展

作者 | 網路大數據

來源 | raincent_com

城市大數據是指在城市運行過程中產生或獲取的數據,是其與信息收集、處理、利用和通信能力相關的活動要素組成的有機系統,是國民經濟和社會發展的重要戰略資源,簡單易懂的公式可以表述為:城市大數據=城市數據+大數據技術+城市職能。

城市大數據的數據資源來源豐富多樣,廣泛存在於經濟、社會各個領域和部門,是政務、行業、企業等各類數據的總和。同時,城市大數據的異構特徵顯著,數據類型豐富、數量大、速度增長快、處理速度和實時性要求高,且具有跨部門、跨行業流動的特徵。

按照數據源和數據權屬不同,城市大數據可以分為政務大數據、產業大數據和社會公益大數據。政務大數據指的是政務部門在履行職責過程中製作或獲取的,以一定形式記錄、保存的文件、資料、圖表和數據等各類信息資源。產業大數據指的是在經濟發展中產生的相關數據,包括工業數據、服務業數據等。

此外,還有一些社會公益大數據。當前,城市大數據多數為政務大數據和產業大數據,所以城市大數據的主要推動者應為一個城市的政府和相關的具有一定數據規模的企業。

為保障城市運轉的安全高效,智慧城市建設需要對海量的數據資源進行收集、整合、存儲與分析,並使用智能感知、分布式存儲、數據挖掘、實時動態可視化等大數據技術實現資源的合理配置。因此,城市大數據是實現城市智慧化的關鍵支撐,是推動「政通、惠民、興業」的重要引擎。

新型智慧城市發展面臨挑戰

數據驅動的新型智慧城市發展面臨諸多問題。白皮書認為,雖然當前各級地方政府和企業都在積極探索智慧城市建設,但仍存在著特色不明、體驗不佳、共享不足等問題。究其根源在於,未能實現城市大數據資源與城市業務的良好融合。

具體而言,挑戰包括三個方面:一是信息系統煙囪林立,阻礙數據共享;二是數據治理普遍薄弱,價值大打折扣;三是數據管理水平不一,缺乏整體聯動。

如何應對新型智慧城市建設中的困難和挑戰?白皮書認為城市大數據平台的建設能夠發揮積極作用,具體表現在三個方面。

一、通過數據匯集加速信息資源整合應用

第一,城市大數據平台建立了數據治理的統一標准,提高數據管理效率。通過統一標准,避免數據混亂沖突、一數多源等問題。通過集中處理,延長數據的「有效期」,快速挖掘出多角度的數據屬性以供分析應用。

通過質量管理,及時發現並解決數據質量參差不齊、數據冗餘、數據缺值等問題。第二,城市大數據平台規范了數據在各業務系統間的共享流通,促進數據價值充分釋放。通過統籌管理,消除信息資源在各部門內的「私有化」和各部門之間的相互制約,增強數據共享的意識,提高數據開放的動力。通過有效整合,提高數據資源的利用水平。

二、通過精準分析提升政府公共服務水平

在交通領域,通過衛星分析和開放雲平台等實時流量監測,感知交通路況,幫助市民優化出行方案;在平安城市領域,通過行為軌跡、社會關系、社會輿情等集中監控和分析,為公安部門指揮決策、情報研判提供有力支持。

在政務服務領域,依託統一的互聯網電子政務數據服務平台,實現「數據多走路,群眾少跑腿」;在醫療健康領域,通過健康檔案、電子病歷等數據互通,既能提升醫療服務質量,也能及時監測疫情,降低市民醫療風險。

三、通過數據開放助推城市數字經濟發展

開放共享的大數據平台,將推動政企數據雙向對接,激發社會力量參與城市建設。一方面,企業可獲取更多的城市數據,挖掘商業價值,提升自身業務水平。

另一方面,企業、組織的數據貢獻到統一的大數據平台,可以「反哺」政府數據,支撐城市的精細化管理,進一步促進現代化的城市治理。

六個方面推進平台建設

白皮書認為,當前我國城市大數據平台的建設仍處於起步階段,且各地在管理機制、業務架構和技術能力等方面各有優劣,不利於城市大數據平台的長遠發展。對於建設城市大數據平台的具體路徑,白皮書提出了六點建議。

一、強化平台頂層設計

科學合理的頂層設計是城市大數據平台建設的關鍵,需從落實國家宏觀政策出發,結合地方實際需求,統籌考慮平台目標、數據主權、關鍵技術、法制環境、實現功能等各個方面,以「高起點、高定位、穩落地」開展平台的頂層設計,保障城市大數據平台建設有目標、有方向、有路徑、有節奏地持續推進,並且根據項目進展狀況,不斷迭代更新、推陳出新。

二、完善平台配套保障機制

城市大數據平台建設與運營須有相應的配套保障機制,並充分發揮保障機制的導向作用和支撐作用,以確保平台規劃建設協調一致和平台整體效能的實現。

如建立城市大數據資源管理機制,明確數據內容的歸口管理部門、數據採集單位和共享開放方式等;建立城市大數據平台運行管理機制,明確平台使用中數據、流程、安全等各項內容和管理標准,保障平台持續穩定運行。

三、加強數據管理

加強城市大數據管理,實現數據從採集環節到數據資產化的全過程規范化管理。明確數據權屬及利益分配,以及個人信息保護、數據全生命周期的管理責任問題。明確數據資源分類分級管理,健全數據資源管理標准。

分類指的是通過多維數據特徵准確描述政府基礎數據類型;分級是指確定各類數據的敏感程度,為不同類型數據的開放和共享制訂相應策略,完善數據採集、管理、交換、架構、評估認證等標准,推動數據共享與開放的基本規范和標准出 台。

以資源目錄匯編、資源整合匯聚、交換共享平台為三大標准步驟,堅持「一數一源」、多元校核,統籌建設政務信息資源目錄體系和共享交換體系。建立一套科學合理的數據分類體系,將不同領域、多種格式的數據整合在一起,通過多元的檢索途徑、分析工具與應用程序,方便用戶查找和利用數據內容。

四、因地制宜開展平台建設與運營

城市大數據平台的建設與應用要結合,避免出現重平台建設輕平台使用的現象。政府、產業和城市的數據資源極其龐雜,需要明確平台數據資源的權屬性,保障數據所有權的歸屬。

政府擁有政府數據資源所有權,互聯網企業往往掌握著先進的數據技術和擁有互聯網思維的專業隊伍,本地企業對當地的人才資源、市場環境、產業發展等因素有更清晰、更准確的認識,需要充分盤活政府、互聯網企業、本地企業等各方資源,參與平台的建設與運營。

城市大數據平台的數據治理和運營體系相當復雜,平台建設的模式和路徑沒有固定模式,需要發揮各方的主觀能動性,因地制宜,挖掘地方優勢,突出地方特色,為城市大數據決策提供有力的支撐。

五、開展城市大數據綜合評價

各省市大數據主管部門應制定平台長效運行機制和考評辦法,建立完善的上報、檢查、考評機制,設計量化考核內容和標准,加強平台數據質量管控,管好用好城市大數據平台。

加強對城市大數據平台項目的後評價和項目稽查,強化對數據資源建設以及數據共享開放、數據質量和安全的審計監督。科學構建城市大數據平台綜合評價指標體系,開展城市大數據平台建設成效綜合評價工作,引導各地城市大數據平台建設工作,不斷提升城市大數據平台建設應用成效。

六、加強平台數據安全保障

城市大數據平台包含大量政務和產業數據,涉及國家利益、公共安全、商業秘密、個人隱私,具有高度敏感性,因此必須加強平台數據安全保障能力建設。

落實等級保護、安全測評、電子認證、應急管理等基礎制度,建立數據採集、傳輸、存儲、使用、開放等各環節的安全評估機制,明確數據安全的保護范圍、主體、責任和措施。研究制定數據權利准則、數據利益分配機制、數據流通交易規則,明確數據責任主體,加大對技術專利、數字版權、數字內容產品、個人隱私等的保護力度。

Ⅱ 杭州城市大數據運營有限公司怎麼樣

簡介:杭州城市大復數據運營有制限公司(CityDO)是一家城市大數據運營服務商,公司的業務定位是與DT時代最優秀的互聯網基礎設施提供商緊密合作,構建城市大數據應用創新創業生態平台,共同致力於全球領先的新型智慧城市建設,成為城市大數據智能運營的使能者。
法定代表人:許峰
成立時間:2017-02-14
注冊資本:10000萬人民幣
工商注冊號:330100000220229
企業類型:其他有限責任公司
公司地址:浙江省杭州市上城區舊仁和村6號、9號

Ⅲ 百分點為北京城市大數據研究院提供了哪些服務

百分點為成員單位的北京城市大數據研究院將針對城市治理難點,提供更多的服務內。例如,加強城容市精細化管理、智能交通、工業互聯網、應急管理、大氣污染防治、揚塵及渣土車治理等方面。研究院將利用視頻檢測、深度學習等前沿技術方法提高服務能力、綜合治理水平。

Ⅳ 中信國安城市運營大數據面試什麼內容啊

1. java內存模型
2.gc
3.編譯好的scala程序,運行時還需要scala環境嗎
Scala的代碼執行是用REPL過程,ReadExecute Print Loop
4.object中有哪些方法

5.監測集群中的cpu,內存使用情況?
6、ArrayList中的Array長度超了是怎麼增加的,一次增加多少?
linux的啟動順序

通電後讀取ROM的BIOS程序進行硬體自檢,自檢成功後把計算機控制權交給BIOS中BOOTsequence中的下一個有效設備,讀取該設備MBR找到操作系統,載入linux的bootloader,一般是grub。之後載入kernel,執行 /etc/rc.d/sysinit ,開啟其他組件(/etc/moles.conf),執行運行級別,執行/etc/rc.d/rc.local ,執行/bin/login,最後shell啟動。
使用過的開源框架介紹

Struts2
Spring

hibernate

mybatis

hadoop

hive

hbase

flume

sqoop

Zookeeper

Mahout

Kafka

Storm

Spark

擅長哪種技術

Hadoop。介紹HIVE的優化
底層是MapRece,所以又可以說是MapRece優化。
1. 小文件都合並成大文件

2. Recer數量在代碼中介於節點數*receTask的最大數量的0.95倍到1.75倍

3. 寫一個UDF函數,在建表的時候制定好分區

4. 配置文件中,打開在map端的合並

開發中遇到的問題

Hbase節點運行很慢,發現是Hfile過小,hbase頻繁split。
修改了hfile大小。或者設置major compack設置為手動

Major compack設置為手動會出現什麼問題?

Zookeeper的二次開發
Flume 的實時和定時數據採集,項目和flume的解耦
Mogodb和hbase的區別
Mogodb是單機