隨著互聯(lián)網(wǎng)的飛速發(fā)展，特別是近年來隨著社交網(wǎng)絡(luò)、物聯(lián)網(wǎng)、云計算以及多種傳感器的廣泛應用，以數(shù)量龐大，種類眾多，時效性強為特征的非結(jié)構(gòu)化數(shù)據(jù)不斷涌現(xiàn)，數(shù)據(jù)的重要性愈發(fā)凸顯，傳統(tǒng)的數(shù)據(jù)存儲、分析技術(shù)難以實時處理大量的非結(jié)構(gòu)化信息，大數(shù)據(jù)的概念應運而生。如何獲取、聚集、分析大數(shù)據(jù)成為廣泛關(guān)注的熱點問題。介紹大數(shù)據(jù)的概念與特點，分別討論大數(shù)據(jù)的典型的特征，分析大數(shù)據(jù)要解決的相關(guān)性分析、實時處理等核心問題，最后討論大數(shù)據(jù)可能要面臨的多種挑戰(zhàn)。

　　大數(shù)據(jù)”是近年來IT行業(yè)的熱詞，大數(shù)據(jù)在各個行業(yè)的應用逐漸變得廣泛起來，如2014年的兩會，我們聽得最多的也是大數(shù)據(jù)分析，那么，什么是大數(shù)據(jù)呢，什么是大數(shù)據(jù)概念呢，大數(shù)據(jù)概念怎么理解呢，一起來看看吧。

　　大數(shù)據(jù)概念：

　　大數(shù)據(jù)（big data），或稱巨量資料，指的是所涉及的資料量規(guī)模巨大到無法通過目前主流軟件工具，在合理時間內(nèi)達到擷取、管理、處理、并整理成為幫助企業(yè)經(jīng)營決策更積極目的的資訊。（在維克托·邁爾-舍恩伯格及肯尼斯·庫克耶編寫的《大數(shù)據(jù)時代》中［2］ 大數(shù)據(jù)指不用隨機分析法（抽樣調(diào)查）這樣的捷徑，而采用所有數(shù)據(jù)的方法）大數(shù)據(jù)的4V特點：Volume（大量）、Velocity（高速）、Variety（多樣）、Value（價值）。

　　大數(shù)據(jù)概念的發(fā)展歷史：

　　“大數(shù)據(jù)”這個術(shù)語最早期的引用可追溯到apache org的開源項目Nutch。當時，大數(shù)據(jù)用來描述為更新網(wǎng)絡(luò)搜索索引需要同時進行批量處理或分析的大量數(shù)據(jù)集。隨著谷歌MapReduce和Google File System （GFS）的發(fā)布，大數(shù)據(jù)不再僅用來描述大量的數(shù)據(jù)，還涵蓋了處理數(shù)據(jù)的速度。

　　早在1980年，著名未來學家阿爾文·托夫勒便在《第三次浪潮》一書中，將大數(shù)據(jù)熱情地贊頌為“第三次浪

　　潮的華彩樂章”。不過，大約從2009年開始，“163大數(shù)據(jù)”才成為互聯(lián)網(wǎng)信息技術(shù)行業(yè)的流行詞匯。美國互聯(lián)網(wǎng)數(shù)據(jù)中心指出，互聯(lián)網(wǎng)上的數(shù)據(jù)每年將增長50%，每兩年便將翻一番，而目前世界上90%以上的數(shù)據(jù)是最近幾年才產(chǎn)生的。此外，數(shù)據(jù)又并非單純指人們在互聯(lián)網(wǎng)上發(fā)布的信息，全世界的工業(yè)設(shè)備、汽車、電表上有著無數(shù)的數(shù)碼傳感器，隨時測量和傳遞著有關(guān)位置、運動、震動、溫度、濕度乃至空氣中化學物質(zhì)的變化，也產(chǎn)生了海量的數(shù)據(jù)信息。

　　大數(shù)據(jù)概念結(jié)構(gòu)：

　　大數(shù)據(jù)就是互聯(lián)網(wǎng)發(fā)展到現(xiàn)今階段的一種表象或特征而已，沒有必要神話它或?qū)λ３志次分?，在以云計算為代表的技術(shù)創(chuàng)新大幕的襯托下，這些原本很難收集和使用的數(shù)據(jù)開始容易被利用起來了，通過各行各業(yè)的不斷創(chuàng)新，大數(shù)據(jù)會逐步為人類創(chuàng)造更多的價值。

　　其次，想要系統(tǒng)的認知大數(shù)據(jù)，必須要全面而細致的分解它，我著手從三個層面來展開：

　　第一層面是理論，理論是認知的必經(jīng)途徑，也是被廣泛認同和傳播的基線。我會從大數(shù)據(jù)的特征定義理解行業(yè)對大數(shù)據(jù)的整體描繪和定性；從對大數(shù)據(jù)價值的探討來深入解析大數(shù)據(jù)的珍貴所在；洞悉大數(shù)據(jù)的發(fā)展趨勢；從大數(shù)據(jù)隱私這個特別而重要的視角審視人和數(shù)據(jù)之間的長久博弈。

　　第二層面是技術(shù)，技術(shù)是大數(shù)據(jù)價值體現(xiàn)的手段和前進的基石。我將分別從云計算、分布式處理技術(shù)、存儲技術(shù)和感知技術(shù)的發(fā)展來說明大數(shù)據(jù)從采集、處理、存儲到形成結(jié)果的整個過程。

　　第三層面是實踐，實踐是大數(shù)據(jù)的最終價值體現(xiàn)。我將分別從互聯(lián)網(wǎng)的大數(shù)據(jù)，政府的大數(shù)據(jù)，企業(yè)的大數(shù)據(jù)和個人的大數(shù)據(jù)四個方面來描繪大數(shù)據(jù)已經(jīng)展現(xiàn)的美好景象及即將實現(xiàn)的藍圖。

　　大數(shù)據(jù)概念的特點：

　　大數(shù)據(jù)分析相比于傳統(tǒng)的數(shù)據(jù)倉庫應用，具有數(shù)據(jù)量大、查詢分析復雜等特點?！队嬎銠C學報》刊登的“架構(gòu)大數(shù)據(jù)：挑戰(zhàn)、現(xiàn)狀與展望”一文列舉了大數(shù)據(jù)分析平臺需要具備的幾個重要特性，對當前的主流實現(xiàn)平臺——并行數(shù)據(jù)庫、MapReduce及基于兩者的混合架構(gòu)進行了分析歸納，指出了各自的優(yōu)勢及不足，同時也對各個方向的研究現(xiàn)狀及作者在大數(shù)據(jù)分析方面的努力進行了介紹，對未來研究做了展望。

　　大數(shù)據(jù)的4個“V”，或者說特點有四個層面：第一，數(shù)據(jù)體量巨大。從TB級別，躍升到PB級別；第二，數(shù)據(jù)類型繁多。前文提到的網(wǎng)絡(luò)日志、視頻、圖片、地理位置信息等等。第三，處理速度快，1秒定律，可從各種類型的數(shù)據(jù)中快速獲得高價值的信息，這一點也是和傳統(tǒng)的數(shù)據(jù)挖掘技術(shù)有著本質(zhì)的不同。第四，只要合理利用數(shù)據(jù)并對其進行正確、準確的分析，將會帶來很高的價值回報。業(yè)界將其歸納為4個“V”——Volume（大量）、Variety（多樣）、Velocity（高速）、Value（價值）。

　　從某種程度上說，大數(shù)據(jù)是數(shù)據(jù)分析的前沿技術(shù)。簡言之，從各種各樣類型的數(shù)據(jù)中，快速獲得有價值信息的能力，就是大數(shù)據(jù)技術(shù)。明白這一點至關(guān)重要，也正是這一點促使該技術(shù)具備走向眾多企業(yè)的潛力。

　　大數(shù)據(jù)概念的用途：

　　大數(shù)據(jù)可分成大數(shù)據(jù)技術(shù)、大數(shù)據(jù)工程、大數(shù)據(jù)科學和大數(shù)據(jù)應用等領(lǐng)域。目前人們談?wù)撟疃嗟氖谴髷?shù)據(jù)技術(shù)和大數(shù)據(jù)應用。工程和科學問題尚未被重視。大數(shù)據(jù)工程指大數(shù)據(jù)的規(guī)劃建設(shè)運營管理的系統(tǒng)工程；大數(shù)據(jù)科學關(guān)注大數(shù)據(jù)網(wǎng)絡(luò)發(fā)展和運營過程中發(fā)現(xiàn)和驗證大數(shù)據(jù)的規(guī)律及其與自然和社會活動之間的關(guān)系。

　　物聯(lián)網(wǎng)、云計算、移動互聯(lián)網(wǎng)、車聯(lián)網(wǎng)、手機、平板電腦、PC以及遍布地球各個角落的各種各樣的傳感器，無一不是數(shù)據(jù)來源或者承載的方式。

　　有些例子包括網(wǎng)絡(luò)日志，RFID，傳感器網(wǎng)絡(luò)，社會網(wǎng)絡(luò)，社會數(shù)據(jù)（由于數(shù)據(jù)革命的社會），互聯(lián)網(wǎng)文本和文件;互聯(lián)網(wǎng)搜索索引;呼叫詳細記錄，天文學，大氣科學，基因組學，生物地球化學，生物，和其他復雜和/或跨學科的科研，軍事偵察，醫(yī)療記錄;攝影檔案館視頻檔案;和大規(guī)模的電子商務(wù) 。

　　大數(shù)據(jù)的作用

　　對于一般的企業(yè)而言，大數(shù)據(jù)的作用主要表現(xiàn)在兩個方面，分別是數(shù)據(jù)的分析使用與進行二次開發(fā)項目。通過對禧金信息大數(shù)據(jù)進行分析，不僅能把隱藏的數(shù)據(jù)挖掘出來，還能通過這些隱藏的訊息，通過實體的銷售，提升自己的客戶源。至于對數(shù)據(jù)進行二次開發(fā)，在網(wǎng)絡(luò)服務(wù)項目中被運用的比較多，通過將這些信息進行總結(jié)與分析，從而制定出符合客戶需要的個性化方案，并營造出一種全新的廣告營銷方式，在這里，你需要明白的是，通過大數(shù)據(jù)的分析，將產(chǎn)品與服務(wù)進行結(jié)合起來的并不是偶然事件，實現(xiàn)這種的往往是數(shù)據(jù)時代的領(lǐng)導者。

　　綜上所述，大數(shù)據(jù)的運用，不僅標志著時代的進步，同時還激勵著人們進行更深領(lǐng)域的探究。此外，針對大數(shù)據(jù)的研究，除了上述內(nèi)容外，還需要了解大數(shù)據(jù)的三個特征，分別是規(guī)模大、運轉(zhuǎn)速度快及數(shù)據(jù)多樣性。通過對這三個方面的研究，不僅可以更容易的觀察到數(shù)據(jù)的本質(zhì)嗎，有利于軟件處理平臺的有效運轉(zhuǎn)。