當前位置︰首頁 > 新聞資訊 > 正文

Hive和Spark究竟是憑借什麼優勢而大獲成功?2019-08-28 10:20:31 | 編輯︰hely | 查看︰ | 評論︰0

Hive和Spark憑借其在處理大規模數據方面的優勢大獲成功,換句話說,它們是做大數據分析的。本文重點闡述這兩種產品的發展史和各種特性,通過對其能力的比較,來說明這兩個產品能夠解決的各類復雜數據處理問題。

Hive和Spark憑借其在處理大規模數據方面的優勢大獲成功,換句話說,它們是做大數據分析的。本文重點闡述這兩種產品的發展史和各種特性,通過對其能力的比較,來說明這兩個產品能夠解決的各類復雜數據處理問題。

什麼是Hive?

Hive是在Hadoop分布式文件系統上運行的開源分布式數據倉庫數據庫,用于查詢和分析大數據。數據以表格的形式存儲(就像關系數據庫管理系統一樣)。數據操作可以使用名為HiveQL的SQL接口來執行。Hive在Hadoop之上引入了SQL功能,使其成為一個水平可擴展的數據庫,是DWH環境的絕佳選擇。

Hive發展史掠影

Hive(即後來的Apache)最初是由Facebook開發的,開發人員發現他們的數據在幾天內出現了從GBs到TBs的指數級增長。當時,Facebook使用Python將數據加載到RDBMS數據庫中。因為RDBMS數據庫只能垂直伸縮,很快就面臨著性能和伸縮性問題。他們需要一個可以水平伸縮並處理大量數據的數據庫。Hadoop在當時已經很流行了;不久之後,構建在Hadoop之上的Hive出現了。Hive與RDBMS數據庫類似,但不是完整的RDBMS。

為什麼選擇Hive?

選擇Hive的核心原因是它是運行在Hadoop上的SQL接口。此外,它還降低了MapReduce框架的復雜性。Hive幫助企業在HDFS上執行大規模數據分析,使其成為一個水平可伸縮的數據庫。它的SQL接口HiveQL使具有RDBMS背景的開發人員能夠構建和開發性能、使拓展的數據倉庫類型框架。

Hive特性和功能

Hive具有企業級的特性和功能,可以幫助企業構建高效的高端數據倉庫解決方案。

其中一些特性包括︰

Hive使用Hadoop作為存儲引擎,僅在HDF上運行。

專門為數據倉庫操作而構建的,不適用于OLTP或OLAP。

HiveQL作為SQL引擎,能夠幫助為數據倉庫類型操作構建復雜的SQL查詢。Hive可以與其他分布式數據庫(如HBase)和NoSQL數據庫(如Cassandra)集成。

Hive結構

Hive架構非常簡單。它有一個Hive接口,並使用HDFS跨多個服務器存儲數據,用于分布式數據處理。

 

 

用于數據倉庫系統的Hive

Hive是專為數據倉庫操作構建的數據庫,尤其是那些處理萬億字節或千兆字節數據的數據庫。與RDBMS的數據庫類似,但不完全相同。如前所述,它是一個水平擴展的數據庫,並利用了Hadoop的功能,使其成為一個快速執行的高規模數據庫。它可以在數千個節點上運行,並且可以利用商用硬件。這使得Hive成為一款具有高性能和可擴展性的高性價比產品。

Hive集成功能

由于支持ANSI SQL標準,Hive可以與HBase和Cassandra.等數據庫集成。這些工具對SQL的支持有限,可以幫助應用程序對更大的數據集執行分析和報告。Hive還可以與Spark、Kafka和Flume等數據流工具集成。

Hive的局限性

Hive是一個純數據倉庫數據庫,以表的形式存儲數據。因此,它只能處理使用SQL查詢讀寫的結構化數據,不能用于非結構化數據。此外,Hive也不適合OLTP或OLAP操作。

什麼是Spark?

Spark是一個分布式大數據框架,幫助提取和處理大量RDD格式的數據,以便進行分析。簡而言之,它不是一個數據庫,而是一個框架,可以使用RDD(彈性分布式數據)方法從數據存儲區(如Hive、Hadoop和HBase)訪問外部分布式數據集。由于Spark在內存中執行復雜的分析,所以運行十分迅速。

什麼是Spark Streaming?

Spark Streaming是Spark的一個擴展,它可以從Web源實時流式傳輸實時數據,以創建各種分析。盡管有其他工具,如Kafka和Flume可以做到這一點,但Spark成為一個很好的選擇,執行真正復雜的數據分析是必要的。Spark有自己的SQL引擎,與Kafka和Flume集成時運行良好。

Spark發展史掠影

Spark是作為MapReduce的替代方案而提出的,MapReduce是一種緩慢且資源密集型的編程模型。因為Spark對內存中的數據進行分析,所以不必依賴磁盤空間或使用網絡帶寬。

為什麼選擇Spark?

Spark的核心優勢在于它能夠執行復雜的內存分析和高達千兆字節的數據流大小,使其比MapReduce更高效、更快。Spark可以從Hadoop上運行的任何數據存儲中提取數據,並在內存中並行執行復雜的分析。此功能減少了磁盤輸入/輸出和網絡爭用,將其速度提高了十倍甚至一百倍。另外,Spark中的數據分析框架還可以使用Java、Scala、Python、R甚至是SQL來構建。

Spark架構

Spark體系結構可以根據需求而變化。通常,Spark體系結構包括Spark流、Spark SQL、機器學習庫、圖形處理、Spark核心引擎和數據存儲(如HDFS、MongoDB和Cassandra)。

 

 

Spark特性和功能

閃電般快速的分析

Spark從Hadoop中提取數據並在內存中執行分析。數據被並行地以塊的形式拉入內存。然後,將最終數據集傳送到目的地。數據集也可以駐留在內存中,知道被使用。

Spark Streaming

Spark Streaming是Spark的一個擴展,它可以從大量使用的web源實時傳輸大量數據。由于Spark具有執行高級分析的能力,因此與Kafka和Flume等其他數據流工具相比,顯得尤為突出。

支持各種應用編程接口

Spark支持不同的編程語言,如在大數據和數據分析領域非常流行的Java、Python和Scala。這使得數據分析框架可以用任何一種語言編寫。

海量數據處理能力

如前所述,高級數據分析通常需要在海量數據集上執行。在Spark出現之前,這些分析是使用MapReduce方法進行的。Spark不僅支持MapReduce,還支持基于SQL的數據提取。Spark可以為需要對大型數據集執行數據提取的應用程序進行更快的分析。

數據存儲和工具集成

Spark可以與運行在Hadoop上的各種數據存儲(如Hive和HBase)集成。還可以從像MongoDB這樣的NoSQL數據庫中提取數據。與在數據庫中執行分析的其他應用程序不同,Spark從數據存儲中提取數據一次,然後在內存中對提取的數據集執行分析。

Spark的擴展——Spark Streaming可以與Kafka和Flume集成,構建高效高性能的數據管道。

Hive和Spark的區別

Hive和Spark是大數據空間為不同目的而構建的不同產品。Hive是一個分布式數據庫,Spark是一個用于數據分析的框架。

特性和功能的差異

 

 

結論

Hive和Spark都是大數據世界中非常流行的工具。Hive是使用SQL對大量數據執行數據分析的最佳選擇。另一方面,Spark是運行大數據分析的最佳選擇,它提供了比MapReduce更快、更現代的替代方案。

上一篇︰大數據需求使用的六個Hadoop發行版 中國最新AI算力地圖出爐︰北京加冕冠軍!杭州、深圳位列三甲下一篇︰

公眾平台

搜索"raincent"或掃描下面的二維碼

?