根據(jù)現(xiàn)有的發(fā)展，目前spark還不能完全代替Hadoop。

我們知道Hadoop包含三個(gè)組件yarn，hdfs，MapReduce，分別對(duì)應(yīng)解決三個(gè)方面的問(wèn)題，資源調(diào)度(yarn)，分布式存儲(chǔ)(hdfs)，分布式計(jì)算(mapreudce)。而spark只解決了分布式計(jì)算方面的問(wèn)題，跟MapReduce需要頻繁寫(xiě)磁盤(pán)不同，spark重復(fù)利用內(nèi)存，大大提高了計(jì)算效率，在分布式計(jì)算方面spark大有取代MapReduce之勢(shì)，而在資源調(diào)度，和分布式存儲(chǔ)方面spark還無(wú)法撼動(dòng)。

個(gè)人覺(jué)得不會(huì)。因?yàn)閮烧叩膫?cè)重點(diǎn)不同，使用場(chǎng)景不同，個(gè)人認(rèn)為沒(méi)有替代之說(shuō)。Spark更適合于迭代運(yùn)算比較多的ML和DM運(yùn)算。因?yàn)樵赟park里面，有RDD的概念。RDD可以cache到內(nèi)存中，那么每次對(duì)RDD數(shù)據(jù)集的操作之后的結(jié)果，都可以存放到內(nèi)存中，下一個(gè)操作可以直接從內(nèi)存中輸入，省去了MapReduce大量的磁盤(pán)IO操作。但是，我們也要看到spark的限制：內(nèi)存。我認(rèn)為Hadoop雖然費(fèi)時(shí)，但是在OLAP等大規(guī)模數(shù)據(jù)的應(yīng)用場(chǎng)景，還是受歡迎的。

目前Hadoop涵蓋了從數(shù)據(jù)收集、到分布式存儲(chǔ)，再到分布式計(jì)算的各個(gè)領(lǐng)域，在各領(lǐng)域都有自己獨(dú)特優(yōu)勢(shì)。

希望上面的回答對(duì)你有所幫助，如果還是不懂或者有問(wèn)題，可以關(guān)注今日頭條“小熊社長(zhǎng)”頭條號(hào)，私信我。希望能夠?qū)�樓主有所幫助。如果喜歡請(qǐng)轉(zhuǎn)發(fā)。

1、解決問(wèn)題的層面不一樣

首先，Hadoop和Apache Spark兩者都是大數(shù)據(jù)框架，但是各自存在的目的不盡相同。Hadoop實(shí)質(zhì)上更多是一個(gè)分布式數(shù)據(jù)基礎(chǔ)設(shè)施: 它將巨大的數(shù)據(jù)集分派到一個(gè)由普通計(jì)算機(jī)組成的集群中的多個(gè)節(jié)點(diǎn)進(jìn)行存儲(chǔ)，意味著您不需要購(gòu)買(mǎi)和維護(hù)昂貴的服務(wù)器硬件。同時(shí)，Hadoop還會(huì)索引和跟蹤這些數(shù)據(jù)，讓大數(shù)據(jù)處理和分析效率達(dá)到前所未有的高度。Spark，則是那么一個(gè)專(zhuān)門(mén)用來(lái)對(duì)那些分布式存儲(chǔ)的大數(shù)據(jù)進(jìn)行處理的工具，它并不會(huì)進(jìn)行分布式數(shù)據(jù)的存儲(chǔ)。

2、兩者可合可分

Hadoop除了提供為大家所共識(shí)的HDFS分布式數(shù)據(jù)存儲(chǔ)功能之外，還提供了叫做MapReduce的數(shù)據(jù)處理功能。所以這里我們完全可以拋開(kāi)Spark，使用Hadoop自身的MapReduce來(lái)完成數(shù)據(jù)的處理。

相反，Spark也不是非要依附在Hadoop身上才能生存。但如上所述，畢竟它沒(méi)有提供文件管理系統(tǒng)，所以，它必須和其他的分布式文件系統(tǒng)進(jìn)行集成才能運(yùn)作。這里我們可以選擇Hadoop的HDFS,也可以選擇其他的基于云的數(shù)據(jù)系統(tǒng)平臺(tái)。但Spark默認(rèn)來(lái)說(shuō)還是被用在Hadoop上面的，畢竟，大家都認(rèn)為它們的結(jié)合是最好的。

以下是從網(wǎng)上摘錄的對(duì)MapReduce的最簡(jiǎn)潔明了的解析：

• 我們要數(shù)圖書(shū)館中的所有書(shū)。你數(shù)1號(hào)書(shū)架，我數(shù)2號(hào)書(shū)架。這就是“Map”。我們?nèi)嗽蕉�，�?shù)書(shū)就更快。
• 現(xiàn)在我們到一起，把所有人的統(tǒng)計(jì)數(shù)加在一起。這就是“Reduce”。

3、Spark數(shù)據(jù)處理速度秒殺MapReduceSpark因?yàn)槠涮幚頂?shù)據(jù)的方式不一樣，會(huì)比MapReduce快上很多。MapReduce是分步對(duì)數(shù)據(jù)進(jìn)行處理的: ”從集群中讀取數(shù)據(jù)，進(jìn)行一次處理，將結(jié)果寫(xiě)到集群，從集群中讀取更新后的數(shù)據(jù)，進(jìn)行下一次的處理，將結(jié)果寫(xiě)到集群，等等…“ Booz Allen Hamilton的數(shù)據(jù)科學(xué)家Kirk Borne如此解析。反觀Spark，它會(huì)在內(nèi)存中以接近“實(shí)時(shí)”的時(shí)間完成所有的數(shù)據(jù)分析：“從集群中讀取數(shù)據(jù)，完成所有必須的分析處理，將結(jié)果寫(xiě)回集群，完成，” Born說(shuō)道。Spark的批處理速度比MapReduce快近10倍，內(nèi)存中的數(shù)據(jù)分析速度則快近100倍。如果需要處理的數(shù)據(jù)和結(jié)果需求大部分情況下是靜態(tài)的，且你也有耐心等待批處理的完成的話，MapReduce的處理方式也是完全可以接受的。但如果你需要對(duì)流數(shù)據(jù)進(jìn)行分析，比如那些來(lái)自于工廠的傳感器收集回來(lái)的數(shù)據(jù)，又或者說(shuō)你的應(yīng)用是需要多重?cái)?shù)據(jù)處理的，那么你也許更應(yīng)該使用Spark進(jìn)行處理。大部分機(jī)器學(xué)習(xí)算法都是需要多重?cái)?shù)據(jù)處理的。此外，通常會(huì)用到Spark的應(yīng)用場(chǎng)景有以下方面：實(shí)時(shí)的市場(chǎng)活動(dòng)，在線產(chǎn)品推薦，網(wǎng)絡(luò)安全分析，機(jī)器日記監(jiān)控等。

4、災(zāi)難恢復(fù)兩者的災(zāi)難恢復(fù)方式迥異，但是都很不錯(cuò)。因?yàn)镠adoop將每次處理后的數(shù)據(jù)都寫(xiě)入到磁盤(pán)上，所以其天生就能很有彈性的對(duì)系統(tǒng)錯(cuò)誤進(jìn)行處理。Spark的數(shù)據(jù)對(duì)象存儲(chǔ)在分布于數(shù)據(jù)集群中的叫做彈性分布式數(shù)據(jù)集(RDD: Resilient Distributed Dataset)中。這些數(shù)據(jù)對(duì)象既可以放在內(nèi)存，也可以放在磁盤(pán)，所以RDD同樣也可以提供完成的災(zāi)難恢復(fù)功能。

你要說(shuō)替代的話，看具體的需求餓了。

Spark可以對(duì)Hadoop起到一個(gè)很好的補(bǔ)充作用，而且在某種程度上，兩者可以并行。Hadoop建立分布式文件系，而Spark負(fù)責(zé)進(jìn)行高效地?cái)?shù)據(jù)運(yùn)算，從而搭建一個(gè)理想的大數(shù)據(jù)處理平臺(tái)。

Hadoop解決了大數(shù)據(jù)（大到一臺(tái)計(jì)算機(jī)無(wú)法進(jìn)行存儲(chǔ)，一臺(tái)計(jì)算機(jī)無(wú)法在要求的時(shí)間內(nèi)進(jìn)行處理）的可靠存儲(chǔ)和處理。

HDFS，在由普通PC組成的集群上提供高可靠的文件存儲(chǔ)，通過(guò)將塊保存多個(gè)副本的辦法解決服務(wù)器或硬盤(pán)壞掉的問(wèn)題。

MapReduce，通過(guò)簡(jiǎn)單的Mapper和Reducer的抽象提供一個(gè)編程模型，可以在一個(gè)由幾十臺(tái)上百臺(tái)的PC組成的不可靠集群上并發(fā)地，分布式地處理大量的數(shù)據(jù)集，而把并發(fā)、分布式（如機(jī)器間通信）和故障恢復(fù)等計(jì)算細(xì)節(jié)隱藏起來(lái)。而Mapper和Reducer的抽象，又是各種各樣的復(fù)雜數(shù)據(jù)處理都可以分解為的基本元素。尚學(xué)堂陳老師指出，復(fù)雜的數(shù)據(jù)處理可以分解為由多個(gè)Job（包含一個(gè)Mapper和一個(gè)Reducer）組成的有向無(wú)環(huán)圖（DAG）,然后每個(gè)Mapper和Reducer放到Hadoop集群上執(zhí)行，就可以得出結(jié)果。

Spark在于運(yùn)算速度快。Spark還可以執(zhí)行批量處理，然而它真正擅長(zhǎng)的是處理流工作負(fù)載、交互式查詢(xún)和機(jī)器學(xué)習(xí)。

相比MapReduce基于磁盤(pán)的批量處理引擎，Spark賴(lài)以成名之處是其數(shù)據(jù)實(shí)時(shí)處理功能。Spark與Hadoop及其模塊兼容。實(shí)際上，在Hadoop的項(xiàng)目頁(yè)面上，Spark就被列為是一個(gè)模塊。Spark有自己的頁(yè)面，因?yàn)殡m然它可以通過(guò)YARN(另一種資源協(xié)調(diào)者)在Hadoop集群中運(yùn)行，但是它也有一種獨(dú)立模式。它可以作為 Hadoop模塊來(lái)運(yùn)行，也可以作為獨(dú)立解決方案來(lái)運(yùn)行。MapReduce和Spark的主要區(qū)別在于，MapReduce使用持久存儲(chǔ)，而Spark使用彈性分布式數(shù)據(jù)集(RDDS)。