Apachespark是专为大规模数据处理而设计的快速通用的计算引擎。spark是UCBerkeleyAMPlab(加州大学伯克利分校的AMP实验室)所开源的类HadoopMapReduce的通用并行框架，spark，拥有HadoopMapReduce所具有的优点；但不同于MapReduce的是——Job中间输出结果可以保存在内存中，从而不再需要读写HDFS，因此spark能更好地适用于数据挖掘与机器学习等需要迭代的MapReduce的算法。