基于Spark的数据挖掘环境搭建

问题导读：

1.怎样配置hadoop插件?

2.怎样配置spark插件?

3.怎样配置scala插件?

前言：工欲善其事，必先利其器。倘若不懂得构建一套大数据挖掘环境，何来谈Data Mining！何来领悟“Data Mining Engineer”中的工程二字！也仅仅是在做数据分析相关的事罢了！此文来自于笔者在实践项目开发中的记录，真心希望日后成为所有进入大数据领域挖掘工程师们的良心参考资料。下面是它的一些说明：

• 它是部署在Windows环境，在项目的实践开发过程中，你将通过它去完成与集群的交互，测试和发布；
• 你可以部署成使用MapReduce框架，而本文主要优先采用Spark版本；
• 于你而言，它更多意义在于提高你在个人主机上进行业务场景建模的效率，方便你对算法模型进行测试和优化，以及打包、提交任务。
• 于我而言，网络上各种鱼龙混杂的资料，一方面是内容误导新人，更缺乏资源整合，一方面仅仅是搬运工，缺乏实践项目中的开发经验，有头无尾。这更是这篇文章的初衷。
  

说完上面这些杂七杂八的伏笔，下文我将深入仔细去引导你，如何去搭建属于自己Spark版本的Data Mining环境，以及某些环节在实践项目中开发的必要性。

第一步 ： Java安装和配置（1.7或者1.8）

• 理由：这是必须要去部署的环境，不解释。不过注意区分版本、以及个人主机是32位还是64位；
• 下载：本文提供1.8版本的下载 ，其中32位下载，64位下载；
• 安装配置：
  
  • 1.【安装】：点击软件进行安装，按照引导步骤，并指定安装目录（个人喜爱），本文选择默认安装路径；
    
  
  

• jdk安装路径
• 2.【配置】：配置环境变量JAVA_HOME和路径PATH，选择我的电脑>系统属性>高级系统设置>环境变量；
  

• 
  
  • 环境变量设置
    a.新建JAVA_HOME，为C:\Program Files\Java\jdk1.8.0_20。
    b.新建CLASSPATH，为“.;%JAVA_HOME%/lib/dt.jar;%JAVA_HOME%/lib/tools.jar;”
    c.编辑Path，添加“;%JAVA_HOME%/bin;%JAVA_HOME%/jre/bin”
    
    
  
  

考虑到有不少读者非软件专业，因此这里没有一笔带过基本的软件安装。最终安装成功的显示如下所示：

成功安装java的显示

第二步 ： IDE安装和配置（Eclipse或者Spring Tool Suite）

• 理由：编写工程代码的集成环境，也就是你写代码的地儿。注意IDE区分版本、以及个人主机是32位还是64位；
• 下载：本文提供最新STS版本的下载 ，其中32位下载，64位下载。也可以使用Eclipse或SBT；
• 安装配置：
  
  • 1.将安装包下载放在选定目录，进行解压就可以了，并创建桌面快捷方式，方便以后使用；
    
  
  

STS解压后应用程序

在后期使用IDE时，考虑到个人有代码洁癖，因此，我都推荐先设置好这几点：a.字体大小和类型，b.缩进方式，c.代码行数序号；

第三步 ： IDE插件的加载

• 理由：编写MapReduce/Spark工程需要的插件，注意区分hadoop版本。
• 下载：本文提供hadoop2.6.0版本的插件 ，其中下载地址
• 安装配置：
  
  • 1.将Jar包放在STS目录，位置于\sts-bundle\sts-3.8.1.RELEASE\dropins下；
    
  
  

第四步 ： Maven的安装配置

• 理由：开发实践数据挖掘项目，更多采用Maven进行项目管理。
• 下载：本文提供两个版本的下载 ，其中3.3.3下载，3.3.9下载
• 安装配置：
  
  • 1.将安装包解压放在指定目录，设置全局变量M2_HOME和添加路径PATH；
    
  
  

\

MAVEN的全局变量和路径设置

第五步 ： hadoop包的下载配置

• 理由：代码执行过程中依赖hadoop的环境，需要单独配置hadoop的执行路径。
• 下载：本文提供2.6.0版本的下载 ，其中下载地址
• 安装配置：
  
  • 1.将安装包解压放在指定目录，设置全局变量HADOOP_HOME和添加路径PATH；
    
  
  

配置hadoop的全局变量和路径

第六步 ： hadoop插件的加载配置

• 理由：代码执行过程中依赖hadoop的JAR插件，需要单独编译或者下载，放置在上述hadoop解压包的bin目录下。
• 下载：本文提供2.6.0版本的插件下载 ，其中32位，64位
• 安装配置：
  
  • 1.将安装包解压放在指定目录，将hadoop.dll和winutils.exe放在hadoop的bin目录下就可以了；
    
  
  

将hadoop插件放置于bin目录下

第七步 ： spark包的下载配置

• 理由：代码执行过程中依赖spark的配置环境，需要下载包放置在指定目录，并设置全局变量和路径。
• 下载：本文提供spark-1.6.2-bin-hadoop2.6版本的插件下载 ，其中下载地址
• 安装配置：
  
  • 1.将安装包解压放在指定目录，设置全局变量SPARK_HOME和添加路径PATH；
    
  
  

配置Spark的全局变量和路径

通过上述的安装，可以通过下面的显示来验证是否成功

Spark配置成功的显示

第八步 ： scala环境的安装配置

• 理由：代码执行过程中依赖scala的配置环境，需要安装scala环境，并设置全局变量和路径。
• 下载：本文提供三个版本的安装包下载 ，其中2.10.1，2.10.4，2.11.0
• 安装配置：
  
  • 1.将安装包安装在指定目录，设置全局变量SCALA_HOME和添加路径PATH，最终安装成功显示如下；
    
  
  

scala成功安装的显示图

第九步 ： scala ide集成插件的加载配置

• 理由：IDE集成环境执行过程中依赖scala插件的相关JAR包，需要单独下载相应版本的scala ide，并将features和plugins目录下的文件都复制到上述STS集成环境下。
• 下载：本文提供两个版本的包下载 ，其中32位，64位。
• 安装配置：
  
  • 1.将下载包解压，复制features和plugins目录下的文件到\sts-bundle\sts-3.8.1.RELEASE\ 下的同命名文件目录中去；
    
  
  

scala ide集成插件复制到sts指定目录

至此，通过以上9个步骤的下载、安装和配置，一个基于Windows的标配大数据挖掘环境就已经搭建好了。上面这些版本和链接都会在以后日子进行更新迭代，有部署过程中遇到问题的小伙伴，也可以积极将问题和截图发到评论里，一起进行解决。

• 下面的内容，本文就利用上述所有步骤部署的大数据挖掘环境做一个实践项目开发的流程，后期文章中会更深入引导数据产品中的数据挖掘工程开发。让真正想踏入大数据圈子做数据挖掘的小伙伴们，能够清楚自己目前应该做的事，以及公司级别实践应用的场景。不脱节、不迷茫、不盲目！
  

Step1：创建MAVEN工程

创建Maven工程中的步骤一

创建Maven工程中的步骤二

Step2：创建工程中的对象

创建Maven工程中的对象

创建成功显示图

Step3：配置好pom.xml文件，下载相关Spark依赖包

修改pom.xml文件，添加工程依赖包坐标

Step4：写一个朴素贝叶斯模型里涉及先验概率计算的逻辑，后期深入的开发等着以后的文章吧！

代码逻辑，让大家看看模样

总结：工欲善其事，必先利其器！这句话里面有两层的逻辑，一方面，你在要踏入大数据挖掘领域的同时，应该要学会部署一套上述这样的环境，因为它对于你的模型工程开发、集群任务提交、数据产品项目开发、甚至是以后的模型优化重构，都是至关重要！一方面，我希望真正想学习大数据挖掘的小伙伴们，要走一个正确的方向，真正理解大数据生态圈的特点，要致力于为数据产品提供源源不断的大数据挖掘体系而奋斗，因为这事，不仅仅是玩玩而已！（上述下载的版本和链接都会在以后的时间进行更新维护）。

来源：infoq

作者：汪榕

谢谢楼主，学习一下，赞~~