1.3 阅读环境准备
准备Spark阅读环境,同样需要一台好机器。笔者调试源码的机器内存是8GB。源码阅读的前提是首先在IDE环境中打包、编译通过。常用的IDE有IntelliJ IDEA和Eclipse,笔者选择用Eclipse编译和阅读Spark源码,原因有两个:一是由于使用多年,对它比较熟悉;二是社区中使用Eclipse编译Spark的资料太少,在这里可以做个补充。笔者在Mac OS系统中编译Spark源码,除了安装JDK和Scala外,还需要安装以下工具。
1.3.1 安装SBT
由于Scala使用SBT作为构建工具,所以需要下载SBT。下载地址:http://www.scala-sbt.org/,下载安装包并安装,本书以sbt-0.13.12.tgz为例。
1)移动到选好的安装目录,例如:
mv sbt-0.13.12.tgz ~/install/
2)进入安装目录,执行以下命令:
chmod 755 sbt-0.13.12.tgz tar -xzvf sbt-0.13.12.tgz
3)配置环境:
cd ~ vim .bash_profile
4)添加如下配置:
export SBT_HOME=$HOME/install/sbt export PATH=$SBT_HOME/bin:$PATH
输入以下命令,使环境变量快速生效:
source .bash_profile
安装完毕后,使用sbt about命令查看,确认安装正常,如图1-15所示。
图1-15 查看SBT安装是否正常
1.3.2 安装Git
由于Spark源码使用Git作为版本控制工具,所以需要下载Git的客户端工具。下载地址:https://git-scm.com,下载最新的版本并安装。
安装完毕后可使用git --version命令来查看安装是否正常,如图1-16所示。
图1-16 查看Git是否安装成功
1.3.3 安装Eclipse Scala IDE插件
Eclipse通过强大的插件方式支持各种IDE工具的集成,要在Eclipse中编译、调试、运行Scala程序,就需要安装Eclipse Scala IDE插件。下载地址:http://scala-ide.org/download/current.html。
由于笔者本地的Eclipse版本是Eclipse Mars.2 Release(4.5.2),所以选择安装插件http://download.scala-ide.org/sdk/lithium/e44/scala211/stable/site,如图1-17所示。
图1-17 Eclipse Scala IDE插件安装地址
在Eclipse中选择Help菜单,然后选择Install New Software选项,打开Install对话框,如图1-18所示。
图1-18 打开Install对话框
点击Add按钮,打开Add Repository对话框,输入插件地址,如图1-19所示。
图1-19 添加Scala IDE插件地址
全选插件的内容,完成安装,如图1-20所示。
图1-20 完成安装Scala IDE插件