关于hadoop:Hadoop运行环境搭建

45次阅读

共计 3273 个字符,预计需要花费 9 分钟才能阅读完成。


一、虚拟机环境筹备
1.    克隆虚拟机                                                      

2.    批改克隆虚拟机的动态 IP

3.    批改主机名

4.    敞开防火墙

5.    创立 atguigu 用户

6.    配置 atguigu 用户具备 root 权限(详见《尚硅谷大数据技术之 Linux》)

7.在 /opt 目录下创立文件夹

(1)在 /opt 目录下创立 module、software 文件夹

[atguigu@hadoop101 opt]$ sudo mkdir module

[atguigu@hadoop101 opt]$ sudo mkdir software

(2)批改 module、software 文件夹的所有者 cd

[atguigu@hadoop101 opt]$ sudo chown atguigu:atguigu module/ software/

[atguigu@hadoop101 opt]$ ll

总用量 8

drwxr-xr-x. 2 atguigu atguigu 4096 1 月  17 14:37 module

drwxr-xr-x. 2 atguigu atguigu 4096 1 月  17 14:38 software

二、装置 JDK
1.    卸载现有 JDK

(1)查问是否装置 Java 软件:

[atguigu@hadoop101 opt]$ rpm -qa | grep java

(2)如果装置的版本低于 1.7,卸载该 JDK:

[atguigu@hadoop101 opt]$ sudo rpm -e 软件包

(3)查看 JDK 装置门路:

[atguigu@hadoop101 ~]$ which java

2.    用 SecureCRT 工具将 JDK 导入到 opt 目录上面的 software 文件夹上面,如图 2 -28 所示

图 2 -28  导入 JDK

“alt+p”进入 sftp 模式,如图 2 -29 所示

图 2 -29 进入 sftp 模式

抉择 jdk1.8 拖入,如图 2 -30,2-31 所示

图 2 -30 拖入 jdk1.8

图 2 -31 拖入 jdk1.8 实现

3. 在 Linux 零碎下的 opt 目录中查看软件包是否导入胜利

[atguigu@hadoop101 opt]$ cd software/

[atguigu@hadoop101 software]$ ls

hadoop-2.7.2.tar.gz  jdk-8u144-linux-x64.tar.gz

4. 解压 JDK 到 /opt/module 目录下

[atguigu@hadoop101 software]$ tar -zxvf jdk-8u144-linux-x64.tar.gz -C /opt/module/

  1. 配置 JDK 环境变量

(1)先获取 JDK 门路

[atguigu@hadoop101 jdk1.8.0_144]$ pwd

/opt/module/jdk1.8.0_144

(2)关上 /etc/profile 文件

[atguigu@hadoop101 software]$ sudo vi /etc/profile

在 profile 文件开端增加 JDK 门路

JAVA_HOME

export JAVA_HOME=/opt/module/jdk1.8.0_144

export PATH=$PATH:$JAVA_HOME/bin

(3)保留后退出

:wq

(4)让批改后的文件失效

[atguigu@hadoop101 jdk1.8.0_144]$ source /etc/profile

6.    测试 JDK 是否装置胜利

[atguigu@hadoop101 jdk1.8.0_144]# java -version

java version “1.8.0_144”

 留神:重启(如果 java -version 能够用就不必重启)

[atguigu@hadoop101 jdk1.8.0_144]$ sync

[atguigu@hadoop101 jdk1.8.0_144]$ sudo reboot

三、装置 Hadoop
0.  Hadoop 下载地址:

Index of /dist/hadoop/common/hadoop-2.7.2

1、用 SecureCRT 工具将 hadoop-2.7.2.tar.gz 导入到 opt 目录上面的 software 文件夹上面

切换到 sftp 连贯页面,大数据培训抉择 Linux 下编译的 hadoop jar 包拖入,如图 2 -32 所示

图 2 -32 拖入 hadoop 的 tar 包

图 2 -33 拖入 Hadoop 的 tar 包胜利

2、进入到 Hadoop 安装包门路下

[atguigu@hadoop101 ~]$ cd /opt/software/

3、解压安装文件到 /opt/module 上面

[atguigu@hadoop101 software]$ tar -zxvf hadoop-2.7.2.tar.gz -C /opt/module/

4、查看是否解压胜利

[atguigu@hadoop101 software]$ ls /opt/module/

hadoop-2.7.2

5.    将 Hadoop 增加到环境变量

(1)获取 Hadoop 装置门路

[atguigu@hadoop101 hadoop-2.7.2]$ pwd

/opt/module/hadoop-2.7.2

(2)关上 /etc/profile 文件

[atguigu@hadoop101 hadoop-2.7.2]$ sudo vi /etc/profile

在 profile 文件开端增加 JDK 门路:(shitf+g)

HADOOP_HOME

export HADOOP_HOME=/opt/module/hadoop-2.7.2

export PATH=$PATH:$HADOOP_HOME/bin

export PATH=$PATH:$HADOOP_HOME/sbin

(3)保留后退出

:wq

(4)让批改后的文件失效

[atguigu@ hadoop101 hadoop-2.7.2]$ source /etc/profile

6.    测试是否装置胜利

[atguigu@hadoop101 hadoop-2.7.2]$ hadoop version

Hadoop 2.7.2

7.    重启 (如果 Hadoop 命令不能用再重启)

[atguigu@ hadoop101 hadoop-2.7.2]$ sync

[atguigu@ hadoop101 hadoop-2.7.2]$ sudo reboot

四、Hadoop 目录构造
1、查看 Hadoop 目录构造

[atguigu@hadoop101 hadoop-2.7.2]$ ll

总用量 52

drwxr-xr-x. 2 atguigu atguigu  4096 5 月  22 2017 bin

drwxr-xr-x. 3 atguigu atguigu  4096 5 月  22 2017 etc

drwxr-xr-x. 2 atguigu atguigu  4096 5 月  22 2017 include

drwxr-xr-x. 3 atguigu atguigu  4096 5 月  22 2017 lib

drwxr-xr-x. 2 atguigu atguigu  4096 5 月  22 2017 libexec

-rw-r–r–. 1 atguigu atguigu 15429 5 月  22 2017 LICENSE.txt

-rw-r–r–. 1 atguigu atguigu   101 5 月  22 2017 NOTICE.txt

-rw-r–r–. 1 atguigu atguigu  1366 5 月  22 2017 README.txt

drwxr-xr-x. 2 atguigu atguigu  4096 5 月  22 2017 sbin

drwxr-xr-x. 4 atguigu atguigu  4096 5 月  22 2017 share

2、重要目录

(1)bin 目录:寄存对 Hadoop 相干服务(HDFS,YARN)进行操作的脚本

(2)etc 目录:Hadoop 的配置文件目录,寄存 Hadoop 的配置文件

(3)lib 目录:寄存 Hadoop 的本地库(对数据进行压缩解压缩性能)

(4)sbin 目录:寄存启动或进行 Hadoop 相干服务的脚本

(5)share 目录:寄存 Hadoop 的依赖 jar 包、文档、和官网案例

关键词:大数据培训

正文完
 0