集群简介

  1. HADOOP集群具体来说蕴含两个集群:HDFS集群和YARN集群,两者逻辑上拆散,但物理上常在一起。
  2. HDFS集群负责海量数据的存储,集群中的角色次要有:NameNode、DataNode、SecondaryNameNode。
  3. YARN集群负责海量数据运算时的资源调度,集群中的角色次要有:ResourceManager、NodeManager。
  4. 那mapreduce是什么呢?它其实是一个分布式运算编程框架,是利用程序开发包,由用户依照编程标准进行程序开发,后打包运行在HDFS集群上,并且受到YARN集群的资源调度治理。

集群部署形式

Hadoop部署形式分三种:
1、Standalone mode(独立模式)
独立模式又称为单机模式,仅1个机器运行1个java过程,次要用于调试。

2、Pseudo-Distributed mode(伪分布式模式)
伪分布模式也是在1个机器上运行HDFS的NameNode和DataNode、YARN的 ResourceManger和NodeManager,但别离启动独自的java过程,次要用于调试。

3、Cluster mode(群集模式)-单节点模式-高可用HA模式
集群模式次要用于生产环境部署。会应用N台主机组成一个Hadoop集群。这种部署模式下,主节点和从节点会离开部署在不同的机器上。

本搭建的是集群模式,以三台主机为例,以下是集群布局:

hadoop215hadoop214hadoop217
HDFSNameNodeSecondaryNameNode
DataNodeDataNodeDataNode
YARNResourceManager
NodeManagerNodeManagerNodeManager
拜访地址HDFS拜访地址: http://hadoop215:9029YARN拜访地址: http://hadoop215:9019