远程控制安装Hadoop的集群分布式,伪集群分布式,完全分布式
https://blog.csdn.net/m0_67394002/article/details/126666244
该回答引用ChatGPT
Hadoop集群分布式安装分为三种:伪集群分布式、完全分布式和远程控制安装。
1. 伪集群分布式安装
伪集群分布式安装是在一台机器上模拟多台机器的运行环境,通过配置Hadoop的配置文件,使得Hadoop可以在这台机器上运行多个进程,从而实现分布式的效果。
步骤如下:
1)安装Java环境
2)下载Hadoop安装包
3)解压Hadoop安装包
4)配置Hadoop环境变量
5)修改Hadoop配置文件
6)格式化HDFS文件系统
7)启动Hadoop集群
具体代码如下:
1)安装Java环境
sudo apt-get install openjdk-8-jdk
2)下载Hadoop安装包
wget http://apache.mirrors.hoobly.com/hadoop/common/hadoop-2.7.7/hadoop-2.7.7.tar.gz
3)解压Hadoop安装包
tar -zxvf hadoop-2.7.7.tar.gz
4)配置Hadoop环境变量
export HADOOP_HOME=/usr/local/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
5)修改Hadoop配置文件
cd /usr/local/hadoop/etc/hadoop
cp mapred-site.xml.template mapred-site.xml
cp core-site.xml.template core-site.xml
cp hdfs-site.xml.template hdfs-site.xml
cp yarn-site.xml.template yarn-site.xml
修改core-site.xml文件:
fs.defaultFS
hdfs://localhost:9000
修改hdfs-site.xml文件:
dfs.replication
1
dfs.namenode.name.dir
/usr/local/hadoop/hadoop_data/hdfs/namenode
dfs.datanode.data.dir
/usr/local/hadoop/hadoop_data/hdfs/datanode
修改mapred-site.xml文件:
mapreduce.framework.name
yarn
修改yarn-site.xml文件:
yarn.nodemanager.aux-services
mapreduce_shuffle
6)格式化HDFS文件系统
hdfs namenode -format
7)启动Hadoop集群
start-all.sh
2. 完全分布式安装
完全分布式安装是在多台机器上安装Hadoop,每台机器都运行Hadoop的各个组件,通过配置Hadoop的配置文件,使得Hadoop可以在多台机器上运行,从而实现分布式的效果。
步骤如下:
1)安装Java环境
2)下载Hadoop安装包
3)解压Hadoop安装包
4)配置Hadoop环境变量
5)修改Hadoop配置文件
6)格式化HDFS文件系统
7)启动Hadoop集群
具体代码如下:
1)安装Java环境
sudo apt-get install openjdk-8-jdk
2)下载Hadoop安装包
wget http://apache.mirrors.hoobly.com/hadoop/common/hadoop-2.7.7/hadoop-2.7.7.tar.gz
3)解压Hadoop安装包
tar -zxvf hadoop-2.7.7.tar.gz
4)配置Hadoop环境变量
export HADOOP_HOME=/usr/local/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
5)修改Hadoop配置文件
cd /usr/local/hadoop/etc/hadoop
cp mapred-site.xml.template mapred-site.xml
cp core-site.xml.template core-site.xml
cp hdfs-site.xml.template hdfs-site.xml
cp yarn-site.xml.template yarn-site.xml
修改core-site.xml文件:
fs.defaultFS
hdfs://master:9000
修改hdfs-site.xml文件:
dfs.replication
3
dfs.namenode.name.dir
/usr/local/hadoop/hadoop_data/hdfs/namenode
dfs.datanode.data.dir
/usr/local/hadoop/hadoop_data/hdfs/datanode
dfs.namenode.secondary.http-address
slave1:50090
修改mapred-site.xml文件:
mapreduce.framework.name
yarn
修改yarn-site.xml文件:
yarn.resourcemanager.hostname
master
yarn.nodemanager.aux-services
mapreduce_shuffle
yarn.nodemanager.aux-services.mapreduce.shuffle.class
org.apache.hadoop.mapred.ShuffleHandler
6)格式化HDFS文件系统
hdfs namenode -format
7)启动Hadoop集群
start-all.sh
3. 远程控制安装
远程控制安装是在一台机器上安装Hadoop,然后通过SSH远程控制其他机器上的Hadoop,使得Hadoop可以在多台机器上运行,从而实现分布式的效果。
步骤如下:
1)安装Java环境
2)下载Hadoop安装包
3)解压Hadoop安装包
4)配置Hadoop环境变量
5)修改Hadoop配置文件
6)格式化HDFS文件系统
7)启动Hadoop集群
具体代码如下:
1)安装Java环境
sudo apt-get install openjdk-8-jdk
2)下载Hadoop安装包
wget http://apache.mirrors.hoobly.com/hadoop/common/hadoop-2.7.7/hadoop-2.7.7.tar.gz
3)解压Hadoop安装包
tar -zxvf hadoop-2.7.7.tar.gz
4)配置Hadoop环境变量
export HADOOP_HOME=/usr/local/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
5)修改Hadoop配置文件
cd /usr/local/hadoop/etc/hadoop
cp mapred-site.xml.template mapred-site.xml
cp core-site.xml.template core-site.xml
cp hdfs-site.xml.template hdfs-site.xml
cp yarn-site.xml.template yarn-site.xml
修改core-site.xml文件:
fs.defaultFS
hdfs://master:9000
修改hdfs-site.xml文件:
dfs.replication
3
dfs.namenode.name.dir
/usr/local/hadoop/hadoop_data/hdfs/namenode
dfs.datanode.data.dir
/usr/local/hadoop/hadoop_data/hdfs/datanode
dfs.namenode.secondary.http-address
slave1:50090
修改mapred-site.xml文件:
mapreduce.framework.name
yarn
修改yarn-site.xml文件:
yarn.resourcemanager.hostname
master
yarn.nodemanager.aux-services
mapreduce_shuffle
yarn.nodemanager.aux-services.mapreduce.shuffle.class
org.apache.hadoop.mapred.ShuffleHandler
6)格式化HDFS文件系统
hdfs namenode -format
7)启动Hadoop集群
start-all.sh
以上是Hadoop集群分布式安装的三种方式,可以根据实际需求选择合适的方式进行安装。
Hadoop集群伪分布式安装就是在一台机器上安装多个虚拟机,然后搭建hadoop分布式环境。真正的Hadoop集群分布式安装就是在多台不同的机器上安装搭建hadoop分布式环境。如果需要搭建伪分布式,你需要进行虚拟机软件工具VMware的安装、Centos安装、虚拟机克隆、配置SSH免密、设置静态ip环境、远程发送配置、启动hadoop
详细的步骤你可以参考:https://blog.csdn.net/m0_54853503/article/details/126369136
https://blog.csdn.net/qq_44737094/article/details/117393393