热线电话:13121318867

登录
首页大数据时代Hadoop:集群网络介绍,及相关文件配置指南
Hadoop:集群网络介绍,及相关文件配置指南
2020-06-05
收藏

上篇文章中我们已经将之前配置好的伪分布集群虚拟机复制出来做为master节点的虚拟机,接下来我们还需对该虚拟机做进一步的配置来达到我们的要求。对master虚拟机的配置将从网络、hostname、更改Hadoop相关配置等几方面展开。

1、网络配置

目前虚拟机网卡IP地址为自动获取模式。也就是说虚拟机每次开机IP地址都不是确定的。这对于集群来说是不可接受的,因为集群节点(master、slave)之间通讯是靠IP地址找到对方的,如果IP地址不固定会造成集群间无法访问也就是集群无法工作。

因此我们首先需要做的就是将虚拟机的IP地址设置为固定IP。常见配置IP的方法是通过修改网卡配置文件然后重启网络来实现,在Ubuntu系统中我们还可以通过窗口界面来设置IP。为了简化配置过程我们这里采用窗口界面的方式来配置。IP地址的值可自行定义,这里我们约定master节点IP为192.168.79.11,slave1节点IP为192.168.79.12,slave2节点IP为192.168.79.13。

好啦小伙伴们,我们开始配置IP喽。首先打开并登陆master虚拟机,然后按下图操作进入IP配置界面。

选择连接1,然后点击编辑按钮来设置网络信息。

选择IPv4 Settings,然后Method选取Manual手动设置IP信息。

选择单击add按钮,添加配置信息。Address(IP地址)设置为192.168.79.11,Netmask(子网掩码)设置为255.255.255.0 ,Gateway(网关)设置为192.168.79.1。配置好之后单击save按钮保存配置。

在Network Connections下面点击close按钮完成网络的最终配置。

重启虚拟机让网卡重新配置

重启后的虚拟机查看网络连接,如图所示,IP地址更改成功

2、更改hostname文件

每个节点都有定义好的名字(master、slave1、slave2),因此除了需要设置固定的IP地址外还需配置虚拟机的名字。在下图终端中可以看出虚拟机的登录用户是hduser,虚拟机名字为master。在Linux系统中设置计算机名称是通过修改hostname文件实现的,hostname文件中的内容对应的就是当前虚拟机的名字。

hostname文件位于/etc/目录下,实用sudo vim /etc/hostname命令即可编辑。

由于在伪分布的时候虚拟机名字已经是master了,因此这里不需再进行变更,但是后续从节点slave1与slave2是都需要修改的哦。

3、更改hosts文件

Hadoop多节点分布式集群中还有两个从节点,如何让网络中的所有计算机可以通过主机名即可访问对应主机呢?一般有两种方法:1、修改DNS服务器2、设置hosts。我们平时访问百度首页服务器时输入https://www.baidu.com即可找到对应服务器这就是应用了DNS服务。我们的集群比较简易没有单独的DNS服务,所以这里我们使用更改hosts文件的方式。Hosts文件可存储网络中各节点的信息负责计算机名与IP的映射。下面我们开始设置master虚拟机的hosts文件。

首先终端中执行 sudo vim /etc/hosts命令,然后在hosts文件中做如下修改:

最后记得按Esc然后输入:wq保存hosts文件并退出编辑。

到这里master节点配置任务就只剩下hadoop相关文件啦,我们下次继续。

数据分析咨询请扫描二维码

最新资讯
更多
客服在线
立即咨询